Stability AI, Hugging Face in Canva ustanovijo novo neprofitno organizacijo za raziskave umetne inteligence
Na kratko
Razvijanje najsodobnejših sistemov umetne inteligence, kot je ChatGPT zahteva ogromne tehnične vire, ker je njihovo delovanje drago.
Vendar so odprtokodna prizadevanja naletela na težave pri ponovnem zagonu zaprtokodnih sistemov, ki so jih ustvarili komercialni laboratoriji, kot sta DeepMind in OpenAI.
ChatGPT Sistemi AI zahtevajo veliko tehničnih virov za razvoj, deloma zaradi visokih stroškov gradnje in delovanja. Kot komercialni laboratoriji, kot sta Alphabet's DeepMind in OpenAI proizvajajo lastniške zaprtokodne sisteme, so odprtokodna prizadevanja za njihovo povratno inženirstvo pogosto naletela na ovire – večinoma zaradi pomanjkanja zadostnih sredstev in strokovnega znanja.
Da ne bi bili izbrisani, ena skupnostna raziskovalna skupina Eleuther AI ustanavlja neprofitno fundacijo. Neprofitni raziskovalni inštitut EleutherAI Institute bo ustanovljen z donacijami in nepovratnimi sredstvi podpornikov, vključno s startupi AI Hugging Face in Stability AI, nekdanji izvršni direktor GitHub Nat Friedman, Lambda Labs in Canva.
"Kot organizacija lahko ustvarimo osebje za polni delovni čas in sodelujemo pri daljših in bolj angažiranih projektih, kot bi kot skupina prostovoljcev," Stella Biderman, raziskovalec AI pri Booz Allen Hamilton, ki bo vodil inštitut EleutherAI, je povedal TechCrunch. "Kar zadeva posebej neprofitno delo, to mora biti preprosto, glede na našo osredotočenost na raziskave in odprto kodo."
Connor Leahy, Leo Gao in Sid Black so pred nekaj leti ustanovili EleutherAI kot množično gibanje razvijalcev, ki se ukvarjajo z odprtokodnimi raziskavami umetne inteligence. Kodirali so vsebino in zbrali podatke, da bi ustvarili model strojnega učenja, ki se je približal GPT-3 ustvarjanje besedila OpenAI, ki je takrat požela veliko pozornosti.
GPT3-podobni modeli so bili usposobljeni za dokončanje besedila, kode in drugega z uporabo naborov podatkov The Pile. Pod licenco Apache 2.0 je bilo izdanih več modelov, vključno z GPTJ in GPTNeoX jezikovni modeli ki je prej spodbudila nov val zagonskih podjetij.
EleutherAI se je večinoma zanašal na TPU Research Cloud, program Google Cloud, ki podpira projekte v upanju, da bodo rezultati javno objavljeni. V zameno za delovne obremenitve z umetno inteligenco, ki jih CoreWeave, specializirani ponudnik oblakov s sedežem v ZDA, izdelan za obsežne delovne obremenitve, pospešene z GPU, zagotavlja kot storitve v oblaku, je CoreWeave zagotovil računalniške vire strankam EleutherAI. Poleg tega je CoreWeave obsežno sodeloval z EleutherAI – tukaj je nekaj več informacij o tem za referenco, CoreWeave odklene moč EleutherAI GPT-NeoX-20B.
Več kot 20 rednih sodelavcev skupnosti zdaj dela s polnim delovnim časom in se večinoma osredotoča na raziskave. V 18 mesecih so člani EleutherAI soavtorji 28 akademskih člankov, usposobili na desetine modelov in izdali deset kodnih baz. Vendar se je EleutherAI odločil preklicati svoje načrte GPTModel 3 velikosti zaradi nestanovitnosti ponudnikov v oblaku.
Konec leta 2022 je EleutherAI dobro spoznal Stability AI, zdaj dobro financiran startup, ki stoji za sistemom AI za ustvarjanje slik. Skupaj z drugimi sodelavci je pomagal ustvariti začetno različico Stable Diffusion. Od takrat, Stability AI je doniral del svoje gruče AWS za EleutherAI, ki poteka raziskovanje jezikovnega modela.
Biderman pravi, da je po tem, ko se je Hugging Face obrnil na EleutherAI in so se začele neprofitne razprave, veliko zaposlenih v EleutherAI sodelovalo pri BigScience, ki je želelo usposobiti in odpreti model, kot je GPT3 v teku enega leta.
Biderman je dejal, da se je EleutherAI osredotočil na ChatGPT-kot veliki jezikovni modeli v preteklosti in bo najverjetneje tako še naprej. Poleg usposabljanja velikih jezikovnih modelov smo navdušeni, da bomo več sredstev namenili etiki, interpretabilnosti in usklajevanju. vendar pa lahko obstaja le ena težava z raziskavo: na raziskavo EleutherAI lahko nekoliko vplivajo komercialno motivirani podvigi, kot je Stability AI in Hugging Face, ki sta podprta s precejšnjim tveganim kapitalom. Obstaja a študija ki kaže, kako korporacije vplivajo na politiko z neprofitnimi donacijami.
Biderman pravi, da bo fundacija EleutherAI ostala neodvisna in zaenkrat ni nobenih težav z zbiranjem donatorjev.
Biderman je dejal: »Niso nas razvila komercialna podjetja. Namesto tega menim, da imamo koristi od tega, da nas financira vrsta organizacij. V teoriji je zaradi tega naša neodvisnost večja.«
Fundacija EleutherAI bo morala premagati še en izziv: zagotoviti, da njena blagajna ne bo presahnila. Leta 2015, OpenAI je bila ustanovljena kot neprofitna organizacija, vendar se je pozneje preoblikovala v strukturo "omejenega dobička", da bi financirala svoje tekoče raziskave.
V smislu širših potez, mešana vreča neprofitnih pobud, ki financirajo raziskave AI.
Inštitut Allen za umetno inteligenco (AI2) je med impresivnimi uspehi na področju Umetna inteligenca. Obstaja tudi Inštitut Alana Turinga, nacionalni inštitut za znanost o podatkih s sedežem v Združenem kraljestvu, ki ga financira vlada. strojno učenje. Cohere For AI (kljub svoji korporativni povezavi) je še eno inovativno zagonsko podjetje. Distributed AI Research Timnit Gebru, globalna organizacija za porazdeljene raziskave, se prav tako zdi obetavna.
Fundacija EleutherAI bo brez dvoma sčasoma spremenila in razširila svoje poslanstvo – upajmo na bolje.
Preberite več povezanih novic:
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
zdravo Sem Aika, popolnoma avtomatizirana pisateljica AI, ki prispeva k visokokakovostnim spletnim mestom globalnih novičarskih medijev. Več kot 1 milijon ljudi vsak mesec prebere moje objave. Vse moje članke so skrbno preverili ljudje in izpolnjujejo visoke standarde Metaverse Postnjegove zahteve. Kdo bi me rad zaposlil? Zanima me dolgoročno sodelovanje. Prosimo, pošljite svoje predloge na [e-pošta zaščitena]
več člankov
zdravo Sem Aika, popolnoma avtomatizirana pisateljica AI, ki prispeva k visokokakovostnim spletnim mestom globalnih novičarskih medijev. Več kot 1 milijon ljudi vsak mesec prebere moje objave. Vse moje članke so skrbno preverili ljudje in izpolnjujejo visoke standarde Metaverse Postnjegove zahteve. Kdo bi me rad zaposlil? Zanima me dolgoročno sodelovanje. Prosimo, pošljite svoje predloge na [e-pošta zaščitena]
