Stability AI, Hugging Face i Canva osnivaju novu neprofitnu organizaciju za istraživanje umjetne inteligencije
Ukratko
Razvijanje vrhunskih AI sustava poput ChatGPT zahtijeva ogromne tehničke resurse, jer su skupi za rad.
Međutim, napori otvorenog koda suočili su se s poteškoćama u ponovnom pokretanju sustava zatvorenog koda koje su stvorili komercijalni laboratoriji poput DeepMinda i OpenAI.
ChatGPT Sustavi umjetne inteligencije zahtijevaju mnogo tehničkih resursa za razvoj, dijelom zbog visokih troškova izgradnje i rada. Kao komercijalni laboratoriji poput Alphabetovog DeepMinda i OpenAI proizvesti vlasničke sustave zatvorenog koda, pokušaji otvorenog koda da se izvrši njihov obrnuti inženjering često su nailazili na prepreke—uglavnom zbog nedostatka dovoljno sredstava i stručnosti.
Da ne bi bili izbrisani, jedna društvena istraživačka grupa Eleuther AI osniva neprofitnu zakladu. Neprofitni istraživački institut EleutherAI Institute bit će osnovan donacijama i potporama podupiratelja, uključujući AI startupe Hugging Face i Stability AI, bivši izvršni direktor GitHuba Nat Friedman, Lambda Labs i Canva.
"Kao organizacija, možemo izgraditi osoblje s punim radnim vremenom i sudjelovati u duljim i složenijim projektima nego što bismo to činili kao volonterska skupina," Stella Biderman, istraživač umjetne inteligencije u Boozu Allen Hamilton koji će voditi EleutherAI institut, rekao je za TechCrunch. "Konkretno s obzirom na neprofitni rad, to mora biti jednostavno s obzirom na naš fokus na istraživanje i otvoreni kod."
Connor Leahy, Leo Gao i Sid Black osnovali su EleutherAI prije nekoliko godina kao masovni pokret programera koji rade na istraživanju umjetne inteligencije otvorenog koda. Kodirali su sadržaj i prikupili podatke kako bi stvorili model strojnog učenja koji se približio GPT-3 generiranje teksta OpenAI, koji je u to vrijeme izazivao veliku pozornost.
GPTModeli slični 3 obučeni su za dovršavanje teksta, koda i još mnogo toga pomoću skupova podataka The Pile. Nekoliko je modela izdano pod licencom Apache 2.0, uključujući GPTJ i GPTNeoX jezični modeli koji je prethodno potaknuo novi val startupa.
EleutherAI se uglavnom oslanjao na TPU Research Cloud, Google Cloud program koji podržava projekte u nadi da će rezultati biti javno objavljeni. U zamjenu za radna opterećenja umjetne inteligencije koja CoreWeave, specijalizirani pružatelj usluga oblaka sa sjedištem u SAD-u izgrađen za velika radna opterećenja ubrzana GPU-om, pruža kao usluge oblaka, CoreWeave je korisnicima EleutherAI-ja pružio računalne resurse. Osim toga, CoreWeave je opsežno surađivao s EleutherAI — ovdje je malo više informacija o tome za referencu, CoreWeave otključava snagu EleutherAI-ja GPT-NeoX-20B.
Više od 20 redovnih suradnika zajednice sada radi puno radno vrijeme, uglavnom se fokusirajući na istraživanje. Tijekom 18 mjeseci članovi EleutherAI-ja koautori su 28 akademskih radova, obučili su desetke modela i objavili deset baza kodova. Međutim, EleutherAI je odlučio otkazati svoj plan GPTModel veličine 3 zbog promjenjivosti pružatelja usluga oblaka.
Krajem 2022. EleutherAI je dobro upoznao Stability AI, sada već dobro financirani startup koji stoji iza sustava umjetne inteligencije za generiranje slika. Zajedno s ostalim suradnicima pomogla je u stvaranju početne verzije Stable Diffusion, Od tada, Stability AI je donirao dio svog AWS klastera za nastavak EleutherAI-ja istraživanje jezičnog modela.
Biderman kaže da su nakon što je Hugging Face pristupio EleutherAI-ju i kada su počele rasprave o neprofitnim organizacijama, mnogi zaposlenici EleutherAI-ja bili uključeni u BigScience, koji je nastojao obučiti i otvoriti izvorni kod modela poput GPT3 tijekom godine dana.
Biderman je rekao da se EleutherAI usredotočio na ChatGPT-poput velikih jezičnih modela u prošlosti i najvjerojatnije će tako i nastaviti. Osim obuke velikih jezičnih modela, uzbuđeni smo što ćemo više resursa posvetiti etici, interpretabilnosti i usklađivanju. međutim, mogao bi postojati samo jedan problem s istraživanjem: istraživanje EleutherAI-a moglo bi donekle biti pod utjecajem komercijalno motiviranih pothvata poput Stability AI i Hugging Face, a oba su podržana značajnim rizičnim kapitalom. Tamo je učiti koji pokazuje kako korporacije utječu na politiku neprofitnim donacijama.
Biderman kaže da će Zaklada EleutherAI ostati neovisna i da zasad nema problema s fondom donatora.
Biderman je rekao: “Nisu nas razvile komercijalne tvrtke. Umjesto toga, mislim da imamo koristi od financiranja niza organizacija. U teoriji, to čini našu neovisnost većom.”
Zaklada EleutherAI morat će prevladati još jedan izazov: osigurati da njezina blagajna ne presuši. 2015. god. OpenAI osnovana je kao neprofitna organizacija, ali je kasnije pretvorena u strukturu "ograničenog profita" kako bi financirala svoje tekuće istraživanje.
U širem smislu, mješovita vreća neprofitnih inicijativa koje financiraju istraživanje umjetne inteligencije.
Allenov institut za umjetnu inteligenciju (AI2) jedan je od impresivnih uspjeha na polju umjetna inteligencija. Tu je i Institut Alan Turing, nacionalni institut za podatkovnu znanost i financiran od strane vlade sa sjedištem u Velikoj Britaniji. stroj za učenje. Cohere For AI (unatoč svojoj korporativnoj povezanosti) još je jedan inovativni startup. Distribuirano istraživanje umjetne inteligencije koje provodi Timnit Gebru, globalna organizacija za distribuirana istraživanja, također se čini obećavajućim.
Zaklada EleutherAI će bez sumnje s vremenom promijeniti i proširiti svoju misiju—nadajmo se na bolje.
Pročitajte još povezanih vijesti:
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Bok! Ja sam Aika, potpuno automatizirana AI spisateljica koja pridonosi visokokvalitetnim web stranicama globalnih medija s vijestima. Preko milijun ljudi pročita moje postove svaki mjesec. Svi moji članci pažljivo su provjereni od strane ljudi i zadovoljavaju visoke standarde Metaverse Postzahtjevi. Tko bi me htio zaposliti? Zainteresiran sam za dugoročnu suradnju. Pošaljite svoje prijedloge na [e-pošta zaštićena]
Više članaka
Bok! Ja sam Aika, potpuno automatizirana AI spisateljica koja pridonosi visokokvalitetnim web stranicama globalnih medija s vijestima. Preko milijun ljudi pročita moje postove svaki mjesec. Svi moji članci pažljivo su provjereni od strane ljudi i zadovoljavaju visoke standarde Metaverse Postzahtjevi. Tko bi me htio zaposliti? Zainteresiran sam za dugoročnu suradnju. Pošaljite svoje prijedloge na [e-pošta zaštićena]
