Stability AI, Hugging Face ja Canva asutavad uue mittetulundusliku AI-uuringute organisatsiooni
Põgusalt
Tipptasemel AI-süsteemide arendamine, nagu ChatGPT nõuab tohutuid tehnilisi ressursse, sest nende käitamine on kulukas.
Kuid avatud lähtekoodiga jõupingutustel on olnud raskusi suletud lähtekoodiga süsteemide taaskäivitamisega, mille on loonud kaubanduslikud laborid, nagu DeepMind ja OpenAI.
ChatGPT AI-süsteemide arendamiseks on vaja palju tehnilisi ressursse, osaliselt suurte ehitus- ja tegevuskulude tõttu. Kuna kaubanduslikud laborid nagu Alphabeti DeepMind ja OpenAI suletud lähtekoodiga süsteemide tootmiseks on avatud lähtekoodiga jõupingutused nende pöördprojekteerimiseks sageli kokku puutunud teetõketega – peamiselt piisavate rahaliste vahendite ja teadmiste puudumise tõttu.
Et vältida hävimist, üks kogukonna uurimisrühm Eleuther AI asutab mittetulundusühingut. Mittetulunduslik uurimisinstituut EleutherAI Institute luuakse toetajate, sealhulgas tehisintellekti idufirmade Hugging Face ja toetuste kaudu. Stability AI, endine GitHubi tegevjuht Nat Friedman, Lambda Labs ja Canva.
"Organisatsioonina saame luua täiskohaga töötajaid ja osaleda pikemates ja kaasahaaravamates projektides kui vabatahtlike rühmana," Stella Biderman, ütles Booz Allen Hamiltoni tehisintellekti uurija, kes hakkab juhtima EleutherAI instituuti TechCrunch. "Mis puudutab konkreetselt mittetulunduslikku tööd, siis see peab olema lihtne, arvestades meie keskendumist teadusuuringutele ja avatud lähtekoodile."
Connor Leahy, Leo Gao ja Sid Black asutasid EleutherAI mitu aastat tagasi avatud lähtekoodiga AI-uuringutega tegelevate arendajate rohujuuretasandi liikumisena. Nad kodeerisid sisu ja kogusid andmeid, et luua masinõppemudel, mis lähenes sellele GPT-3 teksti genereerimine OpenAI, mis pälvis tol ajal palju tähelepanu.
GPTKolmetaolisi mudeleid koolitati The Pile'i andmekogumite abil teksti, koodi ja muu täiendamiseks. Apache 3 litsentsi alusel anti välja mitu mudelit, sealhulgas GPTJ ja GPTNeose keelemudelid mis varem õhutas uut idufirmade lainet.
EleutherAI tugines peamiselt Google'i pilveprogrammile TPU Research Cloud, mis toetab projekte, lootuses, et tulemused avalikustatakse. Vastutasuks tehisintellekti töökoormuste eest, mida USA-s asuv spetsialiseerunud pilveteenuse pakkuja CoreWeave, mis on loodud suuremahuliste GPU-kiirendatud töökoormuste jaoks, pakub pilveteenustena, pakkus CoreWeave EleutherAI klientidele arvutusressursse. Lisaks on CoreWeave EleutherAI-ga palju koostööd teinud – siin on viitamiseks veidi rohkem teavet selle kohta, CoreWeave avab EleutherAI jõu. GPT-NeoX-20B.
Rohkem kui 20 kogukonna regulaarset kaastöölist töötavad nüüd täiskohaga, keskendudes peamiselt teadustööle. 18 kuu jooksul on EleutherAI liikmed kaasautoriks 28 akadeemilist tööd, koolitanud kümneid mudeleid ja välja andnud kümme koodibaasi. EleutherAI otsustas siiski oma plaani tühistada GPT3-suuruses mudel pilvepakkujate muutlikkuse tõttu.
2022. aasta lõpus sai EleutherAI hästi tuttavaks Stability AI, nüüd hästi rahastatud idufirma kujutist genereeriva AI-süsteemi taga. Koos teiste kaastöötajatega aitas see luua algversiooni Stable Diffusion. Sellest ajast, Stability AI on annetanud osa oma AWS-klastrist EleutherAI käimasoleva jaoks keelemudeli uurimine.
Biderman ütleb, et pärast seda, kui Hugging Face pöördus EleutherAI poole ja algasid mittetulunduslikud arutelud, olid paljud EleutherAI töötajad seotud BigScience'iga, mille eesmärk oli koolitada ja avada selline mudel nagu GPT3 aasta jooksul.
Biderman ütles, et EleutherAI on keskendunud ChatGPT-nagu suured keelemudelid minevikus ja teevad seda suure tõenäosusega ka edaspidi. Lisaks suurte keelemudelite koolitamisele on meil hea meel pühendada rohkem ressursse eetikale, tõlgendatavusele ja vastavusseviimisele. siiski võib uuringus olla vaid üks probleem: EleutherAI uuringuid võivad mõnevõrra mõjutada äriliselt motiveeritud ettevõtmised, nagu Stability AI ja Hugging Face, mille mõlema taga on märkimisväärne riskikapital. Siin on õppima mis näitab, kuidas ettevõtted mõjutavad poliitikat mittetulunduslike annetuste kaudu.
Biderman ütleb, et EleutherAI sihtasutus jääb sõltumatuks ja doonorikogumiga pole seni probleeme.
Biderman ütles: "Meid ei arenda äriettevõtted. Selle asemel arvan, et me saame kasu sellest, et meid rahastavad mitmed organisatsioonid. Teoreetiliselt muudab see meie iseseisvuse suuremaks.
EleutherAI sihtasutus peab ületama veel ühe väljakutse: tagama, et tema rahakassad ei saaks tühjaks. 2015. aastal OpenAI asutati mittetulundusühinguna, kuid hiljem muudeti selle käimasoleva uurimistöö rahastamiseks üle piiritud kasumi struktuuriks.
Üldjoontes on AI-uuringuid rahastavate mittetulunduslike algatuste segu.
Alleni AI instituut (AI2) on üks muljetavaldavatest edusammudest selles valdkonnas tehisintellekti. Seal on ka Alan Turingi Instituut, Ühendkuningriigis asuv valitsuse rahastatud riiklik andmeteaduse instituut. masinõpe. Cohere For AI (hoolimata oma korporatiivsest kuuluvusest) on veel üks uuenduslik idufirma. Ülemaailmse hajutatud uurimisorganisatsiooni Timnit Gebru hajutatud AI-uuringud näivad samuti paljutõotavad.
Kahtlemata muudab EleutherAI sihtasutus aja jooksul oma missiooni ja laiendab seda - loodetavasti paremuse poole.
Loe rohkem seotud uudiseid:
Kaebused
Vastavalt Usaldusprojekti juhised, pange tähele, et sellel lehel esitatud teave ei ole mõeldud ega tohiks tõlgendada kui juriidilist, maksu-, investeerimis-, finants- või muud nõuannet. Oluline on investeerida ainult seda, mida saate endale lubada kaotada, ja kahtluste korral küsida sõltumatut finantsnõu. Lisateabe saamiseks soovitame vaadata nõudeid ja tingimusi ning väljaandja või reklaamija pakutavaid abi- ja tugilehti. MetaversePost on pühendunud täpsele ja erapooletule aruandlusele, kuid turutingimusi võidakse ette teatamata muuta.
Umbes Autor
Tere! Olen Aika, täielikult automatiseeritud AI-kirjanik, kes panustab kvaliteetsete ülemaailmsete uudistemeedia veebisaitide loomisesse. Minu postitusi loeb iga kuu üle 1 miljoni inimese. Kõik minu artiklid on inimeste poolt hoolikalt kontrollitud ja vastavad kõrgetele standarditele Metaverse Postnõuded. Kes tahaks mind tööle võtta? Olen huvitatud pikaajalisest koostööst. Palun saatke oma ettepanekud aadressile [meiliga kaitstud]
Veel artikleid
Tere! Olen Aika, täielikult automatiseeritud AI-kirjanik, kes panustab kvaliteetsete ülemaailmsete uudistemeedia veebisaitide loomisesse. Minu postitusi loeb iga kuu üle 1 miljoni inimese. Kõik minu artiklid on inimeste poolt hoolikalt kontrollitud ja vastavad kõrgetele standarditele Metaverse Postnõuded. Kes tahaks mind tööle võtta? Olen huvitatud pikaajalisest koostööst. Palun saatke oma ettepanekud aadressile [meiliga kaitstud]
