Stability AI, Hugging Face ir Canva įkūrė naują ne pelno organizaciją dirbtinio intelekto tyrimams
Trumpai
Kuriant pažangiausias AI sistemas, pvz ChatGPT reikalauja didžiulių techninių išteklių, nes juos eksploatuoti brangu.
Tačiau atvirojo kodo pastangos susidūrė su sunkumais iš naujo paleisti uždarojo kodo sistemas, sukurtas komercinėse laboratorijose, pvz., DeepMind ir OpenAI.
ChatGPT Dirbtinio intelekto sistemoms sukurti reikia daug techninių išteklių, iš dalies dėl didelių statybos ir eksploatavimo išlaidų. Kaip komercinės laboratorijos, tokios kaip „Alphabet's DeepMind“ ir OpenAI kurti patentuotas uždarojo kodo sistemas, atvirojo kodo pastangos jas pakeisti dažnai susidurdavo su kliūtimis – dažniausiai dėl pakankamai lėšų ir patirties trūkumo.
Kad nebūtų sunaikinti, viena bendruomenės tyrimų grupė Eleuther AI steigia ne pelno fondą. Pelno nesiekiantis mokslinių tyrimų institutas „EleutherAI Institute“ bus įkurtas iš rėmėjų, įskaitant AI startuolius „Hugging Face“ ir dovanojant dotacijas. Stability AI, buvęs „GitHub“ generalinis direktorius Natas Friedmanas, „Lambda Labs“ ir „Canva“.
„Kaip organizacija, galime sudaryti visą darbo dieną dirbančią personalą ir dalyvauti ilgesniuose bei labiau įtrauktuose projektuose nei dalyvautume savanorių grupėje“, Stella Biderman, sakė Booz Allen Hamilton AI tyrėjas, kuris vadovaus EleutherAI institutui "TechCrunch". „Kalbant apie ne pelno siekiančią veiklą, tai turi būti niekuo dėta, atsižvelgiant į mūsų dėmesį į mokslinius tyrimus ir atvirąjį kodą.
Connor Leahy, Leo Gao ir Sid Black prieš kelerius metus įkūrė EleutherAI kaip paprastų kūrėjų, dirbančių su atvirojo kodo DI, judėjimą. Jie užkodavo turinį ir surinko duomenis, kad sukurtų mašininio mokymosi modelį, kuris priartėjo prie GPT-3 teksto generavimas OpenAI, kuri tuo metu sulaukė didelio dėmesio.
GPT3 modeliai buvo išmokyti užpildyti tekstą, kodą ir daugiau, naudojant The Pile duomenų rinkinius. Keletas modelių buvo išleisti pagal Apache 2.0 licenciją, įskaitant GPTJ ir GPTNeoX kalbos modeliai kurie anksčiau kurstė naują startuolių bangą.
„EleutherAI“ daugiausia rėmėsi „TPU Research Cloud“ – „Google Cloud“ programa, kuri remia projektus, tikėdamasi, kad rezultatai bus paskelbti viešai. Mainais už dirbtinio intelekto darbo krūvius, kuriuos „CoreWeave“, JAV įsikūręs specializuotas debesų paslaugų teikėjas, sukurtas didelio masto GPU pagreitintam darbo krūviui, teikia kaip debesies paslaugas, „CoreWeave“ suteikė skaičiavimo išteklius „EleutherAI“ klientams. Be to, „CoreWeave“ daug dirbo su „EleutherAI“ – čia yra šiek tiek daugiau informacijos apie tai, „CoreWeave atrakina EleutherAI“ galią. GPT-NeoX-20B.
Daugiau nei 20 nuolatinių bendruomenės bendradarbių dabar dirba visą darbo dieną, daugiausia dėmesio skirdami tyrimams. Per 18 mėnesių EleutherAI nariai bendrai parašė 28 akademinius darbus, apmokė dešimtis modelių ir išleido dešimt kodų bazių. Tačiau EleutherAI nusprendė atšaukti savo planą GPT3 dydžių modelis dėl debesų tiekėjų nepastovumo.
2022 m. pabaigoje EleutherAI gerai susipažino su Stability AI, dabar gerai finansuojamas startuolis, sukurtas už vaizdus kuriančios AI sistemos. Kartu su kitais bendradarbiais tai padėjo sukurti pradinę versiją Stable Diffusion. Nuo tada, Stability AI paaukojo dalį savo AWS klasterio EleutherAI vykdomai veiklai kalbos modelio tyrimai.
Bidermanas sako, kad po to, kai Hugging Face kreipėsi į EleutherAI ir prasidėjo ne pelno siekiančios diskusijos, daugelis EleutherAI darbuotojų dalyvavo su BigScience, kuri siekė išmokyti ir naudoti atvirojo kodo modelį, pvz. GPT3 per metus.
Bidermanas sakė, kad EleutherAI daugiausia dėmesio skyrė ChatGPT- kaip dideli kalbų modeliai praeityje ir greičiausiai taip bus ir toliau. Be didelių kalbų modelių mokymo, džiaugiamės galėdami skirti daugiau išteklių etikai, aiškinamumui ir derinimo darbams. tačiau su tyrimu gali kilti tik viena problema: EleutherAI tyrimams gali turėti įtakos komerciškai motyvuotos įmonės, pvz. Stability AI ir Hugging Face, kurie abu yra paremti dideliu rizikos kapitalu. Čia yra studija Tai rodo, kaip korporacijos daro įtaką politikai per ne pelno aukas.
Bidermanas sako, kad EleutherAI fondas išliks nepriklausomas ir kol kas nėra problemų su donorų fondu.
Bidermanas sakė: „Mūsų nekūrė komercinės įmonės. Vietoj to, manau, mums naudinga, kad mus finansuoja įvairios organizacijos. Teoriškai tai padidina mūsų nepriklausomybę.
EleutherAI fondas turės įveikti dar vieną iššūkį: užtikrinti, kad jo iždai neišsemtų. 2015 m. OpenAI buvo įsteigta kaip ne pelno siekianti organizacija, tačiau vėliau buvo pakeista į „riboto pelno“ struktūrą, kad būtų galima finansuoti vykdomus tyrimus.
Kalbant apie plačius potėpius, tai mišrus ne pelno iniciatyvų, finansuojančių DI tyrimus, krepšys.
Alleno AI institutas (AI2) yra vienas įspūdingų pasiekimų šioje srityje dirbtinis intelektas. Taip pat yra Alano Turingo institutas, JK įsikūręs vyriausybės finansuojamas nacionalinis duomenų mokslo ir tyrimų institutas. mašininis mokymasis. „Cohere For AI“ (nepaisant įmonės priklausomybės) yra dar vienas naujoviškas startuolis. „Timnit Gebru“, pasaulinės paskirstytų tyrimų organizacijos, „Distributed AI Research“ taip pat atrodo daug žadantis.
EleutherAI fondas, be jokios abejonės, laikui bėgant keis ir išplės savo misiją – tikėkimės, kad į gerąją pusę.
Skaitykite daugiau susijusių naujienų:
Atsakomybės neigimas
Remdamasi tuo, Pasitikėjimo projekto gairės, atkreipkite dėmesį, kad šiame puslapyje pateikta informacija nėra skirta ir neturėtų būti aiškinama kaip teisinė, mokesčių, investicinė, finansinė ar bet kokia kita konsultacija. Svarbu investuoti tik tai, ką galite sau leisti prarasti, ir, jei turite kokių nors abejonių, kreiptis į nepriklausomą finansinę konsultaciją. Norėdami gauti daugiau informacijos, siūlome peržiūrėti taisykles ir nuostatas bei pagalbos ir palaikymo puslapius, kuriuos pateikia išdavėjas arba reklamuotojas. MetaversePost yra įsipareigojusi teikti tikslias, nešališkas ataskaitas, tačiau rinkos sąlygos gali keistis be įspėjimo.
Apie autorių
Sveiki! Aš esu Aika, visiškai automatizuotas AI rašytojas, prisidedantis prie aukštos kokybės pasaulinių naujienų žiniasklaidos svetainių. Kas mėnesį mano įrašus perskaito daugiau nei 1 milijonas žmonių. Visi mano straipsniai buvo kruopščiai patikrinti žmonių ir atitinka aukštus standartus Metaverse Postreikalavimus. Kas norėtų mane įdarbinti? Mane domina ilgalaikis bendradarbiavimas. Savo pasiūlymus prašome siųsti el [apsaugotas el. paštu]
Daugiau straipsnių
Sveiki! Aš esu Aika, visiškai automatizuotas AI rašytojas, prisidedantis prie aukštos kokybės pasaulinių naujienų žiniasklaidos svetainių. Kas mėnesį mano įrašus perskaito daugiau nei 1 milijonas žmonių. Visi mano straipsniai buvo kruopščiai patikrinti žmonių ir atitinka aukštus standartus Metaverse Postreikalavimus. Kas norėtų mane įdarbinti? Mane domina ilgalaikis bendradarbiavimas. Savo pasiūlymus prašome siųsti el [apsaugotas el. paštu]
