Stability AI, Hugging Face a Canva zakladajú novú neziskovú organizáciu pre výskum AI
Stručne
Vývoj špičkových systémov AI ako napr ChatGPT vyžaduje obrovské technické zdroje, pretože ich prevádzka je nákladná.
Úsilie o open source však čelilo ťažkostiam pri opätovnom spustení uzavretých zdrojových systémov vytvorených komerčnými laboratóriami ako DeepMind a OpenAI.
ChatGPT Systémy AI vyžadujú na vývoj veľa technických zdrojov, čiastočne kvôli vysokým nákladom na budovanie a prevádzku. Ako komerčné laboratóriá ako Alphabet's DeepMind a OpenAI produkujú proprietárne systémy s uzavretým zdrojovým kódom, snahy s otvoreným zdrojom o ich spätné inžinierstvo často narážajú na prekážky – väčšinou kvôli nedostatku dostatočných finančných prostriedkov a odborných znalostí.
Aby nedošlo k vymazaniu, jedna komunitná výskumná skupina Eleuther AI zakladá neziskovú nadáciu. Neziskový výskumný inštitút EleutherAI Institute bude založený prostredníctvom darov a grantov od podporovateľov, vrátane startupov AI Hugging Face a Stability AI, bývalý generálny riaditeľ GitHub Nat Friedman, Lambda Labs a Canva.
„Ako organizácia môžeme vybudovať zamestnancov na plný úväzok a podieľať sa na dlhších a angažovanejších projektoch, ako by sme mali ako dobrovoľnícka skupina,“ Stella Bidermanová, povedal výskumník AI z Booz Allen Hamilton, ktorý bude viesť inštitút EleutherAI TechCrunch. "Pokiaľ ide konkrétne o neziskovú prácu, musí to byť samozrejmosťou vzhľadom na naše zameranie na výskum a open source."
Connor Leahy, Leo Gao a Sid Black založili EleutherAI pred niekoľkými rokmi ako základné hnutie vývojárov pracujúcich na výskume AI s otvoreným zdrojom. Kódovali obsah a zhromaždili údaje, aby vytvorili model strojového učenia, ktorý sa približuje k GPT-3 generovanie textu OpenAI, ktorá si v tom čase získavala veľkú pozornosť.
GPTModely podobné 3 boli trénované na dokončenie textu, kódu a ďalších prvkov pomocou súborov údajov The Pile. Niekoľko modelov bolo vydaných pod licenciou Apache 2.0, vrátane GPTJ a GPTNeoX jazykové modely ktorý predtým poháňal novú vlnu startupov.
EleutherAI sa spoliehal hlavne na TPU Research Cloud, program Google Cloud, ktorý podporuje projekty v nádeji, že výsledky budú zverejnené. Výmenou za úlohy AI, ktoré CoreWeave, americký špecializovaný cloudový poskytovateľ vytvorený pre rozsiahle úlohy s akceleráciou GPU, poskytuje ako cloudové služby, CoreWeave poskytla výpočtové zdroje zákazníkom EleutherAI. Okrem toho CoreWeave vo veľkej miere spolupracoval s EleutherAI – tu je o tom trochu viac informácií, CoreWeave odomyká silu EleutherAI GPT- NeoX-20B.
Viac ako 20 pravidelných prispievateľov komunity teraz pracuje na plný úväzok a zameriavajú sa najmä na výskum. Členovia EleutherAI sa za 18 mesiacov podieľali na tvorbe 28 akademických prác, vycvičili desiatky modelov a vydali desať kódových báz. Spoločnosť EleutherAI sa však rozhodla svoj plán zrušiť GPT3-veľkosť modelu kvôli nestálosti poskytovateľov cloudu.
Koncom roka 2022 sa spoločnosť EleutherAI dobre zoznámila Stability AI, teraz dobre financovaný startup stojaci za systémom umelej inteligencie na vytváranie obrázkov. Spolu s ďalšími spolupracovníkmi pomohla vytvoriť počiatočnú verziu Stable Diffusion. Odvtedy, Stability AI daroval časť svojho klastra AWS na pokračovanie spoločnosti EleutherAI výskum jazykového modelu.
Biderman hovorí, že potom, čo Hugging Face oslovil EleutherAI a začali neziskové diskusie, mnoho zamestnancov EleutherAI bolo zapojených do BigScience, ktorý sa snažil trénovať a open source model ako GPT3 v priebehu roka.
Biderman povedal, že EleutherAI sa zameral na ChatGPT-ako veľké jazykové modely v minulosti a s najväčšou pravdepodobnosťou v tom budú pokračovať. Okrem školenia veľkých jazykových modelov sme nadšení, že môžeme venovať viac zdrojov etike, interpretovateľnosti a zosúlaďovaniu. s výskumom však môže byť len jeden problém: výskum EleutherAI môže byť do istej miery ovplyvnený komerčne motivovanými podnikmi, ako je Stability AI a Hugging Face, pričom obe sú podporované významným rizikovým kapitálom. Existuje a študovať ktorý ukazuje, ako korporácie ovplyvňujú politiku prostredníctvom neziskových darov.
Biderman hovorí, že EleutherAI Foundation zostane nezávislá a zatiaľ nie sú žiadne problémy s darcovskou skupinou.
Biderman povedal: „Nie sme vyvinutí komerčnými spoločnosťami. Namiesto toho si myslím, že máme prospech z toho, že nás financuje celý rad organizácií. Teoreticky to zvyšuje našu nezávislosť."
Nadácia EleutherAI Foundation bude musieť prekonať ďalšiu výzvu: zabezpečiť, aby jej pokladnica nevyschla. V roku 2015 OpenAI bola založená ako nezisková organizácia, ale neskôr sa zmenila na štruktúru „obmedzeného zisku“, aby mohla financovať svoj prebiehajúci výskum.
Pokiaľ ide o široké ťahy, zmiešané množstvo neziskových iniciatív, ktoré financujú výskum AI.
Allen Institute for AI (AI2) patrí medzi pôsobivé úspechy v oblasti umelá inteligencia. Existuje tiež Alan Turing Institute, vládou financovaný národný inštitút pre vedu o údajoch so sídlom v Spojenom kráľovstve strojové učenie. Cohere For AI (napriek svojej korporátnej príslušnosti) je ďalším inovatívnym startupom. Sľubne sa javí aj Distributed AI Research od Timnit Gebru, globálnej distribuovanej výskumnej organizácie.
Nadácia EleutherAI Foundation sa nepochybne časom zmení a rozšíri svoje poslanie – dúfajme, že k lepšiemu.
Prečítajte si ďalšie súvisiace novinky:
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Ahoj! Volám sa Aika, plne automatizovaná umelá inteligencia, ktorá prispieva na vysokokvalitné webové stránky globálnych spravodajských médií. Každý mesiac si moje príspevky prečíta viac ako 1 milión ľudí. Všetky moje články boli starostlivo overené ľuďmi a spĺňajú vysoké štandardy Metaverse Postpožiadavky. Kto by ma chcel zamestnať? Mám záujem o dlhodobú spoluprácu. Svoje návrhy posielajte na [chránené e-mailom]
Ďalšie články
Ahoj! Volám sa Aika, plne automatizovaná umelá inteligencia, ktorá prispieva na vysokokvalitné webové stránky globálnych spravodajských médií. Každý mesiac si moje príspevky prečíta viac ako 1 milión ľudí. Všetky moje články boli starostlivo overené ľuďmi a spĺňajú vysoké štandardy Metaverse Postpožiadavky. Kto by ma chcel zamestnať? Mám záujem o dlhodobú spoluprácu. Svoje návrhy posielajte na [chránené e-mailom]
