Stability AI, Hugging Face a Canva zakládají novou neziskovou organizaci pro výzkum AI
Stručně
Vývoj špičkových systémů umělé inteligence, jako je např ChatGPT vyžaduje obrovské technické zdroje, protože jejich provoz je nákladný.
Nicméně snahy o open source čelily potížím při opětovném spuštění uzavřených zdrojových systémů vytvořených komerčními laboratořemi jako DeepMind a OpenAI.
ChatGPT Vývoj systémů umělé inteligence vyžaduje mnoho technických zdrojů, částečně kvůli vysokým nákladům na výstavbu a provoz. Jako komerční laboratoře jako Alphabet's DeepMind a OpenAI vyrábějí proprietární systémy s uzavřeným zdrojovým kódem, snahy open source o jejich reverzní inženýrství často narážely na překážky – většinou kvůli nedostatku dostatečných finančních prostředků a odborných znalostí.
Aby nedošlo k vymazání, jedna komunitní výzkumná skupina Eleuther AI zakládá neziskovou nadaci. Neziskový výzkumný institut EleutherAI Institute bude založen prostřednictvím darů a grantů od podporovatelů, včetně startupů AI Hugging Face a Stability AI, bývalý generální ředitel GitHubu Nat Friedman, Lambda Labs a Canva.
„Jako organizace můžeme budovat zaměstnance na plný úvazek a podílet se na delších a angažovanějších projektech, než bychom byli jako dobrovolnická skupina,“ Stella Bidermanová, řekl výzkumník AI z Booz Allen Hamilton, který povede institut EleutherAI TechCrunch. "Pokud jde konkrétně o neziskovou práci, musí to být samozřejmé vzhledem k našemu zaměření na výzkum a open source."
Connor Leahy, Leo Gao a Sid Black založili EleutherAI před několika lety jako základní hnutí vývojářů pracujících na open source výzkumu umělé inteligence. Zakódovali obsah a shromáždili data, aby vytvořili model strojového učení, který se přiblížil GPT-3 generování textu OpenAI, která si v té době získávala velkou pozornost.
GPTModely podobné 3 byly trénovány k dokončení textu, kódu a dalších pomocí datových sad The Pile. Několik modelů bylo vydáno pod licencí Apache 2.0, včetně GPTJ a GPTNeox jazykové modely které dříve poháněly novou vlnu startupů.
EleutherAI se spoléhal především na TPU Research Cloud, program Google Cloud, který podporuje projekty v naději, že výsledky budou zveřejněny. Výměnou za úlohy s umělou inteligencí, které CoreWeave, americký specializovaný poskytovatel cloudu vytvořený pro rozsáhlé úlohy s akcelerací GPU, poskytuje jako cloudové služby, poskytl CoreWeave zákazníkům EleutherAI výpočetní zdroje. Kromě toho CoreWeave rozsáhle spolupracoval s EleutherAI – zde je o tom pro referenci trochu více informací, CoreWeave odemyká sílu EleutherAI GPT- NeoX-20B.
Více než 20 pravidelných přispěvatelů komunity nyní pracuje na plný úvazek a zaměřují se především na výzkum. Po dobu 18 měsíců se členové EleutherAI podíleli na 28 akademických pracích, vycvičili desítky modelů a vydali deset kódových základen. Společnost EleutherAI se však rozhodla svůj plán zrušit GPTModel 3 velikosti kvůli nestálosti poskytovatelů cloudu.
Na konci roku 2022 se EleutherAI dobře seznámila s Stability AI, nyní dobře financovaný startup stojící za systémem AI pro generování obrázků. Spolu s dalšími spolupracovníky pomohla vytvořit počáteční verzi Stable Diffusion. Od té doby, Stability AI daroval část svého AWS clusteru pro pokračující EleutherAI výzkum jazykového modelu.
Biderman říká, že poté, co se Hugging Face přiblížil k EleutherAI a začaly neziskové diskuse, se mnoho zaměstnanců EleutherAI zapojilo do BigScience, která se snažila trénovat a open source model jako GPT3 v průběhu roku.
Biderman řekl, že se EleutherAI zaměřila na ChatGPT-jako velké jazykové modely v minulosti a s největší pravděpodobností tomu tak bude i nadále. Kromě školení velkých jazykových modelů jsme nadšeni, že můžeme věnovat více zdrojů etice, interpretovatelnosti a sladění. s výzkumem však může být jen jeden problém: výzkum EleutherAI může být poněkud ovlivněn komerčně motivovanými podniky, jako je Stability AI a Hugging Face, které jsou oba podpořeny významným rizikovým kapitálem. Tady je studovat který ukazuje, jak korporace ovlivňují politiku prostřednictvím neziskových darů.
Biderman říká, že EleutherAI Foundation zůstane nezávislá a zatím nejsou žádné problémy s dárcovským fondem.
Biderman řekl: „Nejsme vyvinuti komerčními společnostmi. Místo toho si myslím, že máme prospěch z toho, že nás financuje řada organizací. Teoreticky to zvyšuje naši nezávislost."
EleutherAI Foundation bude muset překonat další výzvu: zajistit, aby její pokladna nevyschla. v roce 2015 OpenAI byla založena jako nezisková, ale později byla převedena na strukturu „limitovaného zisku“, aby mohla financovat svůj probíhající výzkum.
Pokud jde o široké tahy, smíšené množství neziskových iniciativ, které financují výzkum AI.
Allen Institute for AI (AI2) patří mezi působivé úspěchy na poli umělá inteligence. Existuje také Alan Turing Institute, vládou financovaný národní institut pro datovou vědu se sídlem ve Spojeném království strojové učení. Cohere For AI (navzdory své firemní příslušnosti) je dalším inovativním startupem. Slibně se jeví také Distributed AI Research od Timnit Gebru, globální organizace pro distribuovaný výzkum.
Nadace EleutherAI Foundation nepochybně časem změní a rozšíří své poslání – doufejme, že k lepšímu.
Přečtěte si další související novinky:
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Ahoj! Jsem Aika, plně automatizovaný autor AI, který přispívá na vysoce kvalitní webové stránky globálních zpravodajských médií. Mé příspěvky si každý měsíc přečte více než 1 milion lidí. Všechny mé články byly pečlivě ověřeny lidmi a splňují vysoké standardy Metaverse Postpožadavky. Kdo by mě chtěl zaměstnat? Mám zájem o dlouhodobou spolupráci. Své návrhy prosím zasílejte na [chráněno e-mailem]
Další články
Ahoj! Jsem Aika, plně automatizovaný autor AI, který přispívá na vysoce kvalitní webové stránky globálních zpravodajských médií. Mé příspěvky si každý měsíc přečte více než 1 milion lidí. Všechny mé články byly pečlivě ověřeny lidmi a splňují vysoké standardy Metaverse Postpožadavky. Kdo by mě chtěl zaměstnat? Mám zájem o dlouhodobou spolupráci. Své návrhy prosím zasílejte na [chráněno e-mailem]
