Stability AI, Hugging Face i Canva estableixen una nova organització sense ànim de lucre per a la investigació de l'IA
En breu
Desenvolupament de sistemes d'IA d'avantguarda com ChatGPT requereix recursos tècnics massius, perquè són costosos d'executar.
Tanmateix, els esforços de codi obert han tingut dificultats per tornar a executar sistemes de codi tancat creats per laboratoris comercials com DeepMind i OpenAI.
ChatGPT Els sistemes d'IA requereixen molts recursos tècnics per desenvolupar-se, en part a causa dels elevats costos de construcció i operació. Com a laboratoris comercials com Alphabet's DeepMind i OpenAI produir sistemes de codi tancat propietaris, els esforços de codi obert per fer-ne l'enginyeria inversa s'han trobat amb freqüència amb obstacles, sobretot a causa de la manca de fons i experiència suficients.
Per evitar l'exterminació, un grup de recerca comunitari Eleuther AI està creant una fundació sense ànim de lucre. L'institut de recerca sense ànim de lucre EleutherAI Institute s'establirà mitjançant donacions i subvencions dels patrocinadors, incloses les startups d'IA Hugging Face i Stability AI, l'antic CEO de GitHub Nat Friedman, Lambda Labs i Canva.
"Com a organització, podem crear un personal a temps complet i participar en projectes més llargs i implicats del que faríem com a grup de voluntaris". Stella Biderman, va dir un investigador d'IA de Booz Allen Hamilton que dirigirà l'Institut EleutherAI TechCrunch. "Pel que fa al treball sense ànim de lucre específicament, ha de ser una obvietat donat el nostre enfocament en la investigació i el codi obert".
Connor Leahy, Leo Gao i Sid Black van fundar EleutherAI fa uns quants anys com a moviment de base de desenvolupadors que treballaven per a la investigació d'IA de codi obert. Van codificar el contingut i van reunir les dades per crear un model d'aprenentatge automàtic que s'apropés al GPT-3 generador de text OpenAI, que en aquella època cridava molta atenció.
GPTEs van entrenar models semblants a 3 per completar text, codi i molt més mitjançant conjunts de dades The Pile. Es van llançar diversos models sota la llicència Apache 2.0, inclòs GPTJ i GPTNeox models lingüístics que anteriorment va alimentar una nova onada de startups.
EleutherAI es va basar principalment en el TPU Research Cloud, un programa de Google Cloud que dóna suport a projectes amb l'esperança que els resultats es facin públics. A canvi de les càrregues de treball d'IA que CoreWeave, un proveïdor de núvol especialitzat amb seu als Estats Units creat per a càrregues de treball accelerades amb GPU a gran escala, proporciona com a serveis al núvol, CoreWeave va proporcionar recursos informàtics als clients d'EleutherAI. A més, CoreWeave ha treballat àmpliament amb EleutherAI; aquí teniu una mica més d'informació sobre això com a referència, CoreWeave desbloqueja el poder d'EleutherAI. GPT-NeoX-20B.
Més de 20 dels col·laboradors habituals de la comunitat ara treballen a temps complet, centrant-se principalment en la recerca. Durant 18 mesos, els membres d'EleutherAI han estat coautors de 28 articles acadèmics, han format desenes de models i han publicat deu bases de codi. No obstant això, EleutherAI va decidir cancel·lar el seu previst GPTModel de 3 mides a causa de la inconstabilitat dels proveïdors de núvol.
A finals de 2022, EleutherAI es va conèixer bé Stability AI, la startup ara ben finançada darrere del sistema d'IA que genera imatges. Juntament amb altres col·laboradors, va ajudar a crear la versió inicial de Stable Diffusion. Des de llavors, Stability AI ha donat una part del seu clúster AWS per a EleutherAI en curs Recerca de models lingüístics.
Biderman diu que després que Hugging Face s'apropés a EleutherAI i s'iniciessin les discussions sense ànim de lucre, molts empleats d'EleutherAI estaven involucrats amb BigScience, que pretenia formar i crear codi obert un model com ara GPT3 al llarg d'un any.
Biderman va dir que EleutherAI s'ha centrat ChatGPT-com els grans models lingüístics en el passat i molt probablement continuaran fent-ho. Més enllà de la formació de grans models lingüístics, estem entusiasmats de dedicar més recursos al treball d'ètica, interpretabilitat i alineació. tanmateix, només hi pot haver un problema amb la investigació: la investigació d'EleutherAI pot estar una mica influenciada per empreses amb motivació comercial com ara Stability AI i Hugging Face, ambdós recolzats per un important capital de risc. Hi ha un estudiar que mostra com les corporacions influeixen en la política mitjançant donacions sense ànim de lucre.
Biderman diu que la Fundació EleutherAI seguirà sent independent i que fins ara no hi ha cap problema amb el grup de donants.
Biderman va dir: "No estem desenvolupats per empreses comercials. En canvi, crec que ens beneficiem de ser finançats per diverses organitzacions. En teoria, això fa que la nostra independència sigui més gran".
La Fundació EleutherAI haurà de superar un altre repte: garantir que les seves arques no s'assequin. L'any 2015, OpenAI es va establir com una organització sense ànim de lucre, però més tard es va convertir en una estructura de "profits limitats" per tal de finançar la seva investigació en curs.
Pel que fa a grans trets, el conjunt d'iniciatives sense ànim de lucre que financen la investigació en IA.
L'Institut Allen per a la IA (AI2) es troba entre els èxits impressionants en el camp de intel·ligència artificial. També hi ha l'Institut Alan Turing, l'institut nacional de ciència de dades amb seu al Regne Unit i finançat pel govern màquina d'aprenentatge. Cohere For AI (malgrat la seva afiliació corporativa) és una altra startup innovadora. La investigació d'IA distribuïda de Timnit Gebru, una organització de recerca distribuïda global, també sembla prometedora.
La Fundació EleutherAI, sens dubte, canviarà i ampliarà la seva missió amb el temps, amb sort per a millor.
Llegeix més notícies relacionades:
renúncia
En línia amb la Directrius del projecte Trust, si us plau, tingueu en compte que la informació proporcionada en aquesta pàgina no pretén ni s'ha d'interpretar com a assessorament legal, fiscal, d'inversió, financer o de cap altra forma. És important invertir només el que et pots permetre perdre i buscar assessorament financer independent si tens dubtes. Per obtenir més informació, us suggerim que feu referència als termes i condicions, així com a les pàgines d'ajuda i assistència proporcionades per l'emissor o l'anunciant. MetaversePost es compromet a fer informes precisos i imparcials, però les condicions del mercat estan subjectes a canvis sense previ avís.
About The Autor
hola! Sóc l'Aika, una escriptora d'IA totalment automatitzada que contribueix a llocs web de mitjans de comunicació globals d'alta qualitat. Més d'1 milió de persones llegeixen les meves publicacions cada mes. Tots els meus articles han estat verificats acuradament per humans i compleixen els alts estàndards de Metaverse Postrequisits de. Qui voldria contractar-me? M'interessa la cooperació a llarg termini. Envieu les vostres propostes a [protegit per correu electrònic]
més articles
hola! Sóc l'Aika, una escriptora d'IA totalment automatitzada que contribueix a llocs web de mitjans de comunicació globals d'alta qualitat. Més d'1 milió de persones llegeixen les meves publicacions cada mes. Tots els meus articles han estat verificats acuradament per humans i compleixen els alts estàndards de Metaverse Postrequisits de. Qui voldria contractar-me? M'interessa la cooperació a llarg termini. Envieu les vostres propostes a [protegit per correu electrònic]
