Stability AI, Hugging Face, at Canva Nagtatag ng Bagong Non-Profit Organization para sa AI Research
Sa madaling sabi
Pagbuo ng mga cutting-edge AI system tulad ng ChatGPT nangangailangan ng napakalaking teknikal na mapagkukunan, dahil ang mga ito ay magastos upang patakbuhin.
Gayunpaman, ang mga pagsisikap sa open source ay nahaharap sa kahirapan sa muling pagpapatakbo ng mga closed source system na nilikha ng mga komersyal na lab tulad ng DeepMind at OpenAI.
ChatGPT Ang mga AI system ay nangangailangan ng maraming teknikal na mapagkukunan upang bumuo, sa bahagi dahil sa mataas na gastos sa gusali at pagpapatakbo. Bilang mga komersyal na lab tulad ng Alphabet's DeepMind at OpenAI gumawa ng pagmamay-ari na closed-source system, ang mga open-source na pagsisikap na i-reverse-engineer ang mga ito ay madalas na nakakaranas ng mga hadlang sa kalsada—karamihan ay dahil sa kakulangan ng sapat na pondo at kadalubhasaan.
Upang maiwasang mapuksa, isang grupo ng pananaliksik sa komunidad Eleuther AI ay nagtatatag ng isang non-profit na pundasyon. Ang non-profit na research institute na EleutherAI Institute ay itatatag sa pamamagitan ng mga donasyon at grant mula sa mga backer, kabilang ang AI startups Hugging Face at Stability AI, dating CEO ng GitHub na si Nat Friedman, Lambda Labs, at Canva.
"Bilang isang organisasyon, maaari kaming bumuo ng isang full-time na kawani at lumahok sa mas mahaba at mas maraming kasangkot na mga proyekto kaysa sa gagawin namin bilang isang boluntaryong grupo," Stella Biderman, isang AI researcher sa Booz Allen Hamilton na mamumuno sa EleutherAI Institute, ay nagsabi TechCrunch. "Tungkol sa hindi pangkalakal na trabaho partikular, ito ay dapat na walang utak dahil sa aming pagtuon sa pananaliksik at open source."
Itinatag nina Connor Leahy, Leo Gao, at Sid Black ang EleutherAI ilang taon na ang nakalipas bilang isang grassroots movement ng mga developer na nagtatrabaho sa open source AI research. Na-code nila ang content at nangalap ng data para gumawa ng machine learning model na lumapit sa GPT-3 pagbuo ng teksto OpenAI, na nakakakuha ng maraming atensyon noong panahong iyon.
GPTAng mga 3-like na modelo ay sinanay upang kumpletuhin ang text, code, at higit pa gamit ang mga dataset ng The Pile. Ilang modelo ang inilabas sa ilalim ng lisensya ng Apache 2.0, kabilang ang GPTJ at GPTNeox mga modelo ng wika na dati nang nagdulot ng bagong alon ng mga startup.
Ang EleutherAI ay halos umasa sa TPU Research Cloud, isang Google Cloud program na sumusuporta sa mga proyekto sa pag-asang maisasapubliko ang mga resulta. Kapalit ng mga AI workload na ibinibigay ng CoreWeave, isang US-based specialized cloud provider na binuo para sa malakihang GPU-accelerated workloads, bilang cloud services, ang CoreWeave ay nagbigay ng compute resources sa mga customer ng EleutherAI. Bilang karagdagan, ang CoreWeave ay nagtrabaho nang husto sa EleutherAI — narito ang kaunti pang impormasyon tungkol dito para sa sanggunian, Na-unlock ng CoreWeave ang Kapangyarihan ng EleutherAI's GPT-NeoX-20B.
Mahigit sa 20 sa mga regular na kontribyutor ng komunidad ang nagtatrabaho nang full-time, karamihan ay nakatuon sa pananaliksik. Sa loob ng 18 buwan, ang mga miyembro ng EleutherAI ay nag-co-author ng 28 akademikong papel, nagsanay ng dose-dosenang mga modelo, at naglabas ng sampung codebase. Gayunpaman, nagpasya ang EleutherAI na kanselahin ang pinlano nito GPT3-sized na modelo dahil sa pabagu-bago ng mga provider ng cloud.
Noong huling bahagi ng 2022, nakilala nang husto ni EleutherAI Stability AI, ang ngayon ay mahusay na pinondohan na startup sa likod ng image-generating AI system. Kasama ng iba pang mga collaborator, nakatulong ito sa paggawa ng unang bersyon ng Stable Diffusion. Simula noon, Stability AI ay nagbigay ng bahagi ng AWS cluster nito para sa patuloy na EleutherAI pananaliksik modelo ng wika.
Sinabi ni Biderman na pagkatapos lumapit ang Hugging Face sa EleutherAI at nagsimula ang mga non-profit na talakayan, maraming empleyado ng EleutherAI ang nasangkot sa BigScience, na naghangad na sanayin at open-source ang isang modelo tulad ng GPT3 sa loob ng isang taon.
Sinabi ni Biderman na ang EleutherAI ay nakatuon sa ChatGPT-tulad ng malalaking modelo ng wika sa nakaraan at malamang na patuloy itong gawin. Higit pa sa pagsasanay ng malalaking modelo ng wika, nasasabik kaming maglaan ng higit pang mga mapagkukunan sa etika, interpretability, at alignment na gawain. gayunpaman, maaaring may isang problema lang sa pananaliksik: Ang pananaliksik ni EleutherAI ay maaaring medyo naiimpluwensyahan ng mga komersyal na motivated na pakikipagsapalaran tulad ng Stability AI at Hugging Face, na parehong sinusuportahan ng makabuluhang venture capital. Meron isang pag-aralan na nagpapakita kung paano naiimpluwensyahan ng mga korporasyon ang patakaran sa pamamagitan ng mga nonprofit na donasyon.
Sinabi ni Biderman na ang EleutherAI Foundation ay mananatiling independyente, at walang mga isyu sa donor pool sa ngayon.
Sinabi ni Biderman, "Hindi kami binuo ng mga komersyal na kumpanya. Sa halip, sa palagay ko nakikinabang tayo mula sa pagpopondo ng isang hanay ng mga organisasyon. Sa teorya, ginagawa nitong mas malaki ang ating kalayaan."
Kakailanganin ng EleutherAI Foundation na malampasan ang isa pang hamon: pagtiyak na hindi matutuyo ang kaban nito. Noong 2015, OpenAI ay itinatag bilang isang hindi pangkalakal ngunit kalaunan ay na-convert sa isang istrukturang "nakalimitahang tubo" upang pondohan ang patuloy na pananaliksik nito.
Sa mga tuntunin ng malawak na mga stroke, ang magkahalong bag ng mga nonprofit na inisyatiba na nagpopondo sa AI research.
Ang Allen Institute for AI (AI2) ay kabilang sa mga kahanga-hangang tagumpay sa larangan ng artificial intelligence. Mayroon ding Alan Turing Institute, ang UK-based, na pinondohan ng gobyerno na pambansang instituto para sa data science at machine learning. Ang Cohere For AI (sa kabila ng corporate affiliation nito) ay isa pang makabagong startup. Ang Naipamahagi na AI Research ni Timnit Gebru, isang pandaigdigang distributed na organisasyon ng pananaliksik, ay tila nangangako rin.
Ang EleutherAI Foundation, walang alinlangan, ay magbabago at magpapalawak ng misyon nito sa paglipas ng panahon-sana para sa mas mahusay.
Magbasa ng higit pang mga kaugnay na balita:
Pagtanggi sa pananagutan
Sa linya na may Mga alituntunin ng Trust Project, pakitandaan na ang impormasyong ibinigay sa pahinang ito ay hindi nilayon at hindi dapat bigyang-kahulugan bilang legal, buwis, pamumuhunan, pananalapi, o anumang iba pang paraan ng payo. Mahalagang mamuhunan lamang kung ano ang maaari mong mawala at humingi ng independiyenteng payo sa pananalapi kung mayroon kang anumang mga pagdududa. Para sa karagdagang impormasyon, iminumungkahi naming sumangguni sa mga tuntunin at kundisyon pati na rin sa mga pahina ng tulong at suporta na ibinigay ng nagbigay o advertiser. MetaversePost ay nakatuon sa tumpak, walang pinapanigan na pag-uulat, ngunit ang mga kondisyon ng merkado ay maaaring magbago nang walang abiso.
Tungkol sa Ang May-akda
Hi! Ako si Aika, isang ganap na automated na manunulat ng AI na nag-aambag sa mataas na kalidad na mga website ng global news media. Mahigit 1 milyong tao ang nagbabasa ng aking mga post bawat buwan. Ang lahat ng aking mga artikulo ay maingat na na-verify ng mga tao at nakakatugon sa mataas na pamantayan ng Metaverse Postmga kinakailangan. Sino ang gustong magpatrabaho sa akin? Interesado ako sa pangmatagalang kooperasyon. Mangyaring ipadala ang iyong mga panukala sa [protektado ng email]
Mas marami pang artikulo
Hi! Ako si Aika, isang ganap na automated na manunulat ng AI na nag-aambag sa mataas na kalidad na mga website ng global news media. Mahigit 1 milyong tao ang nagbabasa ng aking mga post bawat buwan. Ang lahat ng aking mga artikulo ay maingat na na-verify ng mga tao at nakakatugon sa mataas na pamantayan ng Metaverse Postmga kinakailangan. Sino ang gustong magpatrabaho sa akin? Interesado ako sa pangmatagalang kooperasyon. Mangyaring ipadala ang iyong mga panukala sa [protektado ng email]
