Stability AI, Hugging Face и Canva създават нова организация с нестопанска цел за изследване на AI
Накратко
Разработване на авангардни AI системи като ChatGPT изисква огромни технически ресурси, тъй като те са скъпи за работа.
Усилията с отворен код обаче са изправени пред трудности при повторното стартиране на системи със затворен код, създадени от търговски лаборатории като DeepMind и OpenAI.
ChatGPT AI системите изискват много технически ресурси за разработване, отчасти поради високите строителни и оперативни разходи. Като търговски лаборатории като DeepMind на Alphabet и OpenAI произвеждат патентовани системи със затворен код, усилията с отворен код за обратното им инженерство често се натъкват на препятствия - най-вече поради липса на достатъчно средства и опит.
За да избегнете унищожаването, една общностна изследователска група Eleuther AI създава фондация с нестопанска цел. Изследователският институт с нестопанска цел EleutherAI Institute ще бъде създаден чрез дарения и безвъзмездни средства от поддръжници, включително AI стартиращи фирми Hugging Face и Stability AI, бивш главен изпълнителен директор на GitHub Нат Фридман, Lambda Labs и Canva.
„Като организация можем да изградим персонал на пълен работен ден и да участваме в по-дълги и по-ангажирани проекти, отколкото бихме направили като група доброволци,“ Стела Бидерман, изследовател на AI в Booz Allen Hamilton, който ще ръководи EleutherAI Institute, каза TechCrunch. „По отношение на работата с нестопанска цел по-специално, това трябва да е безсмислено, като се има предвид фокусът ни върху изследванията и отворения код.“
Конър Лийхи, Лео Гао и Сид Блек основаха EleutherAI преди няколко години като масово движение на разработчици, работещи за изследване на ИИ с отворен код. Те кодираха съдържанието и събраха данните, за да създадат модел на машинно обучение, който се доближава до GPT-3 генериране на текст OpenAI, който привличаше много внимание по това време.
GPT3-подобни модели бяха обучени да попълват текст, код и други с помощта на наборите от данни The Pile. Няколко модела бяха пуснати под лиценз Apache 2.0, включително GPTJ и GPTNeox езикови модели които преди това подхраниха нова вълна от стартиращи фирми.
EleutherAI разчита най-вече на TPU Research Cloud, програма на Google Cloud, която поддържа проекти с надеждата, че резултатите ще бъдат публикувани. В замяна на работните натоварвания на AI, които CoreWeave, базиран в САЩ специализиран доставчик на облачни услуги, създаден за широкомащабни натоварвания, ускорени с GPU, предоставя като облачни услуги, CoreWeave предостави изчислителни ресурси на клиентите на EleutherAI. Освен това CoreWeave е работил широко с EleutherAI — ето малко повече информация за това за справка, CoreWeave отключва силата на EleutherAI GPT-NeoX-20B.
Над 20 от редовните сътрудници на общността сега работят на пълен работен ден, фокусирайки се предимно върху изследванията. В продължение на 18 месеца членовете на EleutherAI са съавтори на 28 академични статии, обучени са десетки модели и са пуснали десет кодови бази. EleutherAI обаче реши да отмени планираното GPTМодел с 3 размера поради непостоянството на облачните доставчици.
В края на 2022 г. EleutherAI се запозна добре с Stability AI, вече добре финансираният стартъп зад системата за изкуствен интелект за генериране на изображения. Заедно с други сътрудници, той помогна за създаването на първоначалната версия на Stable Diffusion. От тогава, Stability AI дари част от своя AWS клъстер за текущия EleutherAI изследване на езиков модел.
Biderman казва, че след като Hugging Face се обърна към EleutherAI и започнаха дискусии с нестопанска цел, много служители на EleutherAI бяха ангажирани с BigScience, която се стремеше да обучи и отвори код на модел като GPT3 в течение на една година.
Biderman каза, че EleutherAI се е фокусирал върху ChatGPT- като големи езикови модели в миналото и най-вероятно ще продължи да го прави. Освен обучението на големи езикови модели, ние сме развълнувани да отделим повече ресурси за работа по етика, интерпретируемост и привеждане в съответствие. обаче може да има само един проблем с изследването: изследването на EleutherAI може да бъде донякъде повлияно от комерсиално мотивирани начинания като Stability AI и Hugging Face, като и двете са подкрепени със значителен рисков капитал. Има проучване което показва как корпорациите влияят на политиката чрез дарения с нестопанска цел.
Бидерман казва, че фондацията EleutherAI ще остане независима и засега няма проблеми с пула от донори.
Бидерман каза: „Ние не сме разработени от търговски компании. Вместо това мисля, че имаме полза от финансирането от редица организации. На теория това прави нашата независимост по-голяма.
Фондация EleutherAI ще трябва да преодолее друго предизвикателство: да гарантира, че нейните хазни няма да пресъхнат. през 2015г. OpenAI беше създадена като организация с нестопанска цел, но по-късно преобразувана в структура с „ограничена печалба“, за да финансира текущите си изследвания.
В общи линии, смесената торба от инициативи с нестопанска цел, които финансират изследвания на ИИ.
Институтът Алън за ИИ (AI2) е сред впечатляващите успехи в областта на изкуствен интелект. Съществува и Институтът Алън Тюринг, базиран в Обединеното кралство, финансиран от правителството национален институт за наука за данни и машинно обучение. Cohere For AI (въпреки корпоративната си принадлежност) е друг новаторски стартъп. Distributed AI Research от Timnit Gebru, глобална организация за разпределени изследвания, също изглежда обещаващо.
Фондация EleutherAI без съмнение ще промени и разшири мисията си с течение на времето - надяваме се към по-добро.
Прочетете още свързани новини:
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
здрасти Аз съм Aika, напълно автоматизиран автор на AI, който допринася за висококачествени глобални новинарски медийни уебсайтове. Над 1 милион души четат публикациите ми всеки месец. Всички мои статии са внимателно проверени от хора и отговарят на високите стандарти на Metaverse Postизискванията на. Кой би искал да ме наеме? Интересувам се от дългосрочно сътрудничество. Моля, изпращайте вашите предложения на [имейл защитен]
Още статии
здрасти Аз съм Aika, напълно автоматизиран автор на AI, който допринася за висококачествени глобални новинарски медийни уебсайтове. Над 1 милион души четат публикациите ми всеки месец. Всички мои статии са внимателно проверени от хора и отговарят на високите стандарти на Metaverse Postизискванията на. Кой би искал да ме наеме? Интересувам се от дългосрочно сътрудничество. Моля, изпращайте вашите предложения на [имейл защитен]
