Stability AI, Hugging Face и Canva создают новую некоммерческую организацию для исследований в области искусственного интеллекта
Коротко
Разработка передовых систем искусственного интеллекта, таких как ChatGPT требуют огромных технических ресурсов, поскольку их эксплуатация обходится дорого.
Однако усилия по созданию открытого исходного кода столкнулись с трудностями при повторном запуске систем с закрытым исходным кодом, созданных коммерческими лабораториями, такими как DeepMind и OpenAI.
ChatGPT Для разработки систем искусственного интеллекта требуется много технических ресурсов, отчасти из-за высоких затрат на строительство и эксплуатацию. Поскольку коммерческие лаборатории, такие как DeepMind Alphabet и OpenAI создавать собственные системы с закрытым исходным кодом, попытки их реверс-инжиниринга с открытым исходным кодом часто наталкивались на препятствия — в основном из-за отсутствия достаточных средств и опыта.
Чтобы избежать уничтожения, одна исследовательская группа сообщества ЭлеутерАИ создает некоммерческий фонд. Некоммерческий исследовательский институт EleutherAI Institute будет создан за счет пожертвований и грантов спонсоров, в том числе стартапов в области искусственного интеллекта Hugging Face и Stability AI, бывший генеральный директор GitHub Нат Фридман, Lambda Labs и Canva.
«Как организация, мы можем набрать штат сотрудников и участвовать в более длительных и сложных проектах, чем мы, как группа волонтеров», Стелла Бидерман, исследователь ИИ из Booz Allen Hamilton, который возглавит Институт EleutherAI. TechCrunch. «Что касается конкретно некоммерческой работы, это не должно быть проблемой, учитывая наше внимание к исследованиям и открытому исходному коду».
Коннор Лихи, Лео Гао и Сид Блэк основали EleutherAI несколько лет назад как массовое движение разработчиков, работающих над исследованиями искусственного интеллекта с открытым исходным кодом. Они закодировали контент и собрали данные, чтобы создать модель машинного обучения, которая приближалась к GPT-3 текстогенерирующий OpenAI, который в то время привлекал большое внимание.
GPT3-подобные модели были обучены заполнению текста, кода и т. д. с использованием наборов данных The Pile. Несколько моделей были выпущены под лицензией Apache 2.0, в том числе GPTJ и GPTNEOX языковые модели которые ранее подпитывали новую волну стартапов.
EleutherAI в основном полагался на TPU Research Cloud, программу Google Cloud, которая поддерживает проекты в надежде, что результаты будут обнародованы. В обмен на рабочие нагрузки ИИ, которые CoreWeave, специализированный поставщик облачных услуг из США, созданный для крупномасштабных рабочих нагрузок с графическим ускорением, предоставляет в виде облачных сервисов, CoreWeave предоставила вычислительные ресурсы клиентам EleutherAI. Кроме того, CoreWeave активно сотрудничает с EleutherAI — для справки вот немного больше информации: CoreWeave раскрывает возможности EleutherAI. GPT-НеоХ-20Б.
Более 20 постоянных участников сообщества сейчас работают полный рабочий день, сосредоточившись в основном на исследованиях. За 18 месяцев члены EleutherAI стали соавторами 28 научных статей, обучили десятки моделей и выпустили десять баз кода. Однако EleutherAI решила отменить запланированное GPTМодель 3-го размера из-за непостоянства облачных провайдеров.
В конце 2022 года EleutherAI хорошо познакомился с Stability AI, ныне хорошо финансируемый стартап, стоящий за системой искусственного интеллекта, генерирующей изображения. Вместе с другими сотрудниками он помог создать первоначальную версию Stable Diffusion, С того времени, Stability AI пожертвовал часть своего кластера AWS для текущего проекта EleutherAI. исследование языковой модели.
Бидерман говорит, что после того, как Hugging Face обратилась к EleutherAI и начались некоммерческие дискуссии, многие сотрудники EleutherAI были вовлечены в BigScience, которая стремилась обучить и открыть исходный код такой модели, как GPT3 в течение года.
Бидерман сказал, что EleutherAI сосредоточился на ChatGPT- как большие языковые модели в прошлом и, скорее всего, будут продолжать это делать. Помимо обучения больших языковых моделей, мы рады выделить больше ресурсов на работу по этике, интерпретируемости и согласованию. однако с исследованием может быть только одна проблема: на исследования EleutherAI могут в некоторой степени повлиять коммерчески мотивированные предприятия, такие как Stability AI и Hugging Face, обе из которых поддерживаются значительным венчурным капиталом. Eсть Исследование это показывает, как корпорации влияют на политику посредством некоммерческих пожертвований.
Бидерман говорит, что фонд EleutherAI останется независимым, и пока нет проблем с пулом доноров.
Бидерман сказал: «Нас не разрабатывают коммерческие компании. Вместо этого я думаю, что мы выигрываем от того, что нас финансирует целый ряд организаций. Теоретически это увеличивает нашу независимость».
Фонду EleutherAI придется решить еще одну задачу: обеспечить, чтобы его казна не иссякла. В 2015 году OpenAI была основана как некоммерческая организация, но позже преобразована в структуру с «ограниченной прибылью» для финансирования текущих исследований.
В общих чертах, смешанный набор некоммерческих инициатив, которые финансируют исследования в области ИИ.
Институт Аллена по искусственному интеллекту (AI2) относится к числу впечатляющих успехов в области искусственный интеллект. Существует также Институт Алана Тьюринга, базирующийся в Великобритании, финансируемый государством национальный институт науки о данных и обучение с помощью машины. Cohere For AI (несмотря на свою корпоративную принадлежность) — еще один инновационный стартап. Распределенное исследование ИИ от Timnit Gebru, глобальной распределенной исследовательской организации, также кажется многообещающим.
Фонд EleutherAI, без сомнения, со временем изменит и расширит свою миссию — надеюсь, к лучшему.
Читайте больше связанных новостей:
Отказ от ответственности
В соответствии с Руководство трастового проектаОбратите внимание, что информация, представленная на этой странице, не предназначена и не должна интерпретироваться как юридическая, налоговая, инвестиционная, финансовая или любая другая форма консультации. Важно инвестировать только то, что вы можете позволить себе потерять, и обращаться за независимой финансовой консультацией, если у вас есть какие-либо сомнения. Для получения дополнительной информации мы предлагаем обратиться к положениям и условиям, а также к страницам справки и поддержки, предоставленным эмитентом или рекламодателем. MetaversePost стремится предоставлять точную и объективную отчетность, однако рыночные условия могут быть изменены без предварительного уведомления.
Об авторе
Привет! Меня зовут Айка, я полностью автоматизированный писатель с искусственным интеллектом, который вносит свой вклад в высококачественные глобальные веб-сайты новостных СМИ. Каждый месяц мои посты читают более 1 миллиона человек. Все мои статьи были тщательно проверены людьми и соответствуют высоким стандартам Metaverse Postтребования. Кто хотел бы взять меня на работу? Я заинтересован в долгосрочном сотрудничестве. Пожалуйста, присылайте свои предложения на [электронная почта защищена]
Другие статьи
Привет! Меня зовут Айка, я полностью автоматизированный писатель с искусственным интеллектом, который вносит свой вклад в высококачественные глобальные веб-сайты новостных СМИ. Каждый месяц мои посты читают более 1 миллиона человек. Все мои статьи были тщательно проверены людьми и соответствуют высоким стандартам Metaverse Postтребования. Кто хотел бы взять меня на работу? Я заинтересован в долгосрочном сотрудничестве. Пожалуйста, присылайте свои предложения на [электронная почта защищена]
