Технические эксперты подписали открытое письмо с призывом к временной паузе в обучении систем искусственного интеллекта, более продвинутых, чем GPT-4
Коротко
Открытое письмо с призывом приостановить гигантские эксперименты с ИИ подписали более 1100 человек.
Среди подписантов — Илон Маск, Стив Возняк, Эмад Мостак и другие.
Открытое письмо выразило обеспокоенность по поводу предвзятости информации со стороны ИИ. автоматизация работы и риск ИИ для человеческой цивилизации.
Более 1,100 подписантов, включая ведущих технических экспертов, подписали Открой письмо призыв к шестимесячной паузе в обучении систем искусственного интеллекта, более совершенных, чем GPT-4.
Письмо было написано Институтом будущего жизни, некоммерческой организацией, которая работает над снижением глобальных катастрофических и экзистенциальных рисков, с которыми сталкивается человечество, особенно экзистенциального риска, связанного с передовым искусственным интеллектом.
Цитируя широко одобренные Принципы ИИ Asilomar, в которых говорится, что «Усовершенствованный ИИ может представлять собой глубокое изменение в истории жизни на Земле, и его следует планировать и управлять им с соразмерной тщательностью и ресурсами», в письме говорится, что уровень планирования и управления не происходит.
Далее в письме говорится, что лаборатории искусственного интеллекта находятся в «вышедшей из-под контроля» гонке за разработку все более мощного искусственного интеллекта, который никто не может понять, предсказать или надежно контролировать. Поскольку современные системы искусственного интеллекта, такие как GPT-4 может конкурировать с людьми Что касается общих задач, в письме высказываются опасения по поводу предвзятости информации со стороны ИИ, автоматизации работы и риска потери контроля над человеческой цивилизацией.
«Мы призываем все лаборатории искусственного интеллекта немедленно приостановить как минимум на 6 месяцев обучение систем искусственного интеллекта, более мощных, чем GPT-4. Эта пауза должна быть публичной и поддающейся проверке и включать всех ключевых участников. Если такая пауза не может быть введена быстро, правительства должны вмешаться и ввести мораторий»,
В письме говорится.
В письме содержится призыв к лабораториям ИИ и техническим экспертам использовать период паузы для разработки и внедрения протоколов безопасности для усовершенствованного проектирования и разработки ИИ, которые тщательно проверяются и контролируются независимыми внешними экспертами.
Однако американский журналист Джефф Джарвис раскритиковал письмо. поговорка что это «яркий образец моральной паники».
Некоторые из ведущих умов в области технологий и машинного обучения, которые подписали письмо вместе с учеными-исследователями DeepMind и несколькими профессорами университетов со всего мира, включают:
- Йошуа Бенжио, Монреальский университет, лауреат премии Тьюринга за развитие глубокого обучения, глава Монреальского института алгоритмов обучения
- Стюарт Рассел, Беркли, профессор компьютерных наук, директор Центра интеллектуальных систем и соавтор стандартного учебника «Искусственный интеллект: современный подход»
- Илон Маск, генеральный директор SpaceX, Tesla и Twitter
- Эмад Мостак, генеральный директор, Stability AI
- Яан Таллинн, соучредитель Skype, Центр изучения экзистенциального риска, Институт будущего жизни
- Гэри Маркус, Нью-Йоркский университет, исследователь искусственного интеллекта, заслуженный профессор
- Марк Ротенберг, Центр искусственного интеллекта и цифровой политики (CAIDP), президент
В последнее письмоРотенберг написал, что CAIDP подаст жалобу в Федеральную торговую комиссию, призывая к расследованию деятельности Open AI и ChatGPT, а также запрет на дальнейшие коммерческие выпуски продукта до тех пор, пока не будут установлены меры безопасности.
OpenAI Генеральный директор Сэм Альтман признал что «нам также нужно достаточно времени, чтобы наши институты поняли, что делать» и что общество недалеко от «потенциально пугающих» генеративных инструментов ИИ.
«Мы просим FTC «нажать кнопку паузы», чтобы у наших институтов, наших законов и нашего общества была возможность наверстать упущенное. Нам нужно заявить о своих правах на технологии, которые мы создаем, прежде чем мы потеряем контроль», — говорится в письме CAIDP.
В другом месте, Законодатели ЕС намерены подписать соглашение со странами ЕС к концу года о внедрении правил ИИ, хотя это может стать узким местом, поскольку дебаты о том, как следует управлять ИИ, усиливаются.
Прочитайте больше:
Отказ от ответственности
В соответствии с Руководство трастового проектаОбратите внимание, что информация, представленная на этой странице, не предназначена и не должна интерпретироваться как юридическая, налоговая, инвестиционная, финансовая или любая другая форма консультации. Важно инвестировать только то, что вы можете позволить себе потерять, и обращаться за независимой финансовой консультацией, если у вас есть какие-либо сомнения. Для получения дополнительной информации мы предлагаем обратиться к положениям и условиям, а также к страницам справки и поддержки, предоставленным эмитентом или рекламодателем. MetaversePost стремится предоставлять точную и объективную отчетность, однако рыночные условия могут быть изменены без предварительного уведомления.
Об авторе
Синди работает журналистом в Metaverse Post, охватывающие темы, связанные с web3, NFT, метавселенная и ИИ, с акцентом на интервью с Web3 игроки отрасли. Она поговорила с более чем 30 руководителями высшего звена, и их число продолжает расти, поделившись с читателями их ценной информацией. Синди родом из Сингапура, сейчас живет в Тбилиси, Грузия. Она имеет степень бакалавра в области коммуникаций и медиа-исследований Университета Южной Австралии и десятилетний опыт журналистики и писательской деятельности. Свяжитесь с ней через [электронная почта защищена] с презентациями для прессы, объявлениями и возможностями для интервью.
Другие статьи
Синди работает журналистом в Metaverse Post, охватывающие темы, связанные с web3, NFT, метавселенная и ИИ, с акцентом на интервью с Web3 игроки отрасли. Она поговорила с более чем 30 руководителями высшего звена, и их число продолжает расти, поделившись с читателями их ценной информацией. Синди родом из Сингапура, сейчас живет в Тбилиси, Грузия. Она имеет степень бакалавра в области коммуникаций и медиа-исследований Университета Южной Австралии и десятилетний опыт журналистики и писательской деятельности. Свяжитесь с ней через [электронная почта защищена] с презентациями для прессы, объявлениями и возможностями для интервью.
