Дэн Хендрикс: Выбирая между ИИ и людьми, эволюция не выберет нас
Коротко
Исследование Дэна Хендрикса «Естественный отбор предпочитает искусственный интеллект людям» — пугающий вывод.
Он опытный и известный исследователь, опубликовавший десятки научных работ по оценке безопасности систем ИИ.
Исследование Дэна Хендрикса звучит как смертный приговор Homo Sapiens. Заключение исследования»Естественный отбор предпочитает ИИ людям» действительно страшно. Это было написано не таким популярным провидцем, как Дэн Браун, а Дэном Хендриксом, директором Калифорнийского центра безопасности ИИ (CAIS), некоммерческой организации, специализирующейся на исследованиях и полевых работах в области безопасности ИИ.
Дэн Хендрикс не сумасшедший, паникующий из-за достижений ИИ. Он опытный и уважаемый исследователь, опубликовавший десятки научных работ по оценке безопасности систем ИИ — тестированию того, насколько они хороши в кодировании, рассуждениях, понимании законов и т. д. Среди прочего, он также является соавтором гауссовы линейные единицы ошибки (GELU).
Джек Кларк, соучредитель ChatGPT конкурент Anthropic, сопредседатель Индекса искусственного интеллекта Стэнфордского университета, сопредседатель секции искусственного интеллекта и вычислений ОЭСР и член Национального консультативного комитета по искусственному интеллекту при правительстве США, обсуждает выводы исследования Хендрикса. «Люди рефлекторно хотят отмахнуться от такого заявления, как от какого-то безумца с дикими глазами, живущего в лесной хижине. Я хотел бы заранее это опровергнуть. Когда эксперт, имеющий опыт не только в исследованиях ИИ, но и в оценка безопасности систем ИИ пишет статью, в которой утверждает, что будущие системы ИИ могут действовать эгоистично и не в соответствии с интересами людей, мы должны позаботиться об этом!
Краткое изложение статьи Хендрикса:
- Если агентов ИИ станет больше умнее людей, это может привести к тому, что человечество потеряет контроль над своим будущим.
- Вполне вероятно, что это произойдет не в результате какого-то особого злого умысла людей или машин, а исключительно в результате применимости к ИИ эволюционных принципов развития по дарвиновской логике.
- Чтобы свести к минимуму риск этого, необходимо тщательно продумать внутреннюю мотивацию агентов ИИ, наложить ограничения на их действия и создать институты для поощрения сотрудничества с ИИ.
То есть наиболее важные моменты, которые Хендрикс делает в своей 43-страничной научной статье:
1. Мы боялись прихода Терминатора, но основания этих опасений были ошибочными. Было две ошибки:
а. Антропоморфизация ИИ с приписыванием ему наших мотиваций и т. д. — как ChatGPT показал, что ИИ — это принципиально иной разум, со всеми вытекающими из него последствиями.
б. Идея о том, что ИИ — это некая единая сущность: умная или не очень умная, добрая или не очень добрая, но на самом деле этих самых разных ИИ-сущностей скоро будет в мире как можно больше.
2. В наших представлениях о будущем с ИИ есть еще один принципиальный изъян — мы забыли о важнейшем механизме развития — эволюции, которая движет развитием не только биоагентов, но и идей и смыслов, материальных орудий, нематериальных институтов.
3. На Земле уже начала формироваться среда, в которой будут развиваться и эволюционировать многие ИИ. Эта эволюция будет идти по логике Дарвина, через конкуренцию ИИ между собой, с учетом интересов своих «материнских» институтов: корпораций, военных и т.д.
4. Логика конкурентной эволюции приведет к тому же, что и у человека: все более интеллектуальные агенты ИИ будут становиться все более и более эгоистичными и готовыми добиваться целей обманом и силой, главной целью которых является власть.
5. Естественный отбор агентов ИИ имеет тенденцию отдавать предпочтение более эгоистичным видам, а не более альтруистичным. Агенты ИИ будут вести себя эгоистично и преследовать свои собственные интересы, мало заботясь о людях, что может привести к катастрофическим рискам для человечества.
- Петиция прекратить разработку систем искусственного интеллекта, более совершенных, чем GPT-4 поляризовал общество. Первая группа считает, что прогресс невозможно остановить, в то время как другая считает, что прогресс, а иногда и следует остановить. Третья группа не понимает, как GPT-4 действует в первую очередь. Наиболее важные детали в этом тексте заключаются в том, что у ИИ нет сознания, воли или свободы действий и что он может быть плохим даже без злонамеренных людей.
- Джеффри Хинтона часто называют «крестным отцом искусственного интеллекта» и считают ведущей фигурой в сообществе глубокого обучения. Его 40-минутное интервью ChatGPT уникален тем, что его легко понять и он обладает глубиной понимания, доступной немногим другим. Он подчеркивает важность продолжающейся «интеллектуальной революции» и нечеловеческого интеллекта человечества. ChatGPT, который основан на агенте с искусственным интеллектом и расширенными возможностями цифровой связи.
Читайте больше статей по теме:
Отказ от ответственности
В соответствии с Руководство трастового проектаОбратите внимание, что информация, представленная на этой странице, не предназначена и не должна интерпретироваться как юридическая, налоговая, инвестиционная, финансовая или любая другая форма консультации. Важно инвестировать только то, что вы можете позволить себе потерять, и обращаться за независимой финансовой консультацией, если у вас есть какие-либо сомнения. Для получения дополнительной информации мы предлагаем обратиться к положениям и условиям, а также к страницам справки и поддержки, предоставленным эмитентом или рекламодателем. MetaversePost стремится предоставлять точную и объективную отчетность, однако рыночные условия могут быть изменены без предварительного уведомления.
Об авторе
Дамир — руководитель группы, менеджер по продукту и редактор в Metaverse Post, охватывающие такие темы, как AI/ML, AGI, LLM, Metaverse и Web3-связанные поля. Его статьи ежемесячно привлекают огромную аудиторию, насчитывающую более миллиона пользователей. Похоже, он эксперт с 10-летним опытом работы в области SEO и цифрового маркетинга. Дамир упоминается в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и другие издания. Он путешествует между ОАЭ, Турцией, Россией и СНГ в качестве цифрового кочевника. Дамир получил степень бакалавра в области физики, что, по его мнению, дало ему навыки критического мышления, необходимые для достижения успеха в постоянно меняющемся мире Интернета.
Другие статьи
Дамир — руководитель группы, менеджер по продукту и редактор в Metaverse Post, охватывающие такие темы, как AI/ML, AGI, LLM, Metaverse и Web3-связанные поля. Его статьи ежемесячно привлекают огромную аудиторию, насчитывающую более миллиона пользователей. Похоже, он эксперт с 10-летним опытом работы в области SEO и цифрового маркетинга. Дамир упоминается в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и другие издания. Он путешествует между ОАЭ, Турцией, Россией и СНГ в качестве цифрового кочевника. Дамир получил степень бакалавра в области физики, что, по его мнению, дало ему навыки критического мышления, необходимые для достижения успеха в постоянно меняющемся мире Интернета.
