Шестимесячная пауза в обучении ИИ — хорошая идея, но этого может быть недостаточно
Коротко
История с петицией и выходом статьи Юдковского поляризовали общество.
Дилемма заключенного и теория игр предполагают, что для решения таких проблем необходима критическая масса здравомыслящих людей в разных местах.
Однако у этой идеи есть несколько «но», таких как отсутствие сознания, воли и свободы действий в цифровой эволюции.
История о петиция о прекращении разработки систем искусственного интеллекта, более совершенных, чем GPT-4 заметно поляризовал общество. Освобождение Юдковского гайд с просьбой прекратить дальнейшую разработку GPT модели подлили масла в огонь, особенно его пассажи о бомбардировках дата-центров.
Судя по тому, что можно наблюдать в сети, сторонников петиции гораздо меньше, чем противников, у которых есть три основных аргумента:
| 1 | – Прогресс нельзя остановить. – Петицию придумал OpenAI конкуренты. – Китай не будет ждать. |
| 2 | – Бояться надо не ИИ, а людей. – GPT не имеет сознания, воли, стремлений или свободы действий, поэтому бояться нечего. – GPT-4 безумно далек от порабощения мира, потому что ничего не понимает, делает глупые ошибки и вообще довольно глуп. – GPT-4 не сможет управлять миром, потому что у него нет рук и ног. |
| 3 | – Третья группа не понимает, как GPT-4 действует в первую очередь. |
Мы не будем концентрироваться на третьей группе, потому что их позиция исходит из невежества. Это не значит, что все противники ИИ знают об ИИ все; можно найти множество противников ИИ, которым не хватает понимания технологии и того, что она влечет за собой, хотя сам Юдковский очень глубоко разбирается в теме ИИ, так что его нельзя обвинить в невежестве.
Давайте посмотрим на первую группу людей – тех, кто считает, что прогресс нельзя остановить. Они приводят разные, но похожие аргументы, и в целом эти люди не отрицают возможности ИИ и перспективы, которые открывает его внедрение, и верят, что развитие ИИ будет продолжаться, несмотря ни на что.
Первый тезис о неудержимом прогрессе — это лозунг, который не обязательно должен быть правдой. Кажется, люди остановили некоторые научные эксперименты, и многие когда-то принятые исследовательские проекты больше не считаются этичными, а подобные никогда не будут разрешены сегодня. Однако насколько еще прогресс в прошлом был остановлен инквизицией и другими религиозными преследованиями, запретами книг и убийствами ученых в Китае (и других странах)? Это то, что мы никогда не сможем полностью понять из-за предвзятости выживания.
Другие тезисы связаны с подходом, который можно резюмировать как «если не мы, то они». Хотя этот ход мыслей может быть более понятным, он также не кажется правильным решением. Это очень похоже на дилемму заключенного в теории игр.
Вторая группа аргументов наиболее интересна. Хотя я лично согласен с этим в некоторой степени, есть несколько но, которые необходимо решить. Да, у ИИ нет сознания, воли, свободы действий и т. д. Как и у COVID-19, и тем не менее он сеет хаос во всем мире. Нечто не обязательно должно иметь чувство свободы воли и сознание, чтобы стать опасным; сценарий уничтожения жизни на Земле из-за вируса не является чем-то невообразимым. Выполнив свою работу, он может поставить стулья на столы, выключить свет и уйти навсегда.
Продолжая биологическую аналогию, есть замечательная статья «Удивительное творчество цифровой эволюции: сборник анекдотов от сообществ исследователей эволюционных вычислений и искусственной жизни», в которой приводится множество примеров того, как процессы идут в неожиданном направлении. Даже без эволюционного процесса все может привести к неправильному обобщению «Неправильное обобщение цели: почему правильных спецификаций недостаточно для правильных целей». Предоставление полной свободы процессу оптимизации может пойти не так, как описано в разделе «Риски, связанные с оптимизацией обучения в передовых системах машинного обучения".
При этом мы, как правило, не учитываем риски злонамеренное использование ИИ и любой злоупотреблять, что только подпитывает аргумент о том, что нам нужно бояться людей, а не самого ИИ. Однако правда в том, что ИИ может быть плохим даже без злонамеренных людей.
Я также согласен с тем, что модель допускает глупые ошибки, как и люди, и все же мы знаем, что они могут причинить вред. Хотя модели допускают много ошибок, они также могут решать множество потрясающих, крутых и сложных задач, которые не под силу решить обычному человеку. Из нашумевшей работы «Искры общего искусственного интеллекта: ранние эксперименты с GPT-4Меня поразило то, что ИИ способен решать, пусть и не всегда правильно, задачи Ферми, довольно сложные математические задачи. Его теория разума и «что-то вроде способности понимать» действия других также очень впечатляют. Все это указывает на интеллект ИИ; существует, но не совсем похож на наш.
Устранение хотя бы некоторых ошибок моделей ИИ, как правило, выполнимо, поэтому их интеллект может только расти. Все, что вам нужно сделать, это добавить модуль для точных расчетов, базу фактов и проверку с другой моделью.
Самое главное во всей этой истории — скорость развития ИИ. GPT Модели росли чрезвычайно головокружительными темпами. Теперь есть ChatGPT плагины доступны, вы можете использовать GPT модели для написания кода, API доступны широкой публике, и вы можете использовать внешние инструменты без предварительного обучения.
GPT-4Мир, конечно, не покорит, но экономику пошатнуть может сильно. GPT-5, и будущая итерация модели, возможно, не за горами и, вероятно, будет иметь гораздо более сильные возможности. И давайте смотреть правде в глаза, мы не можем надеяться понять еще не существующие модели; мы даже близко не подошли к пониманию уже существующих моделей. В этом смысле шестимесячный перерыв может быть хорошей идеей, но его может быть недостаточно.
А учитывая, что Гонка ИИ началось, нет времени учиться.
В общем, ввиду всего этого я тоже подписал петицию. Хотя я не верю, что это как-то поможет.
Читайте другие связанные темы:
Отказ от ответственности
В соответствии с Руководство трастового проектаОбратите внимание, что информация, представленная на этой странице, не предназначена и не должна интерпретироваться как юридическая, налоговая, инвестиционная, финансовая или любая другая форма консультации. Важно инвестировать только то, что вы можете позволить себе потерять, и обращаться за независимой финансовой консультацией, если у вас есть какие-либо сомнения. Для получения дополнительной информации мы предлагаем обратиться к положениям и условиям, а также к страницам справки и поддержки, предоставленным эмитентом или рекламодателем. MetaversePost стремится предоставлять точную и объективную отчетность, однако рыночные условия могут быть изменены без предварительного уведомления.
Об авторе
Дамир — руководитель группы, менеджер по продукту и редактор в Metaverse Post, охватывающие такие темы, как AI/ML, AGI, LLM, Metaverse и Web3-связанные поля. Его статьи ежемесячно привлекают огромную аудиторию, насчитывающую более миллиона пользователей. Похоже, он эксперт с 10-летним опытом работы в области SEO и цифрового маркетинга. Дамир упоминается в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и другие издания. Он путешествует между ОАЭ, Турцией, Россией и СНГ в качестве цифрового кочевника. Дамир получил степень бакалавра в области физики, что, по его мнению, дало ему навыки критического мышления, необходимые для достижения успеха в постоянно меняющемся мире Интернета.
Другие статьи
Дамир — руководитель группы, менеджер по продукту и редактор в Metaverse Post, охватывающие такие темы, как AI/ML, AGI, LLM, Metaverse и Web3-связанные поля. Его статьи ежемесячно привлекают огромную аудиторию, насчитывающую более миллиона пользователей. Похоже, он эксперт с 10-летним опытом работы в области SEO и цифрового маркетинга. Дамир упоминается в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и другие издания. Он путешествует между ОАЭ, Турцией, Россией и СНГ в качестве цифрового кочевника. Дамир получил степень бакалавра в области физики, что, по его мнению, дало ему навыки критического мышления, необходимые для достижения успеха в постоянно меняющемся мире Интернета.
