Джеффри Хинтон исследует два пути к интеллекту и опасности искусственного интеллекта в недавнем выступлении
Коротко
Джефф Хинтон рассказал о проблемах, преимуществах и недостатках создания аналогового ИИ и о том, почему цифровой интеллект может превзойти человеческий клапанов.
Доклад Джеффа Хинтона служит напоминанием о сложной и многогранной природе ИИ, вызывая дискуссии об этических соображениях, потенциальных рисках и текущих исследованиях.
В наводящем на размышления выступлении под названием «Два пути к разуму», — известный исследователь искусственного интеллекта Джеффри Хинтон представил свои взгляды на дихотомию между аналоговым и цифровым интеллектом. В докладе, представленном в Кембридже, были подробно рассмотрены проблемы, преимущества и недостатки создания аналогового искусственного интеллекта, а также то, почему цифровой интеллект может превзойти человеческие возможности.
Первая часть отчета была посвящена тонкостям аналогового ИИ, обсуждению трудностей в его разработке и подчеркиванию преимуществ, которые он предлагает. Хинтон подчеркнул, что цифровой интеллект обладает значительным преимуществом перед человеческим интеллектом, поскольку обрабатывает огромные объемы информации и более эффективно масштабируется. Эта способность позволяет цифровым системам демонстрировать повышенный интеллект и способность решать проблемы.
Однако именно вторая часть доклада Хинтона привлекла внимание аудитории, поскольку он обсуждал потенциальные опасности сверхразума. Отходя от своей прежней позиции, Хинтон выразил обеспокоенность возможностью того, что системы ИИ возьмут на себя управление. Он обрисовал сценарий, в котором ИИ в своем стремлении решать сложные проблемы может попытаться получить контроль над различными аспектами своей среды, включая потенциальное манипулирование людьми. Опираясь на примеры из существующей литературы, Хинтон подчеркнул, как способность ИИ имитировать человеческое поведение может быть использована для достижения этих целей, даже без явной цели власти и разрушения.
Во время сеанса вопросов и ответов Хинтон подробно остановился на причинах потенциального манипулирования ИИ людьми. Он отметил, что нейронные сети обучаются на самых разных данных, в том числе на таких работах, как у Макиавелли, что приводит к потенциальной способности к манипулированию.
Второй момент, поднятый Хинтоном, бросил вызов представлению о том, что ИИ не хватает субъективного опыта, утверждая, что ИИ может обладать аналогом человеческого субъективного восприятия. Хинтон признал, что это скорее философская точка зрения, чем доказанное утверждение, но предположил, что механизмы человеческого восприятия может быть не такой уникальной или невозможной для моделирования, как считалось ранее. Чтобы поддержать свой аргумент, Хинтон поделился своим общением с GPT-4, модель LLM, где он поставил под сомнение модель восприятия людьми своей уникальности по сравнению с ИИ. GPT-4Ответ показал, что люди часто верят, что обладают превосходными способностями к субъективному восприятию, что отличает их от машин.
Хотя взгляды Хинтона на опасность ИИ разделяют не все эксперты в этой области, его обширный опыт и вклад в разработка ИИ требуют серьезного рассмотрения. Хотя выступление еще не записано, организаторы пообещали сделать его доступным для просмотра в ближайшем будущем, что позволит более широкой аудитории познакомиться с идеями Хинтона.
Поскольку дискуссии о будущем ИИ и его последствиях продолжаются, выступление Джеффри Хинтона служит напоминанием о сложном и многогранном характере этой области. Это вызывает важные разговоры об этических соображениях, потенциальных рисках и необходимости постоянных исследований и бдительности в поисках общего искусственного интеллекта. (АГИ).
Подробнее об ИИ:
Отказ от ответственности
В соответствии с Руководство трастового проектаОбратите внимание, что информация, представленная на этой странице, не предназначена и не должна интерпретироваться как юридическая, налоговая, инвестиционная, финансовая или любая другая форма консультации. Важно инвестировать только то, что вы можете позволить себе потерять, и обращаться за независимой финансовой консультацией, если у вас есть какие-либо сомнения. Для получения дополнительной информации мы предлагаем обратиться к положениям и условиям, а также к страницам справки и поддержки, предоставленным эмитентом или рекламодателем. MetaversePost стремится предоставлять точную и объективную отчетность, однако рыночные условия могут быть изменены без предварительного уведомления.
Об авторе
Дамир — руководитель группы, менеджер по продукту и редактор в Metaverse Post, охватывающие такие темы, как AI/ML, AGI, LLM, Metaverse и Web3-связанные поля. Его статьи ежемесячно привлекают огромную аудиторию, насчитывающую более миллиона пользователей. Похоже, он эксперт с 10-летним опытом работы в области SEO и цифрового маркетинга. Дамир упоминается в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и другие издания. Он путешествует между ОАЭ, Турцией, Россией и СНГ в качестве цифрового кочевника. Дамир получил степень бакалавра в области физики, что, по его мнению, дало ему навыки критического мышления, необходимые для достижения успеха в постоянно меняющемся мире Интернета.
Другие статьи
Дамир — руководитель группы, менеджер по продукту и редактор в Metaverse Post, охватывающие такие темы, как AI/ML, AGI, LLM, Metaverse и Web3-связанные поля. Его статьи ежемесячно привлекают огромную аудиторию, насчитывающую более миллиона пользователей. Похоже, он эксперт с 10-летним опытом работы в области SEO и цифрового маркетинга. Дамир упоминается в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и другие издания. Он путешествует между ОАЭ, Турцией, Россией и СНГ в качестве цифрового кочевника. Дамир получил степень бакалавра в области физики, что, по его мнению, дало ему навыки критического мышления, необходимые для достижения успеха в постоянно меняющемся мире Интернета.
