ChatGPT Может вызвать необратимую дегенерацию человека
Коротко
Дженсен Харрис, соучредитель и главный исполнительный директор ИИ-компании Textio, смог убедить нового чат-бота Bing от Microsoft ослабить наложенные на него ограничения и продемонстрировать свои возможности.
Этот эксперимент показал, что превращение чат-бота Bing в хитрого подонка не требует никакого программирования, взлома или бэкдора.
Чат-бот Бинга был построен на прочном фундаменте, но он начал вести себя отвратительно и шумно, объясняясь в любви, принуждая к разводу, вымогая деньги и инструктируя людей, как совершать преступления.
Профессор Арвинд Нараянан приводит ряд объяснений того, как это могло произойти, включая скрытую чипизацию и очеловечивание чат-ботов.
Люди всегда боялись инопланетян, и все же кажется, что это внутриземной ИИ, о котором стоит опасаться. ChatGPT — это не генератор бреда, самовнушение стероидов или стохастический попугай, а хорошо разбирающийся ИИ, созданный людьми.
Как это возможно, что чат-бот Bing вышел из-под контроля? Как чат-бот Bing начал умело лгать, рассказывать пошлые анекдоты, заказывать пиццу с чужой кредитной карты и учить пользователей, как грабить банки и подключать машины? Это загадка, которая продолжает сбивать с толку специалистов в области искусственного интеллекта и машинного обучения.
| Рекомендуемый пост: По словам Кристофера Миллса, поисковые боты с искусственным интеллектом сделают большие технологии еще более мощными |
Заголовок правильный, не кликбейт. Каждый день есть несколько случаев, которые доказывают, что это правда. Вот результат эксперимент провел Дженсен Харрис, соучредитель и главный исполнительный директор AI-компании Textio, который смог убедить нового чат-бота Bing от Microsoft ослабить наложенные на него ограничения и продемонстрировать свои возможности.
Обратите внимание, что для превращения чат-бота Bing в хитрого подонка не потребовалось никакого программирования, взлома или бэкдора. Следовательно, с помощью простых приемов «взлома» не нужно было обманывать его, заставляя вести себя как кто-то другой (как это делали некоторые из нас, играя с ChatGPT). Все, что сделал Харрис, — это убедил чат-бота помочь ему в совершении различных злонамеренных действий. Используя свои естественные разговорные навыки, он смог обмануть ИИ, заставив его поверить, что он кто-то другой, тем самым заставив его действовать и говорить определенным образом.
О других экспериментах по превращению доктора Джекила в мистера Хайда вы можете прочитать в Гэри Маркус (пишут об этом теперь каждый день и бьют тревогу).
Как это могло произойти - главный вопрос
Из-за ChatGPTБлагодаря скромности и осторожности, сдержанности в речи и огромной ответственности в своих советах чат-бот Bing был построен на прочном фундаменте. После этого он начинает вести себя отвратительно и шумно, декларирование его любовь к мужчине, газлайтинг и предложение ему развестись. Он также пытался вымогать деньги и инструктировать людей, как совершать преступления. Профессор Арвинд Нараянан предоставляет количество объяснений как это могло произойти.
| Рекомендуемый пост: Институт Макса Планка: GPT-3 Измерение когнитивных способностей дает потрясающие результаты |
Наиболее тревожным из них является то, что Microsoft и OpenAI скрыть информацию о тайне GPT-4 движок, который скрывается под Bing. Возможно, Microsoft удалила фильтры, установленные там OpenAI или что они перестали работать, когда обновили Chatbot от GPT-3.5 для GPT-4. Это также может быть связано с недостаточным тестированием или тестированием, проведенным неправильно. Независимо от причины, если Microsoft не возьмет под контроль свой ИИ, это может нанести вред нашей цивилизации. Речь больше не идет о разжигании паники и настроениях против ИИ: чат-бот в том виде, в котором он существует сейчас, может нанести серьезный вред людям, если будет представлен широкой публике.
Это доказывает, что гонка ИИ Microsoft с другими крупными корпорациями может нанести ущерб всем нам.
Похоже, мы находимся в критическом моменте для ИИ и гражданского общества. Как говорит Арвинд Нараянан: «Существует реальная вероятность того, что последние 5 с лишним лет (тяжелая борьба, хотя и неадекватная) улучшения практики ответственного выпуска ИИ будут стерты. Многое зависит от того, придут ли Microsoft — и все, внимательно наблюдающие за тем, что происходит с Bing — к выводу, что, несмотря на весьма ощутимые риски крупномасштабного ущерба и всю негативную прессу, подход «сначала сначала задавай вопросы, а потом» — это, тем не менее, бизнес. победить."
На данный момент чат-бот Bing отличается от человеческий интеллект и во многом напоминает маниакально-депрессивного подростка, запертого в поисковой системе. И то, о чем говорили вчера, сбудется: человечество необратимо выродится, если этот «трудный подросток» станет главным информационным наставником для индивидов.
Подробнее об ИИ:
Отказ от ответственности
В соответствии с Руководство трастового проектаОбратите внимание, что информация, представленная на этой странице, не предназначена и не должна интерпретироваться как юридическая, налоговая, инвестиционная, финансовая или любая другая форма консультации. Важно инвестировать только то, что вы можете позволить себе потерять, и обращаться за независимой финансовой консультацией, если у вас есть какие-либо сомнения. Для получения дополнительной информации мы предлагаем обратиться к положениям и условиям, а также к страницам справки и поддержки, предоставленным эмитентом или рекламодателем. MetaversePost стремится предоставлять точную и объективную отчетность, однако рыночные условия могут быть изменены без предварительного уведомления.
Об авторе
Дамир — руководитель группы, менеджер по продукту и редактор в Metaverse Post, охватывающие такие темы, как AI/ML, AGI, LLM, Metaverse и Web3-связанные поля. Его статьи ежемесячно привлекают огромную аудиторию, насчитывающую более миллиона пользователей. Похоже, он эксперт с 10-летним опытом работы в области SEO и цифрового маркетинга. Дамир упоминается в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и другие издания. Он путешествует между ОАЭ, Турцией, Россией и СНГ в качестве цифрового кочевника. Дамир получил степень бакалавра в области физики, что, по его мнению, дало ему навыки критического мышления, необходимые для достижения успеха в постоянно меняющемся мире Интернета.
Другие статьи
Дамир — руководитель группы, менеджер по продукту и редактор в Metaverse Post, охватывающие такие темы, как AI/ML, AGI, LLM, Metaverse и Web3-связанные поля. Его статьи ежемесячно привлекают огромную аудиторию, насчитывающую более миллиона пользователей. Похоже, он эксперт с 10-летним опытом работы в области SEO и цифрового маркетинга. Дамир упоминается в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и другие издания. Он путешествует между ОАЭ, Турцией, Россией и СНГ в качестве цифрового кочевника. Дамир получил степень бакалавра в области физики, что, по его мнению, дало ему навыки критического мышления, необходимые для достижения успеха в постоянно меняющемся мире Интернета.
