Корнельский университет: ИИ — это абсолютное оружие обмана, против которого мы бессильны
Коротко
Стэнфордский эксперимент выявил непреодолимую уязвимость языковой интуиции людей, обнаружив низкую вероятность выявления авторства ИИ.
Это связано со способностью ИИ, как ChatGPT производить подделки настолько искусно, что люди не могут отличить их от правды.
Новый «Стэнфордский эксперимент» выявил непреодолимая уязвимость языковой интуиции людей. Из-за этого вероятность того, что мы идентифицируем авторство ИИ, сильно снижается.
Сегодня в мире существует множество опасений в связи с ChatGPT революция. Наиболее очевидным является то, что ИИ нравится ChatGPT умеет изготавливать подделки настолько искусно, что люди не в состоянии отличить их от правды. Результаты проведенных испытаний продемонстрировали огромные возможности ChatGPT супер способность обманывать. Однако было неясно, как работает эта сверхспособность — чем обладает ИИ, что может заставить очень умных и образованных людей поверить в то, что он делает?
| Прочитайте больше: 20+ лучших чат-ботов Telegram AI 2023 года |
Чтобы ответить на этот вопрос, Стэнфордская лаборатория социальных сетей в сотрудничестве с Исследовательским центром Корнелльского университета провела новый «Стэнфордский эксперимент».
Результат серии из шести экспериментов с участием 4,600 человек является сенсационным и удручающим.
Людям было поручено определить, были ли самопрезентации написаны человеком или искусственным интеллектом. По мнению исследователей, самопрезентация является одним из наиболее личных и последовательных элементов языковой коммуникации, поскольку наше отношение к любому высказыванию во многом зависит от того, кто (как мы полагаем) является его автором.
В основе языкового восприятия людей лежат эвристики. Термин «эвристика» относится к умственным упрощениям, которые люди используют для принятия решений, решения проблем и вынесения суждений. Это помогает людям облегчить умственную нагрузку и избежать когнитивной перегрузки.
«Вычислительный анализ особенностей языка показывает, что человеческим суждениям о языке, созданном ИИ, препятствуют интуитивные, но ошибочные эвристики, такие как связывание местоимений от первого лица, использование сокращений или семейных тем с письменным языком человека», — говорится в исследовании. Эксперименты показали, что при восприятии текста, написанного ИИ, люди автоматически используют те же эвристики, что и при общении с другими людьми. И это принципиальная ошибка. Дело в том, что для нас это интуитивно понятные эвристики, а ИИ легко их считывает и оперирует ими, как таблицей умножения.
В результате ИИ может использовать эвристику для создания текста, который люди воспринимают как «более человеческий, чем человеческий». Это значительно увеличивает обманчивый потенциал текстов и речи ИИ, побуждая нас доверять этому «самому человечному человеку» больше, чем утверждениям реальных людей.
Вероятность того, что люди идентифицируют самопрезентацию, написанную ИИ, составляет 50/50. Еще хуже обстоят дела в романтических отношениях людей. Почти 70% взрослых не могу отличить любовное письмо, написанное ChatGPT и письмо, написанное человеком.
Узнайте больше о ChatGPT:
Отказ от ответственности
В соответствии с Руководство трастового проектаОбратите внимание, что информация, представленная на этой странице, не предназначена и не должна интерпретироваться как юридическая, налоговая, инвестиционная, финансовая или любая другая форма консультации. Важно инвестировать только то, что вы можете позволить себе потерять, и обращаться за независимой финансовой консультацией, если у вас есть какие-либо сомнения. Для получения дополнительной информации мы предлагаем обратиться к положениям и условиям, а также к страницам справки и поддержки, предоставленным эмитентом или рекламодателем. MetaversePost стремится предоставлять точную и объективную отчетность, однако рыночные условия могут быть изменены без предварительного уведомления.
Об авторе
Дамир — руководитель группы, менеджер по продукту и редактор в Metaverse Post, охватывающие такие темы, как AI/ML, AGI, LLM, Metaverse и Web3-связанные поля. Его статьи ежемесячно привлекают огромную аудиторию, насчитывающую более миллиона пользователей. Похоже, он эксперт с 10-летним опытом работы в области SEO и цифрового маркетинга. Дамир упоминается в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и другие издания. Он путешествует между ОАЭ, Турцией, Россией и СНГ в качестве цифрового кочевника. Дамир получил степень бакалавра в области физики, что, по его мнению, дало ему навыки критического мышления, необходимые для достижения успеха в постоянно меняющемся мире Интернета.
Другие статьи
Дамир — руководитель группы, менеджер по продукту и редактор в Metaverse Post, охватывающие такие темы, как AI/ML, AGI, LLM, Metaverse и Web3-связанные поля. Его статьи ежемесячно привлекают огромную аудиторию, насчитывающую более миллиона пользователей. Похоже, он эксперт с 10-летним опытом работы в области SEO и цифрового маркетинга. Дамир упоминается в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и другие издания. Он путешествует между ОАЭ, Турцией, Россией и СНГ в качестве цифрового кочевника. Дамир получил степень бакалавра в области физики, что, по его мнению, дало ему навыки критического мышления, необходимые для достижения успеха в постоянно меняющемся мире Интернета.
