4,000 человек прошли психотерапию с помощью роботов с искусственным интеллектом, даже не подозревая об этом
Коротко
Koko, некоммерческая платформа по охране психического здоровья, связывает людей, нуждающихся в помощи, с волонтерами.
Пользователи общаются с ботом Koko, отправляя вопросы с несколькими вариантами ответов.
4,000 человек получили необъявленную психологическую поддержку от OpenAI GPT-3.
Бот был так же эффективен в обеспечении терапевтических ответов, как и человек.
Через чат-сервисы, такие как Telegram и Discord, некоммерческую платформу психического здоровья. Коко связывает подростков и взрослых, нуждающихся в психиатрической помощи, с волонтерами. Пользователи входят на сервер Koko Care в Discord и напрямую общаются с ботом Koko, отправляя ему вопросы с несколькими вариантами ответов, такие как «Какая самая мрачная идея у вас есть по этому поводу?» Затем бот анонимно сообщает о проблемах человека другому пользователю на сервере, который затем может анонимно ответить своим кратким сообщением.
Этот инновационный способ соединения людей, нуждающихся в психиатрической помощи, с волонтерами позволил Коко преодолеть разрыв между теми, кто не смог получить доступ к необходимой им помощи, и теми, кто готов ее предложить.
Однако Роб Моррис, соучредитель Koko, принял решение протестировать добровольцев-психотерапевтов на ИИ-боте, а не на реальных людях. Около 4,000 человек получили психологическую поддержку от OpenAI GPT-3, согласно твиту Морриса. Результаты этого исследования показали, что бот с искусственным интеллектом столь же эффективен в обеспечении терапевтических реакций, как и человек.
Казалось, люди оценили психологическую поддержку и помощь, которую они оказали. GPT-3 предложенный. Однако после объявления Моррис быстро удалил его из Telegram и Discord. Почему? Этот тип терапии перестал работать, когда люди поняли, что сообщения были созданы машиной. Возможно, имитация сочувствия может показаться странной и пустой.
Впрочем, может иметь место и что-то еще. Эксперимент Роба Морриса вызвал критику в социальных сетях и был назван неэтичным. Ведь участники были обмануты и не смогли дать информированное согласие; вместо этого они стали невольными участниками этого исследования.
В обычном научном исследовании участников информируют о том, как будет проводиться исследование, и они могут отозвать свое согласие в любое время вплоть до публикации результатов. Здесь произошло серьезное нарушение доверия: люди с проблемами психического здоровья доверили платформе оказать им помощь от другого человека, и при этом им помогал искусственный интеллект. Это не означает, что помощь сама по себе была плохого качества. Однако в любой терапевтической обстановке доверие является основным фактором будущих результатов. Этот тип обмана может разрушить доверие людей к очень многообещающей платформе.
Эксперимент Коко показал, насколько легко было обманывать людей в социальных сетях, что вызвало опасения, что технология может быть использована злонамеренно людьми, пытающимися распространять дезинформацию и фальшивые новости. На этот раз это было сделано добросовестно, но что будет в следующий раз?
Подробнее об ИИ:
Отказ от ответственности
В соответствии с Руководство трастового проектаОбратите внимание, что информация, представленная на этой странице, не предназначена и не должна интерпретироваться как юридическая, налоговая, инвестиционная, финансовая или любая другая форма консультации. Важно инвестировать только то, что вы можете позволить себе потерять, и обращаться за независимой финансовой консультацией, если у вас есть какие-либо сомнения. Для получения дополнительной информации мы предлагаем обратиться к положениям и условиям, а также к страницам справки и поддержки, предоставленным эмитентом или рекламодателем. MetaversePost стремится предоставлять точную и объективную отчетность, однако рыночные условия могут быть изменены без предварительного уведомления.
Об авторе
Дамир — руководитель группы, менеджер по продукту и редактор в Metaverse Post, охватывающие такие темы, как AI/ML, AGI, LLM, Metaverse и Web3-связанные поля. Его статьи ежемесячно привлекают огромную аудиторию, насчитывающую более миллиона пользователей. Похоже, он эксперт с 10-летним опытом работы в области SEO и цифрового маркетинга. Дамир упоминается в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и другие издания. Он путешествует между ОАЭ, Турцией, Россией и СНГ в качестве цифрового кочевника. Дамир получил степень бакалавра в области физики, что, по его мнению, дало ему навыки критического мышления, необходимые для достижения успеха в постоянно меняющемся мире Интернета.
Другие статьиДамир — руководитель группы, менеджер по продукту и редактор в Metaverse Post, охватывающие такие темы, как AI/ML, AGI, LLM, Metaverse и Web3-связанные поля. Его статьи ежемесячно привлекают огромную аудиторию, насчитывающую более миллиона пользователей. Похоже, он эксперт с 10-летним опытом работы в области SEO и цифрового маркетинга. Дамир упоминается в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и другие издания. Он путешествует между ОАЭ, Турцией, Россией и СНГ в качестве цифрового кочевника. Дамир получил степень бакалавра в области физики, что, по его мнению, дало ему навыки критического мышления, необходимые для достижения успеха в постоянно меняющемся мире Интернета.