4,000 людей пройшли психотерапію роботів ШІ, не підозрюючи про це
Коротко
Koko, некомерційна платформа психічного здоров’я, об’єднує людей, які потребують допомоги, з волонтерами.
Користувачі спілкуються з ботом Koko, надсилаючи запитання з варіантами відповідей.
4,000 осіб отримали неоголошену психологічну допомогу від OpenAI GPT-3.
Бот був настільки ж ефективним у наданні терапевтичних реакцій, як і людина.
Через такі сервіси чату, як Telegram і Discord, некомерційна платформа психічного здоров’я Коко зв'язує підлітків і дорослих, які потребують психіатричної допомоги, з волонтерами. Користувачі входять на сервер Discord від Koko Care і безпосередньо спілкуються з ботом Koko, надсилаючи йому запитання з кількома варіантами відповідей, наприклад «Яка найпохмуріша у вас думка про це?» Потім бот анонімно повідомляє про занепокоєння людини іншому користувачеві на сервері, який потім може анонімно відповісти власним коротким повідомленням.
Цей інноваційний спосіб зв’язати людей, які потребують психічної допомоги, з волонтерами дав змогу Коко подолати прірву між тими, хто не мав доступу до необхідної допомоги, і тими, хто готовий її запропонувати.
Однак Роб Морріс, співзасновник Koko, прийняв рішення тестувати добровольців-психотерапевтів на боті ШІ, а не на реальних людях. Близько 4,000 осіб отримали психологічну допомогу OpenAI GPT-3, згідно з твітом Морріса. Результати цього дослідження показали, що бот AI був настільки ж ефективним у наданні терапевтичних реакцій, як і людина.
Комунікації, створені ШІ, отримали помітно вищі рейтинги, ніж повідомлення, написані людьми. Час відповіді також було зменшено на 50%,
Роб Морріс зазначає.
Здається, люди цінують психологічну підтримку та допомогу GPT-3 пропонується. Однак після оголошення Морріс швидко видалив його з Telegram і Discord. чому Цей тип терапії перестав працювати, коли люди зрозуміли, що повідомлення були створені машиною. Можливо, уособлення емпатії може здаватися дивним і порожнім.
Однак тут може бути й інше. Експеримент Роба Морріса викликав критику в соціальних мережах і був визнаний неетичним. Адже учасники були обмануті і не змогли дати інформовану згоду; замість цього вони стали небажаними учасниками цього дослідження.
У звичайному науковому дослідженні учасники інформуються про те, як буде проводитися дослідження, і вони можуть відкликати свою згоду в будь-який час до публікації результатів. Тут сталося серйозне порушення довіри: люди з проблемами психічного здоров’я довірили платформі надавати їм допомогу від іншої людини, при цьому їм надавав допомогу ШІ. Це не означає, що допомога сама по собі була неякісною. Однак у будь-якому терапевтичному середовищі довіра є головним фактором майбутніх результатів. Такий тип обману може зруйнувати довіру людей, яку колись мали до дуже багатообіцяючої платформи.
Експеримент Коко підкреслив, наскільки легко було обдурити людей у соціальних мережах, що викликало занепокоєння, що технологія може бути використана зловмисно людьми, які намагаються поширювати дезінформацію та фейкові новини. Цього разу це було зроблено добросовісно, а як бути наступного разу?
Докладніше про ШІ:
відмова
Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.
про автора
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
інші статті
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
