4,000 души са били подложени на психотерапия с AI роботи, без да знаят
Накратко
Koko, платформа за психично здраве с нестопанска цел, свързва хора, нуждаещи се от помощ, с доброволци.
Потребителите комуникират с бота Koko, като изпращат въпроси с няколко отговора.
4,000 души са получили внезапна психологическа подкрепа от OpenAI GPT-3.
Ботът беше също толкова ефективен в предоставянето на терапевтични отговори, колкото и човек.
Чрез чат услуги като Telegram и Discord, платформата за психично здраве с нестопанска цел Коко свързва тийнейджъри и възрастни, нуждаещи се от грижа за психичното здраве, с доброволци. Потребителите влизат в Discord сървъра на Koko Care и комуникират директно с бота Koko, като му изпращат въпроси с няколко отговора, като например „Коя е най-мрачната идея, която имате за това?“ След това ботът анонимно съобщава притесненията на човека на друг потребител на сървъра, който след това може да отговори анонимно със собствено кратко съобщение.
Този иновативен начин за свързване на хора, нуждаещи се от помощ за психично здраве, с доброволци позволи на Коко да преодолее пропастта между тези, които не са имали достъп до помощта, от която се нуждаят, и тези, които желаят да я предложат.
Въпреки това, Роб Морис, съоснователят на Koko, взе решение да тества доброволци за психотерапия на бот с изкуствен интелект, а не на реални хора. Приблизително 4,000 души са получили психологическа подкрепа от OpenAI GPT-3, според туита на Морис. Резултатите от това проучване показаха, че AI ботът е също толкова ефективен при предоставянето на терапевтични отговори, колкото и човек.
Комуникациите, генерирани от AI, получиха оценки, които бяха значително по-високи от съобщенията, написани от хора. Направено е и 50% намаление на времето за реакция,
Роб Морис посочва.
Изглежда хората оценяват психологическата подкрепа и помощ, която GPT-3 предлагани. Въпреки това, след съобщението, Морис бързо го свали от Telegram и Discord. Защо? Този тип терапия спря да работи, след като хората осъзнаха, че съобщенията са генерирани от машина. Възможно е имитацията на емпатия да изглежда странна и куха.
Въпреки това, нещо друго също може да се играе. Експериментът на Роб Морис предизвика критики в социалните мрежи и беше определен като неетичен. В крайна сметка участниците бяха измамени и не можаха да дадат информирано съгласие; вместо това те станаха неохотни участници в това проучване.
При редовно научно изследване участниците са информирани за това как ще се проведе изследването и могат да оттеглят съгласието си по всяко време до публикуването на резултатите. Тук има сериозно нарушение на доверието: хора с проблеми с психичното здраве са поверили на платформата да им предостави помощ от друго човешко същество, докато им е била предоставена помощ от AI. Това не означава, че помощта сама по себе си е била с лошо качество. Във всяка терапевтична среда обаче доверието е основен фактор за бъдещите резултати. Този вид измама може да разбие доверието, което хората някога са имали в много обещаваща платформа.
Експериментът на Коко подчерта колко лесно е да се измамят хората в социалните медии, което доведе до опасения, че технологията може да бъде използвана злонамерено от хора, които се опитват да разпространяват дезинформация и фалшиви новини. Този път беше направено добросъвестно, но какво ще кажете за следващия път?
Прочетете повече за AI:
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
Още статии
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
