4,000 XNUMX personer genomgick AI-robotpsykoterapi utan att veta om det
I korthet
Koko, en ideell plattform för mental hälsa, länkar människor i behov av hjälp med volontärer.
Användare kommunicerar med Koko-boten genom att skicka flervalsfrågor.
4,000 XNUMX personer fick oanmäld psykologiskt stöd från OpenAI GPT-3.
Boten var lika effektiv för att ge terapeutiska svar som en människa.
Genom chatttjänster som Telegram och Discord, den ideella plattformen för mental hälsa Koko kopplar samman tonåringar och vuxna i behov av psykisk vård med volontärer. Användare loggar in på Koko Cares Discord-server och kommunicerar med Koko-boten direkt genom att skicka flervalsfrågor till den, som "Vad är den mörkaste idén du har om det här?" Sedan kommunicerar bot anonymt personens oro till en annan användare på servern, som sedan kan svara anonymt med sitt eget korta meddelande.
Detta innovativa sätt att koppla samman människor i behov av psykisk vård med frivilliga har gjort det möjligt för Koko att överbrygga klyftan mellan de som inte har kunnat få tillgång till den hjälp de behöver och de som är villiga att erbjuda den.
Rob Morris, medgrundaren av Koko, tog dock beslutet att testa psykoterapivolontärer på en AI-bot snarare än på verkliga människor. Cirka 4,000 XNUMX personer fick psykologiskt stöd från OpenAI GPT-3, enligt Morris tweet. Resultaten av denna studie visade att AI-boten var lika effektiv för att ge terapeutiska svar som en människa.
AI-genererad kommunikation fick betyg som var märkbart högre än meddelanden skrivna av människor. En 50 % minskning av svarstiden har också gjorts,
Rob Morris påpekar.
Det verkade som att folk uppskattade det psykologiska stödet och hjälpen det GPT-3 erbjuds. Men efter tillkännagivandet tog Morris snabbt ner det från Telegram och Discord. Varför? Denna typ av terapi slutade fungera när individer insåg att meddelandena genererades av en maskin. Det kan vara så att efterbildningen av empati kan verka udda och ihålig.
Men något annat kan också spela in. Rob Morris experiment har väckt kritik på sociala medier och har stämplats som oetiskt. Deltagarna blev trots allt lurade och kunde inte ge informerat samtycke; istället blev de ovilliga deltagare i denna studie.
I en vanlig vetenskaplig studie informeras deltagarna om hur studien kommer att genomföras och de kan när som helst återkalla sitt samtycke fram till publicering av resultaten. Här har det skett ett stort förtroendebrott: Människor med psykiska problem anförtrodde plattformen att ge dem hjälp från en annan människa, samtidigt som de fick hjälp av AI. Det betyder inte att hjälpen i sig var av dålig kvalitet. Men i alla terapeutiska miljöer är tillit en viktig faktor för framtida resultat. Denna typ av bedrägeri kan krossa det förtroende som människor en gång hade för en mycket lovande plattform.
Kokos experiment belyste hur lätt det var att lura människor på sociala medier, vilket ledde till oro för att tekniken skulle kunna användas uppsåtligt av människor som försöker sprida desinformation och falska nyheter. Den här gången gjordes det i god tro, men hur är det nästa gång?
Läs mer om AI:
Villkor
I linje med den Riktlinjer för Trust Project, vänligen notera att informationen på den här sidan inte är avsedd att vara och inte ska tolkas som juridisk, skattemässig, investerings-, finansiell eller någon annan form av rådgivning. Det är viktigt att bara investera det du har råd att förlora och att söka oberoende finansiell rådgivning om du har några tvivel. För ytterligare information föreslår vi att du hänvisar till villkoren samt hjälp- och supportsidorna som tillhandahålls av utfärdaren eller annonsören. MetaversePost är engagerad i korrekt, opartisk rapportering, men marknadsförhållandena kan ändras utan föregående meddelande.
Om författaren
Damir är teamledare, produktchef och redaktör på Metaverse Post, som täcker ämnen som AI/ML, AGI, LLMs, Metaverse och Web3-relaterade områden. Hans artiklar lockar en massiv publik på över en miljon användare varje månad. Han verkar vara en expert med 10 års erfarenhet av SEO och digital marknadsföring. Damir har nämnts i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto och andra publikationer. Han reser mellan Förenade Arabemiraten, Turkiet, Ryssland och OSS som en digital nomad. Damir tog en kandidatexamen i fysik, som han tror har gett honom de kritiska tänkande färdigheter som behövs för att bli framgångsrik i det ständigt föränderliga landskapet på internet.
fler artiklar
Damir är teamledare, produktchef och redaktör på Metaverse Post, som täcker ämnen som AI/ML, AGI, LLMs, Metaverse och Web3-relaterade områden. Hans artiklar lockar en massiv publik på över en miljon användare varje månad. Han verkar vara en expert med 10 års erfarenhet av SEO och digital marknadsföring. Damir har nämnts i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto och andra publikationer. Han reser mellan Förenade Arabemiraten, Turkiet, Ryssland och OSS som en digital nomad. Damir tog en kandidatexamen i fysik, som han tror har gett honom de kritiska tänkande färdigheter som behövs för att bli framgångsrik i det ständigt föränderliga landskapet på internet.
