4,000 XNUMX lidí podstoupilo psychoterapii roboty AI, aniž by o tom věděli
Stručně
Koko, nezisková platforma pro duševní zdraví, spojuje lidi, kteří potřebují pomoc, s dobrovolníky.
Uživatelé komunikují s robotem Koko zasíláním otázek s možností výběru.
4,000 lidí dostalo neohlášenou psychologickou podporu OpenAI GPT-3.
Robot byl při poskytování terapeutických odpovědí stejně účinný jako člověk.
Prostřednictvím chatovacích služeb, jako je Telegram a Discord, nezisková platforma pro duševní zdraví Koko spojuje teenagery a dospělé, kteří potřebují péči o duševní zdraví, s dobrovolníky. Uživatelé se přihlásí na server Discord společnosti Koko Care a komunikují přímo s robotem Koko tím, že mu pošlou otázky s možností výběru, jako například „Jaká je vaše nejtemnější představa o tom? Bot pak anonymně sdělí obavy dané osoby jinému uživateli na serveru, který pak může anonymně odpovědět svou vlastní krátkou zprávou.
Tento inovativní způsob propojení lidí, kteří potřebují pomoc v oblasti duševního zdraví, s dobrovolníky umožnil Koko překlenout propast mezi těmi, kteří neměli přístup k pomoci, kterou potřebují, a těmi, kteří jsou ochotni ji nabídnout.
Rob Morris, spoluzakladatel Koko, se však rozhodl testovat psychoterapeutické dobrovolníky na robotech s umělou inteligencí spíše než na skutečných lidech. Přibližně 4,000 lidí dostalo psychologickou podporu OpenAI GPT-3podle Morrisova tweetu. Výsledky této studie ukázaly, že robot AI byl při poskytování terapeutických odpovědí stejně účinný jako člověk.
Komunikace generované umělou inteligencí získala hodnocení, která byla znatelně vyšší než zprávy napsané lidmi. Bylo také dosaženo 50% zkrácení doby odezvy,
Rob Morris upozorňuje.
Zdálo se, že lidé oceňují psychologickou podporu a pomoc GPT-3 nabídl. Po oznámení to však Morris rychle stáhl z Telegramu a Discordu. Proč? Tento typ terapie přestal fungovat, jakmile si jednotlivci uvědomili, že zprávy byly generovány strojem. Je možné, že zosobnění empatie se může zdát zvláštní a prázdné.
Ve hře však může být i něco jiného. Experiment Roba Morrise vyvolal kritiku na sociálních sítích a byl označen za neetický. Koneckonců, účastníci byli oklamáni a nebyli schopni dát informovaný souhlas; místo toho se stali neochotnými účastníky této studie.
V běžné vědecké studii jsou účastníci informováni o tom, jak bude studie probíhat, a mohou svůj souhlas kdykoli odvolat až do zveřejnění výsledků. Zde došlo k zásadnímu porušení důvěry: Lidé s problémy s duševním zdravím pověřili platformu, aby jim poskytla pomoc od jiné lidské bytosti, přičemž jim byla poskytnuta pomoc AI. To neznamená, že pomoc jako taková byla nekvalitní. V každém terapeutickém prostředí je však důvěra hlavním faktorem budoucích výsledků. Tento typ podvodu by mohl rozbít důvěru lidí, kterou kdysi měli ve velmi slibnou platformu.
Kokoův experiment ukázal, jak snadné bylo oklamat lidi na sociálních sítích, což vedlo k obavám, že by tato technologie mohla být zneužita lidmi, kteří se snaží šířit dezinformace a falešné zprávy. Tentokrát to bylo provedeno v dobré víře, ale co příště?
Přečtěte si více o AI:
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Damir je vedoucí týmu, produktový manažer a editor ve společnosti Metaverse Post, pokrývající témata jako AI/ML, AGI, LLM, Metaverse a Web3- související obory. Jeho články přitahují každý měsíc masivní publikum čítající více než milion uživatelů. Jeví se jako odborník s 10 lety zkušeností v oblasti SEO a digitálního marketingu. Damir byl zmíněn v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a další publikace. Jako digitální nomád cestuje mezi SAE, Tureckem, Ruskem a SNS. Damir získal bakalářský titul z fyziky, o kterém se domnívá, že mu dal dovednosti kritického myšlení potřebné k úspěchu v neustále se měnícím prostředí internetu.
Další články
Damir je vedoucí týmu, produktový manažer a editor ve společnosti Metaverse Post, pokrývající témata jako AI/ML, AGI, LLM, Metaverse a Web3- související obory. Jeho články přitahují každý měsíc masivní publikum čítající více než milion uživatelů. Jeví se jako odborník s 10 lety zkušeností v oblasti SEO a digitálního marketingu. Damir byl zmíněn v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a další publikace. Jako digitální nomád cestuje mezi SAE, Tureckem, Ruskem a SNS. Damir získal bakalářský titul z fyziky, o kterém se domnívá, že mu dal dovednosti kritického myšlení potřebné k úspěchu v neustále se měnícím prostředí internetu.
