4,000 persones es van sotmetre a psicoteràpia robotitzada amb IA sense saber-ho
En breu
Koko, una plataforma de salut mental sense ànim de lucre, vincula persones que necessiten ajuda amb voluntaris.
Els usuaris es comuniquen amb el bot Koko enviant preguntes d'opció múltiple.
4,000 persones van rebre suport psicològic sense previ avís OpenAI GPT-3.
El bot va ser tan eficaç per proporcionar respostes terapèutiques com un humà.
A través de serveis de xat com Telegram i Discord, la plataforma de salut mental sense ànim de lucre Koko vincula adolescents i adults que necessiten atenció de salut mental amb voluntaris. Els usuaris inicien sessió al servidor de Discord de Koko Care i es comuniquen amb el bot Koko directament enviant-li preguntes d'opció múltiple, com ara "Quina és la idea més fosca que teniu sobre això?" A continuació, el bot comunica de manera anònima les preocupacions de la persona a un altre usuari del servidor, que pot respondre de manera anònima amb el seu propi missatge breu.
Aquesta manera innovadora de connectar persones que necessiten assistència en salut mental amb voluntaris ha permès a Koko superar la bretxa entre aquells que no han pogut accedir a l'ajuda que necessiten i els que estan disposats a oferir-la.
Tanmateix, Rob Morris, el cofundador de Koko, va prendre la decisió de provar els voluntaris de psicoteràpia amb un bot d'IA en lloc de persones reals. Aproximadament 4,000 persones van rebre suport psicològic OpenAI GPT-3, segons el tuit de Morris. Els resultats d'aquest estudi van demostrar que el bot d'IA era tan eficaç per proporcionar respostes terapèutiques com un humà.
Les comunicacions generades per IA van rebre puntuacions notablement més altes que els missatges escrits per humans. També s'ha fet una reducció del 50% del temps de resposta,
Rob Morris assenyala.
Semblava que la gent agraïa el suport i l'assistència psicològica que això suposava GPT-3 ofert. Tanmateix, després de l'anunci, Morris el va retirar ràpidament de Telegram i Discord. Per què? Aquest tipus de teràpia va deixar de funcionar quan els individus es van adonar que els missatges eren generats per una màquina. Pot ser que la suplantació de l'empatia pugui semblar estranya i buida.
Tanmateix, també podria estar en joc una altra cosa. L'experiment de Rob Morris ha suscitat crítiques a les xarxes socials i ha estat qualificat de poc ètic. Després de tot, els participants van ser enganyats i no van poder donar el seu consentiment informat; en canvi, es van convertir en participants poc disposats a aquest estudi.
En un estudi científic habitual, els participants són informats sobre com es portarà a terme l'estudi i poden retirar el seu consentiment en qualsevol moment fins a la publicació dels resultats. Aquí, hi ha hagut un gran trencament de confiança: les persones amb problemes de salut mental van confiar a la plataforma per proporcionar-los l'ajuda d'un altre ésser humà, tot i que se'ls proporciona ajuda d'IA. Això no vol dir que l'ajuda per se fos de mala qualitat. Tanmateix, en qualsevol entorn terapèutic, la confiança és un factor important en els resultats futurs. Aquest tipus d'engany podria trencar la confiança que la gent va tenir en una plataforma molt prometedora.
L'experiment de Koko va posar de relleu el fàcil que era enganyar la gent a les xarxes socials, fet que va generar la preocupació que la tecnologia pogués ser utilitzada de manera malintencionada per persones que intentessin difondre informació errònia i notícies falses. Aquesta vegada es va fer de bona fe, però què passa amb la propera?
Llegeix més sobre AI:
renúncia
En línia amb la Directrius del projecte Trust, si us plau, tingueu en compte que la informació proporcionada en aquesta pàgina no pretén ni s'ha d'interpretar com a assessorament legal, fiscal, d'inversió, financer o de cap altra forma. És important invertir només el que et pots permetre perdre i buscar assessorament financer independent si tens dubtes. Per obtenir més informació, us suggerim que feu referència als termes i condicions, així com a les pàgines d'ajuda i assistència proporcionades per l'emissor o l'anunciant. MetaversePost es compromet a fer informes precisos i imparcials, però les condicions del mercat estan subjectes a canvis sense previ avís.
About The Autor
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
més articles
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
