4,000 XNUMX personnes ont suivi une psychothérapie par robot IA sans le savoir
En bref
Koko, une plateforme de santé mentale à but non lucratif, met en relation des personnes ayant besoin d'aide avec des bénévoles.
Les utilisateurs communiquent avec le bot Koko en envoyant des questions à choix multiples.
4,000 XNUMX personnes ont reçu un soutien psychologique inopiné de OpenAI GPT-3.
Le bot était tout aussi efficace pour fournir des réponses thérapeutiques qu'un humain.
Grâce à des services de chat comme Telegram et Discord, la plateforme de santé mentale à but non lucratif Koko relie des adolescents et des adultes ayant besoin de soins de santé mentale à des bénévoles. Les utilisateurs se connectent au serveur Discord de Koko Care et communiquent directement avec le bot Koko en lui envoyant des questions à choix multiples, telles que « Quelle est l'idée la plus sombre que vous ayez à ce sujet ? Ensuite, le bot communique anonymement les inquiétudes de la personne à un autre utilisateur sur le serveur, qui peut alors répondre anonymement avec son propre bref message.
Cette façon innovante de mettre en relation les personnes ayant besoin d'une assistance en santé mentale avec des bénévoles a permis à Koko de combler le fossé entre ceux qui n'ont pas pu accéder à l'aide dont ils ont besoin et ceux qui sont prêts à l'offrir.
Cependant, Rob Morris, le co-fondateur de Koko, a pris la décision de tester les volontaires en psychothérapie sur un robot IA plutôt que sur de vraies personnes. Environ 4,000 XNUMX personnes ont reçu un soutien psychologique de OpenAI GPT-3, selon le tweet de Morris. Les résultats de cette étude ont montré que le robot IA était tout aussi efficace pour fournir des réponses thérapeutiques qu’un humain.
Les communications générées par l'IA ont reçu des notes sensiblement plus élevées que les messages écrits par des humains. Une réduction de 50% du temps de réponse a également été réalisée,
souligne Rob Morris.
Il semblait que les gens appréciaient le soutien psychologique et l'assistance apportés GPT-3 offert. Cependant, suite à l’annonce, Morris l’a rapidement retiré de Telegram et Discord. Pourquoi? Ce type de thérapie a cessé de fonctionner une fois que les individus ont réalisé que les messages étaient générés par une machine. Il se peut que l’imitation de l’empathie puisse sembler étrange et creuse.
Cependant, quelque chose d'autre pourrait également être en jeu. L'expérience de Rob Morris a suscité des critiques sur les réseaux sociaux et a été qualifiée de contraire à l'éthique. Après tout, les participants ont été trompés et n'ont pas été en mesure de donner un consentement éclairé ; au lieu de cela, ils sont devenus des participants involontaires à cette étude.
Dans une étude scientifique régulière, les participants sont informés du déroulement de l'étude et peuvent retirer leur consentement à tout moment jusqu'à la publication des résultats. Ici, il y a eu un abus de confiance majeur : des personnes ayant des problèmes de santé mentale ont confié à la plateforme l'aide d'un autre être humain, tout en bénéficiant de l'aide de l'IA. Cela ne signifie pas que l'aide en soi était de mauvaise qualité. Cependant, dans tout cadre thérapeutique, la confiance est un facteur majeur dans les résultats futurs. Ce type de tromperie pourrait briser la confiance que les gens avaient autrefois dans une plate-forme très prometteuse.
L'expérience de Koko a mis en évidence à quel point il était facile de tromper les gens sur les réseaux sociaux, ce qui a fait craindre que la technologie ne soit utilisée à des fins malveillantes par des personnes essayant de diffuser des informations erronées et de fausses nouvelles. Cette fois, cela a été fait de bonne foi, mais qu'en sera-t-il la prochaine fois ?
En savoir plus sur l'IA :
Clause de non-responsabilité
En ligne avec la Lignes directrices du projet de confiance, veuillez noter que les informations fournies sur cette page ne sont pas destinées à être et ne doivent pas être interprétées comme des conseils juridiques, fiscaux, d'investissement, financiers ou toute autre forme de conseil. Il est important d’investir uniquement ce que vous pouvez vous permettre de perdre et de demander des conseils financiers indépendants en cas de doute. Pour plus d'informations, nous vous suggérons de vous référer aux conditions générales ainsi qu'aux pages d'aide et de support mises à disposition par l'émetteur ou l'annonceur. MetaversePost s'engage à fournir des rapports précis et impartiaux, mais les conditions du marché sont susceptibles de changer sans préavis.
A propos de l'auteur
Damir est chef d'équipe, chef de produit et rédacteur en chef chez Metaverse Post, couvrant des sujets tels que l'IA/ML, l'AGI, les LLM, le métaverse et Web3-domaines connexes. Ses articles attirent une audience massive de plus d'un million d'utilisateurs chaque mois. Il semble être un expert avec 10 ans d'expérience dans le référencement et le marketing numérique. Damir a été mentionné dans Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto et d'autres publications. Il voyage entre les Émirats arabes unis, la Turquie, la Russie et la CEI en tant que nomade numérique. Damir a obtenu un baccalauréat en physique, ce qui, selon lui, lui a donné les compétences de pensée critique nécessaires pour réussir dans le paysage en constante évolution d'Internet.
Plus d'articles
Damir est chef d'équipe, chef de produit et rédacteur en chef chez Metaverse Post, couvrant des sujets tels que l'IA/ML, l'AGI, les LLM, le métaverse et Web3-domaines connexes. Ses articles attirent une audience massive de plus d'un million d'utilisateurs chaque mois. Il semble être un expert avec 10 ans d'expérience dans le référencement et le marketing numérique. Damir a été mentionné dans Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto et d'autres publications. Il voyage entre les Émirats arabes unis, la Turquie, la Russie et la CEI en tant que nomade numérique. Damir a obtenu un baccalauréat en physique, ce qui, selon lui, lui a donné les compétences de pensée critique nécessaires pour réussir dans le paysage en constante évolution d'Internet.
