4,000 persone sono state sottoposte a psicoterapia con robot AI senza saperlo
In Breve
Koko, una piattaforma di salute mentale senza scopo di lucro, mette in contatto le persone bisognose di aiuto con i volontari.
Gli utenti comunicano con il bot Koko inviando domande a scelta multipla.
4,000 persone hanno ricevuto supporto psicologico senza preavviso OpenAI GPT-3.
Il robot è stato altrettanto efficace nel fornire risposte terapeutiche quanto un essere umano.
Attraverso servizi di chat come Telegram e Discord, la piattaforma no-profit per la salute mentale Koko collega adolescenti e adulti bisognosi di cure per la salute mentale con i volontari. Gli utenti accedono al server Discord di Koko Care e comunicano direttamente con il bot Koko inviandogli domande a scelta multipla, come "Qual è l'idea più oscura che hai su questo?" Quindi il bot comunica anonimamente le preoccupazioni della persona a un altro utente sul server, che può quindi rispondere anonimamente con un proprio breve messaggio.
Questo modo innovativo di mettere in contatto le persone bisognose di assistenza per la salute mentale con i volontari ha permesso a Koko di colmare il divario tra coloro che non hanno potuto accedere all'aiuto di cui hanno bisogno e coloro che sono disposti a offrirlo.
Tuttavia, Rob Morris, il co-fondatore di Koko, ha deciso di testare i volontari in psicoterapia su un robot AI piuttosto che su persone reali. Circa 4,000 persone hanno ricevuto supporto psicologico da OpenAI GPT-3, secondo il tweet di Morris. I risultati di questo studio hanno dimostrato che il robot AI era altrettanto efficace nel fornire risposte terapeutiche quanto un essere umano.
Le comunicazioni generate dall'intelligenza artificiale hanno ricevuto valutazioni notevolmente superiori rispetto ai messaggi scritti da esseri umani. È stata inoltre effettuata una riduzione del 50% dei tempi di risposta,
Rob Morris sottolinea.
Sembrava che le persone apprezzassero il supporto psicologico e l'assistenza GPT-3 offerto. Tuttavia, in seguito all'annuncio, Morris lo ha rapidamente rimosso da Telegram e Discord. Perché? Questo tipo di terapia ha smesso di funzionare una volta che le persone si sono rese conto che i messaggi erano generati da una macchina. Potrebbe darsi che la rappresentazione dell’empatia possa sembrare strana e vuota.
Tuttavia, potrebbe essere in gioco anche qualcos'altro. L'esperimento di Rob Morris ha attirato critiche sui social media ed è stato etichettato come non etico. Dopo tutto, i partecipanti sono stati ingannati e non sono stati in grado di dare il consenso informato; invece, sono diventati partecipanti riluttanti a questo studio.
In uno studio scientifico regolare, i partecipanti vengono informati su come verrà condotto lo studio e possono revocare il proprio consenso in qualsiasi momento fino alla pubblicazione dei risultati. Qui c'è stata una grave violazione della fiducia: le persone con problemi di salute mentale hanno affidato alla piattaforma l'aiuto di un altro essere umano, il tutto mentre ricevevano aiuto dall'intelligenza artificiale. Ciò non significa che l'aiuto in sé fosse di cattiva qualità. Tuttavia, in qualsiasi contesto terapeutico, la fiducia è un fattore importante per i risultati futuri. Questo tipo di inganno potrebbe distruggere la fiducia che le persone avevano una volta in una piattaforma molto promettente.
L'esperimento di Koko ha evidenziato quanto fosse facile ingannare le persone sui social media, facendo temere che la tecnologia potesse essere utilizzata maliziosamente da persone che cercavano di diffondere disinformazione e notizie false. Questa volta è stato fatto in buona fede, ma la prossima volta?
Per saperne di più sull'intelligenza artificiale:
Negazione di responsabilità
In linea con la Linee guida del progetto Trust, si prega di notare che le informazioni fornite in questa pagina non intendono essere e non devono essere interpretate come consulenza legale, fiscale, di investimento, finanziaria o di qualsiasi altra forma. È importante investire solo ciò che puoi permetterti di perdere e chiedere una consulenza finanziaria indipendente in caso di dubbi. Per ulteriori informazioni, suggeriamo di fare riferimento ai termini e alle condizioni nonché alle pagine di aiuto e supporto fornite dall'emittente o dall'inserzionista. MetaversePost si impegna a fornire report accurati e imparziali, ma le condizioni di mercato sono soggette a modifiche senza preavviso.
Circa l'autore
Damir è il team leader, il product manager e l'editore di Metaverse Post, che copre argomenti come AI/ML, AGI, LLM, Metaverse e Web3campi correlati. I suoi articoli attirano un vasto pubblico di oltre un milione di utenti ogni mese. Sembra essere un esperto con 10 anni di esperienza in SEO e marketing digitale. Damir è stato menzionato in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e altre pubblicazioni. Viaggia tra Emirati Arabi Uniti, Turchia, Russia e CSI come nomade digitale. Damir ha conseguito una laurea in fisica, che secondo lui gli ha fornito le capacità di pensiero critico necessarie per avere successo nel panorama in continua evoluzione di Internet.
Altri articoli
Damir è il team leader, il product manager e l'editore di Metaverse Post, che copre argomenti come AI/ML, AGI, LLM, Metaverse e Web3campi correlati. I suoi articoli attirano un vasto pubblico di oltre un milione di utenti ogni mese. Sembra essere un esperto con 10 anni di esperienza in SEO e marketing digitale. Damir è stato menzionato in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e altre pubblicazioni. Viaggia tra Emirati Arabi Uniti, Turchia, Russia e CSI come nomade digitale. Damir ha conseguito una laurea in fisica, che secondo lui gli ha fornito le capacità di pensiero critico necessarie per avere successo nel panorama in continua evoluzione di Internet.
