4,000 Menschen haben sich einer KI-Roboter-Psychotherapie unterzogen, ohne es zu wissen
In Kürze
Koko, eine gemeinnützige Plattform für psychische Gesundheit, verbindet Menschen, die Hilfe benötigen, mit Freiwilligen.
Benutzer kommunizieren mit dem Koko-Bot, indem sie Multiple-Choice-Fragen senden.
4,000 Menschen erhielten unangekündigt psychologische Unterstützung von OpenAI GPT-3.
Der Bot war bei der Bereitstellung therapeutischer Reaktionen genauso effektiv wie ein Mensch.
Über Chat-Dienste wie Telegram und Discord, die gemeinnützige Plattform für psychische Gesundheit Koko verbindet Jugendliche und Erwachsene, die psychiatrische Versorgung benötigen, mit Freiwilligen. Benutzer melden sich beim Discord-Server von Koko Care an und kommunizieren direkt mit dem Koko-Bot, indem sie ihm Multiple-Choice-Fragen senden, z. B. „Was ist die dunkelste Idee, die Sie dazu haben?“ Dann teilt der Bot die Sorgen der Person anonym einem anderen Benutzer auf dem Server mit, der dann anonym mit einer eigenen kurzen Nachricht antworten kann.
Diese innovative Methode, Menschen, die psychiatrische Hilfe benötigen, mit Freiwilligen zusammenzubringen, hat es Koko ermöglicht, die Kluft zwischen denen zu schließen, die keinen Zugang zu der benötigten Hilfe hatten, und denen, die bereit sind, sie anzubieten.
Allerdings traf Rob Morris, der Mitbegründer von Koko, die Entscheidung, freiwillige Psychotherapeuten an einem KI-Bot und nicht an echten Menschen zu testen. Etwa 4,000 Menschen erhielten psychologische Betreuung OpenAI GPT-3, laut Morris‘ Tweet. Die Ergebnisse dieser Studie zeigten, dass der KI-Bot bei der Bereitstellung therapeutischer Reaktionen genauso effektiv war wie ein Mensch.
KI-generierte Mitteilungen wurden deutlich höher bewertet als von Menschen geschriebene Mitteilungen. Außerdem wurde die Reaktionszeit um 50 % verkürzt.
Rob Morris weist darauf hin.
Es schien, als würden die Menschen die psychologische Unterstützung und Unterstützung zu schätzen wissen GPT-3 angeboten. Nach der Ankündigung entfernte Morris sie jedoch schnell von Telegram und Discord. Warum? Diese Art der Therapie funktionierte nicht mehr, als die Patienten erkannten, dass die Nachrichten von einer Maschine generiert wurden. Es könnte sein, dass die Nachahmung von Empathie seltsam und hohl erscheint.
Es kann jedoch auch etwas anderes im Spiel sein. Das Experiment von Rob Morris wurde in den sozialen Medien kritisiert und als unethisch bezeichnet. Schließlich wurden die Teilnehmer getäuscht und konnten keine Einverständniserklärung abgeben; Stattdessen wurden sie zu unfreiwilligen Teilnehmern dieser Studie.
Bei einer regulären wissenschaftlichen Studie werden die Teilnehmer über die Durchführung der Studie informiert und können ihre Einwilligung bis zur Veröffentlichung der Ergebnisse jederzeit widerrufen. Hier gab es einen großen Vertrauensbruch: Menschen mit psychischen Problemen vertrauten der Plattform an, ihnen Hilfe von einem anderen Menschen zu leisten, während sie gleichzeitig Hilfe von KI erhielten. Dies bedeutet nicht, dass die Hilfe an sich von schlechter Qualität war. In jedem therapeutischen Umfeld ist Vertrauen jedoch ein wichtiger Faktor für zukünftige Ergebnisse. Diese Art der Täuschung könnte das Vertrauen der Menschen in eine vielversprechende Plattform erschüttern.
Kokos Experiment zeigte, wie einfach es war, Menschen in sozialen Medien zu täuschen, was zu Bedenken führte, dass die Technologie von Menschen böswillig verwendet werden könnte, die versuchen, Fehlinformationen und gefälschte Nachrichten zu verbreiten. Diesmal geschah es in gutem Glauben, aber was ist beim nächsten Mal?
Lesen Sie mehr über KI:
Haftungsausschluss
Im Einklang mit der Richtlinien des Trust-ProjektsBitte beachten Sie, dass die auf dieser Seite bereitgestellten Informationen nicht als Rechts-, Steuer-, Anlage-, Finanz- oder sonstige Beratung gedacht sind und nicht als solche interpretiert werden sollten. Es ist wichtig, nur so viel zu investieren, wie Sie sich leisten können, zu verlieren, und im Zweifelsfall eine unabhängige Finanzberatung einzuholen. Für weitere Informationen empfehlen wir einen Blick auf die Allgemeinen Geschäftsbedingungen sowie die Hilfe- und Supportseiten des Herausgebers oder Werbetreibenden. MetaversePost ist einer genauen, unvoreingenommenen Berichterstattung verpflichtet, die Marktbedingungen können sich jedoch ohne Vorankündigung ändern.
Über den Autor
Damir ist Teamleiter, Produktmanager und Redakteur bei Metaverse Post, behandelt Themen wie KI/ML, AGI, LLMs, Metaverse und Web3-bezogene Felder. Seine Artikel ziehen jeden Monat ein riesiges Publikum von über einer Million Nutzern an. Er scheint ein Experte mit 10 Jahren Erfahrung in SEO und digitalem Marketing zu sein. Damir wurde in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto und andere Publikationen. Als digitaler Nomade reist er zwischen den Vereinigten Arabischen Emiraten, der Türkei, Russland und der GUS. Damir hat einen Bachelor-Abschluss in Physik, der ihm seiner Meinung nach die Fähigkeiten zum kritischen Denken vermittelt hat, die er braucht, um in der sich ständig verändernden Landschaft des Internets erfolgreich zu sein.
Weitere Artikel
Damir ist Teamleiter, Produktmanager und Redakteur bei Metaverse Post, behandelt Themen wie KI/ML, AGI, LLMs, Metaverse und Web3-bezogene Felder. Seine Artikel ziehen jeden Monat ein riesiges Publikum von über einer Million Nutzern an. Er scheint ein Experte mit 10 Jahren Erfahrung in SEO und digitalem Marketing zu sein. Damir wurde in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto und andere Publikationen. Als digitaler Nomade reist er zwischen den Vereinigten Arabischen Emiraten, der Türkei, Russland und der GUS. Damir hat einen Bachelor-Abschluss in Physik, der ihm seiner Meinung nach die Fähigkeiten zum kritischen Denken vermittelt hat, die er braucht, um in der sich ständig verändernden Landschaft des Internets erfolgreich zu sein.
