4,000 mensen ondergingen AI-robotpsychotherapie zonder het te weten
In het kort
Koko, een non-profit platform voor geestelijke gezondheid, koppelt mensen die hulp nodig hebben aan vrijwilligers.
Gebruikers communiceren met de Koko-bot door meerkeuzevragen te sturen.
4,000 mensen kregen onaangekondigde psychologische steun van OpenAI GPT-3.
De bot was net zo effectief in het geven van therapeutische reacties als een mens.
Via chatdiensten zoals Telegram en Discord, het non-profitplatform voor geestelijke gezondheidszorg Koko koppelt tieners en volwassenen die behoefte hebben aan geestelijke gezondheidszorg aan vrijwilligers. Gebruikers loggen in op de Koko Care's Discord-server en communiceren rechtstreeks met de Koko-bot door hem meerkeuzevragen te sturen, zoals "Wat is het donkerste idee dat je hierover hebt?" Vervolgens communiceert bot anoniem de zorgen van de persoon aan een andere gebruiker op de server, die vervolgens anoniem kan reageren met een eigen kort bericht.
Deze innovatieve manier om mensen die geestelijke hulp nodig hebben in contact te brengen met vrijwilligers, heeft Koko in staat gesteld de kloof te overbruggen tussen degenen die geen toegang hebben gekregen tot de hulp die ze nodig hebben en degenen die bereid zijn deze te bieden.
Rob Morris, de mede-oprichter van Koko, nam echter de beslissing om vrijwilligers voor psychotherapie te testen op een AI-bot in plaats van op echte mensen. Ongeveer 4,000 mensen kregen psychologische ondersteuning van OpenAI GPT-3, aldus de tweet van Morris. De resultaten van dit onderzoek toonden aan dat de AI-bot net zo effectief was in het bieden van therapeutische reacties als een mens.
Door AI gegenereerde communicatie kreeg beoordelingen die merkbaar hoger waren dan berichten die door mensen waren geschreven. Er is ook een reductie van 50% in responstijd gerealiseerd,
Rob Morris wijst erop.
Het leek erop dat mensen de psychologische steun en hulp die dat bood, waardeerden GPT-3 aangeboden. Na de aankondiging haalde Morris het echter snel van Telegram en Discord. Waarom? Dit type therapie stopte met werken zodra individuen zich realiseerden dat de berichten door een machine waren gegenereerd. Het kan zijn dat de imitatie van empathie vreemd en hol lijkt.
Er kan echter ook iets anders in het spel zijn. Het experiment van Rob Morris heeft kritiek gekregen op sociale media en is bestempeld als onethisch. De deelnemers werden immers misleid en konden geen geïnformeerde toestemming geven; in plaats daarvan werden ze onwillige deelnemers aan deze studie.
Bij een regulier wetenschappelijk onderzoek worden deelnemers geïnformeerd over de uitvoering van het onderzoek en kunnen zij hun toestemming op elk moment intrekken tot aan de publicatie van de resultaten. Hier is sprake van een grote vertrouwensbreuk: mensen met psychische problemen vertrouwden het platform toe om hen hulp te bieden van een ander mens, terwijl ze daarbij hulp kregen van AI. Dit betekent niet dat de hulp op zich van slechte kwaliteit was. In elke therapeutische setting is vertrouwen echter een belangrijke factor in toekomstige resultaten. Dit soort bedrog zou het vertrouwen dat mensen ooit hadden in een veelbelovend platform kunnen vernietigen.
Koko's experiment liet zien hoe gemakkelijk het was om mensen op sociale media te misleiden, wat leidde tot zorgen dat de technologie kwaadwillig zou kunnen worden gebruikt door mensen die proberen verkeerde informatie en nepnieuws te verspreiden. Deze keer gebeurde het in goed vertrouwen, maar hoe zit het de volgende keer?
Lees meer over AI:
Disclaimer
In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.
Over de auteur
Damir is de teamleider, productmanager en redacteur bij Metaverse Post, met onderwerpen als AI/ML, AGI, LLM's, Metaverse en Web3-gerelateerde velden. Zijn artikelen trekken maandelijks een enorm publiek van meer dan een miljoen gebruikers. Hij blijkt een expert te zijn met 10 jaar ervaring in SEO en digitale marketing. Damir is genoemd in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto en andere publicaties. Hij reist als digitale nomade tussen de VAE, Turkije, Rusland en het GOS. Damir behaalde een bachelordiploma in natuurkunde, wat hem volgens hem de kritische denkvaardigheden heeft gegeven die nodig zijn om succesvol te zijn in het steeds veranderende landschap van internet.
Meer artikelen
Damir is de teamleider, productmanager en redacteur bij Metaverse Post, met onderwerpen als AI/ML, AGI, LLM's, Metaverse en Web3-gerelateerde velden. Zijn artikelen trekken maandelijks een enorm publiek van meer dan een miljoen gebruikers. Hij blijkt een expert te zijn met 10 jaar ervaring in SEO en digitale marketing. Damir is genoemd in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto en andere publicaties. Hij reist als digitale nomade tussen de VAE, Turkije, Rusland en het GOS. Damir behaalde een bachelordiploma in natuurkunde, wat hem volgens hem de kritische denkvaardigheden heeft gegeven die nodig zijn om succesvol te zijn in het steeds veranderende landschap van internet.
