4,000 osób przeszło psychoterapię robotem AI, nie wiedząc o tym
W skrócie
Koko, platforma non-profit zajmująca się zdrowiem psychicznym, łączy osoby potrzebujące pomocy z wolontariuszami.
Użytkownicy komunikują się z botem Koko, wysyłając pytania wielokrotnego wyboru.
4,000 osób otrzymało niezapowiedziane wsparcie psychologiczne od OpenAI GPT-3.
Bot był tak samo skuteczny w zapewnianiu odpowiedzi terapeutycznych jak człowiek.
Poprzez usługi czatu, takie jak Telegram i Discord, platforma non-profit zajmująca się zdrowiem psychicznym Koko łączy nastolatków i dorosłych potrzebujących opieki psychiatrycznej z wolontariuszami. Użytkownicy logują się na serwer Discord Koko Care i komunikują się bezpośrednio z botem Koko, wysyłając mu pytania wielokrotnego wyboru, takie jak „Jaki jest najmroczniejszy pomysł, jaki masz na ten temat?” Następnie bot anonimowo przekazuje obawy danej osoby innemu użytkownikowi na serwerze, który następnie może anonimowo odpowiedzieć własną krótką wiadomością.
Ten innowacyjny sposób łączenia osób potrzebujących pomocy w zakresie zdrowia psychicznego z wolontariuszami umożliwił Koko wypełnienie luki między tymi, którzy nie mieli dostępu do potrzebnej im pomocy, a tymi, którzy chcą ją zaoferować.
Jednak Rob Morris, współzałożyciel Koko, podjął decyzję o przetestowaniu ochotników do psychoterapii na bocie AI, a nie na rzeczywistych ludziach. Około 4,000 osób otrzymało wsparcie psychologiczne od OpenAI GPT-3, jak wynika z tweeta Morrisa. Wyniki tego badania wykazały, że bot AI był tak samo skuteczny w zapewnianiu odpowiedzi terapeutycznych jak człowiek.
Komunikacja generowana przez sztuczną inteligencję otrzymała oceny, które były zauważalnie wyższe niż wiadomości pisane przez ludzi. Dokonano również skrócenia czasu reakcji o 50%,
podkreśla Rob Morris.
Wyglądało na to, że ludzie docenili wsparcie psychologiczne i pomoc GPT-3 oferowany. Jednak po ogłoszeniu Morris szybko usunął je z Telegramu i Discorda. Dlaczego? Ten rodzaj terapii przestał działać, gdy ludzie zdali sobie sprawę, że wiadomości są generowane przez maszynę. Być może udawanie empatii może wydawać się dziwne i puste.
Jednak w grę może wchodzić też coś innego. Eksperyment Roba Morrisa spotkał się z krytyką w mediach społecznościowych i został uznany za nieetyczny. W końcu uczestnicy zostali oszukani i nie byli w stanie wyrazić świadomej zgody; zamiast tego stali się niechętnymi uczestnikami tego badania.
W regularnym badaniu naukowym uczestnicy są informowani o sposobie przeprowadzenia badania i mogą wycofać swoją zgodę w dowolnym momencie do czasu publikacji wyników. W tym przypadku doszło do poważnego naruszenia zaufania: osoby cierpiące na problemy ze zdrowiem psychicznym powierzyły platformę, aby zapewnić im pomoc innego człowieka, a wszystko to przy pomocy sztucznej inteligencji. Nie oznacza to, że sama pomoc była złej jakości. Jednak w każdym środowisku terapeutycznym zaufanie jest głównym czynnikiem wpływającym na przyszłe wyniki. Tego rodzaju oszustwo może zniszczyć zaufanie, jakim ludzie obdarzali kiedyś bardzo obiecującą platformę.
Eksperyment Koko pokazał, jak łatwo było oszukać ludzi w mediach społecznościowych, co doprowadziło do obaw, że technologia może być wykorzystywana złośliwie przez osoby próbujące rozpowszechniać dezinformację i fałszywe wiadomości. Tym razem zrobiono to w dobrej wierze, ale co będzie następnym razem?
Przeczytaj więcej o sztucznej inteligencji:
Odpowiedzialność
Zgodnie z Zaufaj wytycznym projektu, należy pamiętać, że informacje zawarte na tej stronie nie mają na celu i nie powinny być interpretowane jako porady prawne, podatkowe, inwestycyjne, finansowe lub jakiekolwiek inne formy porad. Ważne jest, aby inwestować tylko tyle, na utratę czego możesz sobie pozwolić, a w przypadku jakichkolwiek wątpliwości zasięgnąć niezależnej porady finansowej. Aby uzyskać więcej informacji, sugerujemy zapoznać się z warunkami oraz stronami pomocy i wsparcia udostępnianymi przez wydawcę lub reklamodawcę. MetaversePost zobowiązuje się do sporządzania dokładnych i bezstronnych raportów, jednakże warunki rynkowe mogą ulec zmianie bez powiadomienia.
O autorze
Damir jest liderem zespołu, menedżerem produktu i redaktorem w Metaverse Post, obejmujący takie tematy, jak AI/ML, AGI, LLM, Metaverse i Web3-pokrewne pola. Jego artykuły przyciągają każdego miesiąca ogromną publiczność, liczącą ponad milion użytkowników. Wydaje się być ekspertem z 10-letnim doświadczeniem w SEO i marketingu cyfrowym. Damir został wspomniany w Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i inne publikacje. Jako cyfrowy koczownik podróżuje między ZEA, Turcją, Rosją i WNP. Damir uzyskał tytuł licencjata z fizyki, co jego zdaniem dało mu umiejętności krytycznego myślenia potrzebne do odniesienia sukcesu w ciągle zmieniającym się środowisku internetowym.
Więcej artykułów
Damir jest liderem zespołu, menedżerem produktu i redaktorem w Metaverse Post, obejmujący takie tematy, jak AI/ML, AGI, LLM, Metaverse i Web3-pokrewne pola. Jego artykuły przyciągają każdego miesiąca ogromną publiczność, liczącą ponad milion użytkowników. Wydaje się być ekspertem z 10-letnim doświadczeniem w SEO i marketingu cyfrowym. Damir został wspomniany w Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i inne publikacje. Jako cyfrowy koczownik podróżuje między ZEA, Turcją, Rosją i WNP. Damir uzyskał tytuł licencjata z fizyki, co jego zdaniem dało mu umiejętności krytycznego myślenia potrzebne do odniesienia sukcesu w ciągle zmieniającym się środowisku internetowym.
