4,000 ľudí podstúpilo psychoterapiu robotov AI bez toho, aby o tom vedeli
Stručne
Koko, nezisková platforma pre duševné zdravie, spája ľudí, ktorí potrebujú pomoc, s dobrovoľníkmi.
Používatelia komunikujú s robotom Koko posielaním otázok s možnosťou výberu z viacerých odpovedí.
4,000 ľudí dostalo neohlásenú psychologickú podporu OpenAI GPT-3.
Bot bol rovnako účinný pri poskytovaní terapeutických reakcií ako človek.
Prostredníctvom chatovacích služieb ako Telegram a Discord, nezisková platforma pre duševné zdravie Koko spája tínedžerov a dospelých, ktorí potrebujú starostlivosť o duševné zdravie, s dobrovoľníkmi. Používatelia sa prihlásia na server Discord spoločnosti Koko Care a komunikujú s robotom Koko priamo odoslaním otázok s možnosťou výberu z viacerých možností, ako napríklad „Aká je najtemnejšia predstava, ktorú o tom máte?“ Potom bot anonymne oznámi obavy danej osoby inému používateľovi na serveri, ktorý potom môže anonymne odpovedať vlastnou krátkou správou.
Tento inovatívny spôsob spájania ľudí, ktorí potrebujú pomoc v oblasti duševného zdravia, s dobrovoľníkmi umožnil spoločnosti Koko preklenúť priepasť medzi tými, ktorí nemali prístup k pomoci, ktorú potrebujú, a tými, ktorí sú ochotní ju ponúknuť.
Rob Morris, spoluzakladateľ Koko, sa však rozhodol otestovať dobrovoľníkov psychoterapie na robotoch AI a nie na skutočných ľuďoch. Psychologickú podporu dostalo približne 4,000 ľudí OpenAI GPT-3podľa Morrisovho tweetu. Výsledky tejto štúdie ukázali, že robot AI bol pri poskytovaní terapeutických reakcií rovnako účinný ako človek.
Zdalo sa, že ľudia oceňujú psychologickú podporu a pomoc GPT-3 ponúkol. Po oznámení ho však Morris rýchlo stiahol z Telegramu a Discordu. prečo? Tento typ terapie prestal fungovať, keď si jednotlivci uvedomili, že správy boli generované strojom. Je možné, že napodobňovanie empatie sa môže zdať zvláštne a prázdne.
V hre však môže byť aj niečo iné. Experiment Roba Morrisa vyvolal kritiku na sociálnych sieťach a bol označený za neetický. Koniec koncov, účastníci boli oklamaní a neboli schopní poskytnúť informovaný súhlas; namiesto toho sa stali neochotnými účastníkmi tejto štúdie.
V bežnej vedeckej štúdii sú účastníci informovaní o tom, ako bude štúdia prebiehať, a môžu svoj súhlas kedykoľvek odvolať až do zverejnenia výsledkov. Tu došlo k veľkému narušeniu dôvery: Ľudia s problémami duševného zdravia poverili platformu, aby im poskytla pomoc od inej ľudskej bytosti, pričom im bola poskytnutá pomoc od AI. To neznamená, že pomoc ako taká bola nekvalitná. V každom terapeutickom prostredí je však dôvera hlavným faktorom budúcich výsledkov. Tento typ podvodu by mohol narušiť dôveru ľudí, ktorú kedysi mali vo veľmi sľubnú platformu.
Kokov experiment poukázal na to, aké ľahké bolo oklamať ľudí na sociálnych sieťach, čo viedlo k obavám, že by túto technológiu mohli zlomyseľne využiť ľudia, ktorí sa snažia šíriť dezinformácie a falošné správy. Tentoraz to bolo urobené v dobrej viere, ale čo nabudúce?
Prečítajte si viac o AI:
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
Ďalšie článkyDamir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.