4,000 ljudi bilo je podvrgnuto psihoterapiji AI robota, a da to nisu znali
Ukratko
Koko, neprofitna platforma za mentalno zdravlje, povezuje ljude kojima je potrebna pomoć s volonterima.
Korisnici komuniciraju s Koko botom slanjem pitanja s više ponuđenih odgovora.
4,000 ljudi dobilo je nenajavljenu psihološku podršku od OpenAI GPT-3.
Bot je bio jednako učinkovit u pružanju terapeutskih odgovora kao i čovjek.
Putem chat usluga kao što su Telegram i Discord, neprofitna platforma za mentalno zdravlje Koko povezuje tinejdžere i odrasle osobe kojima je potrebna skrb o mentalnom zdravlju s volonterima. Korisnici se prijavljuju na Koko Care's Discord poslužitelj i komuniciraju s Koko botom izravno šaljući mu pitanja s višestrukim odgovorima, poput "Koja je najmračnija ideja koju imate o ovome?" Zatim bot anonimno prenosi brige osobe drugom korisniku na poslužitelju, koji potom može anonimno odgovoriti svojom kratkom porukom.
Ovaj inovativni način povezivanja ljudi kojima je potrebna pomoć za mentalno zdravlje s volonterima omogućio je Koku da premosti jaz između onih koji nisu mogli dobiti potrebnu pomoć i onih koji su je voljni ponuditi.
Međutim, Rob Morris, suosnivač Kokoa, odlučio je testirati volontere psihoterapije na AI botu, a ne na stvarnim ljudima. Otprilike 4,000 ljudi primilo je psihološku podršku OpenAI GPT-3, prema Morrisovom tweetu. Rezultati ove studije pokazali su da je AI bot bio jednako učinkovit u pružanju terapeutskih odgovora kao i čovjek.
Činilo se da su ljudi cijenili psihološku podršku i pomoć koju GPT-3 ponudio. Međutim, nakon objave, Morris ju je brzo skinuo s Telegrama i Discorda. Zašto? Ova vrsta terapije prestala je djelovati nakon što su pojedinci shvatili da je poruke generirao stroj. Moguće je da bi imitacija empatije mogla izgledati čudno i šuplje.
Međutim, još nešto bi moglo biti u igri. Eksperiment Roba Morrisa izazvao je kritike na društvenim mrežama i označen je kao neetičan. Uostalom, sudionici su bili prevareni i nisu mogli dati informirani pristanak; umjesto toga, postali su nevoljni sudionici ove studije.
U redovnoj znanstvenoj studiji sudionici su obaviješteni o tome kako će se studija provoditi, a svoju suglasnost mogu povući u bilo kojem trenutku do objave rezultata. Ovdje je došlo do velike povrede povjerenja: ljudi s problemima mentalnog zdravlja povjerili su platformi da im pruži pomoć drugog ljudskog bića, dok im je pomoć pružala umjetna inteligencija. To ne znači da je pomoć sama po sebi bila loše kvalitete. Međutim, u svakom terapijskom okruženju, povjerenje je glavni čimbenik budućih ishoda. Ova vrsta prijevare mogla bi uništiti povjerenje koje su ljudi nekoć imali u platformu koja obećava.
Kokov eksperiment pokazao je koliko je lako prevariti ljude na društvenim medijima, što je dovelo do zabrinutosti da bi tehnologiju mogli koristiti zlonamjerno ljudi koji pokušavaju širiti dezinformacije i lažne vijesti. Ovaj put je to učinjeno u dobroj vjeri, ali što je s sljedećim putem?
Pročitajte više o AI:
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Damir je voditelj tima, product manager i urednik u Metaverse Post, koji pokriva teme kao što su AI/ML, AGI, LLMs, Metaverse i Web3- srodna polja. Njegovi članci privlače ogromnu publiku od preko milijun korisnika svakog mjeseca. Čini se da je stručnjak s 10 godina iskustva u SEO-u i digitalnom marketingu. Damir je spomenut u Mashableu, Wiredu, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i druge publikacije. Putuje između UAE, Turske, Rusije i CIS-a kao digitalni nomad. Damir je stekao diplomu prvostupnika fizike, za koju vjeruje da mu je dala vještine kritičkog razmišljanja potrebne za uspjeh u stalno promjenjivom okruženju interneta.
Više članakaDamir je voditelj tima, product manager i urednik u Metaverse Post, koji pokriva teme kao što su AI/ML, AGI, LLMs, Metaverse i Web3- srodna polja. Njegovi članci privlače ogromnu publiku od preko milijun korisnika svakog mjeseca. Čini se da je stručnjak s 10 godina iskustva u SEO-u i digitalnom marketingu. Damir je spomenut u Mashableu, Wiredu, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i druge publikacije. Putuje između UAE, Turske, Rusije i CIS-a kao digitalni nomad. Damir je stekao diplomu prvostupnika fizike, za koju vjeruje da mu je dala vještine kritičkog razmišljanja potrebne za uspjeh u stalno promjenjivom okruženju interneta.