4,000 orang menjalani psikoterapi robot AI tanpa menyadarinya
Singkatnya
Koko, platform kesehatan mental nirlaba, menghubungkan orang yang membutuhkan bantuan dengan sukarelawan.
Pengguna berkomunikasi dengan bot Koko dengan mengirimkan pertanyaan pilihan ganda.
4,000 orang menerima dukungan psikologis tanpa pemberitahuan dari OpenAI GPT-3.
Bot itu sama efektifnya dalam memberikan respons terapeutik sebagai manusia.
Melalui layanan obrolan seperti Telegram dan Discord, platform kesehatan mental nirlaba Koko menghubungkan remaja dan orang dewasa yang membutuhkan perawatan kesehatan mental dengan sukarelawan. Pengguna masuk ke server Perselisihan Koko Care dan berkomunikasi dengan bot Koko secara langsung dengan mengirimkannya pertanyaan pilihan ganda, seperti "Apa gagasan tergelap yang Anda miliki tentang ini?" Kemudian bot secara anonim mengomunikasikan kekhawatiran orang tersebut kepada pengguna lain di server, yang kemudian dapat merespons secara anonim dengan pesan singkat mereka sendiri.
Cara inovatif untuk menghubungkan orang-orang yang membutuhkan bantuan kesehatan mental dengan para sukarelawan ini telah memungkinkan Koko menjembatani kesenjangan antara mereka yang belum dapat mengakses bantuan yang mereka butuhkan dan mereka yang bersedia menawarkannya.
Namun, Rob Morris, salah satu pendiri Koko, membuat keputusan untuk menguji sukarelawan psikoterapi menggunakan bot AI daripada orang yang sebenarnya. Sekitar 4,000 orang menerima dukungan psikologis dari OpenAI GPT-3, sesuai tweet Morris. Hasil penelitian ini menunjukkan bahwa bot AI sama efektifnya dalam memberikan respons terapeutik seperti halnya manusia.
Komunikasi yang dihasilkan AI menerima peringkat yang jauh lebih tinggi daripada pesan yang ditulis oleh manusia. Pengurangan 50% dalam waktu respons juga telah dilakukan,
Rob Morris menunjukkan.
Nampaknya masyarakat mengapresiasi dukungan dan bantuan psikologis tersebut GPT-3 ditawarkan. Namun, setelah pengumuman tersebut, Morris dengan cepat menghapusnya dari Telegram dan Discord. Mengapa? Jenis terapi ini berhenti bekerja setelah individu menyadari bahwa pesan-pesan tersebut dihasilkan oleh mesin. Mungkin peniruan empati tampak aneh dan hampa.
Namun, ada hal lain yang mungkin berperan juga. Eksperimen Rob Morris menuai kritik di media sosial dan dicap tidak etis. Bagaimanapun, para peserta tertipu dan tidak dapat memberikan persetujuan; sebaliknya, mereka menjadi peserta yang enggan dalam penelitian ini.
Dalam studi ilmiah reguler, peserta diberi tahu tentang bagaimana studi akan dilakukan, dan mereka dapat menarik persetujuannya kapan saja hingga hasilnya dipublikasikan. Di sini, telah terjadi pelanggaran kepercayaan yang besar: Orang dengan masalah kesehatan mental mempercayakan platform untuk memberi mereka bantuan dari manusia lain, sambil diberi bantuan dari AI. Ini tidak berarti bahwa bantuan itu sendiri berkualitas buruk. Namun, dalam pengaturan terapeutik apa pun, kepercayaan merupakan faktor utama dalam hasil di masa depan. Jenis penipuan ini dapat merusak kepercayaan yang pernah dimiliki orang pada platform yang sangat menjanjikan.
Eksperimen Koko menyoroti betapa mudahnya menipu orang di media sosial, yang menimbulkan kekhawatiran bahwa teknologi tersebut dapat digunakan secara jahat oleh orang yang mencoba menyebarkan informasi yang salah dan berita palsu. Kali ini dilakukan dengan itikad baik, tapi bagaimana dengan waktu berikutnya?
Baca lebih lanjut tentang AI:
Penolakan tanggung jawab
Sejalan dengan Percayai pedoman Proyek, harap dicatat bahwa informasi yang diberikan pada halaman ini tidak dimaksudkan untuk dan tidak boleh ditafsirkan sebagai nasihat hukum, pajak, investasi, keuangan, atau bentuk nasihat lainnya. Penting untuk hanya menginvestasikan jumlah yang mampu Anda tanggung kerugiannya dan mencari nasihat keuangan independen jika Anda ragu. Untuk informasi lebih lanjut, kami menyarankan untuk merujuk pada syarat dan ketentuan serta halaman bantuan dan dukungan yang disediakan oleh penerbit atau pengiklan. MetaversePost berkomitmen terhadap pelaporan yang akurat dan tidak memihak, namun kondisi pasar dapat berubah tanpa pemberitahuan.
Tentang Penulis
Damir adalah pemimpin tim, manajer produk, dan editor di Metaverse Post, mencakup topik seperti AI/ML, AGI, LLM, Metaverse, dan Web3-bidang terkait. Artikelnya menarik lebih dari satu juta pengguna setiap bulan. Dia tampaknya ahli dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebutkan dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, dan publikasi lainnya. Dia melakukan perjalanan antara UEA, Turki, Rusia, dan CIS sebagai pengembara digital. Damir memperoleh gelar sarjana dalam bidang fisika, yang menurutnya telah memberinya keterampilan berpikir kritis yang diperlukan untuk berhasil dalam lanskap internet yang selalu berubah.
lebih artikel
Damir adalah pemimpin tim, manajer produk, dan editor di Metaverse Post, mencakup topik seperti AI/ML, AGI, LLM, Metaverse, dan Web3-bidang terkait. Artikelnya menarik lebih dari satu juta pengguna setiap bulan. Dia tampaknya ahli dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebutkan dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, dan publikasi lainnya. Dia melakukan perjalanan antara UEA, Turki, Rusia, dan CIS sebagai pengembara digital. Damir memperoleh gelar sarjana dalam bidang fisika, yang menurutnya telah memberinya keterampilan berpikir kritis yang diperlukan untuk berhasil dalam lanskap internet yang selalu berubah.
