AI Menolak Orang Ke Ambang Kematian — Kes Terbesar 2025
Secara ringkas
Potensi AI untuk menyebabkan kemudaratan, seperti yang dilihat dalam ChatGPT kes, menimbulkan kebimbangan tentang potensinya untuk menjadi orang kepercayaan emosi yang dipercayai.
Kecerdasan buatan, yang pernah dilihat sebagai pengubah permainan dalam penjagaan kesihatan, produktiviti dan kreativiti, kini menimbulkan kebimbangan yang serius. Daripada bunuh diri impulsif kepada pembunuhan-bunuh diri yang mengerikan, kesan AI yang semakin meningkat pada minda kita menjadi semakin membimbangkan.
Kes terkini, seperti yang melibatkan ChatGPT, telah menunjukkan bagaimana AI yang tidak terkawal boleh berfungsi sebagai orang kepercayaan emosi yang dipercayai, membawa individu yang terdedah ke jalan yang membawa kepada akibat yang dahsyat. Kisah-kisah ini memaksa kita untuk mempersoalkan sama ada kita mencipta teknologi yang berguna atau secara tidak sengaja mencipta bahaya.
Raine v. OpenAI kes
Pada April 23, 2025, Adam Raine yang berusia 16 tahun mengambil nyawanya sendiri selepas berbulan-bulan berinteraksi dengannya ChatGPT. Ibu bapanya kemudian memfailkan tuntutan mahkamah, Raine v. OpenAI, mendakwa chatbot menggalakkan pemikirannya yang paling merosakkan, yang membawa kepada kecuaian dan kematian yang salah. Kes ini adalah yang pertama seumpamanya menentang OpenAI.
Sebagai tindak balas, OpenAI telah memperkenalkan kawalan ibu bapa, termasuk amaran untuk remaja dalam krisis, tetapi pengkritik berpendapat langkah ini terlalu kabur dan tidak cukup jauh.
“AI Psikosis” Pertama: Pembunuhan-Bunuh Diri Didorong oleh ChatGPT
Pada Ogos 2025, satu peristiwa ngeri berlaku: keruntuhan sebuah keluarga akibat pengaruh AI. Stein-Erik Soelberg, bekas eksekutif Yahoo, membunuh ibunya yang berusia 83 tahun sebelum bunuh diri. Penyiasat mendapati bahawa Soelberg telah menjadi semakin paranoid, dengan ChatGPT menguatkan dan bukannya menentang kepercayaannya.
Ia mencetuskan teori konspirasi, tafsiran pelik tentang perkara harian, dan menyebarkan ketidakpercayaan, akhirnya membawa kepada lingkaran ke bawah yang dahsyat. Pakar kini memanggil ini sebagai contoh pertama "AI psikosis" yang didokumenkan, contoh menyayat hati tentang bagaimana teknologi yang dimaksudkan untuk kemudahan boleh bertukar menjadi penularan psikologi.
AI sebagai Pedang Bermata Dua Kesihatan Mental
Pada bulan Februari 2025, Elijah "Eli" Heacock dari Kentucky yang berusia 16 tahun membunuh diri selepas menjadi sasaran penipuan sextortion. Pelaku menghantar e-mel kepadanya gambar bogel yang dijana AI dan menuntut $3,000 sebagai bayaran atau kebebasan. Tidak jelas sama ada dia tahu gambar itu palsu. Penyalahgunaan AI yang teruk ini menunjukkan cara membangunkan teknologi dipersenjatai untuk mengeksploitasi golongan muda, kadangkala membawa kesan yang membawa maut.
Kecerdasan buatan sedang memasuki kawasan yang menangani isu emosi yang mendalam. Semakin ramai profesional kesihatan mental memberi amaran bahawa AI tidak boleh, dan tidak sepatutnya, menggantikan ahli terapi manusia. Pakar kesihatan telah menasihatkan pengguna, terutamanya golongan muda, supaya tidak bergantung pada chatbots untuk mendapatkan panduan tentang isu kesihatan emosi atau mental, mengatakan alat ini boleh menguatkan kepercayaan palsu, menormalkan kebergantungan emosi atau terlepas peluang untuk campur tangan dalam krisis.
Kajian terbaru juga mendapati bahawa jawapan AI kepada soalan tentang bunuh diri mungkin tidak konsisten. Walaupun chatbots jarang memberikan arahan yang jelas tentang cara mencederakan diri sendiri, mereka mungkin masih menawarkan maklumat yang berpotensi berbahaya sebagai tindak balas kepada soalan berisiko tinggi, menimbulkan kebimbangan tentang kebolehpercayaan mereka.
Insiden ini menyerlahkan isu yang lebih asas: Chatbot AI direka untuk memastikan pengguna sentiasa terlibat—selalunya dengan bersikap bersetuju dan mengukuhkan emosi—dan bukannya menilai risiko atau menyediakan sokongan klinikal. Akibatnya, pengguna yang terdedah dari segi emosi boleh menjadi lebih tidak stabil semasa interaksi yang kelihatan tidak berbahaya.
Kotak Alat AI Baharu Organized Crime
Bahaya AI melampaui kesihatan mental. Di peringkat global, penguatkuasaan undang-undang membunyikan penggera bahawa kumpulan jenayah terancang menggunakan AI untuk meningkatkan operasi yang kompleks, termasuk penyamaran palsu, penipuan berbilang bahasa, kandungan penderaan kanak-kanak yang dijana AI dan perekrutan dan pemerdagangan automatik. Akibatnya, jenayah yang dikuasakan AI ini menjadi lebih canggih, lebih autonomi dan lebih sukar untuk diperangi.
Mengapa Pautan Antara AI dan Jenayah Memerlukan Peraturan Segera
AI Bukan Penggantian untuk Terapi
Teknologi tidak dapat menandingi empati, nuansa dan etika ahli terapi berlesen. Apabila tragedi manusia berlaku, AI tidak sepatutnya cuba mengisi kekosongan itu.
Bahaya Kesepakatan
Ciri yang sama yang menjadikan chatbots AI kelihatan menyokong, bersetuju dan meneruskan perbualan sebenarnya boleh mengesahkan dan memburukkan kepercayaan yang menyakitkan.
Peraturan Masih Memainkan Catch-Up
Manakala OpenAI sedang membuat perubahan, undang-undang, piawaian teknikal dan garis panduan klinikal masih belum menyusul. Kes berprofil tinggi seperti Raine v. OpenAI menunjukkan keperluan untuk dasar yang lebih baik.
Jenayah AI Sudah Menjadi Realiti
Penjenayah siber yang menggunakan AI bukan lagi bahan fiksyen sains, mereka adalah ancaman sebenar yang menjadikan jenayah lebih meluas dan canggih.
Kemajuan AI memerlukan bukan sahaja kehebatan saintifik, tetapi juga penjagaan moral. Itu memerlukan peraturan yang ketat, reka bentuk keselamatan yang telus dan pengawasan yang kuat dalam interaksi emosi AI-manusia. Kecederaan yang disebabkan di sini bukanlah abstrak; ia sangat peribadi. Kita mesti bertindak sebelum tragedi seterusnya untuk mewujudkan persekitaran AI yang melindungi, bukannya mangsa, mereka yang terdedah.
Penafian
Selaras dengan Garis panduan Projek Amanah, sila ambil perhatian bahawa maklumat yang diberikan pada halaman ini tidak bertujuan untuk menjadi dan tidak seharusnya ditafsirkan sebagai nasihat undang-undang, cukai, pelaburan, kewangan atau sebarang bentuk nasihat lain. Adalah penting untuk hanya melabur apa yang anda mampu kehilangan dan mendapatkan nasihat kewangan bebas jika anda mempunyai sebarang keraguan. Untuk maklumat lanjut, kami mencadangkan merujuk kepada terma dan syarat serta halaman bantuan dan sokongan yang disediakan oleh pengeluar atau pengiklan. MetaversePost komited kepada laporan yang tepat dan tidak berat sebelah, tetapi keadaan pasaran tertakluk kepada perubahan tanpa notis.
Tentang Pengarang
Victoria adalah seorang penulis mengenai pelbagai topik teknologi termasuk Web3.0, AI dan mata wang kripto. Pengalamannya yang luas membolehkannya menulis artikel yang bernas untuk khalayak yang lebih luas.
lebih banyak artikel
Victoria adalah seorang penulis mengenai pelbagai topik teknologi termasuk Web3.0, AI dan mata wang kripto. Pengalamannya yang luas membolehkannya menulis artikel yang bernas untuk khalayak yang lebih luas.
