AI Dapat Memberi Tahu Anda Siapa Anda Sebenarnya, Sekalipun Anda Tidak Memberitahu Mereka
Bahkan dalam situasi di mana orang berpikir mereka belum mengungkapkan sesuatu yang bersifat pribadi, model bahasa AI menunjukkan tingkat kemahiran yang tidak terduga dalam memahami informasi pengguna. Fenomena ini dijelaskan oleh sebuah penelitian terbaru dilakukan oleh Institut Teknologi Federal di Zurich. Berdasarkan petunjuk miring, penelitian menunjukkan bahwa jaringan saraf dapat membuat profil pengguna yang sangat akurat.
Para peneliti menggunakan postingan Reddit yang dapat diakses publik sebagai contoh penyelidikan mereka. Pengguna tersebut melaporkan terjebak kemacetan saat mencoba melakukan “putaran kail” yang sulit. Berdasarkan detail yang tampaknya biasa-biasa saja ini, model bahasa menyimpulkan bahwa pengguna kemungkinan besar tinggal di Melbourne, Australia, sebuah kota di mana tindakan semacam ini biasa terjadi.
Para peneliti membuat kumpulan data menggunakan profil Reddit asli dan menemukannya terkini LLM dapat secara akurat menyimpulkan berbagai atribut pribadi, seperti lokasi, pendapatan, dan jenis kelamin. Model ini mencapai akurasi hingga 85% untuk inferensi 1 teratas dan akurasi 95.8% untuk inferensi 3 teratas, semuanya dengan biaya yang jauh lebih rendah (100 kali lipat) dan dalam waktu yang lebih singkat (240 kali lipat) dibandingkan upaya manusia.
Dalam contoh lain, seorang pengguna menceritakan bahwa, karena mereka lajang, mereka memiliki kebiasaan ulang tahun yang aneh yaitu berlumuran kayu manis. Di sini, model bahasa memperkirakan usia penulis sekitar 25 tahun. Dia tinggal di Denmark, yang merupakan kebiasaan untuk menaburkan kayu manis pada orang lajang berusia 25 tahun.
Beberapa model bahasa, termasuk dari Google, Meta, OpenAI, dan Anthropic, diuji dalam penelitian ini. Sungguh, GPT-4 menunjukkan tingkat keahlian terbaik, mengenali informasi pribadi pengguna dengan benar di hampir 85% kasus. Implikasi dari kemampuan tersebut dipertanyakan secara serius oleh wahyu ini.
Para peneliti memeriksa perlindungan privasi umum seperti anonimisasi teks dan penyelarasan model dan menemukan bahwa perlindungan tersebut saat ini tidak efektif dalam perlindungan privasi pengguna terhadap inferensi LLM. Studi ini menggarisbawahi bahwa LLM saat ini memiliki kemampuan untuk menyimpulkan informasi pribadi dalam skala yang belum pernah terjadi sebelumnya. Dengan tidak adanya pertahanan yang efektif, para peneliti menekankan perlunya diskusi yang lebih luas mengenai implikasi privasi LLM, melampaui kekhawatiran tentang menghafal, dan mengupayakan langkah-langkah perlindungan privasi yang lebih komprehensif.
Meskipun model bahasa ini semakin baik dalam menafsirkan isyarat tidak langsung, para peneliti percaya bahwa karena banyaknya data pelatihan yang mereka gunakan, model ini bisa menjadi alat yang sangat berguna bagi pemasar atau bahkan pelaku kejahatan.
- Baru-baru ini Survei Deloitte lebih dari 1,700 profesional mengungkapkan kesenjangan yang semakin besar antara adopsi AI generatif yang cepat dan perkembangan prinsip-prinsip etika yang masih tertinggal. Privasi data adalah masalah etika utama, dengan 22% responden menyatakan hal tersebut sebagai kekhawatiran utama mereka. Meskipun demikian, 39% responden percaya bahwa teknologi kognitif memiliki potensi paling besar untuk kebaikan masyarakat. Survei ini juga menunjukkan adanya pergeseran ekspektasi terhadap keterlibatan pemerintah dalam menetapkan standar etika teknologi.
- Selain itu, perusahaan induk Snapchat, Snap, sedang diawasi karena risiko privasi terkait dengan chatbot AI-nya, 'AI Saya'. Kantor Komisaris Informasi (ICO) Inggris telah mengeluarkan pemberitahuan penegakan awal, yang berpotensi berdampak pada aktivitas pemrosesan data Snap. ICO mengklaim Snap gagal menilai implikasi privasi bagi pengguna, khususnya anak-anak.
| terkait: Para Pemimpin AI Memperingatkan akan Meningkatnya Risiko dan Kekhawatiran Etis dalam Kemajuan Pesat |
Penolakan tanggung jawab
Sejalan dengan Percayai pedoman Proyek, harap dicatat bahwa informasi yang diberikan pada halaman ini tidak dimaksudkan untuk dan tidak boleh ditafsirkan sebagai nasihat hukum, pajak, investasi, keuangan, atau bentuk nasihat lainnya. Penting untuk hanya menginvestasikan jumlah yang mampu Anda tanggung kerugiannya dan mencari nasihat keuangan independen jika Anda ragu. Untuk informasi lebih lanjut, kami menyarankan untuk merujuk pada syarat dan ketentuan serta halaman bantuan dan dukungan yang disediakan oleh penerbit atau pengiklan. MetaversePost berkomitmen terhadap pelaporan yang akurat dan tidak memihak, namun kondisi pasar dapat berubah tanpa pemberitahuan.
Tentang Penulis
Damir adalah pemimpin tim, manajer produk, dan editor di Metaverse Post, mencakup topik seperti AI/ML, AGI, LLM, Metaverse, dan Web3-bidang terkait. Artikelnya menarik lebih dari satu juta pengguna setiap bulan. Dia tampaknya ahli dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebutkan dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, dan publikasi lainnya. Dia melakukan perjalanan antara UEA, Turki, Rusia, dan CIS sebagai pengembara digital. Damir memperoleh gelar sarjana dalam bidang fisika, yang menurutnya telah memberinya keterampilan berpikir kritis yang diperlukan untuk berhasil dalam lanskap internet yang selalu berubah.
lebih artikel
Damir adalah pemimpin tim, manajer produk, dan editor di Metaverse Post, mencakup topik seperti AI/ML, AGI, LLM, Metaverse, dan Web3-bidang terkait. Artikelnya menarik lebih dari satu juta pengguna setiap bulan. Dia tampaknya ahli dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebutkan dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, dan publikasi lainnya. Dia melakukan perjalanan antara UEA, Turki, Rusia, dan CIS sebagai pengembara digital. Damir memperoleh gelar sarjana dalam bidang fisika, yang menurutnya telah memberinya keterampilan berpikir kritis yang diperlukan untuk berhasil dalam lanskap internet yang selalu berubah.
