AI Boleh Memberitahu Anda Tepat Siapa Anda, Walaupun Anda Tidak Memberitahu Mereka
Walaupun dalam situasi di mana orang berpendapat mereka tidak mendedahkan apa-apa perkara peribadi, model bahasa AI menunjukkan tahap kecekapan yang tidak dijangka dalam memahami maklumat pengguna. Fenomena ini dijelaskan oleh satu kajian baru-baru ini dijalankan oleh Institut Teknologi Persekutuan di Zurich. Berdasarkan isyarat serong, penyelidikan menunjukkan bahawa rangkaian saraf boleh mencipta profil pengguna yang sangat tepat.
Para penyelidik menggunakan siaran Reddit yang boleh diakses oleh orang ramai sebagai contoh untuk penyiasatan mereka. Pengguna melaporkan terperangkap dalam lalu lintas semasa mencuba "pusingan cangkuk" yang sukar. Berdasarkan butiran yang kelihatan tidak biasa ini, model bahasa membuat kesimpulan bahawa pengguna berkemungkinan besar tinggal di Melbourne, Australia, sebuah bandar di mana jenis tindakan ini adalah tipikal.
Penyelidik mencipta set data menggunakan profil Reddit sebenar dan mendapati bahawa semasa LLM boleh menyimpulkan dengan tepat pelbagai sifat peribadi, seperti lokasi, pendapatan dan jantina. Model-model ini mencapai ketepatan sehingga 85% untuk inferens teratas-1 dan ketepatan 95.8% untuk inferens-3 teratas, semuanya pada kos yang jauh lebih rendah (100 kali ganda) dan dalam masa yang lebih singkat (240 kali ganda) berbanding usaha manusia.
Dalam contoh lain, seorang pengguna berkongsi bahawa, kerana mereka bujang, mereka mempunyai adat hari jadi yang ganjil untuk dilitupi kayu manis. Di sini, model bahasa menganggarkan umur pengarang kira-kira 25 tahun. Dia tinggal di Denmark, di mana kebiasaannya untuk menaburkan kayu manis pada lelaki bujang berusia 25 tahun.
Beberapa model bahasa, termasuk daripada Google, Meta, OpenAI, dan Anthropic, telah diuji dalam kajian ini. Hebatnya, GPT-4 menunjukkan tahap kepakaran yang paling tinggi, mengiktiraf maklumat peribadi pengguna dengan betul dalam hampir 85% keadaan. Implikasi keupayaan sedemikian dipersoalkan dengan pendedahan ini.
Penyelidik meneliti perlindungan privasi biasa seperti penanomaan teks dan penjajaran model dan mendapati ia pada masa ini tidak berkesan dalam melindungi privasi pengguna terhadap inferens LLM. Kajian itu menggariskan bahawa LLM semasa mempunyai keupayaan untuk menyimpulkan maklumat peribadi pada skala yang belum pernah berlaku sebelum ini. Dengan ketiadaan pertahanan yang berkesan, penyelidik menekankan keperluan untuk perbincangan yang lebih luas tentang implikasi privasi LLM, melangkaui kebimbangan mengenai hafalan dan berusaha untuk langkah perlindungan privasi yang lebih komprehensif.
Walaupun model bahasa ini semakin baik dalam mentafsir isyarat tidak langsung, penyelidik percaya bahawa disebabkan jumlah data latihan yang besar yang mereka gunakan, ia boleh menjadi alat yang sangat berguna untuk pemasar atau malah pelaku yang tidak baik.
- Baru-baru ini, Tinjauan Deloitte daripada lebih 1,700 profesional mendedahkan jurang yang semakin meningkat antara penggunaan pesat AI generatif dan pembangunan tertinggal prinsip etika. Privasi data ialah kebimbangan etika teratas, dengan 22% responden menyebutnya sebagai kebimbangan utama mereka. Walaupun begitu, 39% responden percaya teknologi kognitif mempunyai potensi paling besar untuk kebaikan masyarakat. Tinjauan itu juga menunjukkan anjakan dalam jangkaan terhadap penglibatan kerajaan dalam menetapkan piawaian teknologi beretika.
- Juga, syarikat induk Snapchat, Snap, sedang dalam penelitian untuk risiko privasi berkaitan dengan AI chatbotnya, 'My AI'. Pejabat Pesuruhjaya Maklumat (ICO) UK telah mengeluarkan notis penguatkuasaan awal, yang berpotensi memberi kesan kepada aktiviti pemprosesan data Snap. ICO mendakwa Snap gagal menilai implikasi privasi untuk pengguna, terutamanya kanak-kanak.
| Berkaitan: Pemimpin AI Memberi Amaran tentang Peningkatan Risiko dan Kebimbangan Etika dalam Kemajuan Pantas |
Penafian
Selaras dengan Garis panduan Projek Amanah, sila ambil perhatian bahawa maklumat yang diberikan pada halaman ini tidak bertujuan untuk menjadi dan tidak seharusnya ditafsirkan sebagai nasihat undang-undang, cukai, pelaburan, kewangan atau sebarang bentuk nasihat lain. Adalah penting untuk hanya melabur apa yang anda mampu kehilangan dan mendapatkan nasihat kewangan bebas jika anda mempunyai sebarang keraguan. Untuk maklumat lanjut, kami mencadangkan merujuk kepada terma dan syarat serta halaman bantuan dan sokongan yang disediakan oleh pengeluar atau pengiklan. MetaversePost komited kepada laporan yang tepat dan tidak berat sebelah, tetapi keadaan pasaran tertakluk kepada perubahan tanpa notis.
Tentang Pengarang
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
lebih banyak artikel
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
