Universiti Cornell: AI Adalah Senjata Penipuan Terunggul, Melawan Yang Kita Tidak Berdaya
Secara ringkas
Percubaan Stanford telah mendedahkan kelemahan intuisi linguistik orang yang tidak dapat diatasi, mendedahkan kebarangkalian rendah untuk mengenal pasti pengarang AI.
Ini kerana kebolehan AI suka ChatGPT untuk mengeluarkan palsu dengan begitu mahir sehingga orang tidak dapat membezakannya daripada kebenaran.
"Percubaan Stanford" baharu telah mendedahkan kelemahan intuisi linguistik orang yang tidak dapat diatasi. Disebabkan itu, kebarangkalian kami mengenal pasti pengarang AI sangat berkurangan.
Terdapat banyak kebimbangan untuk dunia hari ini akibat daripada ChatGPT revolusi. Yang paling jelas ialah AI suka ChatGPT mampu mengeluarkan palsu dengan begitu mahir sehingga orang tidak dapat membezakannya daripada kebenaran. Keputusan percubaan yang dijalankan telah menunjukkan kapasiti yang sangat besar ChatGPT keupayaan super untuk menipu. Walau bagaimanapun, tidak jelas bagaimana kuasa besar ini berfungsi—apakah yang dimiliki oleh AI yang boleh membuatkan orang yang sangat pandai dan berpendidikan mempercayai apa yang dilakukannya?
| Baca lebih lanjut: 20+ Telegram AI Chatbots Terbaik 2023 |
"Percubaan Stanford" baharu telah dijalankan oleh Makmal Rangkaian Sosial Stanford dengan kerjasama Pusat Penyelidikan Universiti Cornell untuk menjawab soalan ini.
Hasil daripada enam siri eksperimen yang melibatkan 4,600 orang adalah sensasi dan menyedihkan.
Orang ramai ditugaskan untuk menentukan sama ada pembentangan diri ditulis oleh seseorang atau AI. Menurut penyelidik, pembentangan diri adalah salah satu elemen komunikasi linguistik yang paling peribadi dan berbangkit kerana sikap kita terhadap sebarang kenyataan bergantung pada siapa (seperti yang kita percaya) pengarangnya.
Di tengah-tengah persepsi linguistik orang adalah heuristik. Istilah heuristik merujuk kepada jalan pintas mental yang diambil oleh orang ramai untuk membuat keputusan, menyelesaikan masalah dan membuat pertimbangan. Ia membantu orang ramai meringankan beban kerja mental mereka dan mengelakkan beban kognitif yang berlebihan.
"Analisis pengiraan ciri bahasa menunjukkan bahawa penilaian manusia terhadap bahasa yang dijana oleh AI dihalang oleh heuristik yang intuitif tetapi cacat seperti mengaitkan kata ganti nama diri pertama, penggunaan kontraksi atau topik keluarga dengan bahasa tulisan manusia," kata kajian itu. Eksperimen telah menunjukkan bahawa apabila melihat teks yang ditulis oleh AI, orang secara automatik menggunakan heuristik yang sama seperti semasa berkomunikasi dengan orang lain. Dan ini adalah kesilapan asas. Hakikatnya ialah ini adalah heuristik intuitif untuk kami, dan AI membacanya dengan mudah dan beroperasi dengannya seperti jadual pendaraban.
Akibatnya, AI boleh menggunakan heuristik untuk mencipta teks yang orang anggap sebagai "lebih manusia daripada manusia." Ini sangat meningkatkan potensi penipuan teks dan pertuturan AI, menggalakkan kami untuk mempercayai "orang kebanyakan manusia" ini lebih daripada kenyataan orang sebenar.
Peluang orang mengenal pasti pembentangan diri yang ditulis AI ialah 50/50. Perkara yang lebih teruk dalam komunikasi romantik orang. Hampir 70% orang dewasa tidak dapat membezakan antara surat cinta yang ditulis oleh ChatGPT dan surat yang ditulis oleh seseorang.
Baca lebih lanjut mengenai ChatGPT:
Penafian
Selaras dengan Garis panduan Projek Amanah, sila ambil perhatian bahawa maklumat yang diberikan pada halaman ini tidak bertujuan untuk menjadi dan tidak seharusnya ditafsirkan sebagai nasihat undang-undang, cukai, pelaburan, kewangan atau sebarang bentuk nasihat lain. Adalah penting untuk hanya melabur apa yang anda mampu kehilangan dan mendapatkan nasihat kewangan bebas jika anda mempunyai sebarang keraguan. Untuk maklumat lanjut, kami mencadangkan merujuk kepada terma dan syarat serta halaman bantuan dan sokongan yang disediakan oleh pengeluar atau pengiklan. MetaversePost komited kepada laporan yang tepat dan tidak berat sebelah, tetapi keadaan pasaran tertakluk kepada perubahan tanpa notis.
Tentang Pengarang
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
lebih banyak artikel
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
