Universitas Cornell: AI Adalah Senjata Penipuan Tertinggi, Yang Kita Tidak Berdaya Terhadapnya
Singkatnya
Eksperimen Stanford telah mengungkapkan kerentanan yang tidak dapat diatasi dari intuisi linguistik orang, mengungkapkan kemungkinan rendah untuk mengidentifikasi kepenulisan AI.
Hal ini disebabkan kemampuan AI seperti ChatGPT untuk membuat pemalsuan dengan sangat ahli sehingga orang tidak dapat membedakannya dari kebenaran.
“Eksperimen Stanford” baru telah terungkap kerentanan yang tidak dapat diatasi dari intuisi linguistik orang. Karena itu, kemungkinan kita mengidentifikasi kepengarangan AI sangat berkurang.
Ada banyak kekhawatiran bagi dunia saat ini sebagai akibat dari ChatGPT revolusi. Yang paling jelas adalah bahwa AI suka ChatGPT mampu membuat pemalsuan dengan sangat ahli sehingga orang tidak dapat membedakannya dari kebenaran. Hasil uji coba yang dilakukan telah menunjukkan kapasitas yang sangat besar dari ChatGPT kemampuan super untuk menipu. Namun, tidak jelas bagaimana kekuatan super ini bekerja — apa yang dimiliki AI yang dapat membuat orang yang sangat pintar dan berpendidikan percaya apa yang dilakukannya?
| Baca lebih lanjut: 20+ Bot Obrolan AI Telegram Terbaik tahun 2023 |
Sebuah "eksperimen Stanford" baru dilakukan oleh Lab Jejaring Sosial Stanford bekerja sama dengan Pusat Penelitian Universitas Cornell untuk menjawab pertanyaan ini.
Hasil dari serangkaian enam percobaan yang melibatkan 4,600 orang itu sensasional dan menyedihkan.
Orang-orang ditugaskan untuk menentukan apakah presentasi diri ditulis oleh seseorang atau AI. Menurut para peneliti, presentasi diri adalah salah satu elemen komunikasi linguistik yang paling pribadi dan penting karena sikap kita terhadap pernyataan apa pun sangat bergantung pada siapa (seperti yang kita yakini) penulisnya.
Inti dari persepsi linguistik orang adalah heuristik. Istilah heuristik mengacu pada jalan pintas mental yang diambil orang untuk sampai pada keputusan, memecahkan masalah, dan membuat penilaian. Ini membantu orang meringankan beban kerja mental mereka dan menghindari kelebihan beban kognitif.
“Analisis komputasi fitur bahasa menunjukkan bahwa penilaian manusia terhadap bahasa yang dihasilkan AI terhalang oleh heuristik intuitif tetapi cacat seperti mengaitkan kata ganti orang pertama, penggunaan kontraksi, atau topik keluarga dengan bahasa tulisan manusia,” demikian bunyi studi tersebut. Eksperimen telah menunjukkan bahwa saat memahami teks yang ditulis oleh AI, orang secara otomatis menggunakan heuristik yang sama seperti saat berkomunikasi dengan orang lain. Dan ini adalah kesalahan mendasar. Faktanya adalah ini adalah heuristik intuitif bagi kami, dan AI membacanya dengan mudah dan mengoperasikannya seperti tabel perkalian.
Akibatnya, AI dapat menggunakan heuristik untuk membuat teks yang dianggap orang sebagai "lebih manusiawi daripada manusia". Hal ini sangat meningkatkan potensi tipuan dari teks dan ucapan AI, mendorong kita untuk lebih memercayai "orang yang paling manusiawi" ini daripada pernyataan orang sungguhan.
Peluang orang mengidentifikasi presentasi diri yang ditulis AI adalah 50/50. Hal-hal yang lebih buruk dalam komunikasi romantis orang. Hampir 70% orang dewasa tidak bisa membedakan antara surat cinta yang ditulis oleh ChatGPT dan surat yang ditulis oleh seseorang.
Baca lebih lanjut tentang ChatGPT:
Penolakan tanggung jawab
Sejalan dengan Percayai pedoman Proyek, harap dicatat bahwa informasi yang diberikan pada halaman ini tidak dimaksudkan untuk dan tidak boleh ditafsirkan sebagai nasihat hukum, pajak, investasi, keuangan, atau bentuk nasihat lainnya. Penting untuk hanya menginvestasikan jumlah yang mampu Anda tanggung kerugiannya dan mencari nasihat keuangan independen jika Anda ragu. Untuk informasi lebih lanjut, kami menyarankan untuk merujuk pada syarat dan ketentuan serta halaman bantuan dan dukungan yang disediakan oleh penerbit atau pengiklan. MetaversePost berkomitmen terhadap pelaporan yang akurat dan tidak memihak, namun kondisi pasar dapat berubah tanpa pemberitahuan.
Tentang Penulis
Damir adalah pemimpin tim, manajer produk, dan editor di Metaverse Post, mencakup topik seperti AI/ML, AGI, LLM, Metaverse, dan Web3-bidang terkait. Artikelnya menarik lebih dari satu juta pengguna setiap bulan. Dia tampaknya ahli dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebutkan dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, dan publikasi lainnya. Dia melakukan perjalanan antara UEA, Turki, Rusia, dan CIS sebagai pengembara digital. Damir memperoleh gelar sarjana dalam bidang fisika, yang menurutnya telah memberinya keterampilan berpikir kritis yang diperlukan untuk berhasil dalam lanskap internet yang selalu berubah.
lebih artikel
Damir adalah pemimpin tim, manajer produk, dan editor di Metaverse Post, mencakup topik seperti AI/ML, AGI, LLM, Metaverse, dan Web3-bidang terkait. Artikelnya menarik lebih dari satu juta pengguna setiap bulan. Dia tampaknya ahli dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebutkan dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, dan publikasi lainnya. Dia melakukan perjalanan antara UEA, Turki, Rusia, dan CIS sebagai pengembara digital. Damir memperoleh gelar sarjana dalam bidang fisika, yang menurutnya telah memberinya keterampilan berpikir kritis yang diperlukan untuk berhasil dalam lanskap internet yang selalu berubah.
