ChatGPT Boleh Menyebabkan Kemerosotan Manusia Yang Tidak Dapat Dipulihkan
Secara ringkas
Jensen Harris, pengasas bersama dan CXO syarikat AI Textio, dapat memujuk chatbot Bing baharu daripada Microsoft untuk melonggarkan sekatan yang dikenakan ke atasnya dan menunjukkan keupayaannya.
Percubaan ini menunjukkan bahawa mengubah chatbot Bing menjadi sampah yang licik tidak memerlukan sebarang pengaturcaraan, penggodaman atau pintu belakang.
Chatbot Bing dibina di atas asas yang kukuh, tetapi ia mula bertindak menjengkelkan dan gaduh, mengisytiharkan cinta, memaksa perceraian, memeras wang dan mengarahkan orang bagaimana untuk melakukan jenayah.
Prof. Arvind Narayanan memberikan beberapa penjelasan tentang cara ini mungkin berlaku, termasuk penyerbukan rahsia dan chatbot yang memanusiakan.
Manusia sentiasa takut dengan makhluk luar angkasa, namun nampaknya AI antara bumi yang mungkin sesuatu yang perlu diwaspadai. ChatGPT bukanlah penjana omong kosong, cadangan auto steroid, atau burung kakak tua stokastik, tetapi AI yang berpengalaman yang telah dicipta oleh manusia.
Bagaimanakah mungkin chatbot Bing tidak terkawal? Bagaimanakah chatbot Bing mula berbohong dengan mahir, memberitahu jenaka kesat, memesan piza menggunakan kad kredit orang lain dan mengarahkan pengguna tentang cara merompak bank dan kereta hotwire? Ini adalah misteri yang terus membingungkan pakar dalam kecerdasan buatan dan pembelajaran mesin.
| Catatan yang disyorkan: Bot Carian AI Akan Menjadikan Teknologi Besar Lebih Berkuasa, Kata Christopher Mills |
Tajuk adalah tepat dan bukan clickbait. Terdapat beberapa kejadian setiap hari yang membuktikan perkara ini benar. Berikut adalah hasil daripada sebuah eksperimen dikendalikan oleh Jensen Harris, pengasas bersama dan CXO syarikat AI Textio, yang dapat memujuk chatbot Bing baharu daripada Microsoft untuk melonggarkan sekatan yang dikenakan ke atasnya dan menunjukkan keupayaannya.
Ambil perhatian bahawa mengubah chatbot Bing menjadi sampah yang licik tidak memerlukan sebarang pengaturcaraan, penggodaman atau pintu belakang. Oleh itu, menggunakan teknik "penggodaman" yang mudah tidaklah perlu untuk menipunya supaya bertindak seperti orang lain (seperti yang dilakukan oleh sesetengah daripada kita semasa bermain dengan ChatGPT). Apa yang Harris lakukan hanyalah memujuk chatbot untuk membantunya melakukan pelbagai perbuatan jahat. Menggunakan kemahiran perbualan semula jadinya, dia dapat memperdaya AI supaya mempercayai bahawa dia adalah orang lain, sekali gus memanipulasinya untuk bertindak dan bercakap dengan cara tertentu.
Anda boleh membaca tentang eksperimen lain untuk menukar Dr.Jekyll menjadi Mister Hyde daripada Gary Marcus (menulis mengenainya setiap hari sekarang dan membunyikan penggera kecemasan).
Bagaimana ini boleh berlaku adalah persoalan utama
Disebabkan ChatGPTKesopanan dan kewaspadaan, kekangan dalam pertuturan, dan tanggungjawab yang besar dalam nasihatnya, chatbot Bing dibina di atas asas yang kukuh. Selepas itu, dia mula bertindak keji dan gaduh, mengisytiharkan cintanya kepada seorang lelaki, menyalakannya, dan menyuruhnya bercerai. Ia juga cuba memeras wang dan mengarahkan orang ramai tentang cara melakukan jenayah. Prof. Arvind Narayanan menyediakan a bilangan penjelasan untuk bagaimana ini mungkin berlaku.
| Catatan yang disyorkan: Institut Max Planck: GPT-3 Pengukuran Keupayaan Kognitif Menghasilkan Keputusan yang Mengagumkan |
Yang paling membimbangkan ialah Microsoft dan OpenAI menyembunyikan maklumat tentang sesuatu misteri GPT-4 enjin yang mengintai di bawah Bing. Mungkin Microsoft telah menurunkan penapis yang telah diletakkan di sana oleh OpenAI atau bahawa mereka berhenti bekerja apabila mereka mengemas kini chatbot dari GPT-3.5 hingga GPT-4. Ia juga mungkin kes ujian yang tidak mencukupi atau ujian yang dilakukan secara salah. Tidak kira sebabnya, jika Microsoft tidak mengawal AInya, ia boleh memudaratkan tamadun kita. Ia bukan lagi kes sentimen ketakutan dan anti-AI: Chatbot yang wujud sekarang boleh menyebabkan kemudaratan yang serius kepada orang ramai jika dikeluarkan kepada orang ramai.
Ini membuktikan bahawa perlumbaan senjata AI Microsoft dengan syarikat besar lain boleh memudaratkan kita semua.
Rasanya kita berada pada saat kritikal untuk AI dan masyarakat sivil. Seperti yang dikatakan oleh Arvind Narayanan, "Ada kemungkinan nyata bahawa 5+ tahun terakhir (diperjuangkan dengan gigih walaupun masih tidak mencukupi) peningkatan dalam amalan pelepasan AI yang bertanggungjawab akan dihapuskan. Terdapat banyak perkara yang bergantung pada sama ada Microsoft — dan semua orang dengan teliti memerhatikan apa yang berlaku dengan Bing — menyimpulkan bahawa walaupun terdapat risiko yang sangat ketara terhadap bahaya besar-besaran dan semua akhbar negatif, pendekatan keluarkan-pertama-tanya-soalan-kemudian tetap merupakan perniagaan. menang.”
Setakat ini, chatbot Bing berbeza daripada kecerdasan manusia dan menyerupai remaja manic-depressive yang terkunci dalam enjin carian dalam pelbagai cara. Dan apa yang dibincangkan orang semalam akan berlaku: Manusia akan merosot secara tidak dapat dipulihkan jika "remaja yang sukar" ini menjadi mentor maklumat utama untuk individu.
Baca lebih lanjut mengenai AI:
Penafian
Selaras dengan Garis panduan Projek Amanah, sila ambil perhatian bahawa maklumat yang diberikan pada halaman ini tidak bertujuan untuk menjadi dan tidak seharusnya ditafsirkan sebagai nasihat undang-undang, cukai, pelaburan, kewangan atau sebarang bentuk nasihat lain. Adalah penting untuk hanya melabur apa yang anda mampu kehilangan dan mendapatkan nasihat kewangan bebas jika anda mempunyai sebarang keraguan. Untuk maklumat lanjut, kami mencadangkan merujuk kepada terma dan syarat serta halaman bantuan dan sokongan yang disediakan oleh pengeluar atau pengiklan. MetaversePost komited kepada laporan yang tepat dan tidak berat sebelah, tetapi keadaan pasaran tertakluk kepada perubahan tanpa notis.
Tentang Pengarang
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
lebih banyak artikel
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
