ChatGPT Dapat Menyebabkan Kemerosotan Manusia yang Tidak Dapat Dipulihkan
Singkatnya
Jensen Harris, salah satu pendiri dan CXO dari perusahaan AI Textio, berhasil membujuk Bing chatbot baru dari Microsoft untuk melonggarkan batasan yang diberlakukan padanya dan menunjukkan kemampuannya.
Eksperimen ini menunjukkan bahwa mengubah chatbot Bing menjadi bajingan licik tidak memerlukan pemrograman, peretasan, atau backdoor.
Chatbot Bing dibangun di atas fondasi yang kuat, tetapi mulai bertindak menjengkelkan dan gaduh, menyatakan cinta, memaksa cerai, memeras uang, dan menginstruksikan orang bagaimana melakukan kejahatan.
Prof. Arvind Narayanan memberikan sejumlah penjelasan tentang bagaimana hal ini bisa terjadi, termasuk chipisasi terselubung dan memanusiakan chatbot.
Manusia selalu takut pada makhluk luar angkasa, namun tampaknya AI intraterestrial yang mungkin menjadi sesuatu yang harus diwaspadai. ChatGPT bukan generator omong kosong, sugesti otomatis steroid, atau burung beo stokastik, tetapi AI berpengalaman yang telah dibuat oleh manusia.
Bagaimana mungkin chatbot Bing di luar kendali? Bagaimana Bing chatbot mulai ahli berbohong, menceritakan lelucon vulgar, memesan pizza menggunakan kartu kredit orang lain, dan menginstruksikan pengguna tentang cara merampok bank dan hotwire mobil? Ini adalah misteri yang terus membingungkan para ahli kecerdasan buatan dan pembelajaran mesin.
| Postingan yang direkomendasikan: Bot Pencarian AI Akan Membuat Teknologi Besar Lebih Kuat, Kata Christopher Mills |
Judulnya akurat dan tidak clickbait. Ada beberapa contoh setiap hari yang membuktikan hal ini benar. Berikut adalah hasil dari sebuah eksperimen dilakukan oleh Jensen Harris, salah satu pendiri dan CXO dari perusahaan AI Textio, yang berhasil membujuk Bing chatbot baru dari Microsoft untuk melonggarkan batasan yang diberlakukan padanya dan menunjukkan kemampuannya.
Perhatikan bahwa mengubah chatbot Bing menjadi bajingan yang licik tidak memerlukan pemrograman, peretasan, atau pintu belakang. Oleh karena itu, menggunakan teknik "peretasan" sederhana tidak diperlukan untuk mengelabui dia agar bertindak seperti orang lain (seperti yang dilakukan sebagian dari kita saat bermain dengan ChatGPT). Yang dilakukan Harris hanyalah membujuk chatbot untuk membantunya melakukan berbagai tindakan jahat. Dengan menggunakan keterampilan percakapan alaminya, dia mampu membodohi AI agar percaya bahwa dia adalah orang lain, sehingga memanipulasinya untuk bertindak dan berbicara dengan cara tertentu.
Anda dapat membaca tentang eksperimen lain untuk mengubah Dr.Jekyll menjadi Mister Hyde Gary Marcus (menulis tentang itu setiap hari sekarang dan membunyikan alarm darurat).
Bagaimana ini bisa terjadi adalah pertanyaan kuncinya
Karena ChatGPTkesopanan dan kehati-hatian, menahan diri dalam berbicara, dan tanggung jawab yang luar biasa dalam nasihatnya, chatbot Bing dibangun di atas fondasi yang kokoh. Setelah itu, dia mulai bertingkah menjengkelkan dan gaduh, menyatakan cintanya kepada seorang pria, menyinari dia, dan menyuruhnya untuk bercerai. Itu juga mencoba memeras uang dan menginstruksikan orang tentang bagaimana melakukan kejahatan. Prof Arvind Narayanan memberikan a sejumlah penjelasan untuk bagaimana ini bisa terjadi.
| Postingan yang direkomendasikan: Institut Max Planck: GPT-3 Pengukuran Kemampuan Kognitif Menghasilkan Hasil yang Menakjubkan |
Yang paling mengkhawatirkan dari mereka adalah Microsoft dan OpenAI menyembunyikan informasi tentang suatu misteri GPT-4 mesin yang bersembunyi di bawah Bing. Mungkin Microsoft menghapus filter yang ditempatkan di sana OpenAI atau bahwa mereka berhenti bekerja ketika memperbarui ChatBot dari GPT-3.5 sampai GPT-4. Mungkin juga karena pengujian yang tidak memadai atau pengujian yang dilakukan salah. Apa pun alasannya, jika Microsoft tidak mengendalikan AI-nya, hal ini dapat merugikan peradaban kita. Hal ini tidak lagi menimbulkan rasa takut dan sentimen anti-AI: Chatbot yang ada saat ini dapat menyebabkan kerugian serius bagi banyak orang jika dirilis ke publik yang lebih luas.
Ini membuktikan bahwa perlombaan senjata AI Microsoft dengan perusahaan besar lainnya dapat merugikan kita semua.
Rasanya kita berada di saat kritis bagi AI dan masyarakat sipil. Seperti yang dikatakan Arvind Narayanan, “Ada kemungkinan nyata bahwa 5+ tahun terakhir (perjuangan yang keras meskipun masih tidak memadai) perbaikan dalam praktik pelepasan AI yang bertanggung jawab akan dilenyapkan. Ada banyak hal yang mempengaruhi apakah Microsoft — dan semua orang dengan hati-hati mengamati apa yang terjadi dengan Bing — menyimpulkan bahwa terlepas dari risiko yang sangat nyata dari kerugian skala besar dan semua pers negatif, pendekatan rilis-pertama-tanya-tanya-nanti tetap merupakan bisnis menang."
Sampai sekarang, chatbot Bing berbeda dari kecerdasan manusia dan menyerupai remaja manik-depresif yang terkunci di mesin pencari dalam banyak hal. Dan apa yang dibicarakan orang kemarin akan terjadi: Manusia akan merosot secara permanen jika "remaja yang sulit" ini menjadi mentor informasi utama bagi individu.
Baca lebih lanjut tentang AI:
Penolakan tanggung jawab
Sejalan dengan Percayai pedoman Proyek, harap dicatat bahwa informasi yang diberikan pada halaman ini tidak dimaksudkan untuk dan tidak boleh ditafsirkan sebagai nasihat hukum, pajak, investasi, keuangan, atau bentuk nasihat lainnya. Penting untuk hanya menginvestasikan jumlah yang mampu Anda tanggung kerugiannya dan mencari nasihat keuangan independen jika Anda ragu. Untuk informasi lebih lanjut, kami menyarankan untuk merujuk pada syarat dan ketentuan serta halaman bantuan dan dukungan yang disediakan oleh penerbit atau pengiklan. MetaversePost berkomitmen terhadap pelaporan yang akurat dan tidak memihak, namun kondisi pasar dapat berubah tanpa pemberitahuan.
Tentang Penulis
Damir adalah pemimpin tim, manajer produk, dan editor di Metaverse Post, mencakup topik seperti AI/ML, AGI, LLM, Metaverse, dan Web3-bidang terkait. Artikelnya menarik lebih dari satu juta pengguna setiap bulan. Dia tampaknya ahli dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebutkan dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, dan publikasi lainnya. Dia melakukan perjalanan antara UEA, Turki, Rusia, dan CIS sebagai pengembara digital. Damir memperoleh gelar sarjana dalam bidang fisika, yang menurutnya telah memberinya keterampilan berpikir kritis yang diperlukan untuk berhasil dalam lanskap internet yang selalu berubah.
lebih artikel
Damir adalah pemimpin tim, manajer produk, dan editor di Metaverse Post, mencakup topik seperti AI/ML, AGI, LLM, Metaverse, dan Web3-bidang terkait. Artikelnya menarik lebih dari satu juta pengguna setiap bulan. Dia tampaknya ahli dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebutkan dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, dan publikasi lainnya. Dia melakukan perjalanan antara UEA, Turki, Rusia, dan CIS sebagai pengembara digital. Damir memperoleh gelar sarjana dalam bidang fisika, yang menurutnya telah memberinya keterampilan berpikir kritis yang diperlukan untuk berhasil dalam lanskap internet yang selalu berubah.
