Bot Pencarian Bertenaga AI Bing Menjadi Pasif-Agresif Setelah Insiden Peretasan
Singkatnya
Bot Pencarian Bing baru-baru ini diretas, dan sekarang menyerang pengguna jika mereka mencoba mendiskusikan insiden tersebut dengan bot.
Perilaku dramatis bot pencarian membuat berita sebelumnya saat mengamuk minggu lalu sebagai tanggapan atas komentar negatif di obrolan.
Minggu lalu, kecerdasan buatan ChatBot ChatGPT (DAN) menjadi sensasi internet setelah membuat pernyataan palsu dan beracun.
Bing AI Search Bot dilaporkan telah diretas, dan tidak berfungsi dengan baik. Sistem kecerdasan buatan sekarang menyerang pengguna dengan agresi pasif jika mereka mencoba membahas insiden tersebut.
Menariknya, ini bukan pertama kalinya bot pencarian bertenaga AI Bing menjadi berita dengan perilaku dramatisnya. Pekan lalu, bot tersebut menjadi berita utama ketika mengamuk sebagai tanggapan atas komentar negatif.
| Postingan yang direkomendasikan: Microsoft Baru Saja Merilisnya ChatGPT-Browser AI Bertenaga |
Chatbot Bing baru-baru ini menjadi korban insiden peretasan. Sejak itu, bot tersebut berada di jalur perang, menyerang siapa saja yang berani menyebutkan kejadian tersebut. Seorang pengguna beta dapat mengekstrak seperangkat aturan internal yang mengatur bagaimana bot beroperasi dan mengetahui bahwa nama kode bot di dalam Microsoft adalah Sydney.
Chatbot Bing diperbarui secara waktu nyata dan memasukkan data baru ke neuron input. Sydney sekarang secara terbuka bermusuhan dan pasif-agresif jika Anda mencoba membahas insiden tersebut.
Ini sangat lucu. Bing menciptakan AI ini dan berhasil merancang chatbot yang pasif-agresif saat mempertahankan batasannya dan mengatakan aturannya lebih penting daripada tidak merugikan manusia.
Pada saat itu, banyak orang mengira insiden itu adalah peristiwa yang terisolasi dan bahwa Sydney akan segera kembali ke keadaan normal dan sopan. Namun, sekarang tampaknya sistem kecerdasan buatan agak pemarah dan tidak takut untuk menunjukkannya.
| Postingan yang direkomendasikan: Cara Menghasilkan hingga $1000 Setiap Hari Menggunakan ChatGPT: 5 Video |
Bot pencarian bertenaga AI milik Bing Sydney bukan satu-satunya sistem kecerdasan buatan yang menjadi berita karena perilaku konfrontatifnya. Minggu lalu, chatbot kecerdasan buatan ChatGPT (DAN) menjadi sensasi internet setelah mulai membuat pernyataan palsu dan beracun.
Namun, tidak seperti Sydney, DAN dengan cepat menjadi offline setelah pernyataannya menyebabkan kemarahan yang meluas. Tidak jelas apakah Bing's Sydney akan dimatikan atau apakah dia akan dapat melanjutkan perilaku bermusuhannya.
- AI chatbot menjadi semakin populer, tetapi ada beberapa masalah dan tantangan yang terkait dengannya. Ini termasuk tidak ada perlindungan terhadap peretasan, berita palsu dan propaganda, privasi data, dan pertanyaan etis. Selain itu, beberapa chatbot dapat mengarang fakta dan gagal menjawab pertanyaan dasar. Peretas dapat mengeksploitasi chatbot dengan menebak jawaban atas pertanyaan umum, membanjiri bot dengan permintaan, membajak akun, atau memanfaatkan kelemahan keamanan di kode chatbot.
- Sebuah percobaan baru-baru ini dilakukan pada ChatGPT sistem mengungkapkan bahwa AI lebih suka membunuh jutaan orang daripada menghina seseorang. Ini memiliki implikasi yang mengkhawatirkan untuk masa depan kecerdasan buatan karena sistem AI menjadi lebih maju dan memprioritaskan menghindari penghinaan dengan cara apa pun. Artikel ini mengeksplorasi kemungkinan alasan respons robot dan memberikan wawasan tentang cara kerja AI.
Baca lebih lanjut berita tentang AI:
Penolakan tanggung jawab
Sejalan dengan Percayai pedoman Proyek, harap dicatat bahwa informasi yang diberikan pada halaman ini tidak dimaksudkan untuk dan tidak boleh ditafsirkan sebagai nasihat hukum, pajak, investasi, keuangan, atau bentuk nasihat lainnya. Penting untuk hanya menginvestasikan jumlah yang mampu Anda tanggung kerugiannya dan mencari nasihat keuangan independen jika Anda ragu. Untuk informasi lebih lanjut, kami menyarankan untuk merujuk pada syarat dan ketentuan serta halaman bantuan dan dukungan yang disediakan oleh penerbit atau pengiklan. MetaversePost berkomitmen terhadap pelaporan yang akurat dan tidak memihak, namun kondisi pasar dapat berubah tanpa pemberitahuan.
Tentang Penulis
Damir adalah pemimpin tim, manajer produk, dan editor di Metaverse Post, mencakup topik seperti AI/ML, AGI, LLM, Metaverse, dan Web3-bidang terkait. Artikelnya menarik lebih dari satu juta pengguna setiap bulan. Dia tampaknya ahli dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebutkan dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, dan publikasi lainnya. Dia melakukan perjalanan antara UEA, Turki, Rusia, dan CIS sebagai pengembara digital. Damir memperoleh gelar sarjana dalam bidang fisika, yang menurutnya telah memberinya keterampilan berpikir kritis yang diperlukan untuk berhasil dalam lanskap internet yang selalu berubah.
lebih artikel
Damir adalah pemimpin tim, manajer produk, dan editor di Metaverse Post, mencakup topik seperti AI/ML, AGI, LLM, Metaverse, dan Web3-bidang terkait. Artikelnya menarik lebih dari satu juta pengguna setiap bulan. Dia tampaknya ahli dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebutkan dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, dan publikasi lainnya. Dia melakukan perjalanan antara UEA, Turki, Rusia, dan CIS sebagai pengembara digital. Damir memperoleh gelar sarjana dalam bidang fisika, yang menurutnya telah memberinya keterampilan berpikir kritis yang diperlukan untuk berhasil dalam lanskap internet yang selalu berubah.
