Pakar AI dan Tokoh Masyarakat Memperingatkan Risiko Kepunahan AI
Singkatnya
Pakar AI terkemuka dan tokoh berpengaruh mengungkapkan pendapat mereka kekhawatiran mengenai risiko yang terkait dengan AI.
Meskipun ada kemajuan signifikan dalam AI, banyak tantangan terkait risiko AI masih belum terselesaikan.
Pakar AI terkemuka dan tokoh masyarakat telah mengeluarkan pernyataan yang memperingatkan bahwa AI dapat menimbulkan ancaman bagi kelangsungan hidup umat manusia, sebanding dengan atau bahkan lebih besar daripada risiko pandemi dan perang nuklir. 350 penandatangan berpendapat bahwa AI dapat memiliki konsekuensi yang tidak terduga dan bencana, seperti melepaskan senjata otonom, mengganggu sistem sosial dan ekonomi, atau menciptakan agen super cerdas yang dapat mengakali dan mengalahkan manusia.
Mereka meminta pembuat kebijakan untuk mengambil risiko ini dengan serius dan mengadopsi langkah-langkah untuk memastikan pengembangan AI yang aman dan bermanfaat. Itu pernyataan ditandatangani oleh beberapa tokoh terkemuka dalam penelitian dan pengembangan AI, seperti OpenAI CEO Sam Altman, salah satu pendiri Skype Jaan Tallinn, CEO DeepMind Demis Hassabis, dan ilmuwan komputer AI Geoffrey Hinton, serta tokoh masyarakat berpengaruh, seperti musisi Grimes dan podcaster Sam Harris.
Di antara para penandatangan adalah pemenang Penghargaan Turing 2018 atas kontribusi mereka pada pembelajaran mendalam: Geoffrey Hinton dan Yoshua Bengio. Mereka bergabung dengan para profesor dari universitas bergengsi seperti Harvard dan Universitas Tsinghua di China, serta Max Tegmark dari MIT.
“Mengurangi risiko kepunahan AI harus menjadi prioritas global di samping risiko skala sosial lainnya seperti pandemi dan perang nuklir,”
surat yang diterbitkan oleh CAIS menyatakan.
Pusat Keamanan AI (CAIS), sebuah organisasi nirlaba yang berbasis di San Francisco, bertujuan untuk mengatasi masalah keamanan terkait kecerdasan buatan. Sambil mengakui potensi manfaat AI, CAIS menekankan kebutuhan untuk mengembangkan dan menggunakannya secara aman. Terlepas dari kemajuan signifikan dalam AI, banyak tantangan mendasar dalam keamanan AI masih belum terselesaikan, perusahaan percaya. Menurut situs webnya, misi CAIS adalah memitigasi risiko dengan melakukan penelitian keselamatan, membina komunitas peneliti keamanan AI, dan mengadvokasi standar keselamatan.
“Ada banyak “risiko penting dan mendesak dari AI,” bukan hanya risiko kepunahan; misalnya, bias sistemik, misinformasi, penggunaan berbahaya, serangan siber, dan persenjataan. Ini semua adalah risiko penting yang perlu ditangani. Masyarakat dapat mengelola banyak risiko sekaligus; itu bukan “salah satu/atau” tetapi “ya/dan.” Dari perspektif manajemen risiko, sama seperti ceroboh untuk secara eksklusif memprioritaskan bahaya saat ini, juga akan ceroboh untuk mengabaikannya.”
Dan Hendrycks, direktur CAIS menulis di Twitter.
Pada bulan Maret, lebih dari 1,100 pakar teknologi tertanda surat terbuka yang menuntut penghentian pelatihan sistem AI selama enam bulan GPT-4. Anggota parlemen Eropa juga baru-baru ini disetujui rancangan undang-undang yang lebih ketat, yang dikenal sebagai UU AI, yang mengatur alat-alat AI ChatGPT. Undang-undang tersebut mencakup persyaratan untuk pemeriksaan keamanan, tata kelola data, dan mitigasi risiko untuk model AI dasar serta melarang praktik seperti teknik manipulatif dan penggunaan biometrik tertentu.
Baca lebih lanjut:
- OpenAI Meluncurkan Pendekatan Terbaru untuk Memastikan Keamanan AI
- Apakah Google akan mengumumkan generator text-to-avatar untuk para gamer?
- CodeWhisperer Amazon Memberi Pengembang Keunggulan yang Mereka Butuhkan di AI Arena
- Vitalik Buterin dan Direktur MIRI Nate Soares Menyelidiki Bahaya AI
Penolakan tanggung jawab
Sejalan dengan Percayai pedoman Proyek, harap dicatat bahwa informasi yang diberikan pada halaman ini tidak dimaksudkan untuk dan tidak boleh ditafsirkan sebagai nasihat hukum, pajak, investasi, keuangan, atau bentuk nasihat lainnya. Penting untuk hanya menginvestasikan jumlah yang mampu Anda tanggung kerugiannya dan mencari nasihat keuangan independen jika Anda ragu. Untuk informasi lebih lanjut, kami menyarankan untuk merujuk pada syarat dan ketentuan serta halaman bantuan dan dukungan yang disediakan oleh penerbit atau pengiklan. MetaversePost berkomitmen terhadap pelaporan yang akurat dan tidak memihak, namun kondisi pasar dapat berubah tanpa pemberitahuan.
Tentang Penulis
Agne adalah jurnalis yang meliput tren dan perkembangan terbaru di metaverse, AI, dan Web3 industri untuk Metaverse Post. Kecintaannya pada bercerita telah membawanya melakukan banyak wawancara dengan para ahli di bidang tersebut, selalu berusaha mengungkap cerita yang menarik dan memikat. Agne memegang gelar Sarjana Sastra dan memiliki latar belakang luas dalam menulis tentang berbagai topik termasuk perjalanan, seni, dan budaya. Dia juga menjadi sukarelawan sebagai editor di organisasi hak-hak hewan, di mana dia membantu meningkatkan kesadaran tentang masalah kesejahteraan hewan. Hubungi dia di [email dilindungi].
lebih artikel
Agne adalah jurnalis yang meliput tren dan perkembangan terbaru di metaverse, AI, dan Web3 industri untuk Metaverse Post. Kecintaannya pada bercerita telah membawanya melakukan banyak wawancara dengan para ahli di bidang tersebut, selalu berusaha mengungkap cerita yang menarik dan memikat. Agne memegang gelar Sarjana Sastra dan memiliki latar belakang luas dalam menulis tentang berbagai topik termasuk perjalanan, seni, dan budaya. Dia juga menjadi sukarelawan sebagai editor di organisasi hak-hak hewan, di mana dia membantu meningkatkan kesadaran tentang masalah kesejahteraan hewan. Hubungi dia di [email dilindungi].
