Pakar AI dan Tokoh Awam Meningkatkan Penggera tentang Risiko Kepupusan AI
Secara ringkas
Pakar AI terkemuka dan tokoh berpengaruh menyatakan perkongsian mereka kebimbangan mengenai risiko yang berkaitan dengan AI.
Walaupun terdapat kemajuan yang ketara dalam AI, banyak cabaran yang berkaitan dengan risiko AI masih tidak dapat diselesaikan.
Pakar AI terkemuka dan tokoh awam telah mengeluarkan kenyataan amaran bahawa AI boleh menimbulkan ancaman kepada kelangsungan hidup manusia, setanding atau lebih besar daripada risiko wabak dan perang nuklear. 350 penandatangan berhujah bahawa AI boleh mendatangkan akibat yang tidak dijangka dan bencana, seperti melepaskan senjata autonomi, mengganggu sistem sosial dan ekonomi, atau mencipta ejen superintelligent yang boleh mengakali dan mengalahkan manusia.
Mereka menyeru penggubal dasar untuk mengambil risiko ini dengan serius dan mengambil langkah-langkah untuk memastikan pembangunan AI yang selamat dan bermanfaat. The kenyataan ditandatangani oleh beberapa tokoh terkemuka dalam penyelidikan dan pembangunan AI, seperti OpenAI Ketua Pegawai Eksekutif Sam Altman, pengasas bersama Skype Jaan Tallinn, Ketua Pegawai Eksekutif DeepMind Demis Hassabis, dan saintis komputer AI Geoffrey Hinton, serta personaliti awam yang berpengaruh, seperti pemuzik Grimes dan podcaster Sam Harris.
Antara yang menandatangani ialah pemenang Anugerah Turing 2018 atas sumbangan mereka kepada pembelajaran mendalam: Geoffrey Hinton dan Yoshua Bengio. Mereka disertai oleh profesor dari universiti berprestij seperti Harvard dan Universiti Tsinghua di China, serta Max Tegmark MIT.
"Mengurangkan risiko kepupusan daripada AI harus menjadi keutamaan global di samping risiko berskala masyarakat lain seperti wabak dan perang nuklear,"
surat yang diterbitkan oleh CAIS menyatakan.
Pusat Keselamatan AI (CAIS), sebuah organisasi bukan untung yang berpangkalan di San Francisco, bertujuan untuk menangani kebimbangan keselamatan yang berkaitan dengan kecerdasan buatan. Sambil mengiktiraf potensi manfaat AI, CAIS menekankan keperluan untuk membangunkan dan menggunakannya dengan selamat. Walaupun kemajuan yang ketara dalam AI, banyak cabaran asas dalam keselamatan AI masih tidak dapat diselesaikan, syarikat percaya. Menurut laman webnya, misi CAIS adalah untuk mengurangkan risiko dengan menjalankan penyelidikan keselamatan, memupuk komuniti penyelidik keselamatan AI, dan menyokong standard keselamatan.
"Terdapat banyak" risiko penting dan mendesak daripada AI, " bukan hanya risiko kepupusan; contohnya, berat sebelah sistemik, maklumat yang salah, penggunaan berniat jahat, serangan siber dan penggunaan senjata. Ini semua adalah risiko penting yang perlu ditangani. Masyarakat boleh menguruskan pelbagai risiko sekaligus; ia bukan “sama ada/atau” tetapi “ya/dan”. Dari perspektif pengurusan risiko, sama seperti ia akan melulu untuk mengutamakan kemudaratan semasa secara eksklusif, ia juga akan melulu untuk mengabaikannya juga, "
Dan Hendrycks, pengarah CAIS menulis di Twitter.
Pada bulan Mac, lebih 1,100 pakar teknologi ditandatangani surat terbuka yang menuntut pemberhentian selama enam bulan kepada latihan sistem AI yang melampaui GPT-4. Penggubal undang-undang Eropah juga baru-baru ini diluluskan draf undang-undang yang lebih ketat, dikenali sebagai Akta AI, mengawal selia alatan AI seperti ChatGPT. Akta itu termasuk keperluan untuk pemeriksaan keselamatan, tadbir urus data dan pengurangan risiko untuk model asas AI dan melarang amalan seperti teknik manipulatif dan penggunaan biometrik tertentu.
Baca lebih lanjut:
- OpenAI Mendedahkan Pendekatan Terkininya untuk Memastikan Keselamatan AI
- Adakah Google akan mengumumkan penjana teks-ke-avatar untuk pemain?
- CodeWhisperer Amazon Memberi Pembangun Kelebihan Yang Mereka Perlukan di Arena AI
- Vitalik Buterin dan Pengarah MIRI Nate Soares Menyelidiki Bahaya AI
Penafian
Selaras dengan Garis panduan Projek Amanah, sila ambil perhatian bahawa maklumat yang diberikan pada halaman ini tidak bertujuan untuk menjadi dan tidak seharusnya ditafsirkan sebagai nasihat undang-undang, cukai, pelaburan, kewangan atau sebarang bentuk nasihat lain. Adalah penting untuk hanya melabur apa yang anda mampu kehilangan dan mendapatkan nasihat kewangan bebas jika anda mempunyai sebarang keraguan. Untuk maklumat lanjut, kami mencadangkan merujuk kepada terma dan syarat serta halaman bantuan dan sokongan yang disediakan oleh pengeluar atau pengiklan. MetaversePost komited kepada laporan yang tepat dan tidak berat sebelah, tetapi keadaan pasaran tertakluk kepada perubahan tanpa notis.
Tentang Pengarang
Agne ialah seorang wartawan yang membuat liputan tentang trend dan perkembangan terkini dalam metaverse, AI, dan Web3 industri untuk Metaverse Post. Keghairahannya untuk bercerita telah menyebabkan dia menjalankan banyak temu bual dengan pakar dalam bidang ini, sentiasa berusaha untuk mendedahkan cerita yang menarik dan menarik. Agne memegang ijazah Sarjana Muda dalam kesusasteraan dan mempunyai latar belakang yang luas dalam penulisan tentang pelbagai topik termasuk perjalanan, seni dan budaya. Dia juga menawarkan diri sebagai editor untuk organisasi hak haiwan, di mana dia membantu meningkatkan kesedaran tentang isu kebajikan haiwan. Hubungi dia [e-mel dilindungi].
lebih banyak artikel
Agne ialah seorang wartawan yang membuat liputan tentang trend dan perkembangan terkini dalam metaverse, AI, dan Web3 industri untuk Metaverse Post. Keghairahannya untuk bercerita telah menyebabkan dia menjalankan banyak temu bual dengan pakar dalam bidang ini, sentiasa berusaha untuk mendedahkan cerita yang menarik dan menarik. Agne memegang ijazah Sarjana Muda dalam kesusasteraan dan mempunyai latar belakang yang luas dalam penulisan tentang pelbagai topik termasuk perjalanan, seni dan budaya. Dia juga menawarkan diri sebagai editor untuk organisasi hak haiwan, di mana dia membantu meningkatkan kesedaran tentang isu kebajikan haiwan. Hubungi dia [e-mel dilindungi].
