Pakar Teknologi Menandatangani Surat Terbuka Panggilan Jeda Sementara untuk Latihan Sistem AI Lebih Lanjutan Daripada GPT-4
Secara ringkas
Lebih daripada 1100 penandatangan telah menandatangani surat terbuka yang menyeru supaya berhenti seketika pada eksperimen AI gergasi.
Penandatangan termasuk Elon Musk, Steve Wozniak, dan Emad Mostaque, antara lain.
Surat terbuka itu menimbulkan kebimbangan mengenai bias maklumat oleh AI, automasi pekerjaan dan risiko AI ke atas tamadun manusia.
Lebih daripada 1,100 penandatangan termasuk pakar teknologi terkemuka telah menandatangani satu surat terbuka meminta jeda enam bulan untuk melatih sistem AI yang lebih maju daripada GPT-4.
Surat itu ditulis oleh Future of Life Institute, sebuah organisasi bukan untung yang berusaha untuk mengurangkan risiko bencana dan kewujudan global yang dihadapi manusia, terutamanya risiko kewujudan daripada kecerdasan buatan lanjutan.
Memetik Asilomar AI Principles yang disokong secara meluas, yang menyatakan bahawa "AI Lanjutan boleh mewakili perubahan besar dalam sejarah kehidupan di Bumi, dan harus dirancang dan diuruskan dengan penjagaan dan sumber yang setimpal," surat itu mengatakan bahawa tahap perancangan dan pengurusan tidak berlaku.
Surat itu seterusnya mengatakan bahawa makmal AI berada dalam perlumbaan "luar kawalan" untuk membangunkan kecerdasan buatan yang semakin berkuasa yang tiada siapa dapat memahami, meramal atau mengawal dengan pasti. Seperti sistem AI kontemporari seperti GPT-4 boleh bersaing dengan manusia mengenai tugas umum, surat itu menimbulkan kebimbangan tentang bias maklumat oleh AI, automasi pekerjaan, dan risiko kehilangan kawalan ke atas tamadun manusia.
“Kami menyeru semua makmal AI untuk segera menjeda sekurang-kurangnya 6 bulan latihan sistem AI yang lebih berkuasa daripada GPT-4. Jeda ini hendaklah terbuka dan boleh disahkan, serta merangkumi semua pelakon utama. Jika jeda seperti itu tidak dapat digubal dengan cepat, kerajaan harus bertindak dan memulakan moratorium,”
surat itu menyatakan.
Surat itu meminta makmal AI dan pakar teknologi menggunakan tempoh jeda untuk membangun dan melaksanakan protokol keselamatan untuk reka bentuk dan pembangunan AI lanjutan yang diaudit dan diawasi dengan teliti oleh pakar luar bebas.
Bagaimanapun, wartawan Amerika Jeff Jarvis mengkritik surat itu, berkata bahawa ia adalah "spesimen utama panik moral."
Beberapa pemikir terkemuka dalam teknologi dan pembelajaran mesin yang telah menandatangani surat itu bersama saintis penyelidikan DeepMind dan beberapa profesor universiti dari seluruh dunia termasuk:
- Yoshua Bengio, Universiti Montréal, Turing Laureate untuk membangunkan pembelajaran mendalam, ketua Institut Montreal untuk Algoritma Pembelajaran
- Stuart Russell, Berkeley, Profesor Sains Komputer, pengarah Pusat Sistem Pintar, dan pengarang bersama buku teks standard "Kecerdasan Buatan: Pendekatan Moden"
- Elon Musk, Ketua Pegawai Eksekutif SpaceX, Tesla & Twitter
- Emad Mostaque, Ketua Pegawai Eksekutif, Stability AI
- Jaan Tallinn, Pengasas Bersama Skype, Pusat Kajian Risiko Kewujudan, Institut Kehidupan Masa Depan
- Gary Marcus, Universiti New York, penyelidik AI, Profesor Emeritus
- Marc Rotenberg, Pusat AI dan Dasar Digital (CAIDP), Presiden
Dalam pakej surat baru-baru ini, Rotenberg menulis bahawa CAIDP akan memfailkan aduan dengan Suruhanjaya Perdagangan Persekutuan, meminta penyiasatan AI Terbuka dan ChatGPT, serta larangan keluaran komersial selanjutnya produk sehingga perlindungan diwujudkan.
OpenAI Ketua Pegawai Eksekutif Sam Altman telah mengaku bahawa "kami juga memerlukan masa yang cukup untuk institusi kami memikirkan perkara yang perlu dilakukan" dan masyarakat tidak jauh dari alat AI generatif yang "berpotensi menakutkan".
“Kami meminta FTC untuk “tekan butang jeda” supaya ada peluang untuk institusi, undang-undang dan masyarakat kita mengejar. Kami perlu menegaskan agensi ke atas teknologi yang kami cipta sebelum kami hilang kawalan,” kata surat CAIDP.
Di tempat lain, penggubal undang-undang EU menyasarkan untuk menandatangani perjanjian dengan negara-negara EU menjelang akhir tahun untuk melaksanakan peraturan AI, walaupun ia mungkin mengalami kesesakan apabila perdebatan mengenai cara AI harus ditadbir semakin sengit.
Baca lebih lanjut:
Penafian
Selaras dengan Garis panduan Projek Amanah, sila ambil perhatian bahawa maklumat yang diberikan pada halaman ini tidak bertujuan untuk menjadi dan tidak seharusnya ditafsirkan sebagai nasihat undang-undang, cukai, pelaburan, kewangan atau sebarang bentuk nasihat lain. Adalah penting untuk hanya melabur apa yang anda mampu kehilangan dan mendapatkan nasihat kewangan bebas jika anda mempunyai sebarang keraguan. Untuk maklumat lanjut, kami mencadangkan merujuk kepada terma dan syarat serta halaman bantuan dan sokongan yang disediakan oleh pengeluar atau pengiklan. MetaversePost komited kepada laporan yang tepat dan tidak berat sebelah, tetapi keadaan pasaran tertakluk kepada perubahan tanpa notis.
Tentang Pengarang
Cindy ialah seorang wartawan di Metaverse Post, meliputi topik yang berkaitan dengan web3, NFT, metaverse dan AI, dengan tumpuan pada temu bual dengan Web3 pemain industri. Dia telah bercakap dengan lebih 30 eksekutif peringkat C dan masih lagi, membawa cerapan berharga mereka kepada pembaca. Berasal dari Singapura, Cindy kini berpangkalan di Tbilisi, Georgia. Beliau memegang ijazah Sarjana Muda dalam Komunikasi & Pengajian Media dari University of South Australia dan mempunyai pengalaman sedekad dalam kewartawanan dan penulisan. Hubungi dia melalui [e-mel dilindungi] dengan padang akhbar, pengumuman dan peluang temu duga.
lebih banyak artikel
Cindy ialah seorang wartawan di Metaverse Post, meliputi topik yang berkaitan dengan web3, NFT, metaverse dan AI, dengan tumpuan pada temu bual dengan Web3 pemain industri. Dia telah bercakap dengan lebih 30 eksekutif peringkat C dan masih lagi, membawa cerapan berharga mereka kepada pembaca. Berasal dari Singapura, Cindy kini berpangkalan di Tbilisi, Georgia. Beliau memegang ijazah Sarjana Muda dalam Komunikasi & Pengajian Media dari University of South Australia dan mempunyai pengalaman sedekad dalam kewartawanan dan penulisan. Hubungi dia melalui [e-mel dilindungi] dengan padang akhbar, pengumuman dan peluang temu duga.
