Pakar Teknologi Menandatangani Surat Terbuka yang Menyerukan Jeda Sementara pada Pelatihan Sistem AI yang Lebih Maju Daripada GPT-4
Singkatnya
Lebih dari 1100 penandatangan telah menandatangani surat terbuka yang menyerukan penghentian sementara eksperimen AI raksasa.
Para penandatangannya antara lain Elon Musk, Steve Wozniak, dan Emad Mostaque.
Surat terbuka tersebut menimbulkan kekhawatiran tentang bias informasi yang disebabkan oleh AI, otomatisasi pekerjaan dan risiko AI terhadap peradaban manusia.
Lebih dari 1,100 penandatangan termasuk pakar teknologi terkemuka telah menandatangani Surat terbuka menyerukan jeda enam bulan pada pelatihan sistem AI yang lebih maju dari GPT-4.
Surat itu ditulis oleh Future of Life Institute, sebuah organisasi nirlaba yang bekerja untuk mengurangi bencana global dan risiko eksistensial yang dihadapi umat manusia, khususnya risiko eksistensial dari kecerdasan buatan canggih.
Mengutip Prinsip AI Asilomar yang didukung secara luas, yang menyatakan bahwa “AI tingkat lanjut dapat mewakili perubahan besar dalam sejarah kehidupan di Bumi, dan harus direncanakan dan dikelola dengan perawatan dan sumber daya yang sepadan,” surat tersebut mengatakan bahwa tingkat perencanaan dan manajemen tidak terjadi.
Surat tersebut selanjutnya mengatakan bahwa laboratorium AI berada dalam perlombaan “di luar kendali” untuk mengembangkan kecerdasan buatan yang semakin kuat yang tidak dapat dipahami, diprediksi, atau dikendalikan oleh siapa pun. Seperti halnya sistem AI kontemporer GPT-4 bisa bersaing dengan manusia pada tugas-tugas umum, surat tersebut menimbulkan kekhawatiran tentang bias informasi oleh AI, otomatisasi pekerjaan, dan risiko kehilangan kendali atas peradaban manusia.
“Kami menyerukan semua laboratorium AI untuk segera menghentikan pelatihan sistem AI yang lebih kuat setidaknya selama 6 bulan GPT-4. Jeda ini harus bersifat publik dan dapat diverifikasi, serta mencakup semua aktor kunci. Jika jeda seperti itu tidak dapat dilakukan dengan cepat, pemerintah harus turun tangan dan melakukan moratorium,”
surat itu menyatakan.
Surat tersebut memohon kepada laboratorium AI dan pakar teknologi untuk menggunakan periode jeda untuk mengembangkan dan menerapkan protokol keselamatan untuk desain dan pengembangan AI tingkat lanjut yang diaudit secara ketat dan diawasi oleh pakar luar yang independen.
Namun, jurnalis Amerika Jeff Jarvis mengkritik surat tersebut, mengatakan bahwa itu adalah "spesimen utama dari kepanikan moral."
Beberapa pemikir terkemuka dalam pembelajaran teknologi dan mesin yang telah menandatangani surat tersebut bersama para ilmuwan riset DeepMind dan beberapa profesor universitas dari seluruh dunia meliputi:
- Yoshua Bengio, University of Montréal, Turing Laureate untuk mengembangkan deep learning, kepala Montreal Institute for Learning Algorithms
- Stuart Russell, Berkeley, Profesor Ilmu Komputer, direktur Pusat Sistem Cerdas, dan rekan penulis buku teks standar "Kecerdasan Buatan: Pendekatan Modern"
- Elon Musk, CEO SpaceX, Tesla & Twitter
- Emad Mostaque, CEO, Stability AI
- Jaan Tallinn, Salah Satu Pendiri Skype, Pusat Studi Risiko Eksistensial, Future of Life Institute
- Gary Marcus, Universitas New York, peneliti AI, Profesor Emeritus
- Marc Rotenberg, Pusat AI dan Kebijakan Digital (CAIDP), Presiden
Di sebuah surat baru-baru ini, Rotenberg menulis bahwa CAIDP akan mengajukan keluhan ke Komisi Perdagangan Federal, menyerukan penyelidikan terhadap Open AI dan ChatGPT, serta larangan pelepasan produk secara komersial lebih lanjut hingga perlindungan ditetapkan.
OpenAI CEO Sam Altman punya mengaku bahwa "kita juga membutuhkan cukup waktu bagi institusi kita untuk mencari tahu apa yang harus dilakukan" dan bahwa masyarakat tidak jauh dari alat AI generatif yang "berpotensi menakutkan".
“Kami meminta FTC untuk “menekan tombol jeda” sehingga ada peluang bagi institusi kami, hukum kami, dan masyarakat kami untuk mengejar ketinggalan. Kita perlu menegaskan hak pilihan atas teknologi yang kita buat sebelum kita kehilangan kendali, ”kata surat CAIDP.
Di tempat lain, legislator UE bertujuan untuk menandatangani kesepakatan dengan negara-negara UE pada akhir tahun untuk menerapkan aturan AI, meskipun mungkin akan menemui hambatan karena perdebatan tentang bagaimana AI harus diatur semakin intensif.
Baca lebih lanjut:
Penolakan tanggung jawab
Sejalan dengan Percayai pedoman Proyek, harap dicatat bahwa informasi yang diberikan pada halaman ini tidak dimaksudkan untuk dan tidak boleh ditafsirkan sebagai nasihat hukum, pajak, investasi, keuangan, atau bentuk nasihat lainnya. Penting untuk hanya menginvestasikan jumlah yang mampu Anda tanggung kerugiannya dan mencari nasihat keuangan independen jika Anda ragu. Untuk informasi lebih lanjut, kami menyarankan untuk merujuk pada syarat dan ketentuan serta halaman bantuan dan dukungan yang disediakan oleh penerbit atau pengiklan. MetaversePost berkomitmen terhadap pelaporan yang akurat dan tidak memihak, namun kondisi pasar dapat berubah tanpa pemberitahuan.
Tentang Penulis
Cindy adalah seorang jurnalis di Metaverse Post, mencakup topik yang terkait dengan web3, NFT, metaverse dan AI, dengan fokus pada wawancara dengan Web3 pelaku industri. Dia telah berbicara dengan lebih dari 30 eksekutif tingkat C dan terus bertambah, menyampaikan wawasan berharga mereka kepada pembaca. Berasal dari Singapura, Cindy kini tinggal di Tbilisi, Georgia. Beliau meraih gelar Sarjana Komunikasi & Studi Media dari University of South Australia dan memiliki pengalaman satu dekade di bidang jurnalisme dan penulisan. Hubungi dia melalui [email dilindungi] dengan pitches pers, pengumuman dan peluang wawancara.
lebih artikel
Cindy adalah seorang jurnalis di Metaverse Post, mencakup topik yang terkait dengan web3, NFT, metaverse dan AI, dengan fokus pada wawancara dengan Web3 pelaku industri. Dia telah berbicara dengan lebih dari 30 eksekutif tingkat C dan terus bertambah, menyampaikan wawasan berharga mereka kepada pembaca. Berasal dari Singapura, Cindy kini tinggal di Tbilisi, Georgia. Beliau meraih gelar Sarjana Komunikasi & Studi Media dari University of South Australia dan memiliki pengalaman satu dekade di bidang jurnalisme dan penulisan. Hubungi dia melalui [email dilindungi] dengan pitches pers, pengumuman dan peluang wawancara.
