Dario Amodei Memberi Amaran Tentang Jurang Tadbir Urus Ketika AI Memajukan Dasar yang Lebih Baik, Mendesak Pembaharuan Keselamatan dan Ekonomi yang Mengikat
Secara ringkas
Ketua Pegawai Eksekutif Anthropic, Dario Amodei, menggariskan risiko AI dan mencadangkan peraturan yang lebih ketat, perlindungan ekonomi dan penyelarasan global untuk mengurus kemajuan AI yang pantas.
Dario Amodei, Ketua Pegawai Eksekutif Antropik, berkata dalam esei baharu bahawa AI maju jauh lebih pantas daripada yang dapat ditanggapi oleh sistem politik, dan berhujah bahawa pembuat dasar mesti menyesuaikan diri dengan cepat apabila model sempadan mula membentuk semula keselamatan, ekonomi dan institusi awam. Beliau membandingkan jurang kadar antara pembangunan AI dan perundangan dengan kontras antara Hobbit yang bergerak pantas dan Treebeard yang perlahan, dengan mengatakan bahawa ketidakpadanan itu menjadi semakin mendesak apabila model bertambah baik merentasi pengekodan, sains dan kerja pengetahuan lain.
Usahawan itu menekankan bahawa usaha dasar terdahulu sebahagian besarnya terhad kepada langkah-langkah ketelusan, kawalan eksport dan pengumpulan data kerana risiko masih muncul dan tidak jelas. Beliau berkata gambaran itu kini telah berubah, merujuk kepada keupayaan model sempadan yang telah mendedahkan kebimbangan keselamatan siber yang serius dan menunjukkan bahawa sistem AI canggih boleh menjejaskan kestabilan kewangan, infrastruktur kritikal dan keselamatan negara. Beliau berhujah bahawa peringkat dasar seterusnya harus bergerak melangkaui pendedahan sahaja dan ke arah peraturan yang mengikat untuk model berisiko tinggi.
Peraturan, Gangguan Ekonomi dan Keutamaan Dasar Baru Muncul dalam Era AI
Mengenai peraturan dan keselamatan awam, Dario Amodei mencadangkan rangka kerja yang serupa dengan pengawasan penerbangan, dengan ujian pihak ketiga mandatori untuk model canggih sebelum penggunaan. Beliau berkata model di atas ambang pengiraan tertentu harus dinilai untuk risiko dalam keselamatan siber, penyalahgunaan biologi, kehilangan kawalan dan penyelidikan automatik yang boleh menguatkan ancaman tersebut. Beliau juga berkata kerajaan sepatutnya dapat menangguhkan atau menyekat penggunaan jika risiko tersebut dianggap tidak boleh diterima, sambil memerlukan amalan keselamatan yang kukuh, pasukan merah yang kerap, ujian penembusan dan pelaporan insiden segera daripada pembangun AI.
Esei itu juga memberi tumpuan kepada gangguan ekonomi. Amodei berkata AI yang berkuasa boleh mempercepatkan pertumbuhan di samping menggantikan sejumlah besar pekerja dengan menggantikan tenaga kerja kognitif manusia dengan lebih pantas berbanding teknologi sebelumnya. Beliau memberi amaran bahawa ini boleh menghasilkan dunia pertumbuhan yang sangat pesat di samping ketidaksamaan yang berterusan, menjadikannya lebih sukar untuk memastikan faedah dikongsi secara meluas. Beliau berkata dasar harus memberi tumpuan kepada pengukuran, sokongan tenaga kerja, insurans upah, latihan semula dan mungkin sokongan pendapatan jangka panjang jika permintaan buruh menurun dengan ketara.
Dalam bahagian lain, Ketua Pegawai Eksekutif Anthropic berkata AI boleh mempercepatkan kemajuan saintifik, terutamanya dalam bioperubatan, tetapi sistem kawal selia sedia ada mungkin terlalu perlahan untuk mengendalikan gelombang inovasi berbantukan AI. Beliau mencadangkan agar agensi kelulusan seperti FDA dan EMA bersedia menerima simulasi berasaskan AI, lengan kawalan sintetik dan kaedah lain yang boleh memendekkan pembangunan ubat tanpa mengurangkan keselamatan.
Dario Amodei juga memberi amaran bahawa AI boleh meningkatkan kuasa negara dan mewujudkan risiko kebebasan awam yang baharu, termasuk senjata autonomi, pengawasan besar-besaran dan penggunaan AI yang tidak adil oleh kerajaan. Beliau menyeru peraturan akauntabiliti yang lebih kukuh, had penggunaan senjata autonomi sepenuhnya dalam negeri dan perlindungan privasi yang lebih ketat.
Akhirnya, beliau berkata negara-negara demokrasi harus bekerjasama dalam rantaian bekalan AI, piawaian keselamatan dan penyelarasan ekonomi, dengan alasan bahawa AI sedang menjadi teknologi strategik yang setanding dengan kuasa nuklear dari segi kepentingan geopolitiknya.
Penafian
Selaras dengan Garis panduan Projek Amanah, sila ambil perhatian bahawa maklumat yang diberikan pada halaman ini tidak bertujuan untuk menjadi dan tidak seharusnya ditafsirkan sebagai nasihat undang-undang, cukai, pelaburan, kewangan atau sebarang bentuk nasihat lain. Adalah penting untuk hanya melabur apa yang anda mampu kehilangan dan mendapatkan nasihat kewangan bebas jika anda mempunyai sebarang keraguan. Untuk maklumat lanjut, kami mencadangkan merujuk kepada terma dan syarat serta halaman bantuan dan sokongan yang disediakan oleh pengeluar atau pengiklan. MetaversePost komited kepada laporan yang tepat dan tidak berat sebelah, tetapi keadaan pasaran tertakluk kepada perubahan tanpa notis.
Tentang Pengarang
Alisa, seorang wartawan yang berdedikasi di MPost, pakar dalam kripto, AI, pelaburan dan bidang yang luas Web3. Dengan memerhatikan trend dan teknologi yang sedang muncul, beliau menyampaikan liputan komprehensif untuk memaklumkan dan melibatkan pembaca dalam landskap kewangan digital yang sentiasa berkembang.
lebih banyak artikel
Alisa, seorang wartawan yang berdedikasi di MPost, pakar dalam kripto, AI, pelaburan dan bidang yang luas Web3. Dengan memerhatikan trend dan teknologi yang sedang muncul, beliau menyampaikan liputan komprehensif untuk memaklumkan dan melibatkan pembaca dalam landskap kewangan digital yang sentiasa berkembang.
