Syarikat AI Harus Membelanjakan 30% Pembiayaan Mereka untuk R&D dalam Keselamatan dan Etika
Kerosakan yang disebabkan oleh prasangka dan maklumat palsu sudah jelas. Terdapat tanda-tanda bahawa bahaya lain juga mungkin muncul. Adalah penting untuk mengurangkan risiko semasa dan meramalkan risiko yang baru muncul.
Kami tidak akan tahu cara memastikan sistem autonomi lanjutan atau AGI selamat atau cara mengujinya jika ia tersedia sekarang. Tambahan pula, kerajaan kekurangan institusi yang diperlukan untuk menghentikan penyalahgunaan dan melaksanakan amalan selamat, walaupun mereka melakukannya. Penulis menyokong pembangunan pengawasan kerajaan yang cekap dan mengalihkan usaha R&D ke arah keselamatan dan etika.
Kawalan dan kejujuran (sistem yang lebih canggih boleh mengatasi ujian dengan menghasilkan jawapan palsu tetapi meyakinkan), keteguhan (dalam keadaan baharu dengan peralihan pengedaran atau input lawan), kebolehtafsiran (memahami kerja), penilaian risiko (kebolehan baharu muncul yang sukar untuk diramal), dan kemunculan cabaran baharu (mod kegagalan yang belum pernah berlaku sebelum ini) adalah beberapa cabaran R&D yang tidak akan diselesaikan oleh membangunkan sistem AI yang lebih berkuasa.
Penulis mencadangkan bahawa keselamatan dan etika harus menerima sekurang-kurangnya satu pertiga daripada pembiayaan untuk R&D AI.
Piawaian perlu dikuatkuasakan berhubung dengan kedua-dua institusi negara dan tadbir urus global. AI kekurangan ini, tetapi industri farmaseutikal, kewangan, dan nuklear begitu. Kini terdapat insentif untuk negara dan perniagaan untuk berjimat dengan mengorbankan keselamatan. Syarikat boleh mendapat keuntungan daripada kemajuan AI sambil meninggalkan masyarakat menanggung akibatnya, sama seperti industri membuang sisa ke dalam sungai.
Pengetahuan teknikal yang kukuh dan keupayaan untuk bergerak pantas adalah keperluan untuk institusi negara. Dalam arena global, perkongsian dan perjanjian adalah penting. Halangan birokrasi kepada model kecil dan boleh diramal mesti dielakkan untuk melindungi penyelidikan akademik dan aplikasi berisiko rendah. Model Frontier—sekumpulan pilihan sistem paling mujarab yang dilatih pada superkomputer bernilai bilion dolar—harus menerima tumpuan paling banyak.
Kerajaan mesti lebih terbuka tentang perkembangan agar peraturan menjadi berkesan. Pengawal selia harus mewajibkan pendaftaran model, melindungi pemberi maklumat dalaman, mewajibkan pelaporan insiden, dan memerhatikan pembangunan model dan penggunaan superkomputer.
Pengawal selia juga mesti mempunyai akses kepada sistem ini sebelum dikeluarkan ke dalam pengeluaran untuk menilai berpotensi memudaratkan ciri seperti penjanaan patogen, replikasi diri dan penembusan sistem.
Sistem yang berpotensi berbahaya memerlukan pelbagai kaedah kawalan. Model sempadan pencipta juga mesti bertanggungjawab di sisi undang-undang untuk sebarang kerosakan pada sistem mereka yang boleh dielakkan. Ini sepatutnya menggalakkan pelaburan keselamatan. Lebih banyak ciri, seperti pelesenan kerajaan, keupayaan untuk menghentikan pembangunan sebagai tindak balas kepada berpotensi berbahaya keupayaan, kawalan capaian dan langkah keselamatan maklumat yang tidak tembus kepada penggodam peringkat negeri, mungkin diperlukan untuk sistem yang sangat berkebolehan.
Walaupun tiada peraturan, perniagaan harus segera menjelaskan tanggungjawab jika-maka mereka dengan menggariskan langkah tepat yang akan mereka ambil jika keupayaan model tertentu melepasi garis merah. Langkah-langkah ini perlu dijelaskan dengan teliti dan disahkan secara bebas. Oleh itu, ia adalah. A berasingan Tambahan polisi menyusun ringkasan tesis.
- Pada bulan Oktober, Forum Model Frontier telah memperkenalkan Dana Keselamatan AI lebih $10 juta, bertujuan untuk memacu kemajuan dalam penyelidikan keselamatan AI. Dana itu, kerjasama antara Forum Model Frontier dan rakan kongsi dermawan, akan memberikan sokongan kepada penyelidik bebas di seluruh dunia yang bergabung dengan institusi akademik, organisasi penyelidikan dan syarikat baru. Penyumbang utama kepada inisiatif ini ialah Anthropic, Google, Microsoft, OpenAI, bersama-sama dengan organisasi dermawan seperti Yayasan Patrick J. McGovern, Yayasan David dan Lucile Packard, Eric Schmidt dan Jaan Tallinn. Dana Keselamatan AI tertumpu terutamanya pada memperkukuh pembangunan teknik penilaian baharu dan pendekatan gabungan merah untuk model AI, bertujuan untuk mendedahkan potensi bahaya. Forum merancang untuk menubuhkan Lembaga Penasihat dalam beberapa bulan akan datang, dan akan mengeluarkan panggilan pertamanya untuk cadangan dan pemberian anugerah tidak lama selepas itu.
Penafian
Selaras dengan Garis panduan Projek Amanah, sila ambil perhatian bahawa maklumat yang diberikan pada halaman ini tidak bertujuan untuk menjadi dan tidak seharusnya ditafsirkan sebagai nasihat undang-undang, cukai, pelaburan, kewangan atau sebarang bentuk nasihat lain. Adalah penting untuk hanya melabur apa yang anda mampu kehilangan dan mendapatkan nasihat kewangan bebas jika anda mempunyai sebarang keraguan. Untuk maklumat lanjut, kami mencadangkan merujuk kepada terma dan syarat serta halaman bantuan dan sokongan yang disediakan oleh pengeluar atau pengiklan. MetaversePost komited kepada laporan yang tepat dan tidak berat sebelah, tetapi keadaan pasaran tertakluk kepada perubahan tanpa notis.
Tentang Pengarang
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
lebih banyak artikel
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
