Antropik, Google, Microsoft dan OpenAI Tunjuk Direktur Eksekutif untuk Frontier Model Forum dan Luncurkan Dana Keamanan AI senilai $10 juta
Singkatnya
Antropik, Google, Microsoft, dan OpenAI telah memperkenalkan Chris Meserole sebagai Direktur Eksekutif perdana Frontier Model Forum.
Pada saat yang sama, mereka juga mengumumkan Dana Keamanan AI yang besar, dengan pendanaan lebih dari $10 juta.
Antropik, Google, Microsoft dan OpenAI memiliki ditunjuk Chris Meserole sebagai Direktur Eksekutif perdana Frontier Model Forum. Konsorsium industri ini berdedikasi untuk mempromosikan perkembangan model AI mutakhir yang aman dan etis secara global. Pada saat yang sama, Forum memperkenalkan Dana Keamanan AI senilai lebih dari $10 juta. Tujuan dana ini adalah untuk mendorong kemajuan dalam penelitian keselamatan AI.
Direktur Eksekutif Chris Meserole membawa latar belakang yang luas dalam kebijakan teknologi dan tata kelola teknologi baru. Sebelum diangkat, beliau menjabat sebagai Direktur Artificial Intelligence dan Emerging Technology Initiative di Brookings Institution. Dalam kapasitas barunya, Meserole akan memimpin upaya untuk memajukan penelitian keselamatan AI, mengidentifikasi praktik terbaik untuk pengembangan model AI yang aman, menyebarkan pengetahuan kepada pemangku kepentingan, dan mendukung inisiatif yang memanfaatkan AI untuk mengatasi tantangan sosial.
“Model AI yang paling kuat mempunyai potensi besar bagi masyarakat, namun untuk mewujudkan potensinya, kita perlu lebih memahami cara mengembangkan dan mengevaluasinya dengan aman. Saya bersemangat untuk menerima tantangan itu dengan Frontier Model Forum,”
kata Meserole.
AI Safety Fund dibentuk sebagai respons terhadap perkembangan pesat kemampuan AI selama setahun terakhir, sehingga memerlukan penelitian akademis lebih lanjut mengenai keamanan AI. Dana ini, yang merupakan hasil kolaborasi antara Frontier Model Forum dan mitra filantropis, akan memberikan dukungan kepada peneliti independen di seluruh dunia yang berafiliasi dengan institusi akademis, organisasi penelitian, dan startup.
Kontributor utama inisiatif ini adalah Anthropic, Google, Microsoft, dan OpenAI, bersama dengan organisasi filantropi seperti Patrick J. McGovern Foundation, David and Lucile Packard Foundation, Eric Schmidt, dan Jaan Tallinn. Kontribusi gabungan mereka melebihi $10 juta, dengan antisipasi adanya donasi tambahan dari mitra lain.
Awal tahun ini, para anggota Forum menjanjikan komitmen sukarela di Gedung Putih, termasuk memungkinkan pihak ketiga menemukan dan melaporkan kerentanan dalam sistem AI mereka. AI Safety Fund sejalan dengan komitmen ini dengan menawarkan pendanaan kepada komunitas eksternal untuk meneliti sistem AI terdepan. Keberagaman pendapat dan perspektif akan memperkaya wacana global tentang keamanan AI dan memperluas basis pengetahuan AI secara umum.
Meningkatkan Keamanan dan Kolaborasi AI
AI Safety Fund terutama berkonsentrasi pada pengembangan teknik evaluasi baru dan pendekatan tim merah untuk model AI, yang bertujuan untuk mengungkap potensi bahaya. Tim merah adalah proses terstruktur untuk meneliti sistem AI guna mengidentifikasi kemampuan, keluaran, atau ancaman infrastruktur yang berbahaya. Peningkatan pendanaan dalam bidang ini dapat meningkatkan standar keselamatan dan keamanan serta memberikan wawasan berharga mengenai mitigasi tantangan yang ditimbulkan oleh sistem AI.
Selain itu, Dana tersebut akan segera mencari proposal penelitian dan akan dikelola oleh Meridian Institute dengan saran dari komite penasihat, termasuk pakar independen, profesional AI, dan pakar pemberi hibah.
Proses pengungkapan yang bertanggung jawab sedang berlangsung, sehingga laboratorium Frontier AI dapat berbagi informasi tentang kerentanan dan kemampuan berbahaya dalam model AI frontier, beserta solusinya. Beberapa perusahaan Forum telah mengidentifikasi isu-isu tersebut dalam konteks keamanan nasional, yang berfungsi sebagai studi kasus untuk memandu laboratorium lain dalam menerapkan prosedur pengungkapan yang bertanggung jawab.
Ke depan, Frontier Model Forum berencana membentuk Dewan Penasihat dalam beberapa bulan mendatang, yang bertugas mengarahkan prioritas strategisnya dan mewakili beragam keahlian dan perspektif. Forum akan merilis pembaruan secara rutin, termasuk penambahan anggota baru. Pada saat yang sama, AI Safety Fund akan mengeluarkan permintaan proposal yang pertama, dan dana hibah akan diberikan segera setelahnya. Selain itu, Forum akan terus merilis temuan teknis jika sudah tersedia.
Tujuan utama Forum ini adalah untuk berkolaborasi dengan Chris Meserole dan memperluas keterlibatan dengan komunitas riset yang lebih luas. Hal ini mencakup kemitraan dengan organisasi seperti Partnership on AI, MLCommons, dan LSM terkemuka lainnya, entitas pemerintah, dan organisasi multinasional. Bersama-sama, mereka bertujuan untuk memanfaatkan potensi AI sekaligus memastikan pengembangan dan pemanfaatannya secara aman dan etis.
Penolakan tanggung jawab
Sejalan dengan Percayai pedoman Proyek, harap dicatat bahwa informasi yang diberikan pada halaman ini tidak dimaksudkan untuk dan tidak boleh ditafsirkan sebagai nasihat hukum, pajak, investasi, keuangan, atau bentuk nasihat lainnya. Penting untuk hanya menginvestasikan jumlah yang mampu Anda tanggung kerugiannya dan mencari nasihat keuangan independen jika Anda ragu. Untuk informasi lebih lanjut, kami menyarankan untuk merujuk pada syarat dan ketentuan serta halaman bantuan dan dukungan yang disediakan oleh penerbit atau pengiklan. MetaversePost berkomitmen terhadap pelaporan yang akurat dan tidak memihak, namun kondisi pasar dapat berubah tanpa pemberitahuan.
Tentang Penulis
Agne adalah jurnalis yang meliput tren dan perkembangan terbaru di metaverse, AI, dan Web3 industri untuk Metaverse Post. Kecintaannya pada bercerita telah membawanya melakukan banyak wawancara dengan para ahli di bidang tersebut, selalu berusaha mengungkap cerita yang menarik dan memikat. Agne memegang gelar Sarjana Sastra dan memiliki latar belakang luas dalam menulis tentang berbagai topik termasuk perjalanan, seni, dan budaya. Dia juga menjadi sukarelawan sebagai editor di organisasi hak-hak hewan, di mana dia membantu meningkatkan kesadaran tentang masalah kesejahteraan hewan. Hubungi dia di [email dilindungi].
lebih artikel
Agne adalah jurnalis yang meliput tren dan perkembangan terbaru di metaverse, AI, dan Web3 industri untuk Metaverse Post. Kecintaannya pada bercerita telah membawanya melakukan banyak wawancara dengan para ahli di bidang tersebut, selalu berusaha mengungkap cerita yang menarik dan memikat. Agne memegang gelar Sarjana Sastra dan memiliki latar belakang luas dalam menulis tentang berbagai topik termasuk perjalanan, seni, dan budaya. Dia juga menjadi sukarelawan sebagai editor di organisasi hak-hak hewan, di mana dia membantu meningkatkan kesadaran tentang masalah kesejahteraan hewan. Hubungi dia di [email dilindungi].
