OpenAI Meluncurkan Pendekatan Terbaru untuk Memastikan Keamanan AI
Singkatnya
OpenAI telah merilis postingan blog yang menguraikan pendekatan mereka yang lebih baik terhadap keselamatan menyusul kekhawatiran baru-baru ini mengenai keselamatan dan privasi serta investigasi.
Perusahaan berjanji untuk melakukan pengujian yang ketat, melibatkan pakar eksternal untuk mendapatkan masukan, dan bekerja sama dengan pemerintah untuk menentukan yang terbaik pendekatan untuk peraturan AI.
Setelah menghadapi kekhawatiran tentang keamanan dan privasi dan mengikuti penyelidikan baru-baru ini di beberapa negara Eropa, OpenAI memiliki dirilis posting blog yang menguraikan peningkatan pendekatan perusahaan terhadap keselamatan.
OpenAI berjanji untuk melakukan pengujian yang ketat, melibatkan pakar eksternal untuk mendapatkan masukan sebelum meluncurkan sistem baru, dan bekerja sama dengan pemerintah untuk menentukan pendekatan terbaik dalam regulasi AI.
Sebelumnya, perusahaan menghabiskan lebih dari enam bulan mengerjakan keselamatan dan penyelarasan model terbarunya, GPT-4, sebelum merilisnya ke publik. Untuk memastikan keamanan model bahasa terbarunya, GPT-4, OpenAI disewa tim yang terdiri dari lebih dari 50 ahli: keamanan AI, etika, dan spesialis kebijakan, termasuk peneliti dan insinyur.
“Yang terpenting, kami percaya bahwa masyarakat harus memiliki waktu untuk memperbarui dan menyesuaikan diri dengan AI yang semakin mumpuni, dan bahwa setiap orang yang terpengaruh oleh teknologi ini harus memiliki suara yang signifikan dalam perkembangan AI lebih lanjut,”
OpenAI Menulis
OpenAIFokus pada Keamanan dan Privasi Anak
Italia dilarang ChatGPT, mengutip OpenAIKegagalan untuk memverifikasi usia penggunanya, meskipun dirancang untuk individu berusia 13 tahun ke atas, sebagai salah satu alasannya. Fokus penting dari upaya keselamatan perusahaan telah beralih ke perlindungan anak-anak dengan menerapkan opsi verifikasi usia, yang mana hal ini akan berdampak pada keselamatan anak-anak OpenAI kini sedang dieksplorasi, terutama karena alat AI ditujukan untuk individu berusia 18 tahun ke atas atau 13 tahun ke atas dengan persetujuan orang tua.
Perusahaan melarang keras pembuatan konten yang penuh kebencian, pelecehan, kekerasan, atau dewasa, dan GPT-4 sudah memiliki kemungkinan 82% lebih rendah untuk menanggapi permintaan konten yang tidak diizinkan dibandingkan dengan GPT-35..
OpenAI telah membentuk sistem yang kuat untuk memantau penyalahgunaan dan harapan yang dapat dicapai GPT-4 tersedia untuk lebih banyak orang dari waktu ke waktu. Perusahaan ini bekerja sama dengan pengembang dalam mitigasi keselamatan yang disesuaikan, seperti lembaga nirlaba Khan Academy, dan sedang mengerjakan fitur-fitur yang memungkinkan standar yang lebih ketat untuk keluaran model.
Meningkatkan privasi adalah aspek keamanan lainnya OpenAI sedang fokus, terutama setelah baru-baru ini pelanggaran data. Model bahasa besar perusahaan AI dilatih pada sejumlah besar teks yang mencakup konten yang tersedia untuk umum, konten berlisensi, dan konten yang dihasilkan oleh peninjau manusia; itu menggunakan data untuk membuat model AI lebih bermanfaat bagi orang.
OpenAI mengambil langkah-langkah untuk melindungi privasi individu dengan menghapus informasi pribadi dari data pelatihannya, menyempurnakan model untuk menolak permintaan informasi pribadi, dan menghapus informasi pribadi dari sistemnya berdasarkan permintaan. Hal ini mengurangi kemungkinan model AI menghasilkan respons yang mencakup informasi pribadi.
OpenAIpendekatan Untuk mengatasi masalah keamanan AI adalah dengan meneliti mitigasi yang efektif dan teknik penyelarasan dan mengujinya terhadap penyalahgunaan di dunia nyata. Mereka juga berjanji untuk semakin berhati-hati dalam menciptakan dan menerapkan model yang lebih mumpuni dan meningkatkan tindakan pencegahan keselamatan. Tata kelola pengembangan dan penerapan AI yang efektif sangat penting untuk memastikan keselamatan, dan hal ini memerlukan inovasi teknis dan kelembagaan.
Baca lebih lanjut:
Penolakan tanggung jawab
Sejalan dengan Percayai pedoman Proyek, harap dicatat bahwa informasi yang diberikan pada halaman ini tidak dimaksudkan untuk dan tidak boleh ditafsirkan sebagai nasihat hukum, pajak, investasi, keuangan, atau bentuk nasihat lainnya. Penting untuk hanya menginvestasikan jumlah yang mampu Anda tanggung kerugiannya dan mencari nasihat keuangan independen jika Anda ragu. Untuk informasi lebih lanjut, kami menyarankan untuk merujuk pada syarat dan ketentuan serta halaman bantuan dan dukungan yang disediakan oleh penerbit atau pengiklan. MetaversePost berkomitmen terhadap pelaporan yang akurat dan tidak memihak, namun kondisi pasar dapat berubah tanpa pemberitahuan.
Tentang Penulis
Agne adalah jurnalis yang meliput tren dan perkembangan terbaru di metaverse, AI, dan Web3 industri untuk Metaverse Post. Kecintaannya pada bercerita telah membawanya melakukan banyak wawancara dengan para ahli di bidang tersebut, selalu berusaha mengungkap cerita yang menarik dan memikat. Agne memegang gelar Sarjana Sastra dan memiliki latar belakang luas dalam menulis tentang berbagai topik termasuk perjalanan, seni, dan budaya. Dia juga menjadi sukarelawan sebagai editor di organisasi hak-hak hewan, di mana dia membantu meningkatkan kesadaran tentang masalah kesejahteraan hewan. Hubungi dia di [email dilindungi].
lebih artikel
Agne adalah jurnalis yang meliput tren dan perkembangan terbaru di metaverse, AI, dan Web3 industri untuk Metaverse Post. Kecintaannya pada bercerita telah membawanya melakukan banyak wawancara dengan para ahli di bidang tersebut, selalu berusaha mengungkap cerita yang menarik dan memikat. Agne memegang gelar Sarjana Sastra dan memiliki latar belakang luas dalam menulis tentang berbagai topik termasuk perjalanan, seni, dan budaya. Dia juga menjadi sukarelawan sebagai editor di organisasi hak-hak hewan, di mana dia membantu meningkatkan kesadaran tentang masalah kesejahteraan hewan. Hubungi dia di [email dilindungi].
