OpenAI Mendedahkan Pendekatan Terkininya untuk Memastikan Keselamatan AI
Secara ringkas
OpenAI telah mengeluarkan catatan blog yang menggariskan pendekatannya yang lebih baik terhadap keselamatan berikutan kebimbangan terbaru mengenai keselamatan dan privasi serta penyiasatan.
Syarikat itu berjanji untuk menjalankan ujian yang ketat, melibatkan pakar luar untuk mendapatkan maklum balas, dan bekerjasama dengan kerajaan untuk menentukan yang terbaik pendekatan untuk peraturan AI.
Selepas menghadapi kebimbangan mengenai keselamatan dan privasi dan mengikuti siasatan baru-baru ini di beberapa negara Eropah, OpenAI mempunyai dikeluarkan catatan blog yang menggariskan pendekatan keselamatan syarikat yang lebih baik.
OpenAI berjanji untuk menjalankan ujian yang ketat, melibatkan pakar luar untuk maklum balas sebelum mengeluarkan sebarang sistem baharu, dan bekerjasama dengan kerajaan untuk menentukan pendekatan terbaik untuk peraturan AI.
Sebelum ini, syarikat itu menghabiskan lebih enam bulan bekerja pada keselamatan dan penjajaran model terbaharunya, GPT-4, sebelum mengeluarkannya secara terbuka. Untuk memastikan keselamatan model bahasa terbaharunya, GPT-4, OpenAI disewa pasukan yang terdiri daripada lebih 50 pakar: pakar keselamatan, etika dan dasar AI, termasuk penyelidik dan jurutera.
"Yang penting, kami percaya bahawa masyarakat mesti mempunyai masa untuk mengemas kini dan menyesuaikan diri dengan AI yang semakin berkebolehan, dan setiap orang yang terjejas oleh teknologi ini harus mempunyai pendapat yang signifikan dalam cara AI berkembang lebih jauh,"
OpenAI Menulis.
OpenAIFokus pada Keselamatan dan Privasi Kanak-kanak
Itali diharamkan ChatGPT, memetik OpenAIKegagalan untuk mengesahkan umur penggunanya, walaupun direka untuk individu berumur 13 tahun ke atas, sebagai salah satu sebabnya. Tumpuan kritikal dalam usaha keselamatan syarikat telah beralih kepada melindungi kanak-kanak dengan melaksanakan pilihan pengesahan umur, yang OpenAI kini sedang meneroka, terutamanya kerana alatan AI ditujukan untuk individu berumur 18 tahun ke atas atau 13 tahun ke atas dengan kelulusan ibu bapa.
Syarikat itu melarang keras penjanaan kandungan yang penuh kebencian, gangguan, ganas atau dewasa, dan GPT-4 sudah mempunyai kemungkinan 82% lebih rendah untuk membalas permintaan untuk kandungan yang tidak dibenarkan berbanding dengan GPT-35.
OpenAI telah mewujudkan sistem yang teguh untuk memantau penyalahgunaan dan harapan untuk membuat GPT-4 tersedia kepada lebih ramai orang dari semasa ke semasa. Syarikat itu bekerjasama dengan pembangun mengenai pengurangan keselamatan yang disesuaikan, seperti Akademi Khan bukan untung, dan sedang mengusahakan ciri untuk membolehkan piawaian yang lebih ketat untuk output model.
Meningkatkan privasi adalah satu lagi aspek keselamatan OpenAI sedang memberi tumpuan, terutamanya selepas baru-baru ini pelanggaran data. Model bahasa besar syarikat AI dilatih mengenai sejumlah besar teks yang merangkumi kandungan tersedia untuk umum, kandungan berlesen dan kandungan yang dijana oleh pengulas manusia; ia menggunakan data untuk menjadikan model AI lebih berguna kepada orang ramai.
OpenAI sedang mengambil langkah untuk melindungi privasi individu dengan mengalih keluar maklumat peribadi daripada data latihannya, memperhalusi model untuk menolak permintaan untuk maklumat peribadi dan memadam maklumat peribadi daripada sistemnya atas permintaan. Ini mengurangkan peluang model AI menjana respons yang merangkumi maklumat peribadi.
OpenAIpendekatan untuk menangani kebimbangan keselamatan AI adalah untuk menyelidik mitigasi yang berkesan dan teknik penjajaran dan mengujinya terhadap penyalahgunaan dunia sebenar. Ia juga berjanji untuk lebih berhati-hati dalam mencipta dan menggunakan model yang lebih berkebolehan dan untuk meningkatkan langkah berjaga-jaga keselamatan. Tadbir urus yang berkesan bagi pembangunan dan penggunaan AI adalah penting untuk memastikan keselamatan, yang memerlukan inovasi teknikal dan institusi.
Baca lebih lanjut:
Penafian
Selaras dengan Garis panduan Projek Amanah, sila ambil perhatian bahawa maklumat yang diberikan pada halaman ini tidak bertujuan untuk menjadi dan tidak seharusnya ditafsirkan sebagai nasihat undang-undang, cukai, pelaburan, kewangan atau sebarang bentuk nasihat lain. Adalah penting untuk hanya melabur apa yang anda mampu kehilangan dan mendapatkan nasihat kewangan bebas jika anda mempunyai sebarang keraguan. Untuk maklumat lanjut, kami mencadangkan merujuk kepada terma dan syarat serta halaman bantuan dan sokongan yang disediakan oleh pengeluar atau pengiklan. MetaversePost komited kepada laporan yang tepat dan tidak berat sebelah, tetapi keadaan pasaran tertakluk kepada perubahan tanpa notis.
Tentang Pengarang
Agne ialah seorang wartawan yang membuat liputan tentang trend dan perkembangan terkini dalam metaverse, AI, dan Web3 industri untuk Metaverse Post. Keghairahannya untuk bercerita telah menyebabkan dia menjalankan banyak temu bual dengan pakar dalam bidang ini, sentiasa berusaha untuk mendedahkan cerita yang menarik dan menarik. Agne memegang ijazah Sarjana Muda dalam kesusasteraan dan mempunyai latar belakang yang luas dalam penulisan tentang pelbagai topik termasuk perjalanan, seni dan budaya. Dia juga menawarkan diri sebagai editor untuk organisasi hak haiwan, di mana dia membantu meningkatkan kesedaran tentang isu kebajikan haiwan. Hubungi dia [e-mel dilindungi].
lebih banyak artikel
Agne ialah seorang wartawan yang membuat liputan tentang trend dan perkembangan terkini dalam metaverse, AI, dan Web3 industri untuk Metaverse Post. Keghairahannya untuk bercerita telah menyebabkan dia menjalankan banyak temu bual dengan pakar dalam bidang ini, sentiasa berusaha untuk mendedahkan cerita yang menarik dan menarik. Agne memegang ijazah Sarjana Muda dalam kesusasteraan dan mempunyai latar belakang yang luas dalam penulisan tentang pelbagai topik termasuk perjalanan, seni dan budaya. Dia juga menawarkan diri sebagai editor untuk organisasi hak haiwan, di mana dia membantu meningkatkan kesedaran tentang isu kebajikan haiwan. Hubungi dia [e-mel dilindungi].
