OpenAI Meningkatkan Kewaspadaan terhadap Kecerdasan Super dan Potensi AI untuk Melampaui Kemampuan Manusia dalam Dekade Mendatang
Singkatnya
OpenAI mengeluarkan seruan untuk regulasi superintelijen, menyoroti perlunya tata kelola sehubungan dengan kemajuan pesat AI.
Sistem AI diproyeksikan melampaui keahlian manusia dan produktivitas perusahaan dalam satu dekade, Menurut OpenAI.
OpenAI menekankan pentingnya pengawasan publik dan kontrol demokratis untuk sistem AI yang kuat.
OpenAI, Pencipta ChatGPT, telah membuat seruan yang menggugah pikiran untuk peraturan superintelligence, menggambar kesejajaran dengan regulasi energi nuklir. Baru-baru ini posting blog, OpenAI menyoroti implikasi potensial dari kemajuan pesat AI dan menekankan kebutuhan mendesak akan tata kelola dalam lanskap yang berkembang ini. Perusahaan menyatakan bahwa sistem AI akan melampaui para ahli dan perusahaan terbesar dalam produktivitas dan keterampilan dalam sepuluh tahun.
“Kita juga harus memitigasi risiko teknologi AI saat ini, tetapi superintelijen akan membutuhkan penanganan dan koordinasi khusus,” Sam Altman, Greg Brockman, dan Ilya Sutskever dari OpenAI ditekankan.
Superintelligence menggambarkan entitas yang melebihi kecerdasan manusia secara keseluruhan atau beberapa aspek kecerdasan tertentu. Menurut penulis, kecerdasan super AI akan memiliki tingkat kekuatan yang tak tertandingi, mencakup aspek positif dan negatif.
Perkembangan dan Risiko Superintelligence yang Tak Terelakkan
OpenAI telah mengidentifikasi tiga ide penting yang memainkan peran penting dalam menavigasi keberhasilan pengembangan superintelligence. Ini termasuk koordinasi antara upaya pengembangan terkemuka, pembentukan otoritas internasional mirip dengan Badan Energi Atom Internasional (IAEA), dan pengembangan kemampuan teknis untuk keselamatan.
Sementara OpenAI mengakui bahwa sistem AI memiliki risiko, risiko ini sebanding dengan yang terkait dengan teknologi terkait internet lainnya. Altman, Brockman, dan Sutskever juga menyatakan keyakinannya bahwa pendekatan masyarakat saat ini untuk mengelola risiko ini sudah sesuai. Namun, perhatian utama adalah tentang sistem masa depan yang akan memiliki kekuatan yang belum pernah ada sebelumnya.
“Sebaliknya, sistem yang kami khawatirkan akan memiliki kekuatan melebihi teknologi apa pun yang telah dibuat, dan kami harus berhati-hati untuk tidak mengurangi fokus pada sistem tersebut dengan menerapkan standar serupa pada teknologi yang jauh di bawah standar ini,” tulis postingan blog tersebut.
Para penulis berpendapat bahwa sistem AI yang kuat membutuhkan pengawasan publik dan kontrol demokratis. Mereka juga menjelaskan mengapa mereka membangun teknologi ini OpenAI: untuk menciptakan dunia yang lebih baik dan untuk menghindari risiko menghentikannya. AI membantu di berbagai bidang, termasuk pendidikan, kreativitas, dan produktivitas, serta pertumbuhan ekonomi secara umum.
OpenAI menganggap itu sulit dan berisiko untuk dilakukan hentikan superintelijen dari diciptakan. Superintelligence memiliki manfaat yang besar, semakin murah setiap tahunnya, semakin banyak orang yang mengerjakannya, dan ini merupakan bagian dari jalur teknologi perusahaan.
Ilman Shazhaev, techpreneur di AI dan salah satu pendiri Laboratorium Farcana, berbagi beberapa komentar terkait berita tersebut. Proyeksi menunjukkan bahwa jika tidak dikelola dengan baik, kecerdasan super dapat menjadi salah satu penemuan manusia yang paling merusak sepanjang masa. Namun, perbincangan tentang penyebaran teknologi tetap terpecah belah, karena belum dikembangkan. Mendorong penghentian pengembangan berdasarkan ketakutan akan prediksi dapat menghilangkan peluang manusia yang mungkin dimiliki oleh teknologi baru.
"OpenAIPendekatan tata kelola terdesentralisasi dapat membantu menjaga keamanannya secara luas. Dengan peraturan yang tepat, program dapat ditutup jika terjadi menimbulkan ancaman. Jika pengamanan ini ada, maka Superintelligence mungkin merupakan inovasi yang perlu ditelusuri, ”kata Shazhaev.
Dengan secara terbuka mendiskusikan pandangannya tentang superintelligence AI dan langkah-langkah pengaturan yang diusulkan, OpenAI tampaknya mendorong diskusi informasi dan mengundang beragam perspektif.
sam altman sangat percaya dalam ketersediaan AI yang tersebar luas untuk publik. Menyadari bahwa tidak mungkin untuk mengantisipasi semua masalah sebelumnya, dia menganjurkan untuk menangani masalah sedini mungkin. Namun, Altman juga menekankan pentingnya audit independen untuk sistem seperti ChatGPT sebelum dirilis. Dia lebih lanjut mengakui kemungkinan menerapkan langkah-langkah seperti membatasi kecepatan pembuatan model baru atau membentuk komite menilai keamanan model AI sebelum rilis pasar. Khususnya, Altman memprediksi bahwa jumlah kecerdasan di alam semesta akan berlipat ganda setiap 18 bulan.
Baca lebih lanjut:
Penolakan tanggung jawab
Sejalan dengan Percayai pedoman Proyek, harap dicatat bahwa informasi yang diberikan pada halaman ini tidak dimaksudkan untuk dan tidak boleh ditafsirkan sebagai nasihat hukum, pajak, investasi, keuangan, atau bentuk nasihat lainnya. Penting untuk hanya menginvestasikan jumlah yang mampu Anda tanggung kerugiannya dan mencari nasihat keuangan independen jika Anda ragu. Untuk informasi lebih lanjut, kami menyarankan untuk merujuk pada syarat dan ketentuan serta halaman bantuan dan dukungan yang disediakan oleh penerbit atau pengiklan. MetaversePost berkomitmen terhadap pelaporan yang akurat dan tidak memihak, namun kondisi pasar dapat berubah tanpa pemberitahuan.
Tentang Penulis
Agne adalah jurnalis yang meliput tren dan perkembangan terbaru di metaverse, AI, dan Web3 industri untuk Metaverse Post. Kecintaannya pada bercerita telah membawanya melakukan banyak wawancara dengan para ahli di bidang tersebut, selalu berusaha mengungkap cerita yang menarik dan memikat. Agne memegang gelar Sarjana Sastra dan memiliki latar belakang luas dalam menulis tentang berbagai topik termasuk perjalanan, seni, dan budaya. Dia juga menjadi sukarelawan sebagai editor di organisasi hak-hak hewan, di mana dia membantu meningkatkan kesadaran tentang masalah kesejahteraan hewan. Hubungi dia di [email dilindungi].
lebih artikel
Agne adalah jurnalis yang meliput tren dan perkembangan terbaru di metaverse, AI, dan Web3 industri untuk Metaverse Post. Kecintaannya pada bercerita telah membawanya melakukan banyak wawancara dengan para ahli di bidang tersebut, selalu berusaha mengungkap cerita yang menarik dan memikat. Agne memegang gelar Sarjana Sastra dan memiliki latar belakang luas dalam menulis tentang berbagai topik termasuk perjalanan, seni, dan budaya. Dia juga menjadi sukarelawan sebagai editor di organisasi hak-hak hewan, di mana dia membantu meningkatkan kesadaran tentang masalah kesejahteraan hewan. Hubungi dia di [email dilindungi].
