OpenAI Meningkatkan Penggera pada Superintelligence dan Potensi AI untuk Melangkaui Keupayaan Manusia dalam Dekad Akan Datang
Secara ringkas
OpenAI mengeluarkan seruan untuk pengawalseliaan superintelligence, menonjolkan keperluan untuk tadbir urus memandangkan kemajuan pesat AI.
Sistem AI diunjurkan mengatasi kepakaran manusia dan produktiviti korporat dalam tempoh satu dekad, Menurut OpenAI.
OpenAI menekankan kepentingan pengawasan awam dan kawalan demokratik untuk sistem AI yang berkuasa.
OpenAI, pencipta ChatGPT, telah membuat seruan yang menimbulkan pemikiran untuk peraturan superintelligence, membuat persamaan dengan peraturan tenaga nuklear. Dalam baru-baru ini blog post, OpenAI menyerlahkan potensi implikasi kemajuan pesat AI dan menekankan keperluan mendesak untuk tadbir urus dalam landskap yang berkembang ini. Syarikat itu menyatakan bahawa sistem AI akan mengatasi pakar dan syarikat terbesar dalam produktiviti dan kemahiran dalam tempoh sepuluh tahun.
"Kita mesti mengurangkan risiko teknologi AI hari ini juga, tetapi superintelligence akan memerlukan layanan dan penyelarasan khas," Sam Altman, Greg Brockman, dan Ilya Sutskever dari OpenAI ditekankan.
Superintelligence menerangkan entiti yang melebihi kecerdasan manusia secara keseluruhan atau beberapa aspek kecerdasan tertentu. Menurut pengarang, perisikan AI akan mempunyai tahap kuasa yang tiada tandingan, merangkumi aspek positif dan negatif.
Perkembangan dan Risiko Superintelligence Yang Tidak Dapat Dielakkan
OpenAI telah mengenal pasti tiga idea penting yang memainkan peranan penting dalam mengemudi kejayaan pembangunan superintelligence. Ini termasuk penyelarasan antara usaha pembangunan terkemuka, penubuhan pihak berkuasa antarabangsa yang serupa dengan Agensi Tenaga Atom Antarabangsa (IAEA), dan pembangunan keupayaan teknikal untuk keselamatan.
Manakala OpenAI mengakui bahawa sistem AI datang dengan risiko, risiko ini setanding dengan yang dikaitkan dengan teknologi berkaitan internet yang lain. Altman, Brockman, dan Sutskever juga menyatakan keyakinan bahawa pendekatan semasa masyarakat untuk menguruskan risiko ini adalah sesuai. Walau bagaimanapun, kebimbangan utama adalah mengenai sistem masa depan yang akan mempunyai kuasa yang belum pernah terjadi sebelumnya.
"Sebaliknya, sistem yang kita bimbangkan akan mempunyai kuasa melebihi mana-mana teknologi yang telah dicipta, dan kita harus berhati-hati untuk tidak mengurangkan tumpuan kepada mereka dengan menggunakan piawaian yang sama kepada teknologi jauh di bawah bar ini," catatan blog itu dibaca.
Penulis berpendapat bahawa sistem AI yang berkuasa memerlukan pengawasan awam dan kawalan demokratik. Mereka juga menerangkan mengapa mereka membina teknologi ini di OpenAI: untuk mencipta dunia yang lebih baik dan mengelakkan risiko menghentikannya. AI membantu dalam pelbagai bidang, termasuk pendidikan, kreativiti, dan produktiviti, serta pertumbuhan ekonomi umum.
OpenAI fikir ia sukar dan berisiko hentikan superintelligence daripada dicipta. Superintelligence mempunyai banyak faedah, menjadi lebih murah setiap tahun, lebih ramai orang mengusahakannya, dan ia adalah sebahagian daripada laluan teknologi syarikat.
Ilman Shazhaev, techpreneur dalam AI dan pengasas bersama Makmal Farcana, berkongsi sedikit komen berkenaan berita tersebut. Unjuran menunjukkan bahawa jika tidak diurus dengan betul, superintelligence mungkin merupakan salah satu ciptaan manusia yang paling merosakkan sepanjang zaman. Walau bagaimanapun, perbualan mengenai penggunaan teknologi kekal berpecah, kerana ia masih belum dibangunkan. Menolak untuk menghentikan pembangunan berdasarkan ketakutan terhadap ramalan mungkin menghalang manusia daripada peluang yang mungkin ada dalam teknologi baharu itu.
"OpenAIPendekatan tadbir urus terpencar boleh membantu mengekalkan keselamatan luasnya. Dengan peraturan yang betul, program ini boleh ditutup sekiranya berlaku menimbulkan ancaman. Sekiranya perlindungan ini ada, maka Superintelligence mungkin merupakan satu inovasi yang patut diterokai,” kata Shazhaev.
Dengan membincangkan secara terbuka pandangannya tentang superintelligence AI dan cadangan langkah pengawalseliaan, OpenAI nampaknya memupuk perbincangan bermaklumat dan mengundang pelbagai perspektif.
Sam Altman sangat percaya dalam ketersediaan AI yang meluas kepada orang ramai. Mengakui bahawa adalah mustahil untuk menjangkakan semua masalah lebih awal, beliau menyokong untuk menangani isu seawal mungkin. Walau bagaimanapun, Altman juga menekankan kepentingan audit bebas untuk sistem seperti ChatGPT sebelum dikeluarkan. Beliau seterusnya mengakui kemungkinan melaksanakan langkah-langkah seperti mengehadkan kadar penciptaan model baharu atau menubuhkan jawatankuasa untuk menilai keselamatan model AI sebelum keluaran pasaran. Terutama, Altman meramalkan bahawa kuantiti kecerdasan di alam semesta akan berganda setiap 18 bulan.
Baca lebih lanjut:
Penafian
Selaras dengan Garis panduan Projek Amanah, sila ambil perhatian bahawa maklumat yang diberikan pada halaman ini tidak bertujuan untuk menjadi dan tidak seharusnya ditafsirkan sebagai nasihat undang-undang, cukai, pelaburan, kewangan atau sebarang bentuk nasihat lain. Adalah penting untuk hanya melabur apa yang anda mampu kehilangan dan mendapatkan nasihat kewangan bebas jika anda mempunyai sebarang keraguan. Untuk maklumat lanjut, kami mencadangkan merujuk kepada terma dan syarat serta halaman bantuan dan sokongan yang disediakan oleh pengeluar atau pengiklan. MetaversePost komited kepada laporan yang tepat dan tidak berat sebelah, tetapi keadaan pasaran tertakluk kepada perubahan tanpa notis.
Tentang Pengarang
Agne ialah seorang wartawan yang membuat liputan tentang trend dan perkembangan terkini dalam metaverse, AI, dan Web3 industri untuk Metaverse Post. Keghairahannya untuk bercerita telah menyebabkan dia menjalankan banyak temu bual dengan pakar dalam bidang ini, sentiasa berusaha untuk mendedahkan cerita yang menarik dan menarik. Agne memegang ijazah Sarjana Muda dalam kesusasteraan dan mempunyai latar belakang yang luas dalam penulisan tentang pelbagai topik termasuk perjalanan, seni dan budaya. Dia juga menawarkan diri sebagai editor untuk organisasi hak haiwan, di mana dia membantu meningkatkan kesedaran tentang isu kebajikan haiwan. Hubungi dia [e-mel dilindungi].
lebih banyak artikel
Agne ialah seorang wartawan yang membuat liputan tentang trend dan perkembangan terkini dalam metaverse, AI, dan Web3 industri untuk Metaverse Post. Keghairahannya untuk bercerita telah menyebabkan dia menjalankan banyak temu bual dengan pakar dalam bidang ini, sentiasa berusaha untuk mendedahkan cerita yang menarik dan menarik. Agne memegang ijazah Sarjana Muda dalam kesusasteraan dan mempunyai latar belakang yang luas dalam penulisan tentang pelbagai topik termasuk perjalanan, seni dan budaya. Dia juga menawarkan diri sebagai editor untuk organisasi hak haiwan, di mana dia membantu meningkatkan kesedaran tentang isu kebajikan haiwan. Hubungi dia [e-mel dilindungi].
