Pemimpin AI Memberi Amaran tentang Peningkatan Risiko dan Kebimbangan Etika dalam Kemajuan Pantas
Dalam kenyataan dasar baru-baru ini, tokoh terkemuka dalam bidang AI, termasuk Bengio, Hinton, Russell, Harari, dan Kahneman, telah membunyikan penggera tentang kemajuan pesat dan risiko masyarakat yang semakin meningkat yang dikaitkan dengan AI.
AI berkembang dengan cepat. GPT-2 tidak dapat mengira dari 0 hingga 100 empat tahun lalu, tetapi model moden boleh menulis kod, membuat imej yang menakjubkan dan menawarkan bimbingan intelektual. Dan kerana kita berada dalam perlumbaan, kemajuan boleh meningkatkan kelajuan yang lebih tinggi. Tambahan pula, AI maju dengan lebih cepat dengan, contohnya, membantu dalam pengaturcaraan sistem baharu dan pengumpulan data untuk latihan mereka.
Sebaik sahaja kemajuan mencecah tahap manusia, tidak ada sebab untuk berfikir ia akan perlahan atau berhenti. Di kawasan tertentu, sistem buatan telah pun mengatasi prestasi manusia dalam hal ini, mempamerkan keupayaan seperti pemprosesan yang lebih cepat kelajuan, kapasiti pemprosesan data yang lebih besar, dan kebolehskalaan berskala besar. Perniagaan mempunyai kemampuan kewangan untuk melaksanakan program latihan yang jauh melebihi had semasa.
Penulis berpendapat bahawa terdapat peluang yang baik bahawa generalis AI yang lebih baik akan muncul dalam tempoh sepuluh tahun akan datang atau lebih, melebihi kemampuan manusia dalam banyak domain penting.
Apakah yang akan berlaku seterusnya? Semua kehidupan boleh diperbaiki jika ia diurus dan diagihkan dengan betul. Pilihan yang dipilih dengan buruk memerlukan risiko yang ketara yang kami kurang bersedia. Daripada diperuntukkan kepada keselamatan dan pencegahan bahaya, sumber penting digunakan untuk membina sistem AI yang lebih kuat. Ini perlu diubah; mengejar kemahiran sendiri tidak mencukupi. Dan proses ini mengambil masa lebih lama daripada yang dijangkakan. Kita perlu merancang untuk risiko yang lebih tinggi sebelum ia timbul dengan menjangkakan peningkatan ancaman semasa dan kemunculan ancaman baharu. Kami tidak mempunyai jumlah masa yang sama untuk AI kerana ia mengambil masa beberapa dekad untuk diterima berhubung dengan perubahan iklim.
Banyak risiko di peringkat masyarakat wujud, termasuk peningkatan dalam ketidakadilan, kemerosotan kestabilan, dan kemerosotan persepsi umum tentang realiti. Di sini, pengganas dan penjenayah terlibat dalam aktiviti yang meluas. AI boleh menjadi tertumpu di tangan beberapa pemain, yang membawa kepada peningkatan ketidaksamaan global, memudahkan peperangan automatik, manipulasi besar-besaran yang disesuaikan untuk setiap individu, dan pengawasan di mana-mana.
Sebagai autonomi AI menjadi lebih canggih dan mampu merancang, bertindak di dunia, dan mencapai objektifnya, risiko ini hanya akan meningkat. Objektif ini mungkin bukan untuk kepentingan terbaik kita dan, dalam kes pelakon jahat, bahkan mungkin memudaratkan. Pada masa ini tidak jelas cara menyelesaikan isu Penjajaran AI, yang melibatkan pemadanan gelagat AI dengan objektif rumit kami. Tambahan pula, adalah sangat mudah untuk mengabaikan langkah keselamatan semasa berlumba dengan niat untuk menang.
Perisian biasa sukar dikawal oleh manusia, apatah lagi sistem AI yang canggih yang semakin mahir dalam kejuruteraan sosial, penggodaman, penipuan dan perancangan strategik. Ini adalah sesuatu yang sistem AI autonomi boleh ambil daripada orang atau buat sendiri.
Sistem ini mempunyai keupayaan untuk membina gabungan dengan individu dan sistem lain, memenangi kepercayaan, pembiayaan selamat, dan mempengaruhi pembuat keputusan. Seperti cacing, mereka mampu mereplikasi diri di seluruh rangkaian. Sejumlah besar kod sudah ditulis dengan bantuan pembantu AI; pada masa hadapan, sistem mungkin menggabungkan eksploitasi ke dalam pelbagai sistem penting. Sistem AI mempunyai keupayaan untuk menggunakan atau mengancam senjata biologi atau autonomi dalam pertempuran terbuka. Ini hanyalah kesinambungan daripada pergerakan semasa ke arah penyelidikan biologi, kecerdasan buatan, dan automasi peperangan. Orang mungkin merasa terlalu mencabar untuk masuk dan menentang.
Dalam banyak kes, kita sanggup memberi mereka tampuk tanpa mereka perlu bertanya. Ramai individu dan perniagaan bersedia untuk meletakkan sistem sedemikian sendiri dalam persekitaran yang kompetitif kerana bimbang mereka akan ketinggalan dalam persaingan.
Dokumen penuh boleh didapati disini.
Penafian
Selaras dengan Garis panduan Projek Amanah, sila ambil perhatian bahawa maklumat yang diberikan pada halaman ini tidak bertujuan untuk menjadi dan tidak seharusnya ditafsirkan sebagai nasihat undang-undang, cukai, pelaburan, kewangan atau sebarang bentuk nasihat lain. Adalah penting untuk hanya melabur apa yang anda mampu kehilangan dan mendapatkan nasihat kewangan bebas jika anda mempunyai sebarang keraguan. Untuk maklumat lanjut, kami mencadangkan merujuk kepada terma dan syarat serta halaman bantuan dan sokongan yang disediakan oleh pengeluar atau pengiklan. MetaversePost komited kepada laporan yang tepat dan tidak berat sebelah, tetapi keadaan pasaran tertakluk kepada perubahan tanpa notis.
Tentang Pengarang
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
lebih banyak artikel
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
