Vitalik Buterin dan Pengarah MIRI Nate Soares Menyelidiki Bahaya AI: Bolehkah Kepintaran Buatan Menyebabkan Kepupusan Manusia?
Secara ringkas
Pengasas Ethereum Vitalik Buterin dan pengarah Institut Penyelidikan Perisikan Mesin Nate Soares membincangkan risiko AI di Zuzalu hari ini.
Zuzalu ialah komuniti bandar pop timbul di Montenegro yang dimulakan oleh Buterin dan rakan sebayanya dalam komuniti crypto.
Dalam perbincangan itu, Soares berkongsi perspektifnya tentang mengapa AI berkemungkinan besar akan menamatkan semua kehidupan di Bumi.
Pengasas Ethereum Vitalik Buterin dan pengarah Institut Penyelidikan Perisikan Mesin (MIRI) Nate Soares membincangkan risiko AI di Zuzalu hari ini.
Zuzalu ialah "komuniti bandar timbul" di Montenegro yang dimulakan oleh Buterin dan rakan-rakannya dalam komuniti crypto yang berlangsung dari 25 Mac hingga 25 Mei. Acara ini menghimpunkan 200 penduduk teras dengan keinginan bersama untuk belajar, mencipta, hidup lebih lama dan lebih sihat kehidupan, dan membina komuniti yang berdikari. Dalam tempoh dua bulan, komuniti juga menganjurkan beberapa acara mengenai pelbagai topik seperti biologi sintetik, teknologi untuk privasi, barangan awam, umur panjang, tadbir urus dan banyak lagi.
. perbincangan dibuka dengan Soares memperkenalkan kerjanya di MIRI, sebuah syarikat bukan untung yang berpangkalan di Berkeley yang telah wujud lebih lama daripada dia menjalankannya. Sejak 20 tahun yang lalu, MIRI telah cuba meletakkan asas untuk memastikan pembangunan AI berjalan dengan baik. Dengan perbincangan itu, Vitalik berharap dapat menangani perkara yang menjadikan AI berisiko unik berbanding teknologi lain yang dikeluarkan dalam sejarah manusia.
Kebarangkalian AI menyebabkan kepupusan manusia
Vitalik berkata bahawa dia telah lama berminat dengan topik risiko AI dan teringat kerana yakin bahawa terdapat kemungkinan 0.5%-1% bahawa semua kehidupan di Bumi akan tidak lagi wujud jika AI menjadi salah—risiko wujud yang akan menyebabkan kepupusan umat manusia atau keruntuhan tamadun manusia yang tidak dapat dipulihkan.
Dari perspektif Soares, kepupusan manusia kelihatan seperti hasil lalai daripada pembangunan teknologi AI yang tidak selamat. Membandingkannya dengan evolusi, beliau berkata bahawa perkembangan manusia nampaknya berlaku lebih cepat daripada perubahan evolusi semata-mata. Dalam kedua-dua proses AI dan evolusi manusia, pengoptimuman dominan - proses mencari penyelesaian terbaik kepada masalah apabila terdapat pelbagai objektif untuk dipertimbangkan - telah berubah. Manusia telah mencapai tahap di mana mereka dapat menyampaikan pengetahuan melalui mulut ke mulut dan bukannya mempunyai maklumat yang disambungkan ke dalam gen melalui pemilihan semula jadi.
“AI akhirnya adalah kes di mana anda boleh menukar proses pengoptimuman makroskopik sekali lagi. Saya fikir anda boleh melakukan lebih baik daripada pengoptimuman manusia. Saya rasa kita masih bodoh dalam mengoptimumkan persekitaran kita. Dengan AI, kami akan melalui jenis peralihan fasa di mana pengoptimuman automatik ialah kuasa yang menentukan ciri makroskopik alam semesta,” jelas Soares.
Beliau menambah bahawa rupa masa depan itu ialah proses pengoptimuman yang dioptimumkan, dan itu mungkin akan berhenti memberi manfaat kepada manusia kerana kebanyakan sasaran pengoptimuman tidak mempunyai ruang untuk manusia.
Bolehkah manusia melatih AI untuk melakukan kebaikan?
Buterin menegaskan bahawa manusia adalah orang yang melatih AI dan memberitahunya cara mengoptimumkan. Jika perlu, mereka boleh mengubah cara mesin dioptimumkan. Untuk itu, Soares berkata bahawa pada dasarnya mungkin untuk melatih AI untuk melakukan kebaikan, tetapi hanya melatih AI untuk mencapai objektif tidak bermakna ia akan atau mahu melakukan itu, bermuara pada keinginan.
Menyatakan tentang pembelajaran pengukuhan dalam model bahasa besar yang mendapat sejumlah besar data tentang pilihan manusia, Buterin bertanya mengapa ia tidak akan berfungsi, kerana kecerdasan sedia ada semakin baik dalam memahami pilihan kita.
"Terdapat jurang yang besar antara memahami motivasi kita dan memberi najis,"
Soares membalas.
“Dakwaan saya bukanlah model bahasa yang besar atau AI tidak akan memahami perkara kecil pilihan manusia. Dakwaan saya ialah memahami perkara kecil keutamaan manusia adalah sangat berbeza daripada mengoptimumkan kebaikan,” tambahnya.
Seorang ahli penonton membuat perbandingan antara AI dan manusia, mengatakan bahawa, seperti kecerdasan buatan, manusia cenderung untuk tidak memahami apa yang mereka lakukan atau ramalkan, yang juga boleh berbahaya. Dia kemudian meminta Soares untuk berpura-pura dia makhluk asing dan menjelaskan mengapa tidak ada manusia.
“Saya tidak akan teruja untuk memberikan kuasa seperti dewa dan kawalan ke atas masa depan kepada seorang manusia. Secara berasingan, saya akan lebih teruja memberikan kuasa kepada seorang individu daripada AI yang berperanan secara rawak. Saya dengan tegas tidak mengatakan bahawa kita tidak sepatutnya mempunyai AI. Saya katakan kita perlu memperbaikinya. Kita perlu membuat mereka mengambil berat tentang masa depan yang penuh dengan keseronokan dan kebahagiaan serta tamadun yang berkembang pesat di mana transhumans terlibat dengan perdagangan jumlah positif dengan makhluk asing dan sebagainya,” jelas Soares. "Jika anda membina proses pengoptimuman yang kuat yang mengambil berat tentang perkara yang berbeza, itu berpotensi memusnahkan semua nilai alam semesta."
Beliau menambah bahawa perkara-perkara yang manusia nilai tidak secara universal menarik dan bahawa moral bukanlah sesuatu yang mana-mana fikiran yang mengkaji ia akan mengejar. Sebaliknya, ia adalah hasil daripada dorongan yang dibina ke dalam manusia yang, dalam persekitaran nenek moyang, menyebabkan kita pandai membiak dan khusus untuk manusia.
Akhirnya, Soares percaya bahawa kita tidak sepatutnya membina sesuatu yang sama pintar atau lebih pintar yang tidak konsisten dengan keseronokan, kebahagiaan dan masa depan yang berkembang maju. Sebaliknya, beliau juga berkata bahawa manusia tidak seharusnya membina superintelligence mesra yang mengoptimumkan masa depan yang menyeronokkan pada percubaan pertama semasa perlumbaan senjata. Dalam jangka pendek, AI harus didedikasikan untuk membantu manusia membeli masa dan ruang untuk mengetahui apa yang sebenarnya mereka inginkan.
ChatGPT tidak akan memakan keseluruhan biosfera
Memandangkan AI sedang dibina untuk mencapai matlamat tertentu, termasuk ramalan, Buterin bertanya, bagaimana jika AI tidak didorong oleh matlamat? Soares berkata adalah mudah untuk membina AI yang selamat dan tidak berkemampuan, dan kami mungkin tidak lama lagi mempunyai AI yang berkebolehan tetapi sedang mengejar perkara yang berbeza. Dia tidak fikir ChatGPT akan memakan keseluruhan biosfera kerana ia tidak pada tahap keupayaan itu.
Soares menyatakan bahawa kebanyakan aplikasi AI yang menarik, seperti mengautomasikan pembangunan dan penyelidikan saintifik dan teknologi, nampaknya memerlukan usaha mengejar matlamat tertentu.
“Tak silap awak boleh dapat GPT untuk menulis haiku yang kemas, tetapi anda tidak boleh mendapatkannya untuk menulis novel. Batasan sistem semasa adalah berkaitan dengan fakta bahawa mereka tidak mengejar matlamat yang lebih mendalam ini, sekurang-kurangnya kepada saya.”
Baca lebih lanjut:
Penafian
Selaras dengan Garis panduan Projek Amanah, sila ambil perhatian bahawa maklumat yang diberikan pada halaman ini tidak bertujuan untuk menjadi dan tidak seharusnya ditafsirkan sebagai nasihat undang-undang, cukai, pelaburan, kewangan atau sebarang bentuk nasihat lain. Adalah penting untuk hanya melabur apa yang anda mampu kehilangan dan mendapatkan nasihat kewangan bebas jika anda mempunyai sebarang keraguan. Untuk maklumat lanjut, kami mencadangkan merujuk kepada terma dan syarat serta halaman bantuan dan sokongan yang disediakan oleh pengeluar atau pengiklan. MetaversePost komited kepada laporan yang tepat dan tidak berat sebelah, tetapi keadaan pasaran tertakluk kepada perubahan tanpa notis.
Tentang Pengarang
Cindy ialah seorang wartawan di Metaverse Post, meliputi topik yang berkaitan dengan web3, NFT, metaverse dan AI, dengan tumpuan pada temu bual dengan Web3 pemain industri. Dia telah bercakap dengan lebih 30 eksekutif peringkat C dan masih lagi, membawa cerapan berharga mereka kepada pembaca. Berasal dari Singapura, Cindy kini berpangkalan di Tbilisi, Georgia. Beliau memegang ijazah Sarjana Muda dalam Komunikasi & Pengajian Media dari University of South Australia dan mempunyai pengalaman sedekad dalam kewartawanan dan penulisan. Hubungi dia melalui [e-mel dilindungi] dengan padang akhbar, pengumuman dan peluang temu duga.
lebih banyak artikel
Cindy ialah seorang wartawan di Metaverse Post, meliputi topik yang berkaitan dengan web3, NFT, metaverse dan AI, dengan tumpuan pada temu bual dengan Web3 pemain industri. Dia telah bercakap dengan lebih 30 eksekutif peringkat C dan masih lagi, membawa cerapan berharga mereka kepada pembaca. Berasal dari Singapura, Cindy kini berpangkalan di Tbilisi, Georgia. Beliau memegang ijazah Sarjana Muda dalam Komunikasi & Pengajian Media dari University of South Australia dan mempunyai pengalaman sedekad dalam kewartawanan dan penulisan. Hubungi dia melalui [e-mel dilindungi] dengan padang akhbar, pengumuman dan peluang temu duga.
