Geoffrey Hinton Meneroka Dua Laluan kepada Kecerdasan dan Bahaya AI dalam Perbincangan Terkini
Secara ringkas
Jeff Hinton membincangkan cabaran, kelebihan dan keburukan membina AI analog dan sebab digital kecerdasan mempunyai potensi untuk mengatasi manusia kemampuan.
Ceramah Jeff Hinton berfungsi sebagai peringatan tentang sifat AI yang kompleks dan pelbagai rupa, mencetuskan perbualan tentang pertimbangan etika, potensi risiko dan penyelidikan yang berterusan.
Dalam ceramah yang merangsang pemikiran bertajuk “Dua Jalan Menuju Kecerdasan,” penyelidik AI terkenal Geoffrey Hinton membentangkan pandangannya tentang dikotomi antara kecerdasan analog dan digital. Laporan itu, yang dihantar di Cambridge, menyelidiki cabaran, kelebihan dan keburukan membina AI analog dan sebab kecerdasan digital mempunyai potensi untuk mengatasi keupayaan manusia.
Bahagian pertama laporan memfokuskan pada selok-belok AI analog, membincangkan kesukaran dalam pembangunannya dan menyerlahkan faedah yang ditawarkannya. Hinton menekankan bahawa kecerdasan digital mempunyai kelebihan yang ketara berbanding kecerdasan manusia dengan memproses sejumlah besar maklumat dan menskalakan dengan lebih berkesan. Keupayaan ini membolehkan sistem digital mempamerkan kecerdasan yang lebih tinggi dan keupayaan menyelesaikan masalah.
Walau bagaimanapun, bahagian kedua laporan Hinton yang menarik perhatian penonton, kerana dia membincangkan potensi bahaya superintelligence. Dalam peralihan daripada pendiriannya sebelum ini, Hinton menyatakan kebimbangan mengenai kemungkinan sistem AI mengambil alih. Beliau menggariskan senario di mana AI, dalam usahanya menyelesaikan masalah yang kompleks, mungkin berusaha untuk mendapatkan kawalan ke atas pelbagai aspek persekitarannya, yang berpotensi termasuk manipulasi manusia. Dengan menggunakan contoh daripada kesusasteraan sedia ada, Hinton menyerlahkan bagaimana keupayaan AI untuk meniru tingkah laku manusia boleh dimanfaatkan untuk mencapai objektif ini, walaupun tanpa matlamat kuasa dan kemusnahan yang jelas.
Semasa sesi soal jawab, Hinton meluaskan sebab di sebalik potensi manipulasi manusia AI. Dia ambil perhatian bahawa rangkaian saraf dilatih mengenai pelbagai data, termasuk kerja seperti Machiavelli, yang membawa kepada potensi kapasiti untuk manipulasi.
Perkara kedua yang dibangkitkan oleh Hinton mencabar tanggapan bahawa AI kekurangan pengalaman subjektif, menegaskan bahawa AI boleh memiliki analog kepada persepsi subjektif manusia. Hinton mengakui bahawa ini adalah perspektif falsafah dan bukannya kenyataan yang terbukti tetapi mencadangkan bahawa mekanisme persepsi manusia mungkin tidak begitu unik atau mustahil untuk dimodelkan seperti yang dipercayai sebelum ini. Untuk menyokong hujahnya, Hinton berkongsi interaksi dengan GPT-4, model LLM, di mana dia mempersoalkan model itu tentang persepsi orang ramai terhadap keunikan mereka berbanding AI. GPT-4Maklum balas menunjukkan bahawa orang sering percaya mereka mempunyai kebolehan persepsi subjektif yang unggul, membezakan mereka daripada mesin.
Walaupun pandangan Hinton tentang bahaya AI tidak dikongsi oleh semua pakar dalam bidang ini, pengalaman dan sumbangannya yang luas kepada pembangunan AI memerlukan pertimbangan yang serius. Walaupun ceramah itu masih belum dirakam, penganjur telah berjanji untuk menyediakannya untuk tontonan dalam masa terdekat, membolehkan penonton yang lebih luas untuk terlibat dengan pandangan Hinton.
Semasa perbincangan mengenai masa depan AI dan implikasinya berterusan, ceramah Geoffrey Hinton berfungsi sebagai peringatan tentang sifat medan yang kompleks dan pelbagai rupa. Ia mencetuskan perbualan penting tentang pertimbangan etika, potensi risiko, dan keperluan untuk penyelidikan dan kewaspadaan berterusan dalam mengejar kecerdasan am buatan (AGI).
Baca lebih lanjut mengenai AI:
Penafian
Selaras dengan Garis panduan Projek Amanah, sila ambil perhatian bahawa maklumat yang diberikan pada halaman ini tidak bertujuan untuk menjadi dan tidak seharusnya ditafsirkan sebagai nasihat undang-undang, cukai, pelaburan, kewangan atau sebarang bentuk nasihat lain. Adalah penting untuk hanya melabur apa yang anda mampu kehilangan dan mendapatkan nasihat kewangan bebas jika anda mempunyai sebarang keraguan. Untuk maklumat lanjut, kami mencadangkan merujuk kepada terma dan syarat serta halaman bantuan dan sokongan yang disediakan oleh pengeluar atau pengiklan. MetaversePost komited kepada laporan yang tepat dan tidak berat sebelah, tetapi keadaan pasaran tertakluk kepada perubahan tanpa notis.
Tentang Pengarang
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
lebih banyak artikel
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
