Geoffrey Hinton Menjelajahi Dua Jalan Menuju Kecerdasan dan Bahaya AI dalam Pembicaraan Terbaru
Singkatnya
Jeff Hinton membahas tantangan, keuntungan, dan kerugian membangun AI analog dan mengapa digital kecerdasan memiliki potensi untuk melampaui manusia kemampuan.
Pembicaraan Jeff Hinton berfungsi sebagai pengingat akan sifat AI yang kompleks dan beragam, memicu percakapan tentang pertimbangan etis, potensi risiko, dan penelitian yang sedang berlangsung.
Dalam ceramah yang menggugah pikiran berjudul “Dua Jalan Menuju Kecerdasan,” peneliti AI terkenal Geoffrey Hinton memaparkan wawasannya tentang dikotomi antara kecerdasan analog dan digital. Laporan yang disampaikan di Cambridge ini menggali tantangan, keuntungan, dan kerugian dalam membangun AI analog dan mengapa kecerdasan digital berpotensi melampaui kemampuan manusia.
Bagian pertama dari laporan ini berfokus pada seluk-beluk AI analog, membahas kesulitan dalam pengembangannya dan menyoroti manfaat yang ditawarkannya. Hinton menekankan bahwa kecerdasan digital memiliki keunggulan yang signifikan dibandingkan kecerdasan manusia dengan memproses sejumlah besar informasi dan penskalaan secara lebih efektif. Kemampuan ini memungkinkan sistem digital menunjukkan kecerdasan tinggi dan kemampuan pemecahan masalah.
Namun, bagian kedua dari laporan Hintonlah yang menarik perhatian penonton, saat dia membahas potensi bahaya superintelligence. Beralih dari sikap sebelumnya, Hinton menyatakan keprihatinan tentang kemungkinan sistem AI mengambil kendali. Dia menguraikan skenario di mana AI, dalam usahanya untuk memecahkan masalah yang kompleks, mungkin berusaha untuk mendapatkan kendali atas berbagai aspek lingkungannya, termasuk manipulasi manusia. Mengambil contoh dari literatur yang ada, Hinton menyoroti bagaimana kemampuan AI untuk meniru perilaku manusia dapat dimanfaatkan untuk mencapai tujuan ini, bahkan tanpa tujuan kekuasaan dan kehancuran yang eksplisit.
Selama sesi tanya jawab, Hinton menjelaskan alasan di balik potensi AI untuk memanipulasi manusia. Dia mencatat itu jaringan saraf dilatih pada beragam data, termasuk karya seperti Machiavelli, yang mengarah ke kapasitas potensial untuk manipulasi.
Poin kedua yang dikemukakan oleh Hinton menantang anggapan bahwa AI tidak memiliki pengalaman subjektif, menegaskan bahwa AI dapat memiliki analog dengan persepsi subjektif manusia. Hinton mengakui bahwa ini adalah perspektif filosofis daripada pernyataan yang terbukti tetapi menyarankan demikian mekanisme persepsi manusia mungkin tidak seunik atau mustahil untuk dimodelkan seperti yang diyakini sebelumnya. Untuk mendukung argumennya, Hinton berbagi interaksi dengan GPT-4, model LLM, di mana ia mempertanyakan model tersebut tentang persepsi masyarakat tentang keunikan mereka dibandingkan dengan AI. GPT-4Tanggapannya menunjukkan bahwa orang sering kali percaya bahwa mereka memiliki kemampuan persepsi subjektif yang unggul, sehingga membedakan mereka dari mesin.
Meskipun pandangan Hinton tentang bahaya AI tidak dimiliki oleh semua pakar di bidangnya, pengalaman dan kontribusinya yang luas pada pengembangan AI menjamin pertimbangan serius. Meskipun pembicaraan belum direkam, penyelenggara telah berjanji untuk membuatnya tersedia untuk ditonton dalam waktu dekat, memungkinkan audiens yang lebih luas untuk terlibat dengan wawasan Hinton.
Ketika diskusi seputar masa depan AI dan implikasinya terus berlanjut, pembicaraan Geoffrey Hinton berfungsi sebagai pengingat akan sifat kompleks dan beragam dari bidang ini. Hal ini memicu perbincangan penting tentang pertimbangan etis, potensi risiko, dan perlunya penelitian berkelanjutan serta kewaspadaan dalam mencapai kecerdasan umum buatan. (AGI).
Baca lebih lanjut tentang AI:
Penolakan tanggung jawab
Sejalan dengan Percayai pedoman Proyek, harap dicatat bahwa informasi yang diberikan pada halaman ini tidak dimaksudkan untuk dan tidak boleh ditafsirkan sebagai nasihat hukum, pajak, investasi, keuangan, atau bentuk nasihat lainnya. Penting untuk hanya menginvestasikan jumlah yang mampu Anda tanggung kerugiannya dan mencari nasihat keuangan independen jika Anda ragu. Untuk informasi lebih lanjut, kami menyarankan untuk merujuk pada syarat dan ketentuan serta halaman bantuan dan dukungan yang disediakan oleh penerbit atau pengiklan. MetaversePost berkomitmen terhadap pelaporan yang akurat dan tidak memihak, namun kondisi pasar dapat berubah tanpa pemberitahuan.
Tentang Penulis
Damir adalah pemimpin tim, manajer produk, dan editor di Metaverse Post, mencakup topik seperti AI/ML, AGI, LLM, Metaverse, dan Web3-bidang terkait. Artikelnya menarik lebih dari satu juta pengguna setiap bulan. Dia tampaknya ahli dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebutkan dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, dan publikasi lainnya. Dia melakukan perjalanan antara UEA, Turki, Rusia, dan CIS sebagai pengembara digital. Damir memperoleh gelar sarjana dalam bidang fisika, yang menurutnya telah memberinya keterampilan berpikir kritis yang diperlukan untuk berhasil dalam lanskap internet yang selalu berubah.
lebih artikel
Damir adalah pemimpin tim, manajer produk, dan editor di Metaverse Post, mencakup topik seperti AI/ML, AGI, LLM, Metaverse, dan Web3-bidang terkait. Artikelnya menarik lebih dari satu juta pengguna setiap bulan. Dia tampaknya ahli dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebutkan dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, dan publikasi lainnya. Dia melakukan perjalanan antara UEA, Turki, Rusia, dan CIS sebagai pengembara digital. Damir memperoleh gelar sarjana dalam bidang fisika, yang menurutnya telah memberinya keterampilan berpikir kritis yang diperlukan untuk berhasil dalam lanskap internet yang selalu berubah.
