Dan Hendrycks: Memilih Antara AI dan manusia, Evolusi Tidak Akan Memilih Kita
Secara ringkas
Penyelidikan Dan Hendrycks "Pemilihan semula jadi lebih suka kecerdasan buatan daripada orang" adalah kesimpulan yang menakutkan.
Beliau adalah penyelidik berpengalaman dan terkenal yang telah menerbitkan berpuluh-puluh kertas saintifik tentang menilai keselamatan sistem AI.
Penyelidikan Dan Hendrycks kelihatan seperti hukuman mati untuk Homo Sapiens. Kesimpulan kajian “Pemilihan Semulajadi Mengutamakan AI berbanding Manusia” sungguh menakutkan. Ini ditulis bukan oleh berwawasan popular seperti Dan Brown tetapi oleh Dan Hendrycks, pengarah California Center for AI Security (CAIS), sebuah organisasi bukan untung yang mengkhusus dalam penyelidikan dan kerja lapangan dalam keselamatan AI.
Dan Hendrycks bukan orang gila yang panik dengan kemajuan AI. Beliau adalah seorang penyelidik yang berpengalaman dan dihormati secara meluas yang telah menerbitkan berpuluh-puluh kertas saintifik tentang menilai keselamatan sistem AI — menguji sejauh mana kemahiran mereka dalam pengekodan, penaakulan, memahami undang-undang, dll. Antara lain, beliau juga merupakan pencipta bersama Unit Ralat Linear Gaussian (GELU).
Jack Clark, pengasas bersama ChatGPT pesaing Anthropic, pengerusi bersama Indeks AI Stanford University, pengerusi bersama bahagian AI dan Compute OECD dan ahli Jawatankuasa Penasihat Kebangsaan Kerajaan AS mengenai AI membincangkan kesimpulan kajian Hendrycks. “Orang ramai secara refleks mahu menepis kenyataan seperti itu yang datang daripada orang gila bermata liar yang tinggal di pondok hutan. Saya ingin menyangkal perkara ini terlebih dahulu. Apabila seorang pakar yang mempunyai pengalaman bukan sahaja dalam penyelidikan AI tetapi juga dalam menilai keselamatan sistem AI menulis kertas dengan alasan bahawa sistem AI masa depan mungkin bertindak mementingkan diri sendiri dan tidak mengikut kepentingan orang, kita harus menjaganya!
Ringkasan kertas kerja Hendrycks:
- Jika ejen AI menjadi lebih pintar daripada manusia, ini boleh menyebabkan manusia kehilangan kawalan ke atas masa depannya.
- Ini mempunyai peluang yang baik untuk berlaku bukan akibat beberapa niat jahat khas orang atau mesin tetapi semata-mata hasil daripada kebolehgunaan prinsip evolusi pembangunan kepada AI mengikut logik Darwin.
- Untuk meminimumkan risiko ini, motivasi intrinsik ejen AI perlu direka bentuk dengan teliti, sekatan dikenakan ke atas tindakan mereka, dan institusi diwujudkan untuk menggalakkan kerjasama AI.
Iaitu, perkara paling penting yang dibuat oleh Hendrycks dalam kertas saintifik 43 halamannya:
1. Kami takut dengan kedatangan Terminator, tetapi asas ketakutan ini adalah salah. Terdapat dua ralat:
a. Antropomorfisasi AI dengan atribusi motivasi kita kepadanya, dsb.-sebagai ChatGPT menunjukkan, AI adalah minda yang pada asasnya berbeza, dengan semua akibat yang datang daripadanya.
b. Idea bahawa AI ialah sejenis entiti tunggal: pintar atau tidak sangat pintar, baik atau tidak sangat baik, tetapi sebenarnya, entiti AI yang sangat berbeza ini tidak lama lagi akan berada di dunia sebanyak mungkin.
2. Terdapat satu lagi kelemahan asas dalam idea kami tentang masa depan dengan AI — kami terlupa tentang mekanisme pembangunan yang paling penting — evolusi, yang memacu pembangunan bukan sahaja bioagen tetapi juga idea dan makna, alat material dan institusi bukan material.
3. Persekitaran telah mula terbentuk di Bumi di mana banyak AI akan berkembang dan berkembang. Evolusi ini akan berjalan mengikut logik Darwin, melalui persaingan AI sesama mereka, dengan mengambil kira kepentingan institusi "ibu bapa" mereka: syarikat, tentera, dll.
4. Logik evolusi persaingan akan membawa kepada yang sama seperti pada manusia: ejen AI yang semakin pintar akan menjadi semakin mementingkan diri sendiri dan bersedia untuk mencapai matlamat dengan penipuan dan kekerasan, matlamat utama adalah kuasa.
5. Pemilihan semula jadi ejen AI cenderung memihak kepada spesies yang lebih mementingkan diri berbanding spesies yang lebih altruistik. Ejen AI akan berkelakuan mementingkan diri sendiri dan mengejar kepentingan mereka sendiri tanpa menghiraukan manusia, yang boleh membawa kepada risiko bencana untuk manusia.
- Petisyen itu untuk berhenti membangunkan sistem AI yang lebih maju daripada GPT-4 telah mempolarisasi masyarakat. Kumpulan pertama percaya kemajuan tidak boleh dihentikan, manakala satu lagi percaya kemajuan, dan kadang-kadang harus, dihentikan. Kumpulan ketiga tidak faham bagaimana GPT-4 beroperasi di tempat pertama. Butiran paling penting dalam teks ini ialah AI tidak mempunyai kesedaran, kehendak atau agensi dan ia boleh menjadi buruk walaupun tanpa orang yang berniat jahat.
- Geoffrey Hinton sering dipanggil "Godfather of AI" dan dianggap sebagai tokoh terkemuka dalam komuniti pembelajaran mendalam. Temu bual 40 minit beliau tentang ChatGPT adalah unik kerana ia mudah difahami dan mempunyai kedalaman pemahaman yang boleh diakses oleh beberapa orang lain. Beliau menekankan kepentingan "revolusi intelektual" yang sedang berlangsung dan kecerdasan tidak berperikemanusiaan ChatGPT, yang berasaskan ejen pintar buatan dengan keupayaan komunikasi digital termaju.
Baca lebih banyak artikel berkaitan:
Penafian
Selaras dengan Garis panduan Projek Amanah, sila ambil perhatian bahawa maklumat yang diberikan pada halaman ini tidak bertujuan untuk menjadi dan tidak seharusnya ditafsirkan sebagai nasihat undang-undang, cukai, pelaburan, kewangan atau sebarang bentuk nasihat lain. Adalah penting untuk hanya melabur apa yang anda mampu kehilangan dan mendapatkan nasihat kewangan bebas jika anda mempunyai sebarang keraguan. Untuk maklumat lanjut, kami mencadangkan merujuk kepada terma dan syarat serta halaman bantuan dan sokongan yang disediakan oleh pengeluar atau pengiklan. MetaversePost komited kepada laporan yang tepat dan tidak berat sebelah, tetapi keadaan pasaran tertakluk kepada perubahan tanpa notis.
Tentang Pengarang
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
lebih banyak artikel
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
