Dan Hendrycks: Memilih Antara AI dan Manusia, Evolusi Tidak Akan Memilih Kita
Singkatnya
Penelitian Dan Hendrycks "Seleksi alam lebih menyukai kecerdasan buatan daripada manusia" adalah kesimpulan yang menakutkan.
Dia adalah peneliti berpengalaman dan terkenal yang telah menerbitkan lusinan makalah ilmiah tentang penilaian keamanan sistem AI.
Penelitian Dan Hendrycks terdengar seperti hukuman mati bagi Homo Sapiens. Kesimpulan dari studi “Seleksi Alam Mengutamakan AI daripada Manusia” benar-benar menakutkan. Ini ditulis bukan oleh visioner populer seperti Dan Brown tetapi oleh Dan Hendrycks, direktur California Center for AI Security (CAIS), sebuah organisasi nirlaba yang berspesialisasi dalam penelitian dan kerja lapangan dalam keamanan AI.
Dan Hendrycks bukanlah orang gila yang panik atas kemajuan AI. Dia adalah peneliti berpengalaman dan dihormati secara luas yang telah menerbitkan lusinan makalah ilmiah tentang penilaian keamanan sistem AI — menguji seberapa baik mereka dalam pengkodean, penalaran, pemahaman hukum, dll. Unit Kesalahan Linear Gaussian (GELU).
Jack Clark, salah satu pendiri ChatGPT pesaing Anthropic, ketua bersama Indeks AI Universitas Stanford, ketua bersama bagian AI dan Komputasi OECD dan anggota Komite Penasihat Nasional Pemerintah AS untuk AI membahas kesimpulan studi Hendrycks. “Orang-orang secara refleks ingin mengesampingkan pernyataan seperti itu karena datang dari orang gila bermata liar yang tinggal di gubuk hutan. Saya ingin membantah ini sebelumnya. Ketika seorang ahli yang memiliki pengalaman tidak hanya dalam penelitian AI tetapi juga dalam menilai keamanan sistem AI menulis sebuah makalah dengan alasan bahwa sistem AI di masa depan dapat bertindak egois dan tidak sesuai dengan kepentingan orang, kita harus menjaganya!
Ringkasan makalah Hendrycks:
- Jika agen AI menjadi lebih cerdas dari manusia, ini dapat menyebabkan umat manusia kehilangan kendali atas masa depannya.
- Ini memiliki peluang bagus untuk terjadi bukan sebagai akibat dari niat jahat khusus orang atau mesin, tetapi semata-mata karena penerapan prinsip evolusioner pengembangan AI menurut logika Darwin.
- Untuk meminimalkan risiko ini, motivasi intrinsik agen AI perlu dirancang dengan hati-hati, pembatasan tindakan mereka, dan institusi dibuat untuk mendorong kolaborasi AI.
Yaitu, poin terpenting yang dibuat Hendrycks dalam makalah ilmiah setebal 43 halamannya:
1. Kami takut akan kedatangan Terminator, tetapi dasar dari ketakutan ini salah. Ada dua kesalahan:
A. Antropomorfisasi AI dengan atribusi motivasi kita padanya, dll.—as ChatGPT menunjukkan, AI adalah pikiran yang berbeda secara fundamental, dengan segala konsekuensi yang ditimbulkannya.
B. Gagasan bahwa AI adalah sejenis entitas tunggal: pintar atau tidak terlalu pintar, baik hati atau tidak terlalu baik, tetapi pada kenyataannya entitas AI yang sangat berbeda ini akan segera ada di dunia sebanyak mungkin.
2. Ada kelemahan mendasar lainnya dalam ide kami tentang masa depan dengan AI — kami lupa tentang mekanisme pengembangan terpenting — evolusi, yang mendorong pengembangan tidak hanya bioagen tetapi juga ide dan makna, alat material, dan institusi non-material.
3. Lingkungan sudah mulai terbentuk di Bumi di mana banyak AI akan berkembang dan berevolusi. Evolusi ini akan berjalan sesuai dengan logika Darwin, melalui kompetisi AI di antara mereka sendiri, dengan mempertimbangkan kepentingan institusi "induk" mereka: korporasi, militer, dll.
4. Logika evolusi kompetitif akan mengarah pada hal yang sama seperti pada manusia: agen AI yang semakin cerdas akan menjadi semakin egois dan siap mencapai tujuan dengan tipu daya dan kekuatan, tujuan utamanya adalah kekuatan.
5. Seleksi alam agen AI cenderung mendukung spesies yang lebih egois daripada yang lebih altruistik. Agen AI akan berperilaku egois dan mengejar kepentingan mereka sendiri dengan sedikit memperhatikan manusia, yang dapat menimbulkan risiko bencana bagi umat manusia.
- Petisi untuk berhenti mengembangkan sistem AI yang lebih maju dari GPT-4 telah mempolarisasi masyarakat. Kelompok pertama percaya bahwa kemajuan tidak dapat dihentikan, sementara kelompok lain percaya bahwa kemajuan, dan terkadang harus, dihentikan. Kelompok ketiga tidak mengerti caranya GPT-4 beroperasi di tempat pertama. Detail terpenting dalam teks ini adalah bahwa AI tidak memiliki kesadaran, kemauan, atau hak pilihan dan AI bisa menjadi buruk bahkan tanpa orang jahat.
- Geoffrey Hinton sering disebut sebagai "Godfather of AI" dan dianggap sebagai tokoh terkemuka dalam komunitas pembelajaran mendalam. Wawancara 40 menitnya tentang ChatGPT unik karena mudah dipahami dan memiliki kedalaman pemahaman yang dapat diakses oleh sedikit orang lain. Dia menyoroti pentingnya "revolusi intelektual" yang sedang berlangsung dan kecerdasan yang tidak manusiawi dari ChatGPT, yang didasarkan pada agen kecerdasan artifisial dengan kemampuan komunikasi digital tingkat lanjut.
Baca artikel terkait lainnya:
Penolakan tanggung jawab
Sejalan dengan Percayai pedoman Proyek, harap dicatat bahwa informasi yang diberikan pada halaman ini tidak dimaksudkan untuk dan tidak boleh ditafsirkan sebagai nasihat hukum, pajak, investasi, keuangan, atau bentuk nasihat lainnya. Penting untuk hanya menginvestasikan jumlah yang mampu Anda tanggung kerugiannya dan mencari nasihat keuangan independen jika Anda ragu. Untuk informasi lebih lanjut, kami menyarankan untuk merujuk pada syarat dan ketentuan serta halaman bantuan dan dukungan yang disediakan oleh penerbit atau pengiklan. MetaversePost berkomitmen terhadap pelaporan yang akurat dan tidak memihak, namun kondisi pasar dapat berubah tanpa pemberitahuan.
Tentang Penulis
Damir adalah pemimpin tim, manajer produk, dan editor di Metaverse Post, mencakup topik seperti AI/ML, AGI, LLM, Metaverse, dan Web3-bidang terkait. Artikelnya menarik lebih dari satu juta pengguna setiap bulan. Dia tampaknya ahli dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebutkan dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, dan publikasi lainnya. Dia melakukan perjalanan antara UEA, Turki, Rusia, dan CIS sebagai pengembara digital. Damir memperoleh gelar sarjana dalam bidang fisika, yang menurutnya telah memberinya keterampilan berpikir kritis yang diperlukan untuk berhasil dalam lanskap internet yang selalu berubah.
lebih artikel
Damir adalah pemimpin tim, manajer produk, dan editor di Metaverse Post, mencakup topik seperti AI/ML, AGI, LLM, Metaverse, dan Web3-bidang terkait. Artikelnya menarik lebih dari satu juta pengguna setiap bulan. Dia tampaknya ahli dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebutkan dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, dan publikasi lainnya. Dia melakukan perjalanan antara UEA, Turki, Rusia, dan CIS sebagai pengembara digital. Damir memperoleh gelar sarjana dalam bidang fisika, yang menurutnya telah memberinya keterampilan berpikir kritis yang diperlukan untuk berhasil dalam lanskap internet yang selalu berubah.
