Jeda 6 bulan dalam Latihan AI Adalah Idea yang Baik, tetapi Ia Mungkin Tidak Cukup
Secara ringkas
Kisah petisyen dan pelepasan artikel Yudkovsky telah mempolarisasi masyarakat.
Dilema dan teori permainan banduan mencadangkan bahawa kumpulan kritikal orang yang waras di tempat yang berbeza diperlukan untuk masalah sedemikian diselesaikan.
Walau bagaimanapun, terdapat beberapa tetapi idea ini, seperti kekurangan kesedaran, kemahuan dan agensi dalam evolusi digital.
Kisah mengenai petisyen untuk berhenti membangunkan sistem AI yang lebih maju daripada GPT-4 telah menimbulkan polarisasi masyarakat. Pembebasan Yudkovsky artikel meminta untuk menutup pembangunan selanjutnya GPT model menambah bahan api kepada kebakaran, terutamanya petikan beliau tentang pengeboman pusat data.
Daripada apa yang boleh diperhatikan dalam talian, nampaknya terdapat lebih sedikit penyokong petisyen daripada pihak lawan, yang mempunyai tiga hujah utama:
| 1 | – Kemajuan tidak boleh dihentikan. – Petisyen itu dicipta oleh OpenAI pesaing. – China tidak akan menunggu. |
| 2 | – Anda tidak sepatutnya takut kepada AI tetapi kepada manusia. - GPT tidak mempunyai kesedaran, kehendak, aspirasi, atau agensi, jadi tiada apa yang perlu ditakuti. - GPT-4 sangat jauh dari memperhambakan dunia kerana ia tidak memahami apa-apa, membuat kesilapan bodoh, dan secara amnya agak bodoh. - GPT-4 tidak akan dapat menjalankan dunia kerana ia tidak mempunyai tangan/kaki. |
| 3 | – Kumpulan ketiga tidak faham bagaimana GPT-4 beroperasi di tempat pertama. |
Kami tidak akan menumpukan perhatian kepada kumpulan ketiga kerana pendirian mereka datang dari kejahilan. Itu bukan untuk mengatakan bahawa semua lawan AI tahu segala-galanya tentang AI; anda boleh menemui ramai orang anti-AI yang kurang memahami teknologi dan perkara yang berkaitan dengannya, walaupun Yudkovsky sendiri sangat mendalami topik AI, jadi dia tidak boleh dituduh tidak tahu.
Mari kita lihat kumpulan orang pertama–mereka yang percaya kemajuan tidak dapat dihentikan. Mereka menawarkan hujah yang berbeza tetapi serupa, dan secara keseluruhan, orang tersebut tidak menafikan keupayaan AI dan prospek yang diterima pakai dan percaya pembangunan AI akan berterusan walau apa pun.
Tesis pertama tentang kemajuan yang tidak dapat dihalang adalah slogan yang tidak semestinya benar. Orang ramai nampaknya telah menghentikan beberapa eksperimen saintifik, dan banyak projek penyelidikan yang pernah diterima tidak dianggap beretika lagi, dan yang serupa tidak akan dibenarkan hari ini. Walau bagaimanapun, berapa banyak lagi kemajuan pada masa lalu yang dihentikan oleh Inkuisisi dan penganiayaan agama lain, pengharaman buku, dan pembunuhan saintis di China (dan negara lain)? Itu adalah sesuatu yang kita tidak akan dapat memahami sepenuhnya kerana kecenderungan untuk bertahan.
Tesis lain melibatkan pendekatan yang boleh diringkaskan sebagai "jika bukan kita, ia akan menjadi mereka." Walaupun garis pemikiran ini mungkin lebih difahami, ia juga nampaknya bukan penyelesaian yang tepat. Ia hampir sama dengan dilema banduan dalam teori permainan.
Kumpulan kedua hujah adalah yang paling menarik. Walaupun saya secara peribadi bersetuju dengannya sedikit sebanyak, terdapat beberapa perkara yang perlu ditangani. Ya, AI tidak mempunyai kesedaran, kehendak, agensi, dll. Begitu juga dengan COVID-19, namun ia telah mendatangkan malapetaka di seluruh dunia. Sesuatu tidak perlu mempunyai rasa agensi dan kesedaran untuk menjadi berbahaya; senario bahawa kehidupan di bumi terhapus kerana virus tidak dapat dibayangkan. Setelah tugasnya selesai, ia boleh meletakkan kerusi di atas meja, memadamkan lampu, dan pergi selama-lamanya.
Meneruskan analogi biologi, terdapat artikel yang menarik, "Kreativiti Evolusi Digital yang Mengejutkan: Koleksi Anekdot daripada Pengiraan Evolusi dan Komuniti Penyelidikan Kehidupan Buatan," yang memberikan banyak contoh apabila proses pergi ke arah yang tidak dijangka. Walaupun tanpa proses evolusi, segala-galanya boleh masuk ke dalam generalisasi yang salah "Misgeneralization Matlamat: Mengapa Spesifikasi Betul Tidak Cukup Untuk Matlamat yang Betul." Memberi kebebasan kepada proses pengoptimuman boleh menjadi salah dibincangkan dalam "Risiko daripada Pengoptimuman yang Dipelajari dalam Sistem Pembelajaran Mesin Termaju"
Pada masa yang sama, kami secara amnya tidak mengambil kira risiko penggunaan berniat jahat AI dan mana-mana penyalahgunaan, yang hanya menyuarakan hujah bahawa kita perlu takut kepada orang dan bukan AI itu sendiri. Walau bagaimanapun, kebenaran perkara itu ialah AI boleh menjadi buruk walaupun tanpa orang yang berniat jahat.
Saya juga bersetuju tentang fakta bahawa model itu membuat kesilapan bodoh, tetapi begitu juga manusia, namun kita tahu mereka boleh membahayakan. Walaupun model membuat banyak kesilapan, mereka juga boleh menyelesaikan banyak masalah hebat, keren dan kompleks yang tidak dapat diselesaikan oleh orang biasa. Daripada karya terkenal “Sparks of Artificial General Intelligence: Early Experiments with GPT-4,” Saya terkejut, dengan AI dapat menyelesaikan, walaupun tidak selalu betul, masalah Fermi, masalah matematik yang agak kompleks. Teori fikirannya dan "semacam keupayaan untuk memahami" tindakan orang lain juga sangat mengagumkan. Semua perkara ini menunjuk ke arah kecerdasan AI; sedia ada, tetapi tidak seperti kita.
Menghapuskan sekurang-kurangnya beberapa kesilapan model AI biasanya boleh dilakukan, jadi kecerdasan mereka mungkin hanya berkembang. Apa yang anda perlu lakukan ialah menambah modul untuk pengiraan yang tepat, asas fakta dan pengesahan dengan model lain.
Perkara yang paling penting dalam keseluruhan cerita ini ialah kelajuan pembangunan AI. GPT model telah berkembang dengan pesat pada kadar yang memeningkan. Sekarang, ada ChatGPT plugin tersedia, anda boleh gunakan GPT model untuk menulis kod, API tersedia untuk orang awam yang besar, dan anda boleh menggunakan alat luaran tanpa sebarang latihan terlebih dahulu.
GPT-4, sudah tentu, tidak akan menakluki dunia, tetapi ia boleh menggoncang ekonomi banyak. GPT-5, dan lelaran model masa depan, mungkin tidak terlalu jauh ke hadapan dan berkemungkinan akan datang dengan kebolehan yang lebih kuat. Dan mari kita hadapi itu, kita tidak boleh berharap untuk memahami model yang belum wujud; kami belum pun mendekati untuk memahami model yang sudah ada. Dalam pengertian ini, rehat enam bulan mungkin idea yang baik, tetapi ia mungkin tidak mencukupi.
Dan memandangkan bahawa Perlumbaan AI dah mula, tak ada masa nak belajar.
Secara umum, memandangkan semua ini, saya juga menandatangani petisyen itu. Walaupun saya tidak percaya ia akan membantu dalam apa cara sekalipun.
Baca lebih banyak topik berkaitan:
Penafian
Selaras dengan Garis panduan Projek Amanah, sila ambil perhatian bahawa maklumat yang diberikan pada halaman ini tidak bertujuan untuk menjadi dan tidak seharusnya ditafsirkan sebagai nasihat undang-undang, cukai, pelaburan, kewangan atau sebarang bentuk nasihat lain. Adalah penting untuk hanya melabur apa yang anda mampu kehilangan dan mendapatkan nasihat kewangan bebas jika anda mempunyai sebarang keraguan. Untuk maklumat lanjut, kami mencadangkan merujuk kepada terma dan syarat serta halaman bantuan dan sokongan yang disediakan oleh pengeluar atau pengiklan. MetaversePost komited kepada laporan yang tepat dan tidak berat sebelah, tetapi keadaan pasaran tertakluk kepada perubahan tanpa notis.
Tentang Pengarang
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
lebih banyak artikel
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
