Ross Anderson Membincangkan Keruntuhan Model AI sebagai Masalah yang Meningkat dalam Kandungan Dalam Talian
Secara ringkas
Ross Anderson memberi amaran tentang potensi risiko yang berkaitan dengan kemerosotan intelektual generasi akan datang model bahasa besar (LLM), yang telah menjadi alat utama untuk mengedit dan mencipta teks baharu.
Keruntuhan model boleh dicegah dengan memahami dan mengurangkan risiko yang berkaitan dengannya AI generatif.
Dalam masa enam bulan sahaja, AI generatif telah membuat kemajuan yang ketara, menarik perhatian dunia. ChatGPT, contoh terkemuka teknologi ini, dengan cepat mendapat populariti dan penggunaan meluas. Walau bagaimanapun, pakar terkenal Ross Anderson memberi amaran tentang risiko yang berpotensi dikaitkan dengan kemerosotan intelektual model generasi akan datang.
Ross Anderson ialah perintis dalam kejuruteraan keselamatan dan pihak berkuasa terkemuka dalam mencari kelemahan dalam sistem dan algoritma keselamatan. Sebagai Felo Akademi Kejuruteraan Diraja dan Profesor di Universiti Cambridge, beliau telah menyumbang secara meluas kepada bidang keselamatan maklumat, membentuk model ancaman merentas pelbagai sektor.
Kini, Anderson membangkitkan penggera tentang ancaman global terhadap manusia—keruntuhan model bahasa besar (LLM). Sehingga baru-baru ini, kebanyakan teks di internet dihasilkan oleh manusia. LLM kini telah menjadi alat utama untuk mengedit dan mencipta teks baharu, menggantikan kandungan yang dihasilkan manusia.
Anjakan ini menimbulkan persoalan penting: Ke manakah arah aliran ini akan membawa, dan apakah yang akan berlaku apabila LLM menguasai internet? Implikasinya melangkaui teks sahaja. Sebagai contoh, jika a model muzikal dilatih dengan gubahan oleh Mozart, generasi berikutnya mungkin tidak mempunyai kecemerlangan yang asli dan menghasilkan hasil yang lebih rendah, setanding dengan muzikal "Salieri." Dengan setiap generasi berikutnya, risiko penurunan kualiti dan kecerdasan meningkat.
Konsep ini mungkin mengingatkan anda tentang filem "Multiplicity,” dibintangi Michael Keaton, di mana pengklonan membawa kepada penurunan kecerdasan dan peningkatan kebodohan setiap klon berikutnya.
Fenomena yang sama boleh berlaku dengan LLM. Melatih model dengan kandungan yang dijana model membawa kepada kecacatan yang tidak dapat dipulihkan dan kemerosotan kualiti teks sepanjang generasi. Pengedaran kandungan asal menjadi herot, mengakibatkan kemasukan maklumat mengarut. Taburan Gaussian berkumpul, dan dalam kes yang melampau, teks mungkin menjadi tidak bermakna. Generasi seterusnya mungkin salah faham realiti berdasarkan kesilapan yang dilakukan oleh pendahulu mereka. Fenomena ini dikenali sebagai "keruntuhan model."
Akibat keruntuhan model adalah penting:
✔️ Internet menjadi semakin dipenuhi dengan kandungan yang tidak masuk akal.
✔️ Individu yang menggunakan kandungan ini tanpa disedari mungkin menjadi kurang maklumat dan kehilangan keupayaan intelek.
Nasib baik, ada harapan. Anderson mencadangkan bahawa keruntuhan model boleh dicegah, menawarkan sinar optimisme di tengah-tengah kebimbangan. Untuk mengetahui lebih lanjut tentang penyelesaian yang berpotensi dan cara mengelakkan penurunan kualiti maklumat dalam talian, kami menggalakkan anda untuk meneroka lebih lanjut.
Walaupun AI generatif memegang janji, adalah penting untuk terus berwaspada dan menangani cabaran yang dikemukakannya. Dengan memahami dan mengurangkan risiko yang berkaitan dengan keruntuhan model, kami boleh berusaha ke arah memanfaatkan manfaat teknologi ini sambil mengekalkan integriti maklumat di internet.
Baca lebih lanjut mengenai AI:
Penafian
Selaras dengan Garis panduan Projek Amanah, sila ambil perhatian bahawa maklumat yang diberikan pada halaman ini tidak bertujuan untuk menjadi dan tidak seharusnya ditafsirkan sebagai nasihat undang-undang, cukai, pelaburan, kewangan atau sebarang bentuk nasihat lain. Adalah penting untuk hanya melabur apa yang anda mampu kehilangan dan mendapatkan nasihat kewangan bebas jika anda mempunyai sebarang keraguan. Untuk maklumat lanjut, kami mencadangkan merujuk kepada terma dan syarat serta halaman bantuan dan sokongan yang disediakan oleh pengeluar atau pengiklan. MetaversePost komited kepada laporan yang tepat dan tidak berat sebelah, tetapi keadaan pasaran tertakluk kepada perubahan tanpa notis.
Tentang Pengarang
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
lebih banyak artikel
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
