Ross Anderson AI modelining qulashini onlayn kontentda o'sib borayotgan muammo sifatida muhokama qiladi
Qisqacha
Ross Anderson katta til modellarining kelajak avlodlarining intellektual pasayishi bilan bog'liq potentsial xavflar haqida ogohlantiradi (LLMlar), ular yangi matnlarni tahrirlash va yaratish uchun asosiy vositaga aylandi.
Modelning qulashi bilan bog'liq xavflarni tushunish va kamaytirish orqali oldini olish mumkin generativ AI.
Olti oy ichida generativ sun'iy intellekt dunyo e'tiborini o'ziga qaratib, sezilarli yutuqlarga erishdi. ChatGPT, ushbu texnologiyaning yorqin namunasi, tezda mashhurlik va keng qo'llanilishiga erishdi. Biroq, taniqli ekspert Ross Anderson bu haqda ogohlantiradi mumkin bo'lgan xatarlar modellarning kelajak avlodlarining intellektual pasayishi bilan bog'liq.
Ross Anderson xavfsizlik muhandisligi bo'yicha kashshof va xavfsizlik tizimlari va algoritmlarida zaifliklarni topish bo'yicha yetakchi vakolatli hisoblanadi. Qirollik muhandislik akademiyasi a'zosi va Kembrij universiteti professori sifatida u turli sektorlarda tahdid modellarini shakllantirish, axborot xavfsizligi sohasiga katta hissa qo'shgan.
Endi Anderson insoniyat uchun global tahdid haqida ogohlantirmoqda -Katta til modellarining (LLM) qulashi. Yaqin vaqtgacha Internetdagi matnlarning aksariyati odamlar tomonidan yaratilgan. Endi LLMlar inson tomonidan yaratilgan kontentni almashtirib, yangi matnlarni tahrirlash va yaratish uchun asosiy vositaga aylandi.
Ushbu siljish muhim savollarni tug'diradi: bu tendentsiya qayerga olib keladi va LLMlar internetda hukmronlik qilganda nima bo'ladi? Natijalar faqat matndan tashqariga chiqadi. Masalan, agar a musiqiy model Motsartning kompozitsiyalari bilan o'qitilgan bo'lsa, keyingi avlodlar asl nusxaning yorqinligidan mahrum bo'lishi mumkin va "Salieri" musiqiy asari bilan taqqoslanadigan darajada past natijalarga olib kelishi mumkin. Har bir keyingi avlod bilan sifat va aqlning pasayishi xavfi ortadi.
Ushbu kontseptsiya sizga filmni eslatishi mumkin "Ko'pchilik,” bosh rolni Maykl Kiton ijro etgan, bu erda klonlash aqlning pasayishiga va har bir keyingi klonning ahmoqligining oshishiga olib keladi.
Xuddi shu hodisa LLMlar bilan sodir bo'lishi mumkin. Modelda yaratilgan tarkibga ega modelni o'rgatish qayta tiklanmaydigan nuqsonlarga va avlodlar davomida matn sifatining yomonlashishiga olib keladi. Kontentning asl taqsimoti buziladi, natijada bema'ni ma'lumotlar oqimi paydo bo'ladi. Gauss taqsimotlari birlashadi va o'ta og'ir holatlarda matn ma'nosiz bo'lib qolishi mumkin. Keyingi avlodlar hatto o'zlaridan oldingilarning xatolariga asoslanib, haqiqatni noto'g'ri qabul qilishlari mumkin. Ushbu hodisa "modelning qulashi" deb nomlanadi.
Modelning buzilishining oqibatlari sezilarli:
✔️ Internet borgan sari bema'ni tarkib bilan to'lib bormoqda.
✔️ Ushbu kontentni iste'mol qiladigan shaxslar o'z-o'zidan kam ma'lumotga ega bo'lib qolishi va intellektual qobiliyatlarini yo'qotishi mumkin.
Yaxshiyamki, umid bor. Anderson, modelning qulashini oldini olish mumkinligini taklif qiladi va xavotirlar orasida nekbinlik porlaydi. Potentsial yechimlar va onlayn axborot sifatining pasayishiga yo'l qo'ymaslik haqida ko'proq ma'lumot olish uchun sizni batafsilroq o'rganishni tavsiya qilamiz.
Generativ AI va'da bersa-da, hushyor bo'lish va u taqdim etayotgan muammolarni hal qilish juda muhimdir. Modelning qulashi bilan bog'liq xavflarni tushunish va yumshatish orqali biz internetdagi ma'lumotlarning yaxlitligini saqlagan holda ushbu texnologiyaning afzalliklaridan foydalanishga harakat qilishimiz mumkin.
AI haqida ko'proq o'qing:
Masʼuliyatdan voz kechish
Bunga javoban Ishonch loyihasi bo'yicha ko'rsatmalar, iltimos, ushbu sahifada taqdim etilgan ma'lumotlar yuridik, soliq, investitsiya, moliyaviy yoki boshqa har qanday maslahat shakli sifatida talqin qilinmasligi va talqin qilinmasligini unutmang. Faqat yo'qotishingiz mumkin bo'lgan narsaga investitsiya qilish va agar shubhangiz bo'lsa, mustaqil moliyaviy maslahat olish muhimdir. Qo'shimcha ma'lumot olish uchun biz shartlar va emitent yoki reklama beruvchi tomonidan taqdim etilgan yordam va qo'llab-quvvatlash sahifalariga murojaat qilishni tavsiya qilamiz. MetaversePost to'g'ri, xolis hisobot berish majburiyatini oladi, lekin bozor sharoitlari ogohlantirilmasdan o'zgarishi mumkin.
Muallif haqida
Damir - guruh rahbari, mahsulot menejeri va muharrir Metaverse Post, AI/ML, AGI, LLMs, Metaverse va kabi mavzularni qamrab oladi Web3- tegishli sohalar. Uning maqolalari har oy milliondan ortiq foydalanuvchilarning katta auditoriyasini jalb qiladi. U SEO va raqamli marketing bo'yicha 10 yillik tajribaga ega mutaxassis bo'lib ko'rinadi. Damir haqida Mashable, Wired nashrlarida tilga olingan. Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto va boshqa nashrlar. U BAA, Turkiya, Rossiya va MDH davlatlari oʻrtasida raqamli koʻchmanchi sifatida sayohat qiladi. Damir fizika bo'yicha bakalavr darajasini oldi, uning fikricha, bu unga internetning doimiy o'zgaruvchan manzarasida muvaffaqiyatga erishish uchun zarur bo'lgan tanqidiy fikrlash qobiliyatlarini berdi.
Boshqa maqolalar
Damir - guruh rahbari, mahsulot menejeri va muharrir Metaverse Post, AI/ML, AGI, LLMs, Metaverse va kabi mavzularni qamrab oladi Web3- tegishli sohalar. Uning maqolalari har oy milliondan ortiq foydalanuvchilarning katta auditoriyasini jalb qiladi. U SEO va raqamli marketing bo'yicha 10 yillik tajribaga ega mutaxassis bo'lib ko'rinadi. Damir haqida Mashable, Wired nashrlarida tilga olingan. Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto va boshqa nashrlar. U BAA, Turkiya, Rossiya va MDH davlatlari oʻrtasida raqamli koʻchmanchi sifatida sayohat qiladi. Damir fizika bo'yicha bakalavr darajasini oldi, uning fikricha, bu unga internetning doimiy o'zgaruvchan manzarasida muvaffaqiyatga erishish uchun zarur bo'lgan tanqidiy fikrlash qobiliyatlarini berdi.
