Mutaxassislar AI ma'lumotlar to'plamiga "zararli qo'shimchalar" dan ehtiyot bo'lishadi ChatGPT
Qisqacha
ChatGPT potentsialdir himoyasiz ta'lim ma'lumotlari tufayli.
Tadqiqotchilarning fikriga ko'ra, AQShda atigi 60 dollarga biz 0.01 yilda LAION-400 yoki COYO-700 ma'lumotlar to'plamining 2022 foizini zaharlashimiz mumkin.
ChatGPT texnologiya tobora ommalashib bormoqda, lekin yaqinda tadqiqot Ushbu texnologiya o'zi foydalanadigan o'quv ma'lumotlari tufayli zaif bo'lishi mumkinligini ko'rsatadi. Modellar murakkablashgani va ma'lumotlar to'plamlari kattalashgani va murakkablashgani sababli, zararli shaxslar ushbu zaiflikdan ma'lumotlar to'plamlarini manipulyatsiya qilish uchun foydalanishi va mashinani o'rganish modellarining noto'g'ri natijalarga olib kelishi mumkin.
Asosiy tashvish shundaki, chatbot ma'lumotlar bazalari ko'pincha "shartli tasdiqlangan" ma'lumotlar to'plamidir, ya'ni keng qamrovli tekshiruvsiz ma'lumotlarga ma'lum darajadagi ishonch mavjud. Boshqacha qilib aytganda, ushbu ma'lumotlar to'plamida ko'pincha ko'rib chiqilmagan asosiy muammolar bo'lishi mumkin. Garchi ma'lumotlar to'plamini tekshirish ko'pincha ularning kattaligi tufayli amalga oshirilmasa ham, zararli shaxslar ushbu ma'lumotlarni manipulyatsiya qilishlari mumkin.
Aslida, tadqiqotchilar 2022 yilga kelib, tajovuzkorlar LAION-60 yoki COYO-0.01 ma'lumotlar to'plamining 400 foizini zaharlash uchun taxminan 700 dollar sarflashi mumkinligini taxmin qilishdi. Garchi bu unchalik ko'p tuyulmasa-da, agar nazorat qilinmasa, zararli aktyorlar bu zaharlangan ma'lumotlardan o'z manfaatlari uchun foydalanishlari mumkin. Zararli ma'lumotlar oxir-oqibat sodir bo'lishi mumkin Oqish kattaroq ma'lumotlar to'plamiga aylantirib, ma'lumotlar sifatini buzadi va mashinani o'rganishning ishonchsiz modellariga olib keladi.
Ma'lumotlar bazalarini zararli ma'lumotlardan himoya qilish choralarini ko'rish kerak. Bir nechta ma'lumotlar manbalarini jamlash chatbot uchun standart bo'lishi kerak ta'lim ma'lumotlar to'plami ma'lumotlarning ishonchli va aniqligini ta'minlash. Bundan tashqari, kompaniyalar ma'lumotlar to'plamlari bilan tajriba o'tkazishlari kerak, bu ularning zararli shaxslarga nisbatan zaif emasligiga ishonch hosil qilishlari kerak.
Zararli kodli AI Chatbotlari xakerlik hujumiga qarshi himoyasiz bo'lishi mumkin
Chatbotlarda zararli kod tahdidi juda jiddiy bo'lishi mumkin; zararli kod foydalanuvchi ma'lumotlarini o'g'irlash, serverlarga zararli kirishni yoqish va zararli harakatlarni yoqish uchun ishlatilishi mumkin. pul yuvish yoki ma'lumotlarni eksfiltratsiya qilish. Agar sun'iy intellekt chatboti zararli qo'shimchalar bilan ma'lumotlarga o'rgatilgan bo'lsa, u o'z javoblariga bilmagan holda zararli kodni kiritishi va bilmagan holda zararli daromad olish vositasi sifatida ishlatilishi mumkin.
Yomon niyatli shaxslar ushbu zaiflikdan ataylab yoki beixtiyor zararli kodni kiritish orqali foydalanishlari mumkin. ta'lim ma'lumotlari. Bundan tashqari, AI chatbotlari taqdim etilgan ma'lumotlardan o'rganganligi sababli, bu ularning noto'g'ri javoblarni yoki hatto zararli xatti-harakatlarni o'rganishiga olib kelishi mumkin.
AI chatbotlari duch kelishi mumkin bo'lgan yana bir xavf - bu "haddan tashqari moslashish". Aynan shu paytda bashorat qilish modellari ularga berilgan ma'lumotlar bo'yicha juda yaqindan o'qitilib, yangi ma'lumotlar taqdim etilganda yomon bashoratlarga olib keladi. Bu kabi alohida muammo bo'lishi mumkin AI chat-botlari zararli kod bo'yicha o'qitilganlar ma'lumotlar bilan ko'proq tanish bo'lganligi sababli, ularning javoblariga zararli kodni kiritishda samaraliroq bo'lishi mumkin.
Xatarlardan xabardor bo'lish va o'qitish uchun ishlatiladigan o'quv ma'lumotlarini kafolatlash uchun ehtiyot choralarini ko'rish juda muhimdir ChatGPT bu mumkin bo'lgan zaifliklarning oldini olish uchun xavfsiz va ishonchli. Trening uchun ishlatiladigan dastlabki ma'lumotlar ham alohida va noyob bo'lishi kerak; "zararli qo'shimchalar" ni targ'ib qilish boshqa manbalarga zid bo'lmasligi yoki bir-biriga mos kelmasligi kerak. Agar ma'lumotlarni tasdiqlash uchun bir nechta tasdiqlangan domenlarni "qo'lga olish" mumkin bo'lsa, uni tekshirish va boshqa domenlar bilan solishtirish kerak.
Chatbot texnologiyasi odamlarning insoniy munozaralarini o'zgartirishni va'da qiladi. Lekin u o‘z imkoniyatlarini to‘liq ro‘yobga chiqarishdan oldin uni takomillashtirish va himoya qilish kerak. Chatbotlar uchun ma'lumotlar to'plami yaxshi tekshirilishi va zararli aktyorlardan himoya qilish uchun tayyorlanishi kerak. Shunday qilib, biz texnologiya salohiyatidan to‘liq foydalanishimizni ta’minlay olamiz va uni davom ettirishimiz mumkin chegaralari sun'iy intellekt.
AI haqida ko'proq o'qing:
Masʼuliyatdan voz kechish
Bunga javoban Ishonch loyihasi bo'yicha ko'rsatmalar, iltimos, ushbu sahifada taqdim etilgan ma'lumotlar yuridik, soliq, investitsiya, moliyaviy yoki boshqa har qanday maslahat shakli sifatida talqin qilinmasligi va talqin qilinmasligini unutmang. Faqat yo'qotishingiz mumkin bo'lgan narsaga investitsiya qilish va agar shubhangiz bo'lsa, mustaqil moliyaviy maslahat olish muhimdir. Qo'shimcha ma'lumot olish uchun biz shartlar va emitent yoki reklama beruvchi tomonidan taqdim etilgan yordam va qo'llab-quvvatlash sahifalariga murojaat qilishni tavsiya qilamiz. MetaversePost to'g'ri, xolis hisobot berish majburiyatini oladi, lekin bozor sharoitlari ogohlantirilmasdan o'zgarishi mumkin.
Muallif haqida
Damir - guruh rahbari, mahsulot menejeri va muharrir Metaverse Post, AI/ML, AGI, LLMs, Metaverse va kabi mavzularni qamrab oladi Web3- tegishli sohalar. Uning maqolalari har oy milliondan ortiq foydalanuvchilarning katta auditoriyasini jalb qiladi. U SEO va raqamli marketing bo'yicha 10 yillik tajribaga ega mutaxassis bo'lib ko'rinadi. Damir haqida Mashable, Wired nashrlarida tilga olingan. Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto va boshqa nashrlar. U BAA, Turkiya, Rossiya va MDH davlatlari oʻrtasida raqamli koʻchmanchi sifatida sayohat qiladi. Damir fizika bo'yicha bakalavr darajasini oldi, uning fikricha, bu unga internetning doimiy o'zgaruvchan manzarasida muvaffaqiyatga erishish uchun zarur bo'lgan tanqidiy fikrlash qobiliyatlarini berdi.
Boshqa maqolalar
Damir - guruh rahbari, mahsulot menejeri va muharrir Metaverse Post, AI/ML, AGI, LLMs, Metaverse va kabi mavzularni qamrab oladi Web3- tegishli sohalar. Uning maqolalari har oy milliondan ortiq foydalanuvchilarning katta auditoriyasini jalb qiladi. U SEO va raqamli marketing bo'yicha 10 yillik tajribaga ega mutaxassis bo'lib ko'rinadi. Damir haqida Mashable, Wired nashrlarida tilga olingan. Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto va boshqa nashrlar. U BAA, Turkiya, Rossiya va MDH davlatlari oʻrtasida raqamli koʻchmanchi sifatida sayohat qiladi. Damir fizika bo'yicha bakalavr darajasini oldi, uning fikricha, bu unga internetning doimiy o'zgaruvchan manzarasida muvaffaqiyatga erishish uchun zarur bo'lgan tanqidiy fikrlash qobiliyatlarini berdi.
