Mavjud AI va ML tizimlarining muhim zaifliklari haqida hisobotlarni himoya qiling, ochiq manbali loyihalarni himoya qilishni talab qiladi
Qisqacha
Protect AI hisoboti AI/ML ta'minot zanjirida ishlatiladigan asboblardagi zaifliklarni aniqlaydi, ko'pincha Open Source, noyob xavfsizlik tahdidlari bilan.
Protect AI hisobotiga ko'ra, AI/ML ta'minot zanjirida ishlatiladigan asboblarda zaifliklar mavjud, ko'pincha Open Source, noyob xavfsizlik tahdidlarini tashuvchi va bu zaifliklar autentifikatsiya qilinmagan masofaviy kod bajarilishi va mahalliy fayllarni kiritish xavfini tug'diradi - a kiberxavfsizlik kompaniya AI va ML tizimlariga e'tibor qaratdi.
Bu serverlarni egallab olishdan tortib, maxfiy ma'lumotlarni o'g'irlashgacha bo'lgan oqibatlarga olib kelishi mumkin, deya qo'shimcha qilinadi hisobotda.
Hisobot ma'lumotlar, modellar va hisobga olish ma'lumotlarini himoya qilish uchun ushbu zaifliklarni aniqlash va bartaraf etishda proaktiv yondashuv zarurligini ta'kidlaydi.
Protect AI sa'y-harakatlarining boshida huntr - dunyodagi birinchi AI / ML xatoliklarni mukofotlash dasturi bo'lib, zaifliklarni faol ravishda qidirayotgan 13,000 XNUMX dan ortiq a'zolardan iborat hamjamiyatni jalb qiladi. Ushbu tashabbus potentsial tahdidlar bo'yicha muhim ma'lumotlarni taqdim etishga va xavfsiz AI tizimlariga tezkor javob berishga qaratilgan.
2023-yil avgust oyida kompaniya huntr-ning ishga tushirilishini e'lon qildi - bu faqat AI/ML ochiq kodli dasturiy ta'minotni (OSS) himoya qilishga qaratilgan AI/ML bug bounty platformasi, asosiy modellar, va ML tizimlari. Huntr AI/ML bug bounty platformasining ishga tushirilishi Huntr.dev-ni Protect AI tomonidan sotib olinishi natijasida yuzaga keladi.
"Hozirda 15,000 XNUMX dan ortiq a'zolari bilan Protect AI's huntr - bu faqat AI/ML xavfsizligiga yo'naltirilgan tahdidlar bo'yicha tadqiqotchilar va xakerlarning eng katta va eng jamlangan to'plami", - Daryan Dehghanpisheh, Protect AI prezidenti va hammuassisi.
“Huntr’ning operatsion modeli soddalik, shaffoflik va mukofotlarga qaratilgan. Avtomatlashtirilgan xususiyatlar va Protect AI-ning texnik xizmat ko'rsatuvchilar uchun tahdidlarni kontekstlashtirish bo'yicha triage tajribasi sun'iy intellektdagi ochiq kodli dasturiy ta'minotning barcha ishtirokchilariga yanada xavfsizroq dasturiy paketlarni yaratishda yordam beradi. Bu oxir-oqibat barcha foydalanuvchilarga foyda keltiradi, chunki AI tizimlari yanada xavfsizroq va bardoshli bo'ladi”, - deya qo'shimcha qildi Dehghanpisheh.
Hisobot muhim zaifliklarni aniqlaydi
O'tgan oyda huntr hamjamiyatining topilmalarini ta'kidlab, hisobot MLflow masofaviy kod ijrosi, MLflow ixtiyoriy faylni qayta yozish va MLflow Local File Include kabi uchta muhim zaiflikni aniqlaydi.
- MLflow masofaviy kod ijrosi: Kamchilik serverni egallab olishiga va maxfiy ma'lumotlarning yo'qolishiga olib keladi. Modellarni saqlash va kuzatish vositasi bo'lgan MLflow, masofaviy ma'lumotlarni saqlashni o'chirish uchun ishlatiladigan kodda masofaviy kodni bajarishda zaiflikka ega edi. Foydalanuvchilar foydalanuvchi nomidan buyruqlarni bajarishi mumkin bo'lgan zararli masofaviy ma'lumotlar manbalaridan foydalanishga aldanishi mumkin.
- MLflow o'zboshimchalik bilan faylni qayta yozish: Kamchilik tizimni egallab olish, xizmat ko'rsatishni rad etish va ma'lumotlarni yo'q qilish potentsialiga ega. Fayl yoʻli xavfsiz ekanligini tasdiqlovchi MLflow funksiyasida aylanib oʻtish yoʻli topildi, bu zararli foydalanuvchiga MLflow serveridagi fayllarni masofadan qayta yozish imkonini beradi. Bu tizimdagi SSH tugmachalarini qayta yozish yoki keyingi foydalanuvchi loginida o'zboshimchalik bilan buyruqlarni bajarish uchun .bashrc faylini tahrirlash kabi qo'shimcha qadamlar bilan masofaviy kod bajarilishiga olib kelishi mumkin.
- MLflow Lokal Faylni o'z ichiga oladi: Kamchilik nozik ma'lumotlarning yo'qolishiga va tizimni egallab olish potentsialiga olib keladi. MLflow, ma'lum bir operatsion tizimlarda joylashtirilganda, muhim hisob ma'lumotlari serverda saqlangan bo'lsa, tizimni egallash uchun potentsial yo'l bo'lib, nozik fayllar tarkibini ko'rsatish uchun boshqarilishi mumkin.
Protect AI asoschisi Daryan Dehghanpisheh aytdi Metaverse Post, “AI/ML tizimining zaifliklarini hal qilishda shoshilinchlik ularning biznesga ta'siriga bog'liq. AI/ML ning zamonaviy biznesdagi muhim roli va potentsial ekspluatatsiyalarning og'ir tabiati bilan ko'pchilik tashkilotlar bu dolzarblikni yuqori deb bilishadi. AI/ML tizimlarini himoya qilishning asosiy muammosi MLOps hayot aylanishidagi xavflarni tushunishdan iborat.
"Ushbu xavflarni yumshatish uchun kompaniyalar o'zlarining AI va ML tizimlari uchun tahdidlarni modellashtirishlari, ta'sir qilish oynalarini aniqlashlari va integratsiyalashgan va keng qamrovli MLSecOps dasturi doirasida tegishli boshqaruvni amalga oshirishlari kerak", deya qo'shimcha qildi u.
Protect AI o'z hisobotida ularni hal qilishning dolzarbligini ta'kidlaydi zaifliklar zudlik bilan va ishlab chiqarishda ta'sirlangan loyihalari bo'lgan foydalanuvchilar uchun potentsial xavflarni yumshatishda faol pozitsiya muhimligini ta'kidlaydigan tavsiyalar ro'yxatini taqdim etadi. Ushbu zaifliklarni yumshatishda qiyinchiliklarga duch kelgan foydalanuvchilarga Protect AI jamoasi bilan bog'lanish tavsiya etiladi.
Sun'iy intellekt texnologiyasi rivojlanishi bilan Protect AI sun'iy intellekt afzalliklaridan mas'uliyatli va xavfsiz foydalanishni ta'minlash uchun AI/ML tizimlarining murakkab tarmog'ini himoya qilish ustida ishlamoqda.
Masʼuliyatdan voz kechish
Bunga javoban Ishonch loyihasi bo'yicha ko'rsatmalar, iltimos, ushbu sahifada taqdim etilgan ma'lumotlar yuridik, soliq, investitsiya, moliyaviy yoki boshqa har qanday maslahat shakli sifatida talqin qilinmasligi va talqin qilinmasligini unutmang. Faqat yo'qotishingiz mumkin bo'lgan narsaga investitsiya qilish va agar shubhangiz bo'lsa, mustaqil moliyaviy maslahat olish muhimdir. Qo'shimcha ma'lumot olish uchun biz shartlar va emitent yoki reklama beruvchi tomonidan taqdim etilgan yordam va qo'llab-quvvatlash sahifalariga murojaat qilishni tavsiya qilamiz. MetaversePost to'g'ri, xolis hisobot berish majburiyatini oladi, lekin bozor sharoitlari ogohlantirilmasdan o'zgarishi mumkin.
Muallif haqida
Kumar AI/ML, marketing texnologiyalari va kripto, blokcheyn kabi rivojlanayotgan sohalarning dinamik kesishmalariga ixtisoslashgan tajribali texnologiya jurnalisti. NFTs. Sanoatda 3 yildan ortiq tajribaga ega bo'lgan Kumar jozibali hikoyalar yaratish, chuqur intervyular o'tkazish va keng qamrovli tushunchalarni taqdim etish bo'yicha tasdiqlangan tajribaga ega. Kumarning tajribasi yuqori ta'sirli kontent, jumladan, taniqli sanoat platformalari uchun maqolalar, hisobotlar va tadqiqot nashrlarini ishlab chiqarishda yotadi. Texnik bilim va hikoya qilishni o'zida mujassam etgan noyob mahorat to'plamiga ega Kumar murakkab texnologik kontseptsiyalarni turli auditoriyalarga aniq va qiziqarli tarzda etkazishda ustunlik qiladi.
Boshqa maqolalar
Kumar AI/ML, marketing texnologiyalari va kripto, blokcheyn kabi rivojlanayotgan sohalarning dinamik kesishmalariga ixtisoslashgan tajribali texnologiya jurnalisti. NFTs. Sanoatda 3 yildan ortiq tajribaga ega bo'lgan Kumar jozibali hikoyalar yaratish, chuqur intervyular o'tkazish va keng qamrovli tushunchalarni taqdim etish bo'yicha tasdiqlangan tajribaga ega. Kumarning tajribasi yuqori ta'sirli kontent, jumladan, taniqli sanoat platformalari uchun maqolalar, hisobotlar va tadqiqot nashrlarini ishlab chiqarishda yotadi. Texnik bilim va hikoya qilishni o'zida mujassam etgan noyob mahorat to'plamiga ega Kumar murakkab texnologik kontseptsiyalarni turli auditoriyalarga aniq va qiziqarli tarzda etkazishda ustunlik qiladi.
