Mövcud AI və ML sistemlərindəki kritik zəiflikləri AI Hesabatlarını qoruyun, Açıq Mənbəli Layihələri Təhlükəsizləşdirməyə Çağırır
Qısaca
Protect AI hesabatı AI/ML təchizat zəncirində istifadə olunan alətlərdə, çox vaxt Açıq Mənbədə, unikal təhlükəsizlik təhdidləri ilə zəiflikləri müəyyən edir.
AI/ML təchizat zəncirində istifadə olunan alətlərdə, çox vaxt Açıq Mənbədə unikal təhlükəsizlik təhdidləri daşıyan zəifliklər var və bu zəifliklər təsdiqlənməmiş uzaqdan kod icrası və yerli faylların daxil edilməsi riskləri yaradır, Protect AI – a. kibertəhlükəsizlik şirkət AI və ML sistemlərinə diqqət yetirir.
Hesabatda əlavə edilib ki, bu, serverlərin ələ keçirilməsindən tutmuş həssas məlumatların oğurlanmasına qədər müxtəlif nəticələrlə nəticələnə bilər.
Hesabat daha sonra məlumatların, modellərin və etimadnamələrin qorunması üçün bu zəifliklərin müəyyən edilməsi və aradan qaldırılmasında proaktiv yanaşmanın zəruriliyini vurğulayır.
Protect AI-nin səylərinin önündə zəiflikləri axtaran 13,000-dən çox üzvdən ibarət icmanı cəlb edən dünyanın ilk AI/ML səhv mükafat proqramı olan huntr dayanır. Bu təşəbbüs potensial təhdidlər haqqında mühüm kəşfiyyat təmin etmək və təhlükəsiz süni intellekt sistemlərinə çevik reaksiya vermək məqsədi daşıyır.
2023-cü ilin avqustunda şirkət huntr-ın istifadəyə verildiyini elan etdi - yalnız AI/ML açıq mənbəli proqram təminatının (OSS) qorunmasına yönəlmiş AI/ML səhv mükafat platforması, təməl modellər, və ML Sistemləri. huntr AI/ML bug bounty platformasının işə salınması Protect AI tərəfindən huntr.dev-in alınması nəticəsində baş verir.
"Hazırda 15,000-dən çox üzvü olan Protect AI-nin ovçusu yalnız AI/ML təhlükəsizliyinə diqqət yetirən ən böyük və ən cəmlənmiş təhdid tədqiqatçıları və hakerlər toplusudur" deyə Protect AI-nin prezidenti və həmtəsisçisi Daryan Dehghanpisheh.
“Huntr-ın əməliyyat modeli sadəlik, şəffaflıq və mükafatlara yönəlib. Avtomatlaşdırılmış xüsusiyyətlər və qoruyucu AI-nın təhdidlərin kontekstləşdirilməsində səriştəli təcrübəsi süni intellektdə açıq mənbəli proqram təminatının bütün töhfəçilərinə daha təhlükəsiz proqram paketləri yaratmağa kömək edir. Bu, son nəticədə bütün istifadəçilər üçün faydalıdır, çünki süni intellekt sistemləri daha təhlükəsiz və dayanıqlı olur”, - Dehqanpişeh əlavə edib.
Hesabat Kritik Zəiflikləri Müəyyən edir
Son bir ayda huntr icmasının tapıntılarını vurğulayaraq, hesabatda MLflow Uzaqdan Kodun İcrası, MLflow Arbitrary File Overwrite və MLflow Local File Include daxil olmaqla üç kritik zəifliyi müəyyən edir.
- MLflow Uzaqdan Kodun İcrası: Qüsur serverin ələ keçirilməsi və həssas məlumatların itirilməsi ilə nəticələnir. Modellərin saxlanması və izlənilməsi üçün alət olan MLflow, uzaqdan məlumat yaddaşını çıxarmaq üçün istifadə edilən kodda uzaqdan kod icrası zəifliyinə malik idi. İstifadəçilər istifadəçi adından əmrləri yerinə yetirə biləcək zərərli uzaq məlumat mənbələrindən istifadə etməklə aldadıla bilər.
- MLflow ixtiyari faylın üzərinə yazın: Qüsur sistemin ələ keçirilməsi, xidmətdən imtina və məlumatların məhv edilməsi potensialına malikdir. Fayl yolunun təhlükəsiz olduğunu təsdiqləyən MLflow funksiyasında yan keçid tapıldı və bu, zərərli istifadəçiyə MLflow serverindəki faylları uzaqdan yazmağa imkan verir. Bu, sistemdə SSH düymələrinin üzərinə yazmaq və ya növbəti istifadəçi daxil olduqda ixtiyari əmrləri yerinə yetirmək üçün .bashrc faylını redaktə etmək kimi əlavə addımlarla kodun uzaqdan icrasına gətirib çıxara bilər.
- MLflow Lokal Faylına Daxildir: Qüsur həssas məlumatın itirilməsi və sistemin ələ keçirilməsi potensialı ilə nəticələnir. MLflow, xüsusi əməliyyat sistemlərində yerləşdirildikdə, həssas faylların məzmununu göstərmək üçün manipulyasiya edilə bilər və əsas etimadnamələr serverdə saxlandıqda sistemin ələ keçirilməsi üçün potensial imkan yaradır.
Protect AI-nin həmtəsisçisi Daryan Dehghanpisheh deyib Metaverse Post, “AI/ML sistem zəifliklərinin aradan qaldırılmasında təcililik onların biznes təsirindən asılıdır. AI/ML-nin müasir biznesdəki kritik rolu və potensial istismarların ciddi xarakteri ilə əksər təşkilatlar bu aktuallığı yüksək qiymətləndirəcəklər. AI/ML sistemlərinin təhlükəsizliyinin təmin edilməsində əsas problem MLOps həyat dövrü boyunca riskləri dərk etməkdən ibarətdir.”
"Bu riskləri azaltmaq üçün şirkətlər AI və ML sistemləri üçün təhlükə modelləşdirmə aparmalı, məruz qalma pəncərələrini müəyyən etməli və inteqrasiya olunmuş və hərtərəfli MLSecOps proqramı çərçivəsində uyğun nəzarətləri həyata keçirməlidir" dedi.
"Protect AI" öz hesabatında bunların həllinin aktuallığını vurğulayır Zəifliklər dərhal və potensial risklərin azaldılmasında proaktiv duruşun vacibliyini vurğulayaraq, istehsalda təsirə məruz qalmış layihələri olan istifadəçilər üçün tövsiyələrin siyahısını təqdim edir. Bu zəifliklərin yumşaldılmasında çətinliklərlə üzləşən istifadəçilər AI-nin qorunması icması ilə əlaqə saxlamağa təşviq edilir.
Süni intellekt texnologiyası irəlilədikcə Protect AI süni intellektin üstünlüklərindən məsuliyyətli və təhlükəsiz istifadəni təmin etmək üçün AI/ML sistemlərinin mürəkkəb şəbəkəsini təmin etmək üzərində işləyir.
Məsuliyyətdən imtina
uyğun olaraq Güvən Layihəsi qaydaları, lütfən nəzərə alın ki, bu səhifədə təqdim olunan məlumat hüquqi, vergi, investisiya, maliyyə və ya hər hansı digər məsləhət forması kimi təfsir edilməməlidir və təfsir edilməməlidir. Yalnız itirə biləcəyiniz şeyə investisiya qoymaq və hər hansı bir şübhəniz varsa, müstəqil maliyyə məsləhətləri axtarmaq vacibdir. Əlavə məlumat üçün biz emitent və ya reklamçı tərəfindən təmin edilən şərtlər və şərtlərə, həmçinin yardım və dəstək səhifələrinə müraciət etməyi təklif edirik. MetaversePost dəqiq, qərəzsiz hesabat verməyə sadiqdir, lakin bazar şərtləri xəbərdarlıq edilmədən dəyişdirilə bilər.
Müəllif haqqında
Kumar AI/ML-nin dinamik kəsişmələri, marketinq texnologiyaları və kriptovalyuta, blokçeyn və digər inkişaf etməkdə olan sahələr üzrə ixtisaslaşan təcrübəli Texniki Jurnalistdir. NFTs. Sənayedə 3 ildən çox təcrübəsi olan Kumar, cəlbedici povestlər hazırlamaq, dərin müsahibələr aparmaq və hərtərəfli fikirlər çatdırmaqda sübut edilmiş bir təcrübə yaratmışdır. Kumarın təcrübəsi görkəmli sənaye platformaları üçün məqalələr, hesabatlar və tədqiqat nəşrləri daxil olmaqla yüksək təsirli məzmunun hazırlanmasında yatır. Texniki bilik və hekayəni özündə birləşdirən unikal bacarıq dəsti ilə Kumar mürəkkəb texnoloji konsepsiyaları müxtəlif auditoriyalara aydın və cəlbedici şəkildə çatdırmaqda üstündür.
Ətraflı məqalələr
Kumar AI/ML-nin dinamik kəsişmələri, marketinq texnologiyaları və kriptovalyuta, blokçeyn və digər inkişaf etməkdə olan sahələr üzrə ixtisaslaşan təcrübəli Texniki Jurnalistdir. NFTs. Sənayedə 3 ildən çox təcrübəsi olan Kumar, cəlbedici povestlər hazırlamaq, dərin müsahibələr aparmaq və hərtərəfli fikirlər çatdırmaqda sübut edilmiş bir təcrübə yaratmışdır. Kumarın təcrübəsi görkəmli sənaye platformaları üçün məqalələr, hesabatlar və tədqiqat nəşrləri daxil olmaqla yüksək təsirli məzmunun hazırlanmasında yatır. Texniki bilik və hekayəni özündə birləşdirən unikal bacarıq dəsti ilə Kumar mürəkkəb texnoloji konsepsiyaları müxtəlif auditoriyalara aydın və cəlbedici şəkildə çatdırmaqda üstündür.
