Apsaugokite AI praneša apie esminius esamų AI ir ML sistemų pažeidžiamumus, ragina apsaugoti atvirojo kodo projektus
Trumpai
Ataskaitoje „Protect AI“ nustatomi AI / ML tiekimo grandinėje naudojamų įrankių, dažnai atvirojo kodo, pažeidžiamumas su unikaliomis saugumo grėsmėmis.
Remiantis „Protect AI“ ataskaita, yra pažeidžiamumų įrankių, naudojamų dirbtinio intelekto / ML tiekimo grandinėje, dažnai atvirojo kodo, keliančios unikalias saugumo grėsmes. Kibernetinė sauga įmonė orientuota į AI ir ML sistemas.
Tai gali turėti įtakos nuo serverio perėmimo iki neskelbtinos informacijos vagystės, priduriama pranešime.
Ataskaitoje taip pat pabrėžiama būtinybė imtis iniciatyvaus požiūrio nustatant ir šalinant šiuos pažeidžiamumus, siekiant apsaugoti duomenis, modelius ir kredencialus.
„Protect AI“ pastangų priešakyje yra huntr, pirmoji pasaulyje AI/ML klaidų programa, įtraukianti daugiau nei 13,000 XNUMX narių bendruomenę, aktyviai ieškodama pažeidžiamumų. Šia iniciatyva siekiama suteikti esminės informacijos apie galimas grėsmes ir palengvinti greitą atsaką į saugias dirbtinio intelekto sistemas.
2023 m. rugpjūtį bendrovė paskelbė, kad pristato huntr – AI/ML klaidų platformą, skirtą išskirtinai AI/ML atvirojo kodo programinės įrangos (OSS) apsaugai. pamatiniai modeliaiir ML sistemos. Huntr AI/ML klaidų atlygio platforma buvo paleista „Protect AI“ įsigijus huntr.dev.
„Dabar turėdamas daugiau nei 15,000 XNUMX narių, „Protect AI“ medžiotojas yra didžiausias ir labiausiai sutelktas grėsmių tyrinėtojų ir įsilaužėlių rinkinys, orientuotas tik į AI/ML saugumą“, – „Protect AI“ prezidentas ir vienas iš įkūrėjų Daryanas Dehghanpisheh.
„Huntro veiklos modelis orientuotas į paprastumą, skaidrumą ir atlygį. Automatizuotos funkcijos ir „Protect AI“ kompetencija nustatant grėsmes kontekste prižiūrėtojams padeda visiems dirbtinio intelekto atvirojo kodo programinės įrangos kūrėjams sukurti saugesnius programinės įrangos paketus. Tai galiausiai naudinga visiems vartotojams, nes dirbtinio intelekto sistemos tampa saugesnės ir atsparesnės“, – pridūrė Dehghanpisheh.
Ataskaitoje nurodomi kritiniai pažeidžiamumai
Pabrėžiant medžiotojų bendruomenės praėjusio mėnesio išvadas, ataskaitoje nurodomos trys kritinės spragos, įskaitant MLflow nuotolinį kodo vykdymą, MLflow savavališką failų perrašymą ir MLflow vietinį failą.
- MLflow nuotolinis kodo vykdymas: dėl trūkumo serveris perimamas ir prarandama jautri informacija. MLflow, modelių saugojimo ir stebėjimo įrankis, turėjo nuotolinio kodo vykdymo pažeidžiamumą kode, naudojamoje nuotolinei duomenų saugyklai panaikinti. Vartotojai gali būti apgaudinėjami naudojant kenkėjiškus nuotolinius duomenų šaltinius, kurie gali vykdyti komandas vartotojo vardu.
- MLflow savavališkas failo perrašymas: trūkumas gali perimti sistemą, atsisakyti teikti paslaugą ir sunaikinti duomenis. Buvo rastas MLflow funkcijos apėjimas, patvirtinantis, kad failo kelias yra saugus, todėl kenkėjiškas vartotojas gali nuotoliniu būdu perrašyti failus MLflow serveryje. Dėl to gali būti vykdomas nuotolinis kodas, atliekant papildomus veiksmus, pvz., perrašant SSH raktus sistemoje arba redaguojant .bashrc failą, kad kito vartotojo prisijungimo metu būtų paleistos savavališkos komandos.
- MLflow vietinis failas apima: dėl trūkumo prarandama neskelbtina informacija ir atsiranda galimybė perimti sistemą. MLflow, kai priegloba yra konkrečiose operacinėse sistemose, gali būti manipuliuojama, kad būtų rodomas jautrių failų turinys, o tai gali būti galimybė perimti sistemą, jei pagrindiniai kredencialai yra saugomi serveryje.
„Protect AI“ sakė vienas iš įkūrėjų Daryanas Dehghanpisheh Metaverse Post, „Skubumas sprendžiant AI/ML sistemos pažeidžiamumą priklauso nuo jų poveikio verslui. Kadangi AI / ML vaidina svarbų vaidmenį šiuolaikiniame versle ir sunkus galimų išnaudojimų pobūdis, daugumai organizacijų tai bus labai aktualu. Pagrindinis iššūkis užtikrinant AI / ML sistemas yra suvokti riziką per visą MLOps gyvavimo ciklą.
„Siekdamos sumažinti šią riziką, įmonės turi atlikti savo AI ir ML sistemų grėsmių modeliavimą, nustatyti poveikio langus ir įdiegti tinkamas kontrolės priemones integruotoje ir išsamioje MLSecOps programoje“, – pridūrė jis.
Savo ataskaitoje „Protect AI“ pabrėžia, kad būtina skubiai spręsti šias problemas pažeidžiamumą greitai ir pateikia rekomendacijų naudotojams, kurių gamybos projektai yra paveikti, sąrašą, pabrėžiant iniciatyvios pozicijos svarbą mažinant galimą riziką. Naudotojai, susiduriantys su iššūkiais mažindami šiuos pažeidžiamumus, raginami susisiekti su Protect AI bendruomene.
Tobulėjant dirbtinio intelekto technologijai, „Protect AI“ siekia apsaugoti sudėtingą AI/ML sistemų tinklą, kad būtų užtikrintas atsakingas ir saugus dirbtinio intelekto privalumų panaudojimas.
Atsakomybės neigimas
Remdamasi tuo, Pasitikėjimo projekto gairės, atkreipkite dėmesį, kad šiame puslapyje pateikta informacija nėra skirta ir neturėtų būti aiškinama kaip teisinė, mokesčių, investicinė, finansinė ar bet kokia kita konsultacija. Svarbu investuoti tik tai, ką galite sau leisti prarasti, ir, jei turite kokių nors abejonių, kreiptis į nepriklausomą finansinę konsultaciją. Norėdami gauti daugiau informacijos, siūlome peržiūrėti taisykles ir nuostatas bei pagalbos ir palaikymo puslapius, kuriuos pateikia išdavėjas arba reklamuotojas. MetaversePost yra įsipareigojusi teikti tikslias, nešališkas ataskaitas, tačiau rinkos sąlygos gali keistis be įspėjimo.
Apie autorių
Kumaras yra patyręs technologijų žurnalistas, kurio specializacija yra dinamiškos AI/ML sankirtos, rinkodaros technologijos ir naujos sritys, tokios kaip kriptovaliutos, blokų grandinės ir NFTs. Turėdamas daugiau nei 3 metų patirtį šioje pramonėje, Kumaras sukūrė įtikinamus pasakojimus, veda įžvalgius interviu ir pateikia išsamias įžvalgas. „Kumar“ patirtis yra susijusi su didelio poveikio turinio kūrimu, įskaitant straipsnius, ataskaitas ir mokslinių tyrimų publikacijas žinomoms pramonės platformoms. Turėdamas unikalų įgūdžių rinkinį, kuriame derinamos techninės žinios ir pasakojimas, Kumaras puikiai perteikia sudėtingas technologines koncepcijas įvairioms auditorijoms aiškiai ir patraukliai.
Daugiau straipsnių
Kumaras yra patyręs technologijų žurnalistas, kurio specializacija yra dinamiškos AI/ML sankirtos, rinkodaros technologijos ir naujos sritys, tokios kaip kriptovaliutos, blokų grandinės ir NFTs. Turėdamas daugiau nei 3 metų patirtį šioje pramonėje, Kumaras sukūrė įtikinamus pasakojimus, veda įžvalgius interviu ir pateikia išsamias įžvalgas. „Kumar“ patirtis yra susijusi su didelio poveikio turinio kūrimu, įskaitant straipsnius, ataskaitas ir mokslinių tyrimų publikacijas žinomoms pramonės platformoms. Turėdamas unikalų įgūdžių rinkinį, kuriame derinamos techninės žinios ir pasakojimas, Kumaras puikiai perteikia sudėtingas technologines koncepcijas įvairioms auditorijoms aiškiai ir patraukliai.
