Aizsargājiet AI ziņo par kritiskām ievainojamībām esošajās AI un ML sistēmās, mudina nodrošināt atvērtā pirmkoda projektus
Īsumā
Pārskatā Protect AI ir identificētas ievainojamības rīkos, kas tiek izmantoti AI/ML piegādes ķēdē, bieži vien atvērtā pirmkoda ietvaros, ar unikāliem drošības apdraudējumiem.
AI/ML piegādes ķēdē izmantotajos rīkos, bieži vien atvērtā koda, ir ievainojamības, kas rada unikālus drošības apdraudējumus, un šīs ievainojamības rada neautentificētas attālinātas koda izpildes un lokālas failu iekļaušanas risku, liecina Protect AI ziņojums. kiberdrošība uzņēmums koncentrējas uz AI un ML sistēmām.
Tas var izraisīt sekas, sākot no serveru pārņemšanas līdz sensitīvas informācijas zādzībai, piebilsts ziņojumā.
Ziņojumā arī uzsvērta nepieciešamība pēc proaktīvas pieejas, lai identificētu un novērstu šīs ievainojamības, lai aizsargātu datus, modeļus un akreditācijas datus.
Protect AI centienu priekšgalā ir huntr, pasaulē pirmā AI/ML kļūdu novēršanas programma, kas iesaista vairāk nekā 13,000 XNUMX dalībnieku kopienu, kas aktīvi meklē ievainojamības. Šīs iniciatīvas mērķis ir sniegt būtisku informāciju par iespējamiem draudiem un veicināt ātru reakciju uz drošām AI sistēmām.
2023. gada augustā uzņēmums paziņoja par huntr — AI/ML kļūdu novēršanas platformas izlaišanu, kas ir vērsta tikai uz AI/ML atvērtā pirmkoda programmatūras (OSS) aizsardzību. pamata modeļiun ML sistēmas. Huntr AI/ML kļūdu atlīdzības platforma tika uzsākta, jo Protect AI iegādājās vietni huntr.dev.
"Ar vairāk nekā 15,000 XNUMX dalībnieku tagad Protect AI mednieks ir lielākais un koncentrētākais draudu pētnieku un hakeru kopums, kas koncentrējas tikai uz AI/ML drošību," Darjans Dehghanpišehs, Protect AI prezidents un līdzdibinātājs.
"Huntra darbības modelis ir vērsts uz vienkāršību, caurspīdīgumu un atlīdzību. Automatizētās funkcijas un Protect AI kompetence draudu kontekstualizēšanā uzturētājiem palīdz visiem AI atvērtā pirmkoda programmatūras atbalstītājiem izveidot drošākas programmatūras pakotnes. Tas galu galā gūst labumu visiem lietotājiem, jo AI sistēmas kļūst drošākas un izturīgākas," piebilda Dehghanpisheh.
Ziņojumā ir norādītas kritiskās ievainojamības
Izceļot mednieku kopienas pēdējā mēneša atklājumus, ziņojumā ir norādītas trīs kritiskas ievainojamības, tostarp MLflow attālā koda izpilde, MLflow patvaļīgā failu pārrakstīšana un MLflow lokālā faila iekļaušana.
- MLflow attālā koda izpilde: defekts izraisa servera pārņemšanu un sensitīvas informācijas zudumu. Modeļu glabāšanas un izsekošanas rīkam MLflow bija attālinātas koda izpildes ievainojamība kodā, ko izmantoja, lai noņemtu attālo datu krātuvi. Lietotājus var maldināt, izmantojot ļaunprātīgus attālos datu avotus, kas varētu izpildīt komandas lietotāja vārdā.
- MLflow patvaļīga faila pārrakstīšana: defekts var izraisīt sistēmas pārņemšanu, pakalpojuma atteikumu un datu iznīcināšanu. Tika atrasts MLflow funkcijas apiešana, kas apstiprina, ka faila ceļš ir drošs, ļaujot ļaunprātīgam lietotājam attālināti pārrakstīt failus MLflow serverī. Tas var novest pie attālinātas koda izpildes ar papildu darbībām, piemēram, pārrakstot sistēmas SSH atslēgas vai rediģējot .bashrc failu, lai nākamajā lietotāja pieteikšanās reizē palaistu patvaļīgas komandas.
- Iekļauts MLflow lokālais fails: kļūdas rezultātā tiek zaudēta sensitīva informācija un iespējama sistēmas pārņemšana. Ja MLflow tiek mitināta noteiktās operētājsistēmās, to var manipulēt, lai parādītu sensitīvu failu saturu, tādējādi radot potenciālu iespēju sistēmas pārņemšanai, ja serverī tiek glabāti būtiski akreditācijas dati.
Paziņoja Protect AI līdzdibinātājs Darjans Dehghanpišehs Metaverse Post, “Steidzamība AI/ML sistēmas ievainojamību novēršanā ir atkarīga no to ietekmes uz uzņēmējdarbību. Ņemot vērā AI/ML kritisko lomu mūsdienu uzņēmējdarbībā un potenciālo izmantošanas veidu smago raksturu, lielākajai daļai organizāciju šī steidzamība būs ļoti svarīga. Galvenais izaicinājums AI/ML sistēmu nodrošināšanā ir izprast riskus visā MLOps dzīves ciklā.
"Lai mazinātu šos riskus, uzņēmumiem ir jāveic draudu modelēšana savām AI un ML sistēmām, jānosaka iedarbības logi un jāievieš piemērotas kontroles integrētā un visaptverošā MLSecOps programmā," viņš piebilda.
Savā ziņojumā Protect AI uzsver, ka šīs problēmas ir jārisina steidzami ievainojamības ātri un sniedz ieteikumu sarakstu lietotājiem ar ietekmētiem projektiem ražošanā, uzsverot proaktīvas nostājas nozīmi iespējamo risku mazināšanā. Lietotāji, kuri saskaras ar izaicinājumiem šo ievainojamību mazināšanā, tiek aicināti sazināties ar Protect AI kopienu.
AI tehnoloģijai attīstoties, Protect AI strādā, lai nodrošinātu sarežģīto AI/ML sistēmu tīklu, lai nodrošinātu atbildīgu un drošu mākslīgā intelekta priekšrocību izmantošanu.
Atbildības noraidīšana
Atbilstīgi Uzticības projekta vadlīnijas, lūdzu, ņemiet vērā, ka šajā lapā sniegtā informācija nav paredzēta un to nedrīkst interpretēt kā juridisku, nodokļu, ieguldījumu, finanšu vai jebkāda cita veida padomu. Ir svarīgi ieguldīt tikai to, ko varat atļauties zaudēt, un meklēt neatkarīgu finanšu padomu, ja jums ir šaubas. Lai iegūtu papildinformāciju, iesakām skatīt pakalpojumu sniegšanas noteikumus, kā arī palīdzības un atbalsta lapas, ko nodrošina izdevējs vai reklāmdevējs. MetaversePost ir apņēmies sniegt precīzus, objektīvus pārskatus, taču tirgus apstākļi var tikt mainīti bez iepriekšēja brīdinājuma.
Par Autors
Kumars ir pieredzējis tehnoloģiju žurnālists ar specializāciju AI/ML dinamiskos krustpunktos, mārketinga tehnoloģijās un tādās jaunās jomās kā kriptovalūta, blokķēde un NFTs. Ar vairāk nekā 3 gadu pieredzi šajā nozarē Kumar ir izveidojis pierādītus sasniegumus pārliecinošu stāstījumu veidošanā, ieskatu interviju vadīšanā un visaptverošu ieskatu sniegšanā. Kumar kompetence slēpjas augstas ietekmes satura, tostarp rakstu, ziņojumu un pētījumu publikāciju veidošanā ievērojamām nozares platformām. Ar unikālu prasmju kopumu, kas apvieno tehniskās zināšanas un stāstu stāstīšanu, Kumars izceļas ar sarežģītu tehnoloģisku koncepciju nodošanu dažādām auditorijām skaidrā un saistošā veidā.
Vairāk rakstus
Kumars ir pieredzējis tehnoloģiju žurnālists ar specializāciju AI/ML dinamiskos krustpunktos, mārketinga tehnoloģijās un tādās jaunās jomās kā kriptovalūta, blokķēde un NFTs. Ar vairāk nekā 3 gadu pieredzi šajā nozarē Kumar ir izveidojis pierādītus sasniegumus pārliecinošu stāstījumu veidošanā, ieskatu interviju vadīšanā un visaptverošu ieskatu sniegšanā. Kumar kompetence slēpjas augstas ietekmes satura, tostarp rakstu, ziņojumu un pētījumu publikāciju veidošanā ievērojamām nozares platformām. Ar unikālu prasmju kopumu, kas apvieno tehniskās zināšanas un stāstu stāstīšanu, Kumars izceļas ar sarežģītu tehnoloģisku koncepciju nodošanu dažādām auditorijām skaidrā un saistošā veidā.
