Protect AI prijavljuje kritične ranjivosti u postojećim AI i ML sustavima, poziva na osiguranje projekata otvorenog koda
Ukratko
Izvješće Protect AI identificira ranjivosti u alatima koji se koriste unutar lanca nabave AI/ML, često otvorenog koda, s jedinstvenim sigurnosnim prijetnjama.
Postoje ranjivosti u alatima koji se koriste unutar AI/ML opskrbnog lanca, često otvorenog koda, koji nose jedinstvene sigurnosne prijetnje i te ranjivosti predstavljaju rizik od neautentificiranog daljinskog izvršavanja koda i uključivanja lokalnih datoteka, prema izvješću Protect AI – a Cybersecurity tvrtka usmjerena na AI i ML sustave.
To može rezultirati implikacijama u rasponu od preuzimanja poslužitelja do krađe osjetljivih informacija, dodaje se u izvješću.
Izvješće dalje naglašava potrebu za proaktivnim pristupom u identificiranju i rješavanju ovih ranjivosti kako bi se zaštitili podaci, modeli i vjerodajnice.
Na čelu Protect AI-jevih napora je huntr, prvi svjetski AI/ML bug bounty program, koji uključuje zajednicu od preko 13,000 članova koji aktivno traže ranjivosti. Ova inicijativa ima za cilj pružiti ključne obavještajne podatke o potencijalnim prijetnjama i olakšati brz odgovor na sigurne AI sustave.
U kolovozu 2023. tvrtka je najavila pokretanje huntr-a – AI/ML platforme za dodjelu grešaka usmjerene isključivo na zaštitu AI/ML softvera otvorenog koda (OSS), temeljni modelii ML sustavi. Lansiranje huntr AI/ML platforme za dodjelu grešaka dolazi kao rezultat akvizicije huntr.dev od strane Protect AI-a.
“S više od 15,000 članova sada, Protect AI's huntr je najveći i najkoncentriraniji skup istraživača prijetnji i hakera koji su usredotočeni isključivo na AI/ML sigurnost,” Daryan Dehghanpisheh, predsjednik i suosnivač Protect AI-ja.
„Huntrov operativni model usmjeren je na jednostavnost, transparentnost i nagrade. Automatizirane značajke i stručnost trijaže Protect AI-a u kontekstualiziranju prijetnji za održavatelje pomažu svim suradnicima softvera otvorenog koda u AI-ju da izgrade sigurnije softverske pakete. To u konačnici koristi svim korisnicima jer sustavi umjetne inteligencije postaju sigurniji i otporniji,” dodao je Dehghanpisheh.
Izvješće identificira kritične ranjivosti
Ističući nalaze zajednice huntr u proteklom mjesecu, izvješće identificira tri kritične ranjivosti koje uključuju MLflow Remote Code Execution, MLflow Arbitrary File Overwrite i MLflow Local File Include.
- MLflow Remote Code Execution: Nedostatak rezultira preuzimanjem poslužitelja i gubitkom osjetljivih informacija. MLflow, alat za pohranu i praćenje modela, imao je ranjivost daljinskog izvođenja koda u kodu koji se koristio za rušenje udaljene pohrane podataka. Korisnici bi mogli biti prevareni da koriste zlonamjerne udaljene izvore podataka koji bi mogli izvršavati naredbe u ime korisnika.
- MLflow Arbitrary File Overwrite: Greška ima potencijal za preuzimanje sustava, uskraćivanje usluge i uništavanje podataka. Pronađena je premosnica u funkciji MLflow koja potvrđuje da je put datoteke siguran, što zlonamjernom korisniku omogućuje daljinsko brisanje datoteka na poslužitelju MLflow. To može dovesti do daljinskog izvršavanja koda s dodatnim koracima kao što je prepisivanje SSH ključeva na sustavu ili uređivanje datoteke .bashrc za izvođenje proizvoljnih naredbi nakon sljedeće prijave korisnika
- MLflow Local File Include: Nedostatak rezultira gubitkom osjetljivih informacija i potencijalom preuzimanja sustava. MLflow, kada se nalazi na određenim operativnim sustavima, može se manipulirati za prikaz sadržaja osjetljivih datoteka, što predstavlja potencijalni put za preuzimanje sustava ako su bitne vjerodajnice pohranjene na poslužitelju.
Rekao je Daryan Dehghanpisheh, suosnivač Protect AI-ja Metaverse Post, “Hirtnost rješavanja ranjivosti AI/ML sustava ovisi o njihovom utjecaju na poslovanje. S ključnom ulogom AI/ML-a u suvremenom poslovanju i ozbiljnom prirodom potencijalnih iskorištavanja, većina će organizacija ovu hitnost smatrati visokom. Primarni izazov u osiguravanju AI/ML sustava leži u razumijevanju rizika kroz životni ciklus MLOps-a.”
"Kako bi ublažile te rizike, tvrtke moraju provoditi modeliranje prijetnji za svoje AI i ML sustave, identificirati prozore izloženosti i implementirati odgovarajuće kontrole unutar integriranog i sveobuhvatnog programa MLSecOps", dodao je.
U svom izvješću Protect AI naglašava hitnost rješavanja ovih problema ranjivosti promptno i daje popis preporuka za korisnike s pogođenim projektima u produkciji, naglašavajući važnost proaktivnog stava u ublažavanju potencijalnih rizika. Korisnici koji se suočavaju s izazovima u ublažavanju ovih ranjivosti potiču se da se obrate zajednici Protect AI.
Kako AI tehnologija napreduje, Protect AI radi na osiguranju zamršene mreže AI/ML sustava kako bi se osiguralo odgovorno i sigurno iskorištavanje prednosti umjetne inteligencije.
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Kumar je iskusan tehnološki novinar sa specijalizacijom u dinamičkim raskrižjima AI/ML-a, marketinške tehnologije i novih područja kao što su kripto, blockchain i NFTs. S više od 3 godine iskustva u industriji, Kumar ima dokazanu reputaciju u izradi uvjerljivih priča, provođenju pronicljivih intervjua i pružanju sveobuhvatnih uvida. Kumarova stručnost leži u izradi sadržaja visokog utjecaja, uključujući članke, izvješća i istraživačke publikacije za istaknute industrijske platforme. S jedinstvenim skupom vještina koje kombiniraju tehničko znanje i pripovijedanje, Kumar se ističe u komuniciranju složenih tehnoloških koncepata različitoj publici na jasan i privlačan način.
Više članaka
Kumar je iskusan tehnološki novinar sa specijalizacijom u dinamičkim raskrižjima AI/ML-a, marketinške tehnologije i novih područja kao što su kripto, blockchain i NFTs. S više od 3 godine iskustva u industriji, Kumar ima dokazanu reputaciju u izradi uvjerljivih priča, provođenju pronicljivih intervjua i pružanju sveobuhvatnih uvida. Kumarova stručnost leži u izradi sadržaja visokog utjecaja, uključujući članke, izvješća i istraživačke publikacije za istaknute industrijske platforme. S jedinstvenim skupom vještina koje kombiniraju tehničko znanje i pripovijedanje, Kumar se ističe u komuniciranju složenih tehnoloških koncepata različitoj publici na jasan i privlačan način.
