Protect AI poroča o kritičnih ranljivostih v obstoječih sistemih AI in ML, poziva k zaščiti odprtokodnih projektov
Na kratko
Poročilo Protect AI identificira ranljivosti v orodjih, ki se uporabljajo v dobavni verigi AI/ML, pogosto odprtokodnih, z edinstvenimi varnostnimi grožnjami.
Obstajajo ranljivosti v orodjih, ki se uporabljajo v dobavni verigi umetne inteligence/ML, pogosto odprtokodna, ki nosijo edinstvene varnostne grožnje in te ranljivosti predstavljajo tveganje nepreverjenega oddaljenega izvajanja kode in vključitve lokalnih datotek, v skladu s poročilom Protect AI – a kibernetske varnosti podjetje, osredotočeno na sisteme AI in ML.
Poročilo dodaja, da lahko povzroči posledice, ki segajo od prevzemov strežnikov do kraje občutljivih informacij.
Poročilo nadalje poudarja potrebo po proaktivnem pristopu pri prepoznavanju in odpravljanju teh ranljivosti za zaščito podatkov, modelov in poverilnic.
V ospredju prizadevanj Protect AI je huntr, prvi program nagrajevanja hroščev AI/ML na svetu, ki vključuje skupnost več kot 13,000 članov, ki aktivno iščejo ranljivosti. Namen te pobude je zagotoviti ključne obveščevalne podatke o potencialnih grožnjah in olajšati hiter odziv za varne sisteme umetne inteligence.
Avgusta 2023 je podjetje napovedalo uvedbo huntr – platforme za nagrajevanje hroščev AI/ML, osredotočene izključno na zaščito odprtokodne programske opreme AI/ML (OSS), temeljni modeliin ML Systems. Uvedba platforme huntr AI/ML za nagrajevanje hroščev je posledica nakupa huntr.dev s strani Protect AI.
»Z več kot 15,000 člani je Huntr Protect AI največja in najbolj koncentrirana skupina raziskovalcev groženj in hekerjev, osredotočenih izključno na varnost AI/ML,« Daryan Dehghanpisheh, predsednik in soustanovitelj Protect AI.
»Huntrov operativni model je osredotočen na preprostost, preglednost in nagrade. Avtomatizirane funkcije in triažno strokovno znanje Protect AI pri kontekstualizaciji groženj za vzdrževalce pomagajo vsem sodelujočim pri odprtokodni programski opremi v AI pri izdelavi varnejših programskih paketov. To na koncu koristi vsem uporabnikom, saj postanejo sistemi AI bolj varni in odporni,« je dodal Dehghanpisheh.
Poročilo identificira kritične ranljivosti
Ob poudarjanju ugotovitev skupnosti huntr v preteklem mesecu poročilo identificira tri kritične ranljivosti, ki vključujejo oddaljeno izvajanje kode MLflow, prepis poljubne datoteke MLflow in vključitev lokalne datoteke MLflow.
- MLflow Remote Code Execution: Napaka povzroči prevzem strežnika in izgubo občutljivih informacij. MLflow, orodje za shranjevanje in sledenje modelov, je imelo ranljivost pri oddaljenem izvajanju kode v kodi, ki se uporablja za odstranjevanje oddaljenega shranjevanja podatkov. Uporabnike bi lahko preslepili, da bi uporabili zlonamerne oddaljene vire podatkov, ki bi lahko izvajali ukaze v imenu uporabnika.
- MLflow Arbitrary File Overwrite: Napaka lahko povzroči prevzem sistema, zavrnitev storitve in uničenje podatkov. Najden je bil obvod v funkciji MLflow, ki preverja, ali je pot datoteke varna, kar zlonamernemu uporabniku omogoča oddaljeno prepisovanje datotek na strežniku MLflow. To lahko privede do oddaljenega izvajanja kode z dodatnimi koraki, kot je prepisovanje ključev SSH v sistemu ali urejanje datoteke .bashrc za izvajanje poljubnih ukazov ob naslednji prijavi uporabnika
- MLflow Local File Include: Napaka povzroči izgubo občutljivih informacij in možnost prevzema sistema. MLflow, ko gostuje v posebnih operacijskih sistemih, je mogoče manipulirati tako, da prikaže vsebino občutljivih datotek, kar predstavlja potencialno pot za prevzem sistema, če so bistvene poverilnice shranjene na strežniku.
Soustanovitelj Protect AI Daryan Dehghanpisheh je povedal Metaverse Post, »Nujnost obravnave ranljivosti sistemov AI/ML je odvisna od njihovega vpliva na poslovanje. Glede na ključno vlogo AI/ML v sodobnem poslovanju in resno naravo potencialnih izkoriščanj bo večina organizacij ugotovila, da je to nujnost velika. Glavni izziv pri varovanju sistemov AI/ML je v razumevanju tveganj v celotnem življenjskem ciklu MLOps.«
»Za ublažitev teh tveganj morajo podjetja izvajati modeliranje groženj za svoje sisteme AI in ML, identificirati okna izpostavljenosti in izvajati ustrezne kontrole znotraj integriranega in celovitega programa MLSecOps,« je dodal.
Protect AI v svojem poročilu poudarja nujnost obravnave teh ranljivosti nemudoma in ponuja seznam priporočil za uporabnike s prizadetimi projekti v proizvodnji, pri čemer poudarja pomen proaktivne drže pri zmanjševanju morebitnih tveganj. Uporabnike, ki se soočajo z izzivi pri ublažitvi teh ranljivosti, spodbujamo, da se obrnejo na skupnost Protect AI.
Ko tehnologija umetne inteligence napreduje, si Protect AI prizadeva za zaščito zapletenega spleta sistemov umetne inteligence/ML, da bi zagotovil odgovorno in varno izkoriščanje prednosti umetne inteligence.
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Kumar je izkušen tehnični novinar, specializiran za dinamična presečišča AI/ML, marketinške tehnologije in nastajajočih področij, kot so kripto, blockchain in NFTs. Z več kot 3 leti izkušenj v panogi je Kumar pridobil dokazane rezultate pri oblikovanju privlačnih pripovedi, vodenju pronicljivih intervjujev in zagotavljanju celovitih vpogledov. Kumarjevo strokovno znanje je v izdelavi odmevnih vsebin, vključno s članki, poročili in raziskovalnimi publikacijami za pomembne industrijske platforme. Z edinstvenim naborom spretnosti, ki združuje tehnično znanje in pripovedovanje zgodb, se Kumar odlikuje pri sporočanju zapletenih tehnoloških konceptov različnim občinstvom na jasen in privlačen način.
več člankov
Kumar je izkušen tehnični novinar, specializiran za dinamična presečišča AI/ML, marketinške tehnologije in nastajajočih področij, kot so kripto, blockchain in NFTs. Z več kot 3 leti izkušenj v panogi je Kumar pridobil dokazane rezultate pri oblikovanju privlačnih pripovedi, vodenju pronicljivih intervjujev in zagotavljanju celovitih vpogledov. Kumarjevo strokovno znanje je v izdelavi odmevnih vsebin, vključno s članki, poročili in raziskovalnimi publikacijami za pomembne industrijske platforme. Z edinstvenim naborom spretnosti, ki združuje tehnično znanje in pripovedovanje zgodb, se Kumar odlikuje pri sporočanju zapletenih tehnoloških konceptov različnim občinstvom na jasen in privlačen način.
