A mesterséges intelligencia védelme a meglévő mesterséges intelligencia- és ML-rendszerek kritikus sebezhetőségeit jelenti, és a nyílt forráskódú projektek biztosítását sürgeti
Röviden
A Protect AI jelentés azonosítja az AI/ML ellátási láncon belül használt eszközök sérülékenységeit, amelyek gyakran nyílt forráskódúak, egyedi biztonsági fenyegetésekkel.
A Protect AI jelentése szerint a mesterséges intelligencia/ML ellátási láncon belül használt, gyakran nyílt forráskódú eszközökben sérülékenységek találhatók, amelyek egyedi biztonsági fenyegetéseket hordoznak, és ezek a sérülékenységek a hitelesítés nélküli távoli kódfuttatás és a helyi fájlbefoglalás kockázatát rejtik magukban. kiberbiztonság AI és ML rendszerekre összpontosító vállalat.
Ennek következményei a szerverek átvételétől az érzékeny információk ellopásáig terjedhetnek – tette hozzá a jelentés.
A jelentés továbbá hangsúlyozza, hogy az adatok, modellek és hitelesítő adatok védelme érdekében proaktív megközelítésre van szükség e sebezhetőségek azonosítása és kezelése során.
A Protect AI erőfeszítéseinek élén a huntr áll, a világ első AI/ML hibajavító programja, amely több mint 13,000 XNUMX tagból álló közösséget von be, akik aktívan vadásznak a sebezhetőségekre. Ennek a kezdeményezésnek az a célja, hogy kulcsfontosságú intelligenciát biztosítson a lehetséges fenyegetésekről, és elősegítse a biztonságos AI-rendszerekre adott gyors reagálást.
2023 augusztusában a vállalat bejelentette a huntr – egy AI/ML bug bounty platform bevezetését, amely kizárólag az AI/ML nyílt forráskódú szoftverek (OSS) védelmére összpontosít. alapozó modellekés ML Systems. A huntr AI/ML bug bounty platform elindítása annak eredménye, hogy a Protect AI felvásárolta a huntr.dev webhelyet.
„Most több mint 15,000 XNUMX tagjával a Protect AI vadásza a fenyegetéskutatók és hackerek legnagyobb és legkoncentráltabb csoportja, akik kizárólag az AI/ML biztonságra összpontosítanak” – mondta Daryan Dehghanpisheh, a Protect AI elnöke és társalapítója.
„A Huntr működési modellje az egyszerűségre, az átláthatóságra és a jutalmakra összpontosít. Az automatizált funkciók és a Protect AI szakértelme a fenyegetések kontextusba helyezésében a karbantartók számára segíti a nyílt forráskódú szoftverek minden közreműködőjét az AI-ban biztonságosabb szoftvercsomagok létrehozásában. Ez végső soron minden felhasználó számára előnyös, mivel az AI-rendszerek biztonságosabbá és ellenállóbbá válnak” – tette hozzá Dehghanpisheh.
A jelentés a kritikus sérülékenységeket azonosítja
A vadászközösség elmúlt hónapbeli megállapításait kiemelve a jelentés három kritikus biztonsági rést azonosít, köztük az MLflow távoli kódvégrehajtást, az MLflow tetszőleges fájlfelülírást és az MLflow helyi fájlbefoglalást.
- MLflow távoli kódvégrehajtás: A hiba a szerver átvételét és az érzékeny információk elvesztését eredményezi. Az MLflow, a modellek tárolására és nyomon követésére szolgáló eszköz távoli kódfuttatási biztonsági rést tartalmazott a távoli adattárolás lebontására használt kódban. A felhasználókat becsaphatják rosszindulatú távoli adatforrások használatába, amelyek parancsokat hajthatnak végre a felhasználó nevében.
- MLflow tetszőleges fájlfelülírás: A hiba rendszerátvételt, szolgáltatásmegtagadást és adatok megsemmisülését okozhatja. A rendszer egy megkerülést talált egy MLflow függvényben, amely ellenőrzi, hogy a fájl elérési útja biztonságos-e, és lehetővé teszi egy rosszindulatú felhasználó számára, hogy távolról felülírja a fájlokat az MLflow szerveren. Ez távoli kódfuttatáshoz vezethet további lépésekkel, például az SSH-kulcsok felülírásával a rendszeren vagy a .bashrc fájl szerkesztésével, hogy tetszőleges parancsok futhassanak a következő felhasználói bejelentkezéskor.
- MLflow helyi fájl tartalmazza: A hiba érzékeny információk elvesztését és rendszerátvétel lehetőségét eredményezi. Az MLflow, ha adott operációs rendszereken van tárolva, manipulálható az érzékeny fájlok tartalmának megjelenítésére, ami potenciális lehetőséget jelent a rendszer átvételére, ha a kiszolgálón tárolják az alapvető hitelesítő adatokat.
A Protect AI társalapítója, Daryan Dehghanpisheh mondta Metaverse Post, „Az AI/ML rendszer sebezhetőségeinek kezelésének sürgőssége azok üzleti hatásától függ. Az AI/ML kritikus szerepe a kortárs üzleti életben és a potenciális kizsákmányolások súlyos természete miatt a legtöbb szervezet ezt a sürgősséget magasnak tartja. Az AI/ML rendszerek biztonságának elsődleges kihívása a kockázatok megértése az MLOps életciklusa során.”
„E kockázatok mérséklése érdekében a vállalatoknak fenyegetésmodellezést kell végezniük AI és ML rendszereiken, azonosítaniuk kell a kitettségi ablakokat, és megfelelő ellenőrzéseket kell végrehajtaniuk egy integrált és átfogó MLSecOps programon belül” – tette hozzá.
A Protect AI jelentésében hangsúlyozza, hogy sürgősen kezelni kell ezeket réseket gyorsan, és ajánlások listáját kínálja azoknak a felhasználóknak, akiknek az érintett projektjei termelésben vannak, kiemelve a proaktív hozzáállás fontosságát a potenciális kockázatok csökkentésében. Azokat a felhasználókat, akiknek kihívásokkal kell szembenézniük e sebezhetőségek mérséklésével kapcsolatban, kérjük, forduljanak a Protect AI közösségéhez.
A mesterséges intelligencia technológia fejlődésével a Protect AI azon dolgozik, hogy biztonságossá tegye az AI/ML rendszerek bonyolult hálóját, hogy biztosítsa a mesterséges intelligencia előnyeinek felelősségteljes és biztonságos kiaknázását.
A felelősség megtagadása
Összhangban a A Trust Project irányelvei, kérjük, vegye figyelembe, hogy az ezen az oldalon közölt információk nem minősülnek jogi, adózási, befektetési, pénzügyi vagy bármilyen más formájú tanácsnak, és nem is értelmezhetők. Fontos, hogy csak annyit fektessen be, amennyit megengedhet magának, hogy elveszítsen, és kérjen független pénzügyi tanácsot, ha kétségei vannak. További információkért javasoljuk, hogy tekintse meg a szerződési feltételeket, valamint a kibocsátó vagy hirdető által biztosított súgó- és támogatási oldalakat. MetaversePost elkötelezett a pontos, elfogulatlan jelentéstétel mellett, de a piaci feltételek előzetes értesítés nélkül változhatnak.
A szerzőről
Kumar tapasztalt műszaki újságíró, aki az AI/ML dinamikus metszéspontjaira, a marketingtechnológiára és az olyan feltörekvő területekre szakosodott, mint a kriptográfia, blokklánc és NFTs. Az iparágban szerzett több mint 3 éves tapasztalatával Kumar bevált eredményeket hozott fel lenyűgöző narratívák készítése, éleslátó interjúk készítése és átfogó betekintések nyújtása terén. A Kumar szakértelme abban rejlik, hogy nagy hatású tartalmakat készít, ideértve cikkeket, jelentéseket és kutatási publikációkat prominens iparági platformok számára. A technikai tudást és a történetmesélést ötvöző egyedülálló készségkészletével Kumar kiválóan kommunikál összetett technológiai koncepciókkal a különböző közönségekkel, világos és vonzó módon.
További cikkek
Kumar tapasztalt műszaki újságíró, aki az AI/ML dinamikus metszéspontjaira, a marketingtechnológiára és az olyan feltörekvő területekre szakosodott, mint a kriptográfia, blokklánc és NFTs. Az iparágban szerzett több mint 3 éves tapasztalatával Kumar bevált eredményeket hozott fel lenyűgöző narratívák készítése, éleslátó interjúk készítése és átfogó betekintések nyújtása terén. A Kumar szakértelme abban rejlik, hogy nagy hatású tartalmakat készít, ideértve cikkeket, jelentéseket és kutatási publikációkat prominens iparági platformok számára. A technikai tudást és a történetmesélést ötvöző egyedülálló készségkészletével Kumar kiválóan kommunikál összetett technológiai koncepciókkal a különböző közönségekkel, világos és vonzó módon.
