Заштита АИ пријављује критичне рањивости у постојећим системима вештачке интелигенције и МЛ, подстиче обезбеђивање пројеката отвореног кода
Укратко
Извештај Протецт АИ идентификује рањивости у алатима који се користе у ланцу снабдевања АИ/МЛ, често отвореног кода, са јединственим безбедносним претњама.
Постоје рањивости у алатима који се користе у ланцу снабдевања АИ/МЛ, често отвореног кода, који носе јединствене безбедносне претње и ове рањивости представљају ризик од неауторизованог даљинског извршавања кода и укључивања локалних датотека, према извештају Протецт АИ – а Циберсецурити компанија фокусирана на АИ и МЛ системе.
То може довести до импликација које се крећу од преузимања сервера до крађе осетљивих информација, додаје се у извештају.
Извештај даље наглашава неопходност проактивног приступа у идентификацији и адресирању ових рањивости како би се заштитили подаци, модели и акредитиви.
На челу напора Протецт АИ је хунтр, први светски АИ/МЛ програм за награђивање грешака, који укључује заједницу од преко 13,000 чланова који активно траже рањивости. Ова иницијатива има за циљ да обезбеди кључне обавештајне податке о потенцијалним претњама и омогући брз одговор на безбедне системе вештачке интелигенције.
У августу 2023, компанија је најавила лансирање хунтр – АИ/МЛ платформе за прикупљање грешака која је фокусирана искључиво на заштиту АИ/МЛ софтвера отвореног кода (ОСС), темељни моделии МЛ Системс. Лансирање хунтр АИ/МЛ платформе за награђивање грешака долази као резултат куповине хунтр.дев од стране Протецт АИ.
„Са преко 15,000 чланова, Протецт АИ лов је највећи и најконцентрисанији скуп истраживача претњи и хакера који су фокусирани искључиво на АИ/МЛ безбедност“, Дариан Дехгханписхех, председник и суоснивач Протецт АИ.
„Хунтров оперативни модел је фокусиран на једноставност, транспарентност и награде. Аутоматизоване функције и стручност Протецт АИ тријаже у контекстуализацији претњи за одржаваоце помажу свим сарадницима софтвера отвореног кода у АИ да изграде безбедније софтверске пакете. Ово на крају користи свим корисницима, јер системи вештачке интелигенције постају сигурнији и отпорнији“, додао је Дехгханписхех.
Извештај идентификује критичне рањивости
Наглашавајући налазе хунтр заједнице у протеклом месецу, извештај идентификује три критичне рањивости које укључују МЛфлов Ремоте Цоде Екецутион, МЛфлов Арбитрари Филе Оверврите и МЛфлов Лоцал Филе Инцлуде.
- МЛфлов Ремоте Цоде Екецутион: Грешка доводи до преузимања сервера и губитка осетљивих информација. МЛфлов, алатка за складиштење и праћење модела, имала је рањивост у даљинском извршавању кода у коду који се користи за повлачење удаљеног складиштења података. Корисници би могли бити преварени да користе злонамерне удаљене изворе података који би могли да извршавају команде у име корисника.
- МЛфлов Арбитрари Филе Оверврите: Грешка има потенцијал за преузимање система, ускраћивање услуге и уништавање података. Пронађена је заобилажење у МЛфлов функцији која потврђује да је путања датотеке сигурна, што омогућава злонамерном кориснику да даљински препише датотеке на МЛфлов серверу. Ово може довести до даљинског извршавања кода са додатним корацима као што је преписивање ССХ кључева на систему или уређивање .басхрц датотеке за покретање произвољних команди приликом следећег пријављивања корисника
- Локална датотека МЛфлов укључује: Грешка доводи до губитка осетљивих информација и потенцијала за преузимање система. МЛфлов, када се хостује на одређеним оперативним системима, може се манипулисати да би се приказао садржај осетљивих датотека, што представља потенцијални пут за преузимање система ако су битни акредитиви ускладиштени на серверу.
рекао је суоснивач Протецт АИ Дариан Дехгханписхех Metaverse Post, „Хитност у решавању рањивости АИ/МЛ система зависи од њиховог утицаја на пословање. Са критичном улогом АИ/МЛ у савременом пословању и озбиљном природом потенцијалних експлоатација, већини организација ће ова хитност бити висока. Примарни изазов у обезбеђивању АИ/МЛ система лежи у разумевању ризика током животног циклуса МЛОпс-а.”
„Да би ублажиле ове ризике, компаније морају да спроведу моделирање претњи за своје АИ и МЛ системе, идентификују прозоре изложености и имплементирају одговарајуће контроле у оквиру интегрисаног и свеобухватног МЛСецОпс програма“, додао је он.
У свом извештају, Протецт АИ наглашава хитност решавања ових проблема рањивости благовремено и даје листу препорука за кориснике са погођеним пројектима у производњи, наглашавајући важност проактивног става у ублажавању потенцијалних ризика. Корисници који се суочавају са изазовима у ублажавању ових рањивости подстичу се да се обрате заједници Протецт АИ.
Како технологија вештачке интелигенције напредује, Протецт АИ ради на обезбеђивању сложене мреже АИ/МЛ система како би се обезбедило одговорно и безбедно коришћење предности вештачке интелигенције.
Одрицање од одговорности
У складу са Смернице пројекта Труст, имајте на уму да информације дате на овој страници нису намењене и не треба да се тумаче као правни, порески, инвестициони, финансијски или било који други облик савета. Важно је да инвестирате само оно што можете приуштити да изгубите и да тражите независан финансијски савет ако сумњате. За додатне информације, предлажемо да погледате одредбе и услове, као и странице помоћи и подршке које пружа издавач или оглашивач. MetaversePost је посвећен тачном, непристрасном извештавању, али тржишни услови су подложни променама без претходне најаве.
О аутору
Кумар је искусан технички новинар са специјализацијом у динамичким пресецима АИ/МЛ, маркетиншке технологије и нових поља као што су крипто, блокчејн и NFTс. Са више од 3 године искуства у индустрији, Кумар је успоставио доказане резултате у креирању убедљивих наратива, вођењу проницљивих интервјуа и пружању свеобухватних увида. Кумарова експертиза лежи у производњи садржаја високог утицаја, укључујући чланке, извештаје и истраживачке публикације за истакнуте индустријске платформе. Са јединственим скупом вештина који комбинује техничко знање и приповедање, Кумар се истиче у комуникацији сложених технолошких концепата различитој публици на јасан и привлачан начин.
više чланака
Кумар је искусан технички новинар са специјализацијом у динамичким пресецима АИ/МЛ, маркетиншке технологије и нових поља као што су крипто, блокчејн и NFTс. Са више од 3 године искуства у индустрији, Кумар је успоставио доказане резултате у креирању убедљивих наратива, вођењу проницљивих интервјуа и пружању свеобухватних увида. Кумарова експертиза лежи у производњи садржаја високог утицаја, укључујући чланке, извештаје и истраживачке публикације за истакнуте индустријске платформе. Са јединственим скупом вештина који комбинује техничко знање и приповедање, Кумар се истиче у комуникацији сложених технолошких концепата различитој публици на јасан и привлачан начин.
