Protect AI zgłasza krytyczne luki w istniejących systemach AI i ML i wzywa do zabezpieczenia projektów typu open source
W skrócie
Raport Protect AI identyfikuje luki w narzędziach używanych w łańcuchu dostaw AI/ML, często typu Open Source, z unikalnymi zagrożeniami bezpieczeństwa.
Jak wynika z raportu Protect AI – narzędzia używane w łańcuchu dostaw AI/ML, często typu open source, zawierają luki w zabezpieczeniach, które niosą ze sobą wyjątkowe zagrożenia bezpieczeństwa. bezpieczeństwo cybernetyczne firma skupiająca się na systemach AI i ML.
Jak dodał raport, może to skutkować konsekwencjami, od przejęcia serwerów po kradzież poufnych informacji.
W raporcie dodatkowo podkreślono konieczność proaktywnego podejścia do identyfikowania i eliminowania tych luk w celu ochrony danych, modeli i danych uwierzytelniających.
Na czele wysiłków Protect AI stoi Hunter, pierwszy na świecie program nagród za błędy AI/ML, angażujący społeczność liczącą ponad 13,000 XNUMX członków aktywnie poszukujących luk w zabezpieczeniach. Inicjatywa ta ma na celu dostarczenie kluczowych informacji na temat potencjalnych zagrożeń i ułatwienie szybkiej reakcji na bezpieczne systemy sztucznej inteligencji.
W sierpniu 2023 roku firma ogłosiła uruchomienie programu Hunter – platformy do nagradzania błędów AI/ML skupiającej się wyłącznie na ochronie oprogramowania typu open source (OSS) AI/ML, modele podstawowei ML Systems. Uruchomienie platformy bug bounty Hunter AI/ML jest wynikiem przejęcia firmy Hunter.dev przez Protect AI.
„Liczący obecnie ponad 15,000 XNUMX członków łowca Protect AI to największa i najbardziej skoncentrowana grupa badaczy zagrożeń i hakerów skupiona wyłącznie na bezpieczeństwie AI/ML” – Daryan Dehghanpisheh, prezes i współzałożyciel Protect AI.
„Model operacyjny Huntr koncentruje się na prostocie, przejrzystości i nagrodach. Zautomatyzowane funkcje i wiedza specjalistyczna Protect AI w zakresie selekcji zagrożeń dla opiekunów pomagają wszystkim twórcom oprogramowania typu open source w sztucznej inteligencji w tworzeniu bezpieczniejszych pakietów oprogramowania. Ostatecznie przynosi to korzyści wszystkim użytkownikom, ponieważ systemy sztucznej inteligencji stają się bezpieczniejsze i bardziej odporne” – dodał Dehghanpisheh.
Raport identyfikuje krytyczne luki
W raporcie, podkreślającym ustalenia społeczności Hunterów z ostatniego miesiąca, wskazano trzy krytyczne luki, do których zaliczają się zdalne wykonanie kodu MLflow, nadpisanie arbitralnego pliku MLflow i dołączenie pliku lokalnego MLflow.
- Zdalne wykonanie kodu MLflow: Luka powoduje przejęcie serwera i utratę poufnych informacji. MLflow, narzędzie do przechowywania i śledzenia modeli, miało lukę w zabezpieczeniach umożliwiającą zdalne wykonanie kodu w kodzie używanym do wyłączania zdalnego przechowywania danych. Użytkownicy mogą zostać oszukani i skorzystać ze złośliwych zdalnych źródeł danych, które mogą wykonywać polecenia w imieniu użytkownika.
- Arbitralne nadpisanie pliku MLflow: luka może spowodować przejęcie systemu, odmowę usługi i zniszczenie danych. Znaleziono obejście funkcji MLflow, która sprawdza, czy ścieżka do pliku jest bezpieczna, umożliwiając złośliwemu użytkownikowi zdalne nadpisanie plików na serwerze MLflow. Może to prowadzić do zdalnego wykonania kodu z dodatkowymi krokami, takimi jak nadpisanie kluczy SSH w systemie lub edycja pliku .bashrc w celu uruchomienia dowolnych poleceń przy następnym logowaniu użytkownika
- MLflow Local File Include: Luka powoduje utratę poufnych informacji i możliwość przejęcia systemu. MLflow, jeśli jest hostowany w określonych systemach operacyjnych, można manipulować w celu wyświetlenia zawartości poufnych plików, co stwarza potencjalną możliwość przejęcia systemu, jeśli na serwerze przechowywane są niezbędne dane uwierzytelniające.
– powiedział współzałożyciel Protect AI, Daryan Dehghanpisheh Metaverse Post„Pilna potrzeba usunięcia luk w zabezpieczeniach systemów AI/ML zależy od ich wpływu na działalność biznesową. Biorąc pod uwagę kluczową rolę AI/ML we współczesnym biznesie i poważny charakter potencjalnych exploitów, większość organizacji uzna to za pilne. Głównym wyzwaniem w zabezpieczaniu systemów AI/ML jest zrozumienie ryzyka w całym cyklu życia MLOps.”
„Aby ograniczyć to ryzyko, firmy muszą przeprowadzić modelowanie zagrożeń dla swoich systemów AI i ML, zidentyfikować okna narażenia i wdrożyć odpowiednie mechanizmy kontrolne w ramach zintegrowanego i kompleksowego programu MLSecOps” – dodał.
W swoim raporcie Protect AI podkreśla pilną potrzebę rozwiązania tych problemów luki niezwłocznie i przedstawia listę zaleceń dla użytkowników, których projekty są w fazie produkcyjnej, których dotyczy problem, podkreślając znaczenie proaktywnej postawy w ograniczaniu potencjalnego ryzyka. Zachęcamy użytkowników stojących przed wyzwaniami związanymi z łagodzeniem tych luk w zabezpieczeniach do skontaktowania się ze społecznością Protect AI.
W miarę postępu technologii sztucznej inteligencji Protect AI pracuje nad zabezpieczeniem skomplikowanej sieci systemów AI/ML, aby zapewnić odpowiedzialne i bezpieczne wykorzystanie zalet sztucznej inteligencji.
Odpowiedzialność
Zgodnie z Zaufaj wytycznym projektu, należy pamiętać, że informacje zawarte na tej stronie nie mają na celu i nie powinny być interpretowane jako porady prawne, podatkowe, inwestycyjne, finansowe lub jakiekolwiek inne formy porad. Ważne jest, aby inwestować tylko tyle, na utratę czego możesz sobie pozwolić, a w przypadku jakichkolwiek wątpliwości zasięgnąć niezależnej porady finansowej. Aby uzyskać więcej informacji, sugerujemy zapoznać się z warunkami oraz stronami pomocy i wsparcia udostępnianymi przez wydawcę lub reklamodawcę. MetaversePost zobowiązuje się do sporządzania dokładnych i bezstronnych raportów, jednakże warunki rynkowe mogą ulec zmianie bez powiadomienia.
O autorze
Kumar jest doświadczonym dziennikarzem technicznym ze specjalizacją w dynamicznych skrzyżowaniach AI/ML, technologii marketingowej i nowych dziedzin, takich jak kryptowaluty, blockchain i NFTS. Dzięki ponad 3-letniemu doświadczeniu w branży Kumar zdobył udokumentowane doświadczenie w tworzeniu fascynujących narracji, przeprowadzaniu wnikliwych wywiadów i dostarczaniu kompleksowych spostrzeżeń. Doświadczenie Kumara polega na tworzeniu treści o dużym wpływie, w tym artykułów, raportów i publikacji badawczych dla czołowych platform branżowych. Dzięki unikalnemu zestawowi umiejętności, który łączy wiedzę techniczną i opowiadanie historii, Kumar przoduje w przekazywaniu złożonych koncepcji technologicznych różnym odbiorcom w jasny i wciągający sposób.
Więcej artykułów
Kumar jest doświadczonym dziennikarzem technicznym ze specjalizacją w dynamicznych skrzyżowaniach AI/ML, technologii marketingowej i nowych dziedzin, takich jak kryptowaluty, blockchain i NFTS. Dzięki ponad 3-letniemu doświadczeniu w branży Kumar zdobył udokumentowane doświadczenie w tworzeniu fascynujących narracji, przeprowadzaniu wnikliwych wywiadów i dostarczaniu kompleksowych spostrzeżeń. Doświadczenie Kumara polega na tworzeniu treści o dużym wpływie, w tym artykułów, raportów i publikacji badawczych dla czołowych platform branżowych. Dzięki unikalnemu zestawowi umiejętności, który łączy wiedzę techniczną i opowiadanie historii, Kumar przoduje w przekazywaniu złożonych koncepcji technologicznych różnym odbiorcom w jasny i wciągający sposób.
