Nowy raport firmy Anthropic dotyczący analizy zagrożeń ujawnia rosnącą rolę sztucznej inteligencji w cyberprzestępczości, wpływaniu na kampanie i operacjach sponsorowanych przez państwo
Firma badawcza zajmująca się sztuczną inteligencją Antropiczny opublikował swój najnowszy raport dotyczący zagrożeń: „Wykrywanie i przeciwdziałanie niewłaściwemu wykorzystaniu sztucznej inteligencji: wrzesień 2026 r.”, szczegółowo opisując, jak złośliwi aktorzy próbowali uzbroić modele Claude w cyberoperacjach, kampaniach wpływu, nadzorze, badaniach biologicznych, rozwoju broni, oszustwach i destylacji modeli. Raport obejmuje działania wykryte i zakłócone między grudniem 2025 a sierpniem 2026 roku, obejmujące podejrzane grupy sponsorowane przez państwo, przestępców motywowanych finansowo, komercyjnych dostawców oprogramowania szpiegującego oraz instytucje propagandowe działające w Rosji, Chinach, Iranie i innych regionach.
Według raportu, żaden z przypadków nadużyć nie dotyczył najskuteczniejszych modeli klasy Fable lub Mythos firmy Anthropic, z wyjątkiem jednego, w dziale destylacji. Firma podkreśla, że ujawnione operacje nie są reprezentatywne dla typowego nadużycia, ale zostały wybrane jako najbardziej zaawansowane i nowatorskie zagrożenie zidentyfikowane do tej pory. W każdym przypadku Anthropic zablokował powiązane konta, wzmocnił zabezpieczenia w oparciu o ustalenia śledztwa i udostępnił informacje władzom i partnerom branżowym.
Od asystenta do orkiestratora: kluczowe ustalenia
Głównym wnioskiem raportu jest to, że sztuczna inteligencja przekształciła się z narzędzia doradczego w koordynatora operacyjnego w cyberprzestępczości. W większości operacji aktorzy zagrożeń wdrożyli wieloagentowe struktury, które autonomicznie przeprowadzały rozpoznanie, eksploatację, zbieranie danych uwierzytelniających i eksfiltrację danych, a ludzie głównie wybierali cele i analizowali wyniki.
Do godnych uwagi przypadków należy GTG-20006, powiązany z rosyjską państwową grupą powiązań Midnight Blizzard, która zarządzała opartymi na sztucznej inteligencji procesami obejmującymi phishing, tworzenie złośliwego oprogramowania i unikanie zabezpieczeń – automatycznie odbudowując swój zestaw narzędzi za każdym razem, gdy produkty bezpieczeństwa zgłaszały to zagrożenie. Z kolei podejrzani partnerzy ShinyHunters wykorzystali sztuczną inteligencję do industrializacji gromadzenia danych uwierzytelniających, dekompilując 1.8 miliona aplikacji na Androida w celu uzyskania poufnych informacji i przeprowadzając wykrycia w zaledwie dwie do trzech godzin.
Oprócz operacji cybernetycznych raport dokumentuje kampanie wpływu mające na celu wywarcie wpływu na wybory i opinię publiczną w Mołdawii, Kenii, Malezji i Bangladeszu; państwowe operacje nadzoru w Chinach, Iranie i Mali, w tym platformę stworzoną do monitorowania około 25 milionów abonentów telefonii komórkowej; oraz działania związane z rozwojem broni, w tym program rakiet kierowanych w Jemenie i projekt autonomicznego roju dronów w Rosji.
W sekcji poświęconej nadużyciom biologicznym przedstawiono pięć przypadków badań o podwójnym zastosowaniu, w tym prace nad nabyciem funkcji w odniesieniu do wirusa chikungunya oraz badania nad adaptacją do ptasiej grypy, które – jak twierdzi firma – w dużej mierze zostały uwzględnione w jej klasyfikatorach.
Wreszcie, raport szczegółowo opisuje nielegalne kampanie destylacji przypisywane chińskim laboratoriom – w tym Alibaba, DeepSeek, Moonshot AI, Xiaomi i Zhipu – które oskarżane są o potajemne kierowanie zapytań użytkowników do Claude, zbieranie śladów wnioskowania i wykorzystywanie wyników do trenowania konkurencyjnych modeli. W kilku przypadkach przekaźnik ten ujawniał poufne dane korporacyjne i rządowe stronom trzecim bez wiedzy użytkowników.
Anthropic przedstawia ujawnienie zarówno jako ostrzeżenie, jak i mapę drogową, argumentując, że w miarę jak modele staną się bardziej wydajne, zbiorowe działania na rzecz wykrywania i obrony w branży sztucznej inteligencji i w rządach staną się niezbędne, aby wyprzedzić opornych przeciwników.
Zastrzeżenie
Zgodnie z Zaufaj wytycznym projektu, należy pamiętać, że informacje zawarte na tej stronie nie mają na celu i nie powinny być interpretowane jako porady prawne, podatkowe, inwestycyjne, finansowe lub jakiekolwiek inne formy porad. Ważne jest, aby inwestować tylko tyle, na utratę czego możesz sobie pozwolić, a w przypadku jakichkolwiek wątpliwości zasięgnąć niezależnej porady finansowej. Aby uzyskać więcej informacji, sugerujemy zapoznać się z warunkami oraz stronami pomocy i wsparcia udostępnianymi przez wydawcę lub reklamodawcę. MetaversePost zobowiązuje się do sporządzania dokładnych i bezstronnych raportów, jednakże warunki rynkowe mogą ulec zmianie bez powiadomienia.
O autorze
Alisa, oddana dziennikarka w MPost, specjalizuje się w kryptowalutach, sztucznej inteligencji, inwestycjach i rozległym obszarze Web3. Ze szczególnym uwzględnieniem pojawiających się trendów i technologii zapewnia wszechstronne informacje, aby informować czytelników i angażować ich w stale zmieniający się krajobraz finansów cyfrowych.
Więcej artykułów
Alisa, oddana dziennikarka w MPost, specjalizuje się w kryptowalutach, sztucznej inteligencji, inwestycjach i rozległym obszarze Web3. Ze szczególnym uwzględnieniem pojawiających się trendów i technologii zapewnia wszechstronne informacje, aby informować czytelników i angażować ich w stale zmieniający się krajobraz finansów cyfrowych.
