Nová zpráva Anthropic o hrozbách odhaluje rostoucí roli umělé inteligence v kyberkriminalitě, vlivových kampaních a státem sponzorovaných operacích.
Společnost pro výzkum umělé inteligence Antropický zveřejnila svou nejnovější zprávu o hrozbách, „Odhalování a boj proti zneužívání umělé inteligence: září 2026„,“ s podrobnostmi o tom, jak se útočníci pokoušeli zneužít Claudeovy modely jako zbraň v rámci kybernetických operací, vlivových kampaní, sledování, biologického výzkumu, vývoje zbraní, podvodů a destilace modelů. Zpráva se zabývá aktivitami zjištěnými a narušenými mezi prosincem 2025 a srpnem 2026, a to včetně podezřelých státem sponzorovaných skupin, finančně motivovaných zločinců, komerčních prodejců špionážního softwaru a propagandistických institucí působících v Rusku, Číně, Íránu a dalších regionech.
Podle zprávy se žádný z případů zneužití netýkal nejvýkonnějších modelů třídy Fable nebo Mythos od společnosti Anthropic, s jedinou výjimkou v sekci destilace. Společnost zdůrazňuje, že zveřejněné operace nepředstavují typické zneužití, ale byly vybrány jako nejsofistikovanější a novější identifikovaná hrozba. V každém případě společnost Anthropic zablokovala související účty, na základě zjištění z vyšetřování posílila svá ochranná opatření a sdílela zpravodajské informace s úřady a partnery v oboru.
Od asistenta k orchestrátorovi: Klíčová zjištění
Hlavním závěrem zprávy je, že se umělá inteligence v kyberkriminalitě posunula z poradního nástroje na operačního orchestrátora. Ve většině operací útočníci nasadili multiagentní frameworky, které autonomně prováděly průzkum, zneužívání, sběr přihlašovacích údajů a exfiltraci dat, přičemž lidé primárně vybírali cíle a hodnotili výsledky.
Mezi významné případy patří GTG-20006, spojený s ruskou státní skupinou Midnight Blizzard, která provozovala pracovní postupy řízené umělou inteligencí v oblasti phishingu, vývoje malwaru a úniků – automaticky přestavovala svou sadu nástrojů, kdykoli ji bezpečnostní produkty nahlásily. Samostatně podezřelé společnosti přidružené ke ShinyHunters používaly umělou inteligenci k industrializaci sběru přihlašovacích údajů, dekompilovaly 1.8 milionu aplikací pro Android a hledaly tajné informace a dokončily úniky dat za pouhé dvě až tři hodiny.
Kromě kybernetických operací zpráva dokumentuje i kampaně zaměřené na volby a veřejné mínění v Moldavsku, Keni, Malajsii a Bangladéši, dále státní dohledové operace v Číně, Íránu a Mali, včetně platformy vybudované pro monitorování zhruba 25 milionů mobilních předplatitelů, a úsilí o vývoj zbraní, včetně programu řízených raket v Jemenu a projektu autonomního roje dronů v Rusku.
Sekce o biologickém zneužití představuje pět případů výzkumu dvojího užití, včetně práce o zisku funkce u viru chikungunya a studií adaptace ptačí chřipky, které společnost tvrdí, že její klasifikátory z velké části obsahují.
Zpráva nakonec podrobně popisuje nelegální destilační kampaně připisované čínským laboratořím – včetně Alibaba, DeepSeek, Moonshot AI, Xiaomi a Zhipu – které obviňuje z tajného směrování uživatelských dotazů na Claude, shromažďování stop uvažování a používání výstupů k trénování konkurenčních modelů. V několika případech toto předávání zpřístupnilo citlivá firemní a vládní data třetím stranám bez vědomí uživatelů.
Anthropic toto odhalení chápe jako varování i plán s argumentem, že s tím, jak se modely stanou schopnějšími, bude kolektivní úsilí o detekci a obranu v celém odvětví umělé inteligence a ve vládách nezbytné pro udržení náskoku před vytrvalými protivníky.
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Alisa, oddaná novinářka v MPost, specializuje se na kryptoměny, umělou inteligenci, investice a rozsáhlou oblast Web3. S velkým okem pro nové trendy a technologie poskytuje komplexní pokrytí, aby informovala a zapojila čtenáře do neustále se vyvíjejícího prostředí digitálních financí.
Další články
Alisa, oddaná novinářka v MPost, specializuje se na kryptoměny, umělou inteligenci, investice a rozsáhlou oblast Web3. S velkým okem pro nové trendy a technologie poskytuje komplexní pokrytí, aby informovala a zapojila čtenáře do neustále se vyvíjejícího prostředí digitálních financí.
