Studená válka s umělou inteligencí začala, ale uniká nám pointa?
Stručně
Vznikající „studená válka s umělou inteligencí“, zdůrazněná údajnými útoky na Clauda LLM z Anthropic, podtrhuje rostoucí rizika pro duševní vlastnictví, národní bezpečnost a etické nasazení umělé inteligence a zároveň vyvolává debatu o decentralizovaném versus izolovaném vývoji umělé inteligence.
Muselo se to stát. Ale i tak jsou počáteční vlny vznikající „studené války s umělou inteligencí“ stále znepokojivé a zpochybňují ochranu, kterou společnosti zavedly, naši schopnost spolehlivě chránit duševní vlastnictví před zločinci a to, jak by se tato studená válka mohla eskalovat. Především by to však mělo vyvolat diskusi o tom, jak si umělé inteligence ceníme, jaké problémy chceme, aby řešila, a kdo by měl nakonec ovládat největšího potenciálního průkopníka na světě.
Studená válka v akci
Co se tedy přesně stalo? Podle různých ZprávySpolečnost Anthropic AI veřejně prozradila, že byla v centru dlouhodobé a invazivní akce tří čínských laboratoří umělé inteligence – DeepSeek, Moonshot AI a MiniMax. Místo přímého nabourání se do datového centra Anthropicu tyto laboratoře údajně vytvořily hordy inteligentních botů, kteří v podstatě využívali Anthropicův model LLM k získávání informací, které pak mohli použít k vylepšení svých vlastních modelů.
Konkrétněji řečeno, vlny útoků využívaly formu špionáže zvanou „destilace“. V podstatě jde o situaci, kdy účet může položit LLM, jako je Claude, mnoho různých, cílených otázek a poté použít odpovědi k lepšímu pochopení fungování modelu umělé inteligence. To umožňuje útočníkovi aktualizovat své vlastní modely s tímto novým poznatkem. V případě těchto nedávných útoků společnost Anthropic uvedla, že útok byl masivní, zahrnoval více než 16 milionů výměn mezi více než 24 000 účty a Claudem, zaznamenával výsledky a rozvíjel klíčové poznatky o tom, jak model myslí a chová se. Podle Oznámení AnthropicDo případu byly zapojeny tři čínské firmy. S využitím podvodných účtů maskovaných v proxy službách bylo zjevným cílem firem získat co nejvíce intelektuálních znalostí o Claudeovi, zejména v oblastech, kde je model umělé inteligence nejsilnější. DeepSeek se zaměřil na oblasti, jako jsou schopnosti uvažování, úkoly hodnocení ve stylu rubrik a lepší pochopení toho, jak se vyhnout cenzuře u politicky/společensky citlivých témat. Moonshot AI se zaměřil na agentické uvažování, kódování a procesy počítačového vidění. MiniMax se zaměřil na Claudeovo agentické kódování spolu s používáním nástrojů agenty umělé inteligence.
Aby bylo jasno, čínské společnosti již mají zakázáno používat Claude kvůli řadě rizik (destilace je jedním z nich). Společnosti používaly proxy, které provozovaly tisíce bot účtů promíchaných s platnými požadavky na účty, což ztěžovalo odhalení mnoha bot účtů a téměř znemožňovalo je všechny vypnout, protože neměly zjevný společný zdroj. Toto selhání mělo být silnou první linií obrany, ale místo toho se mu podařilo snadno obejít. Ačkoli Claude oznámil protiopatření proti tomuto typu útoku, jejich účinnost je v tuto chvíli zdaleka neprokázaná.
Co to znamená pro umělou inteligenci?
Ironií je, že tyto firmy Claudea přímo nenapadly. Místo toho vytvořily velké množství botů, aby Claudea efektivně využívaly cíleným způsobem. V jistém smyslu si tito boti s Claudem hráli „20 otázek“, ale místo hádání správné odpovědi jim každá Claudeova odpověď poskytovala další a další vhled do toho, jak boti uvažují.
Ať už se jednalo o prolomení firewallu nebo o vytvoření botů, kteří by s Claudem interagovali dle plánu, výsledkem byla krádež duševního vlastnictví. V různých případech se firmy, které se dopustily provinění, pravděpodobně dokázaly o Claude hodně dozvědět jako o neuvěřitelně složitém modelu umělé inteligence. To mohlo konkurentovi poskytnout dostatek vhledu k vytvoření vlastního modelu, aniž by musel věnovat velkou pozornost vyhledávání, organizování a ukládání dat potřebných k trénování modelu. Místo toho tyto firmy údajně získaly duševní vlastnictví, aniž by vykonaly jakoukoli skutečnou práci.
Rizika však sahají daleko za rámec krádeže duševního vlastnictví. Destilované modely se mohou většinou chovat jako správně trénované modely, ale nesprávné trénování vytváří některé zásadní mezery v uvažování a používání nástrojů destilovaného modelu. Může být vytvořen bez nezbytných záruk, které by mohly odhalit citlivé informace, ale také by mohly poskytnout uživatelům nebezpečné poznatky, což by jim mohlo způsobit újmu. Pochopení fungování modelu, jako je Claude, by navíc mohlo vytvořit rizika pro národní bezpečnost, protože by útočník mohl model zásobovat trénovacími daty takovým způsobem, že by se model choval předvídatelně, což by mu umožnilo manipulovat s výsledky modelu. Vzhledem k tomu, že Anthropic a další giganti v oblasti umělé inteligence jednají s ministerstvem obrany o dohodách, má to znepokojivé důsledky.
Ačkoliv společnost Anthropic oznámila, že se z toho poučila, studená válka o umělou inteligenci už začala a může se jen stupňovat. Zločinci najdou způsob, jak obejít jejich protiopatření, Anthropic zareaguje a závody ve zbrojení budou pokračovat. To v konečném důsledku vytváří zranitelnosti pro společnosti zabývající se umělou inteligencí, které by měly správně investovat do tréninkových modelů, ale zároveň odrazuje od velkých investic, které jsou k tomu potřeba, pokud se konkurenční společnost může vrhnout do reverzního inženýrství tohoto duševního vlastnictví, aniž by do toho investovala čas nebo peníze.
Dá se to zastavit? Mělo by se to zastavit?
Vzhledem k povaze těchto typů eskalací se to pravděpodobně stane realitou v globální konkurenci v oblasti umělé inteligence. Nicméně existují argumenty pro úplné vynechání studené války v oblasti umělé inteligence. Světoví giganti v oblasti umělé inteligence se zaměřují na ochranu své práce a pečlivé střežení jakéhokoli typu duševního vlastnictví. To přirozeně klade obrovskou moc na krk několika málo osob, což vytváří masivní nerovnováhu v globální mocenské dynamice.
Rostoucí aliance hráčů v oblasti umělé inteligence, nazývaná Aliance ASI, naznačují, že místo budování neobhajitelných silos duševního vlastnictví by svět možná byl schopen vybudovat ještě silnější umělou inteligenci pomocí otevřené, decentralizované umělé inteligence. Aliance ASI pracuje na podpoře rozvoje decentralizované umělé inteligence, staví na datech, analýzách a nástrojích (jako jsou LLM zaměřené na vývojáře a frameworky agentů) a tvrdí, že umělá inteligence je technologie, která má dosáhnout největšího úspěchu, pokud jsou její funkce dostupné všem. To je v rozporu s protekcionismem duševního vlastnictví, ale vyhýbá se touze společností hledat způsoby, jak krást modely, data a inovace. I odvětví, jako je umělá inteligence, pokud by bylo decentralizované a dostupné všem, by stále vytvořilo velmi úrodné prostředí pro inovace v oblasti ochrany a investice, které lze skutečně ochránit.
Závěrečné myšlenky
Než se studená válka o umělou inteligenci bude dále eskalovat, měli bychom se zamyslet nikoli nad tím, jak dále budovat ochranu našeho vlastního duševního vlastnictví, ale spíše nad tím, jak se vůbec vyhnout potřebě izolovaných inovací. Decentralizovaná umělá inteligence by se mohla stát budoucností, protože izolované duševní vlastnictví umělé inteligence čelí mnoha novým hrozbám a vytváří stabilní základnu pro rozvoj, sdílení a budování zdrojů příjmů zásadně odlišným způsobem.
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Gregory, digitální nomád pocházející z Polska, je nejen finančním analytikem, ale také cenným přispěvatelem do různých online magazínů. Díky bohatým zkušenostem ve finančním průmyslu mu jeho postřehy a odborné znalosti vynesly uznání v mnoha publikacích. Gregory efektivně využívá svůj volný čas a v současnosti se věnuje psaní knihy o kryptoměnách a blockchainu.
Další články
Gregory, digitální nomád pocházející z Polska, je nejen finančním analytikem, ale také cenným přispěvatelem do různých online magazínů. Díky bohatým zkušenostem ve finančním průmyslu mu jeho postřehy a odborné znalosti vynesly uznání v mnoha publikacích. Gregory efektivně využívá svůj volný čas a v současnosti se věnuje psaní knihy o kryptoměnách a blockchainu.
