Čínská PLA zkoumá integraci umělé inteligence ke zlepšení vojenských bojových dovedností
Stručně
Čínští vědci integrují AI do armády s PLA, kteří pracují na autonomní AI pro komplexní bitevní scénáře, což vyvolává etické problémy.
Čínští vědci posouvají hranice armády umělá inteligence (AI) integrací ChatGPTpodobné technologie do experimentálního projektu. Skupina vědců v Čína ve spolupráci s Lidovou osvobozeneckou armádou (PLA) se snaží, aby vojenská umělá inteligence země lépe zvládala neočekávané situace, do kterých jsou zapojeni lidé.
Chtějí, aby umělá inteligence byla chytřejší při zvládání scénářů s lidskými protivníky, jak uvádí několik zpráv čínských médií. Oznámení Číny o tomto projektu umělé inteligence je prvním případem, kdy země veřejně potvrdila použití komerčních velkých jazykových modelů (LLM) ve vojenských aplikacích.
Tento krok navíc vyvolává otázky ohledně potenciálních rizik a etické úvahy spojené s uvolněním sofistikované umělé inteligence, která byla chválena pro své schopnosti, ale také kritizována za nedostatek kontroly a potenciál pro nezamýšlené důsledky.
Výzkumný tým mezi nimi vytvořil fyzické spojení systém AI a komerčně vyvinuté jazykové modely, jmenovitě Baidu’s Ernie a iFlyTek’s Spark.
Vojenská umělá inteligence dokáže shromáždit spoustu dat ze senzorů a frontových zpráv do slov nebo obrázků. Sdílí to s dalšími komerčními modely. Jakmile se shromáždí, vojenská umělá inteligence s nimi může hovořit, aniž by do toho zapojila člověka. Dokonce vytváří návrhy pro podrobnější diskuse, jako je nácvik bitev, vše samostatně.
Podrobnosti o projektu byly k dispozici v recenzovaném článku publikovaném v prosinci 2023 v čínském akademickém časopise – Command Control & Simulation. Vědec Sun Yifeng a jeho tým z Univerzity informačního inženýrství PLA ve výzkumném článku uvedli, že z projektu mohou mít prospěch jak lidé, tak stroje.
Jednou z klíčových obav, kterou vznesli informatici, je potenciální riziko spojené s touto úrovní autonomie. Byla provedena srovnání se scénáři zobrazenými v populární kultuře, přičemž jeden vědec varoval, že bez pečlivého zacházení by se situace mohla vyvinout do příběhu podobného filmům o Terminátorovi, kde se AI stane nekontrolovatelnou.
Publikovaný dokument vrhá světlo na cíle projektu a zdůrazňuje touhu učinit vojenskou AI více „lidskou“. To zahrnuje lepší pochopení záměrů velitelů na všech úrovních a zlepšení komunikace s lidskými protějšky.
Integrace komerčních velké jazykové modely je viděn tak, že prohlubuje chápání lidského chování vojenské AI.
Předpovídání dalšího tahu na bitevním poli
V simulovaném experimentu nastíněném v článku poskytla vojenská AI Erniemu informace o hypotetické americké vojenské invazi do Libye v roce 2011. Po několika kolech dialogu Ernie úspěšně předpověděl další krok americké armády.
Výzkumný tým tvrdí, že takový prediktivní schopnosti by mohly kompenzovat lidské slabosti a řešit problémy, jako jsou předsudky v lidském poznání, které mohou vést k přeceňování nebo podceňování hrozeb na bojišti.
Zveřejněné informace v publikovaném článku jsou však uznávány pouze jako špička ledovce. Výzkumný tým záměrně utajil určité aspekty projektu, včetně toho, jak se vojenské a komerční modely mohou poučit z minulých selhání a vzájemně si osvojit nové znalosti a dovednosti.
Stojí za zmínku, že Čína není v průzkumu sama vojenské aplikace AI. Různé složky americké armády projevily zájem o podobné technologie a zkoumaly aplikace od zpravodajské analýzy a psychologického válčení až po ovládání dronů a dešifrování komunikačních kódů.
Jak se globální závod o nadvládu AI zintenzivňuje, varovné hlasy vědců podtrhují potřebu odpovědného a etického vývoje a zdůrazňují potenciální rizika, která představuje neomezený přístup k výkonným systémům AI k vojenským sítím a důvěrným informacím.
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Kumar je zkušený technický novinář se specializací na dynamické průniky AI/ML, marketingové technologie a nově vznikající obory, jako jsou kryptoměny, blockchain a NFTs. S více než 3 lety zkušeností v oboru si Kumar vytvořil prokazatelné výsledky ve vytváření působivých příběhů, vedení zasvěcených rozhovorů a poskytování komplexních poznatků. Kumarova odbornost spočívá ve vytváření vysoce působivého obsahu, včetně článků, zpráv a výzkumných publikací pro prominentní průmyslové platformy. Díky jedinečné sadě dovedností, které kombinují technické znalosti a vyprávění příběhů, Kumar vyniká v komunikaci složitých technologických konceptů pro různé publikum jasným a poutavým způsobem.
Další článkyKumar je zkušený technický novinář se specializací na dynamické průniky AI/ML, marketingové technologie a nově vznikající obory, jako jsou kryptoměny, blockchain a NFTs. S více než 3 lety zkušeností v oboru si Kumar vytvořil prokazatelné výsledky ve vytváření působivých příběhů, vedení zasvěcených rozhovorů a poskytování komplexních poznatků. Kumarova odbornost spočívá ve vytváření vysoce působivého obsahu, včetně článků, zpráv a výzkumných publikací pro prominentní průmyslové platformy. Díky jedinečné sadě dovedností, které kombinují technické znalosti a vyprávění příběhů, Kumar vyniká v komunikaci složitých technologických konceptů pro různé publikum jasným a poutavým způsobem.