China's PLA onderzoekt AI-integratie om de militaire gevechtsvaardigheid te verbeteren
In het kort
Chinese wetenschappers integreren AI in het leger, terwijl PLA werkt aan autonome AI voor complexe gevechtsscenario's, wat ethische problemen oproept.
Chinese wetenschappers verleggen de grenzen van het leger kunstmatige intelligentie (AI) door te integreren ChatGPT-achtige technologieën om tot een experimenteel project. Een groep wetenschappers binnen China in samenwerking met het People’s Liberation Army (PLA) probeert de militaire AI van het land beter om te gaan met onverwachte situaties waarbij mensen betrokken zijn.
Ze willen dat de AI slimmer wordt in het omgaan met scenario's met menselijke tegenstanders, zo blijkt uit verschillende Chinese mediaberichten. De aankondiging door China van dit AI-project is de eerste keer dat het land publiekelijk het gebruik van commerciële grote taalmodellen (LLM’s) in militaire toepassingen heeft bevestigd.
Bovendien roept deze stap vragen op over de potentiële risico's ethische overwegingen geassocieerd met het ontketenen van geavanceerde AI, die wordt geprezen om zijn capaciteiten, maar ook bekritiseerd vanwege het gebrek aan controle en de mogelijkheid van onbedoelde gevolgen.
Het onderzoeksteam heeft een fysieke link gelegd tussen hun AI-systeem en commercieel ontwikkelde taalmodellen, namelijk Baidu’s Ernie en iFlyTek’s Spark.
De militaire AI kan veel gegevens van sensoren en frontlijnrapporten verzamelen in woorden of afbeeldingen. Het deelt dit met andere commerciële modellen. Eenmaal verzameld kan de militaire AI met hen praten zonder dat er een mens bij betrokken is. Het creëert zelfs suggesties voor meer gedetailleerde discussies, zoals oefenen voor gevechten, helemaal op zichzelf.
De details van het project waren beschikbaar in een peer-reviewed artikel dat in december 2023 werd gepubliceerd in het Chinese academische tijdschrift Command Control & Simulation. In een onderzoekspaper stelden wetenschapper Sun Yifeng en zijn team van de Information Engineering University van de PLA dat zowel mensen als machines van het project zouden kunnen profiteren.
Een van de belangrijkste zorgen van computerwetenschappers is het potentiële risico dat aan dit niveau van autonomie is verbonden. Er zijn vergelijkingen gemaakt met de scenario's die in de populaire cultuur worden afgebeeld, waarbij een wetenschapper waarschuwde dat de situatie zonder zorgvuldige aanpak zou kunnen evolueren naar een verhaal vergelijkbaar met de Terminator-films, waarin AI oncontroleerbaar wordt.
Het gepubliceerde artikel werpt licht op de doelstellingen van het project en benadrukt de wens om militaire AI ‘menselijker’ te maken. Dit houdt een beter begrip in van de bedoelingen van commandanten op alle niveaus en het verbeteren van de communicatie met menselijke tegenhangers.
De integratie van commercieel grote taalmodellen Er wordt gezien dat het het inzicht van de militaire AI in menselijk gedrag verdiept.
Het voorspellen van de volgende zet op het slagveld
In een gesimuleerd experiment dat in de paper wordt geschetst, verstrekte de militaire AI informatie over een hypothetische Amerikaanse militaire invasie van Libië in 2011 aan Ernie. Na verschillende dialoogrondes voorspelde Ernie met succes de volgende stap van het Amerikaanse leger.
Het onderzoeksteam beweert dat dit zo is voorspellend capaciteiten zouden menselijke zwakheden kunnen compenseren, door problemen aan te pakken zoals vooroordelen in de menselijke cognitie die kunnen leiden tot het overschatten of onderschatten van bedreigingen op het slagveld.
Er wordt echter erkend dat de onthulde informatie in het gepubliceerde artikel slechts het topje van de ijsberg is. Het onderzoeksteam heeft bewust bepaalde aspecten van het project vertrouwelijk gehouden, waaronder de manier waarop militaire en commerciële modellen kunnen leren van mislukkingen uit het verleden en wederzijds nieuwe kennis en vaardigheden kunnen verwerven.
Het is de moeite waard om op te merken dat China niet de enige is die dit onderzoek doet militaire toepassingen van AI. Verschillende takken van het Amerikaanse leger hebben interesse getoond in soortgelijke technologieën en onderzoeken toepassingen variërend van inlichtingenanalyse en psychologische oorlogsvoering tot dronecontrole en decodering van communicatiecodes.
Nu de mondiale race om AI-suprematie heviger wordt, onderstrepen de waarschuwende stemmen van wetenschappers de noodzaak van een verantwoorde en ethische ontwikkeling, waarbij de nadruk wordt gelegd op de potentiële risico’s die gepaard gaan met ongeremde toegang tot krachtige AI-systemen tot militaire netwerken en vertrouwelijke informatie.
Disclaimer
In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.
Over de auteur
Kumar is een ervaren technologiejournalist met een specialisatie in de dynamische kruispunten van AI/ML, marketingtechnologie en opkomende velden zoals crypto, blockchain en NFTS. Met meer dan drie jaar ervaring in de branche heeft Kumar een bewezen staat van dienst opgebouwd in het opstellen van boeiende verhalen, het houden van inzichtelijke interviews en het leveren van uitgebreide inzichten. De expertise van Kumar ligt in het produceren van inhoud met een grote impact, waaronder artikelen, rapporten en onderzoekspublicaties voor vooraanstaande industriële platforms. Met een unieke reeks vaardigheden die technische kennis en verhalen vertellen combineert, blinkt Kumar uit in het op een duidelijke en boeiende manier communiceren van complexe technologische concepten aan een divers publiek.
Meer artikelen
Kumar is een ervaren technologiejournalist met een specialisatie in de dynamische kruispunten van AI/ML, marketingtechnologie en opkomende velden zoals crypto, blockchain en NFTS. Met meer dan drie jaar ervaring in de branche heeft Kumar een bewezen staat van dienst opgebouwd in het opstellen van boeiende verhalen, het houden van inzichtelijke interviews en het leveren van uitgebreide inzichten. De expertise van Kumar ligt in het produceren van inhoud met een grote impact, waaronder artikelen, rapporten en onderzoekspublicaties voor vooraanstaande industriële platforms. Met een unieke reeks vaardigheden die technische kennis en verhalen vertellen combineert, blinkt Kumar uit in het op een duidelijke en boeiende manier communiceren van complexe technologische concepten aan een divers publiek.
