Palantir spouští platformu umělé inteligence pro vojenské použití, vyvolává obavy z etiky
Stručně
Palantir vydal video demo své nové Palantir Artificial Intelligence Platform, která integruje velké jazykové modely do soukromě provozovaných sítí.
AIP je určen pro vojenské operace a byl demonstrován na videu pomocí a ChatGPTchatbot ve stylu.
Používání LLM a algoritmů v citlivých kontextech, jako jsou vojenské zisky etické obavy.
Technologická společnost Palantír, založená miliardářem Peterem Thielem, podniká kroky k rozšíření svého dosahu mimo domácí sledovací služby pro americké imigrační a celní orgány. Společnost má propuštěn video ukázka její nejnovější nabídky, platformy Palantir Artificial Intelligence Platform (AIP), která je navržena tak, aby integrovala velké jazykové modely (LLM), jako je např. OpenAIJe GPT-4 a BERT společnosti Google do soukromě provozovaných sítí.
Ve videu Palantir předvedl, jak by mohl být jeho software používán vojenský v moderních válečných scénářích. Operátor může použít a ChatGPTchatbot ve stylu, který nařídí průzkum pomocí dronu, vytvoří plány útoku a koordinuje rušení nepřátelské komunikace. Spuštění AIP jistě vyvolá otázky o etických důsledcích zapojení Palantiru do vojenských operací.
Aby bylo dosaženo etického a právního využití, byl Palantir AIP postaven na třech „klíčových pilířích“. Za prvé, AIP funguje v rámci utajovaného systému, což mu umožňuje analyzovat utajovaná a neutajovaná data v reálném čase a přitom zajistit dodržování etických a právních předpisů. Druhá vlastnost AIP umožňuje uživatelům řídit akce každého LLM a aktiva provozovaného v síti.
AIP generuje bezpečný digitální záznam celé operace, který je podle videa zásadní pro zmírnění významných právních, regulačních a etických rizik v citlivých a utajovaných prostředích. Konečně, AIP má na svém místě špičkové ochranné zábradlí, které zabraňuje neoprávněným akcím a zajišťuje tak bezpečné používání systému.
Vojenský operátor featured ve videu demonstruje praktickou aplikaci Palantirova scénáře při reakci na potenciální hrozbu ve východní Evropě. Pomocí AIP mohl operátor efektivně a efektivně shromáždit více informací o vojenském vybavení nepřítele. S pomocí velkých jazykových modelů AIP byl operátor také schopen rychle klást otázky a získávat přesné odpovědi.
Přestože schopnosti AIP byly účinně předvedeny, Palantir si uvědomuje důležitost řízení aplikace LLM a algoritmů v citlivých situacích, zejména ve vojenských snahách. Existují také obavy o spolehlivost a efektivitu technologie, zejména o zabránění LLM ve generování nepravdivých faktů a podrobností.
Palantir se proslavil poskytováním sporného softwaru pro analýzu dat vládním organizacím. Společnost byla kritizoval odborníky na ochranu soukromí pro sledování a analýzu dat, která narušují soukromí lidí. Využití její technologie americkými imigračními úřady k zadržení imigrantů bez dokladů vyvolalo protesty. Ve Spojeném království vyvolaly poplach zdravotní údaje, které firma zpracovává.
Čtěte více:
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Agne je novinářka, která se zabývá nejnovějšími trendy a vývojem v metaverse, AI a Web3 průmysl pro Metaverse Post. Její vášeň pro vyprávění ji přivedla k četným rozhovorům s odborníky v těchto oblastech, ve kterých se vždy snažila odhalit vzrušující a poutavé příběhy. Agne má bakalářský titul z literatury a má rozsáhlé zkušenosti s psaním o široké škále témat, včetně cestování, umění a kultury. Přihlásila se také jako redaktorka do organizace pro práva zvířat, kde pomáhala zvyšovat povědomí o otázkách dobrých životních podmínek zvířat. Kontaktujte ji [chráněno e-mailem].
Další článkyAgne je novinářka, která se zabývá nejnovějšími trendy a vývojem v metaverse, AI a Web3 průmysl pro Metaverse Post. Její vášeň pro vyprávění ji přivedla k četným rozhovorům s odborníky v těchto oblastech, ve kterých se vždy snažila odhalit vzrušující a poutavé příběhy. Agne má bakalářský titul z literatury a má rozsáhlé zkušenosti s psaním o široké škále témat, včetně cestování, umění a kultury. Přihlásila se také jako redaktorka do organizace pro práva zvířat, kde pomáhala zvyšovat povědomí o otázkách dobrých životních podmínek zvířat. Kontaktujte ji [chráněno e-mailem].