Palantir spúšťa platformu umelej inteligencie na vojenské účely, čím vyvoláva obavy z etiky
Stručne
Palantir zverejnil video demo svojej novej platformy Palantir Artificial Intelligence Platform, ktorá integruje veľké jazykové modely do súkromne prevádzkovaných sietí.
AIP je určený pre vojenské operácie a bol demonštrovaný vo videu pomocou a ChatGPTchatbot v štýle.
Používanie LLM a algoritmov v citlivých kontextoch, ako sú vojenské akcie etické obavy.
Technická spoločnosť Palantírů, založená miliardárom Petrom Thielom, podniká kroky na rozšírenie svojho dosahu nad rámec domácich sledovacích služieb pre imigračné a colné orgány USA. Spoločnosť má uvoľnený video demo svojej najnovšej ponuky, Palantir Artificial Intelligence Platform (AIP), ktorá je navrhnutá tak, aby integrovala veľké jazykové modely (LLM), ako napr. OpenAI'S GPT-4 a BERT spoločnosti Google do súkromne prevádzkovaných sietí.
Vo videu Palantir ukázal, ako by jeho softvér mohol používať vojenský v scenároch modernej vojny. Operátor môže použiť a ChatGPTchatbot v štýle, ktorý nariaďuje prieskum dronom, vytvára plány útoku a koordinuje rušenie nepriateľskej komunikácie. Spustenie AIP určite vyvolá otázky o etických dôsledkoch zapojenia Palantiru do vojenských operácií.
Na dosiahnutie etického a zákonného použitia bol Palantir AIP postavený na troch „kľúčových pilieroch“. Po prvé, AIP funguje v rámci utajovaného systému, ktorý mu umožňuje analyzovať utajované a neutajované údaje v reálnom čase pri zabezpečení etického a právneho súladu. Druhá vlastnosť AIP umožňuje používateľom riadiť činnosť každého LLM a aktíva prevádzkovaného v sieti.
AIP generuje bezpečný digitálny záznam celej operácie, o ktorej video tvrdí, že je rozhodujúce pri zmierňovaní významných právnych, regulačných a etických rizík v citlivých a utajovaných prostrediach. Napokon, AIP má zavedené ochranné zábradlia, ktoré zabraňujú neoprávneným činnostiam, čím sa zabezpečuje bezpečné používanie systému.
Vojenský operátor featured vo videu demonštruje praktickú aplikáciu Palantirovho scenára pri reakcii na potenciálnu hrozbu vo východnej Európe. Pomocou AIP mohol operátor efektívne a efektívne zhromažďovať viac informácií o vojenskom vybavení nepriateľa. S pomocou veľkých jazykových modelov AIP bol operátor tiež schopný rýchlo klásť otázky a získať presné odpovede.
Hoci schopnosti AIP boli efektívne predvedené, Palantir si uvedomuje dôležitosť riadenia aplikácie LLM a algoritmov v citlivých situáciách, najmä vo vojenskom úsilí. Existujú tiež obavy týkajúce sa spoľahlivosti a účinnosti technológie, najmä pokiaľ ide o zabránenie LLM vo vytváraní nepravdivých faktov a podrobností.
Palantir sa preslávil poskytovaním sporného softvéru na analýzu údajov vládnym organizáciám. Spoločnosť bola kritizoval expertmi na ochranu súkromia na sledovanie a analýzu údajov, ktoré porušujú súkromie ľudí. Použitie jeho technológie americkými imigračnými úradmi na zadržanie imigrantov bez dokladov vyvolalo protesty. V Spojenom kráľovstve vyvolali alarmy aj zdravotné údaje, s ktorými firma pracuje.
Prečítajte si viac:
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Agne je novinárka, ktorá pokrýva najnovšie trendy a vývoj v oblasti metaverse, AI a Web3 priemyslu pre Metaverse Post. Jej vášeň pre rozprávanie ju priviedla k mnohým rozhovorom s odborníkmi v týchto oblastiach, pričom sa vždy snažila odhaliť vzrušujúce a pútavé príbehy. Agne má bakalársky titul v odbore literatúra a má rozsiahle skúsenosti s písaním o širokej škále tém vrátane cestovania, umenia a kultúry. Dobrovoľne pracovala aj ako redaktorka organizácie za práva zvierat, kde pomáhala zvyšovať povedomie o otázkach dobrých životných podmienok zvierat. Kontaktujte ju [chránené e-mailom].
Ďalšie články
Agne je novinárka, ktorá pokrýva najnovšie trendy a vývoj v oblasti metaverse, AI a Web3 priemyslu pre Metaverse Post. Jej vášeň pre rozprávanie ju priviedla k mnohým rozhovorom s odborníkmi v týchto oblastiach, pričom sa vždy snažila odhaliť vzrušujúce a pútavé príbehy. Agne má bakalársky titul v odbore literatúra a má rozsiahle skúsenosti s písaním o širokej škále tém vrátane cestovania, umenia a kultúry. Dobrovoľne pracovala aj ako redaktorka organizácie za práva zvierat, kde pomáhala zvyšovať povedomie o otázkach dobrých životných podmienok zvierat. Kontaktujte ju [chránené e-mailom].
