Palantir lansira AI platformu za vojnu upotrebu, izaziva zabrinutost zbog etike
Ukratko
Palantir je objavio video demo svoje nove Palantir platforme za umjetnu inteligenciju, koja integrira velike jezične modele u privatne mreže.
AIP je dizajniran za vojne operacije i demonstriran je u videu pomoću a ChatGPT-style chatbot.
Korištenje LLM-a i algoritama u osjetljivim kontekstima kao što je vojska povećava etička zabrinutost.
Tehnološka tvrtka Palantir, koju je utemeljio milijarder Peter Thiel, poduzima korake kako bi proširio svoj doseg izvan domaćih usluga nadzora za američke imigracijske i carinske službe. Tvrtka ima otpušten video demo svoje najnovije ponude, Palantir Artificial Intelligence Platform (AIP), koja je dizajnirana za integraciju velikih jezičnih modela (LLM) kao OpenAI'S GPT-4 i Googleov BERT u privatne mreže.
U videu, Palantir je prikazao kako njegov softver može koristiti vojni u scenarijima suvremenog ratovanja. Operater može koristiti a ChatGPTchatbot u stilu za naručivanje izviđanja dronovima, stvaranje planova napada i koordiniranje ometanja neprijateljskih komunikacija. Pokretanje AIP-a zasigurno će pokrenuti pitanja o etičkim implikacijama Palantirovog sudjelovanja u vojnim operacijama.
Kako bi se postigla etička i zakonita uporaba, Palantir AIP izgrađen je na tri "ključna stupa". Prvo, AIP djeluje unutar klasificiranog sustava, što mu omogućuje analizu klasificiranih i neklasificiranih podataka u stvarnom vremenu, dok istovremeno osigurava etičku i zakonsku usklađenost. Druga značajka AIP-a omogućuje korisnicima upravljanje radnjama svakog LLM-a i imovine koja radi na mreži.
AIP generira siguran digitalni zapis cijele operacije, za koju video tvrdi da je ključna za ublažavanje značajnih pravnih, regulatornih i etičkih rizika u osjetljivim i povjerljivim okruženjima. Konačno, AIP ima postavljene zaštitne ograde vodeće u industriji za sprječavanje neovlaštenih radnji, čime se osigurava sigurna upotreba sustava.
Vojni operater featured u videu pokazuje praktičnu primjenu Palantirovog scenarija u odgovoru na potencijalnu prijetnju u istočnoj Europi. Korištenjem AIP-a operater je mogao učinkovito i djelotvorno prikupiti više informacija o neprijateljskoj vojnoj opremi. Uz pomoć AIP-ovih velikih jezičnih modela, operater je također mogao brzo postavljati pitanja i dobiti točne odgovore.
Iako su sposobnosti AIP-a bile učinkovito prikazane, Palantir prepoznaje važnost upravljanja primjenom LLM-a i algoritama u osjetljivim situacijama, posebno u vojnim pothvatima. Također postoji zabrinutost oko pouzdanosti i učinkovitosti tehnologije, posebno oko sprječavanja LLM-a da generiraju lažne činjenice i detalje.
Palantir je postao poznat po pružanju spornog softvera za analizu podataka vladinim organizacijama. Tvrtka je bila kritikovao od strane stručnjaka za privatnost za nadzor i analizu podataka koji narušavaju privatnost ljudi. Korištenje te tehnologije od strane američkih imigracijskih vlasti za hvatanje imigranata bez dokumenata izazvalo je prosvjede. U UK-u su zdravstveni podaci kojima tvrtka upravlja također izazvali uzbunu.
Pročitajte više:
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Agne je novinarka koja pokriva najnovije trendove i razvoj u metaverzumu, umjetnoj inteligenciji i Web3 industrije za Metaverse Post. Njezina strast za pripovijedanjem dovela ju je do brojnih intervjua sa stručnjacima u tim područjima, uvijek nastojeći otkriti uzbudljive i privlačne priče. Agne je diplomirala književnost i ima opsežno iskustvo u pisanju o širokom rasponu tema, uključujući putovanja, umjetnost i kulturu. Također je volontirala kao urednica organizacije za prava životinja, gdje je pomogla u podizanju svijesti o pitanjima dobrobiti životinja. Kontaktirajte je na [e-pošta zaštićena].
Više članaka
Agne je novinarka koja pokriva najnovije trendove i razvoj u metaverzumu, umjetnoj inteligenciji i Web3 industrije za Metaverse Post. Njezina strast za pripovijedanjem dovela ju je do brojnih intervjua sa stručnjacima u tim područjima, uvijek nastojeći otkriti uzbudljive i privlačne priče. Agne je diplomirala književnost i ima opsežno iskustvo u pisanju o širokom rasponu tema, uključujući putovanja, umjetnost i kulturu. Također je volontirala kao urednica organizacije za prava životinja, gdje je pomogla u podizanju svijesti o pitanjima dobrobiti životinja. Kontaktirajte je na [e-pošta zaštićena].
