Palantir uzsāk MI platformu militārai lietošanai, rada bažas par ētiku
Īsumā
Palantir ir izlaidusi savas jaunās Palantir mākslīgā intelekta platformas video demonstrāciju, kas integrē lielus valodu modeļus privāti pārvaldītos tīklos.
AIP ir paredzēts militārām operācijām un tika demonstrēts video, izmantojot a ChatGPT- stila tērzēšanas robots.
LLM un algoritmu izmantošana sensitīvos kontekstos, piemēram, militārajos paaugstināšanās ētikas problēmas.
Tehnoloģiju uzņēmums Palantir, kuru dibināja miljardieris Pīters Tīls, veic pasākumus, lai paplašinātu savu darbību ārpus ASV Imigrācijas un muitas dienesta iekšzemes uzraudzības pakalpojumiem. Uzņēmumam ir atbrīvots jaunākā piedāvājuma – Palantir mākslīgā intelekta platformas (AIP) – video demonstrācija, kas ir izstrādāta, lai integrētu lielus valodu modeļus (LLM), piemēram, OpenAI'S GPT-4 un Google BERT privāti pārvaldītos tīklos.
Videoklipā Palantir parādīja, kā tā programmatūru var izmantot militārs mūsdienu kara scenārijos. Operators var izmantot a ChatGPT- stila tērzēšanas robots, lai pasūtītu dronu izlūkošanu, ģenerētu uzbrukuma plānus un koordinētu ienaidnieka sakaru traucēšanu. AIP darbības uzsākšana noteikti radīs jautājumus par Palantira līdzdalības militārajās operācijās ētiskajām sekām.
Lai panāktu ētisku un likumīgu izmantošanu, Palantir AIP tika veidots uz trim “galvenajiem pīlāriem”. Pirmkārt, AIP darbojas klasificētā sistēmā, kas ļauj analizēt klasificētos un neklasificētos datus reāllaikā, vienlaikus nodrošinot ētisku un juridisku atbilstību. Otrā AIP funkcija ļauj lietotājiem pārvaldīt katra tīklā strādājošā LLM un aktīva darbības.
AIP ģenerē drošu digitālu ierakstu par visu darbību, kas, kā apgalvo video, ir izšķiroša nozīme nozīmīgu juridisko, normatīvo un ētisko risku mazināšanā sensitīvos un klasificētos iestatījumos. Visbeidzot, AIP ir ieviestas nozarē vadošās margas, lai novērstu neatļautas darbības, tādējādi nodrošinot drošu sistēmas lietošanu.
Militārais operators featured video demonstrē Palantira scenārija praktisko pielietojumu, reaģējot uz potenciālajiem draudiem Austrumeiropā. Izmantojot AIP, operators varēja efektīvi un lietderīgi savākt vairāk informācijas par ienaidnieka militāro aprīkojumu. Ar AIP lielo valodu modeļu palīdzību operators arī varēja ātri uzdot jautājumus un iegūt precīzas atbildes.
Lai gan AIP spējas tika demonstrētas efektīvi, Palantirs atzīst, cik svarīgi ir pārvaldīt LLM un algoritmu piemērošanu jutīgās situācijās, īpaši militāros pasākumos. Pastāv arī bažas par tehnoloģijas uzticamību un efektivitāti, jo īpaši par to, lai LLM neļautu radīt nepatiesus faktus un detaļas.
Palantir ir ieguvis bēdīgu slavu, nodrošinot strīdīgu datu analīzes programmatūru valdības organizācijām. Uzņēmums ir bijis kritizēja privātuma eksperti, lai uzraudzītu un analizētu datus, kas pārkāpj cilvēku privātumu. Tas, ka ASV imigrācijas iestādes izmanto tās tehnoloģiju, lai aizturētu imigrantus bez dokumentiem, ir izraisījusi protestus. Apvienotajā Karalistē trauksmi izraisījuši arī uzņēmuma apstrādātie veselības dati.
Lasīt vairāk:
Atbildības noraidīšana
Atbilstīgi Uzticības projekta vadlīnijas, lūdzu, ņemiet vērā, ka šajā lapā sniegtā informācija nav paredzēta un to nedrīkst interpretēt kā juridisku, nodokļu, ieguldījumu, finanšu vai jebkāda cita veida padomu. Ir svarīgi ieguldīt tikai to, ko varat atļauties zaudēt, un meklēt neatkarīgu finanšu padomu, ja jums ir šaubas. Lai iegūtu papildinformāciju, iesakām skatīt pakalpojumu sniegšanas noteikumus, kā arī palīdzības un atbalsta lapas, ko nodrošina izdevējs vai reklāmdevējs. MetaversePost ir apņēmies sniegt precīzus, objektīvus pārskatus, taču tirgus apstākļi var tikt mainīti bez iepriekšēja brīdinājuma.
Par Autors
Agne ir žurnāliste, kas atspoguļo jaunākās tendences un notikumus metaversā, AI un Web3 nozares Metaverse Post. Viņas aizraušanās ar stāstīšanu ir likusi viņai vadīt daudzas intervijas ar šo jomu ekspertiem, vienmēr cenšoties atklāt aizraujošus un saistošus stāstus. Agnei ir bakalaura grāds literatūrā, un viņai ir plaša pieredze rakstīšanā par dažādām tēmām, tostarp ceļošanu, mākslu un kultūru. Viņa ir arī brīvprātīgi piedalījusies par redaktori dzīvnieku tiesību organizācijā, kur palīdzējusi vairot izpratni par dzīvnieku labturības jautājumiem. Sazinieties ar viņu tālāk [e-pasts aizsargāts].
Vairāk rakstus
Agne ir žurnāliste, kas atspoguļo jaunākās tendences un notikumus metaversā, AI un Web3 nozares Metaverse Post. Viņas aizraušanās ar stāstīšanu ir likusi viņai vadīt daudzas intervijas ar šo jomu ekspertiem, vienmēr cenšoties atklāt aizraujošus un saistošus stāstus. Agnei ir bakalaura grāds literatūrā, un viņai ir plaša pieredze rakstīšanā par dažādām tēmām, tostarp ceļošanu, mākslu un kultūru. Viņa ir arī brīvprātīgi piedalījusies par redaktori dzīvnieku tiesību organizācijā, kur palīdzējusi vairot izpratni par dzīvnieku labturības jautājumiem. Sazinieties ar viņu tālāk [e-pasts aizsargāts].
