Palantir пуска AI платформа за военна употреба, поражда опасения относно етиката
Накратко
Palantir пусна видео демонстрация на новата си платформа за изкуствен интелект Palantir, която интегрира големи езикови модели в частно управлявани мрежи.
AIP е предназначен за военни операции и беше демонстриран във видеото с помощта на a ChatGPT-стил чатбот.
Използването на LLM и алгоритми в чувствителни контексти като военните повишава етични проблеми.
Технологичната компания Palantir, основана от милиардера Питър Тийл, предприема стъпки за разширяване на обхвата си отвъд вътрешните услуги за наблюдение за имиграционните и митническите органи на САЩ. Компанията има освободен видео демонстрация на последното му предложение, платформата за изкуствен интелект Palantir (AIP), която е предназначена да интегрира големи езикови модели (LLM) като OpenAIЕ GPT-4 и BERT на Google в частно управлявани мрежи.
Във видеото Palantir показа как неговият софтуер може да се използва от военен в съвременни сценарии на война. Операторът може да използва a ChatGPTчатбот в стил, за да поръчате разузнаване с дрон, да генерирате планове за атака и да координирате заглушаването на вражеските комуникации. Стартирането на AIP със сигурност ще повдигне въпроси относно етичните последици от участието на Palantir във военни операции.
За постигане на етична и законна употреба, Palantir AIP е изграден върху три „ключови стълба“. Първо, AIP работи в рамките на класифицирана система, което й позволява да анализира класифицирани и некласифицирани данни в реално време, като същевременно гарантира етично и правно съответствие. Втората характеристика на AIP позволява на потребителите да управляват действията на всеки LLM и актив, работещ в мрежата.
AIP генерира сигурен цифров запис на цялата операция, за която видеото твърди, че е от решаващо значение за смекчаване на значителни правни, регулаторни и етични рискове в чувствителни и класифицирани настройки. И накрая, AIP разполага с водещи в индустрията предпазни огради за предотвратяване на неразрешени действия, като по този начин гарантира безопасното използване на системата.
Военният оператор featured във видеото демонстрира практическото приложение на сценария на Palantir в отговор на потенциална заплаха в Източна Европа. Използвайки AIP, операторът може ефикасно и ефективно да събира повече информация за военното оборудване на противника. С помощта на големите езикови модели на AIP, операторът също можеше бързо да задава въпроси и да получава точни отговори.
Въпреки че способностите на AIP бяха демонстрирани ефективно, Palantir признава значението на управлението на прилагането на LLM и алгоритми в чувствителни ситуации, особено във военни начинания. Съществуват също опасения относно надеждността и ефективността на технологията, особено относно предотвратяването на LLM от генериране на неверни факти и подробности.
Palantir придоби лоша слава с предоставянето на софтуер за анализ на спорни данни на правителствени организации. Компанията е била критикувана от експерти по поверителност за наблюдение и анализ на данни, които нарушават поверителността на хората. Използването на неговата технология от имиграционните власти на САЩ за залавяне на имигранти без документи предизвика протести. В Обединеното кралство здравните данни, обработвани от фирмата, също предизвикаха тревога.
Чети повече:
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
Агне е журналист, който отразява най-новите тенденции и развития в метавселената, ИИ и Web3 индустрии за Metaverse Post. Нейната страст към разказването на истории я кара да провежда множество интервюта с експерти в тези области, като винаги се стреми да разкрива вълнуващи и ангажиращи истории. Агне има бакалавърска степен по литература и има богат опит в писането на широк спектър от теми, включително пътуване, изкуство и култура. Тя също е била доброволец като редактор на организацията за правата на животните, където е помогнала за повишаване на осведомеността относно проблемите, свързани с хуманното отношение към животните. Свържете се с нея на [имейл защитен].
Още статии
Агне е журналист, който отразява най-новите тенденции и развития в метавселената, ИИ и Web3 индустрии за Metaverse Post. Нейната страст към разказването на истории я кара да провежда множество интервюта с експерти в тези области, като винаги се стреми да разкрива вълнуващи и ангажиращи истории. Агне има бакалавърска степен по литература и има богат опит в писането на широк спектър от теми, включително пътуване, изкуство и култура. Тя също е била доброволец като редактор на организацията за правата на животните, където е помогнала за повишаване на осведомеността относно проблемите, свързани с хуманното отношение към животните. Свържете се с нея на [имейл защитен].
