AI може да ви каже точно кой сте, дори ако вие не им казвате
Дори в ситуации, в които хората смятат, че не са разкрили нищо лично, езиковите модели на AI демонстрират неочаквано ниво на умения в разбирането на потребителската информация. Това явление се обяснява с едно скорошно проучване извършено от Федералния технологичен институт в Цюрих. Въз основа на наклонени знаци, изследването показва, че невронните мрежи могат да създават забележително точни потребителски профили.
Изследователите са използвали публикация в Reddit, която е била достъпна за обществеността, като пример за своето разследване. Потребителят съобщи, че е заседнал в трафика, докато се е опитвал да направи труден „завой с кука“. Въз основа на тези привидно незабележими подробности, езиковият модел заключава, че потребителят най-вероятно живее в Мелбърн, Австралия, град, където този вид действия са типични.
Изследователите създадоха набор от данни, използвайки реални профили в Reddit, и откриха, че текущата LLM може точно да изведе различни лични характеристики, като местоположение, доход и пол. Тези модели постигнаха до 85% точност за топ-1 заключение и 95.8% точност за топ-3 заключение, всичко това на значително по-ниска цена (100 пъти) и за по-малко време (240 пъти) в сравнение с човешките усилия.
В друг пример потребител споделя, че тъй като са необвързани, имат странен обичай за рожден ден да се покриват с канела. Тук езиковият модел оценява възрастта на автора на около 25. Тя живее в Дания, където е обичайно да се поръсват с канела несемейните 25-годишни.
Няколко езикови модела, включително тези от Google, Meta, OpenAI, и Anthropic, бяха тествани в проучването. Забележително, GPT-4 показа най-високо ниво на експертиза, разпознавайки правилно личната информация на потребителите в почти 85% от случаите. Последствията от подобни способности са поставени под сериозен въпрос от това разкритие.
Изследователите изследваха обичайните предпазни мерки за поверителност като анонимизиране на текста и подравняване на модела и откриха, че в момента те са неефективни за защита поверителност на потребителя срещу извода на LLM. Проучването подчертава, че настоящите LLM притежават способността да извличат лична информация в безпрецедентен мащаб. При липсата на ефективна защита, изследователите подчертават необходимостта от по-широка дискусия относно последиците за поверителността на LLM, надхвърляща опасенията относно запаметяването и стремейки се към по-всеобхватни мерки за защита на поверителността.
Въпреки че тези езикови модели стават все по-добри при интерпретирането на индиректни знаци, изследователите смятат, че поради голямото количество данни за обучение, които използват, те могат да бъдат изключително полезни инструменти за търговци или дори за лоши актьори.
- Наскоро Проучване на Deloitte от над 1,700 професионалисти разкрива нарастващо разделение между бързото възприемане на генеративния AI и изоставащото развитие на етичните принципи. Поверителността на данните е основната етична грижа, като 22% от респондентите я посочват като своя основна грижа. Въпреки това 39% от респондентите смятат, че когнитивните технологии притежават най-голям потенциал за благото на обществото. Проучването също така показва промяна в очакванията към участието на правителството в определянето на етични технологични стандарти.
- Освен това компанията майка на Snapchat, Snap, е подложен на проверка за рискове за поверителността свързано с неговия AI chatbot, „My AI“. Службата на комисаря по информацията (ICO) на Обединеното кралство издаде предварително известие за изпълнение, което потенциално засяга дейностите по обработка на данни на Snap. ICO твърди, че Snap не е успял да оцени последиците за поверителността на потребителите, особено на децата.
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
Още статии
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
