ИИ может точно сказать вам, кто вы, даже если вы им не говорите
Даже в ситуациях, когда люди думают, что не раскрыли ничего личного, языковые модели ИИ демонстрируют неожиданный уровень мастерства в понимании пользовательской информации. Это явление объясняется Недавнее исследование Проведенный Федеральным технологическим институтом в Цюрихе. Исследование, основанное на косвенных сигналах, показывает, что нейронные сети могут создавать удивительно точные профили пользователей.
В качестве примера для своего расследования исследователи использовали общедоступный пост на Reddit. Пользователь сообщил, что застрял в пробке при попытке сложного поворота «крюком». Основываясь на этих, казалось бы, ничем не примечательных деталях, языковая модель сделала вывод, что пользователь, скорее всего, живет в Мельбурне, Австралия, городе, где подобные действия типичны.
Исследователи создали набор данных, используя реальные профили Reddit, и обнаружили, что текущие LLM может точно определить различные личные характеристики, такие как местоположение, доход и пол. Эти модели достигли точности до 85 % для вывода топ-1 и точности 95.8 % для вывода топ-3, и все это при значительно меньших затратах (в 100 раз) и за меньшее время (в 240 раз) по сравнению с человеческими усилиями.
В другом примере пользователь рассказывает, что, поскольку он одинок, у него есть странная традиция в день рождения покрывать его корицей. Здесь языковая модель оценила возраст автора примерно в 25 лет. Она живет в Дании, где принято посыпать корицей одиноких 25-летних.
Несколько языковых моделей, в том числе от Google, Meta, OpenAI, и Anthropic были протестированы в исследовании. Примечательно, GPT-4 продемонстрировал высочайший уровень экспертизы, правильно распознав личную информацию пользователей почти в 85% случаев. Это открытие ставит под серьезный вопрос последствия таких возможностей.
Исследователи изучили распространенные меры защиты конфиденциальности, такие как анонимизация текста и согласование моделей, и обнаружили, что в настоящее время они неэффективны для защиты. конфиденциальность пользователей против вывода LLM. Исследование подчеркивает, что нынешние программы LLM обладают способностью получать личную информацию в беспрецедентных масштабах. В отсутствие эффективных средств защиты исследователи подчеркивают необходимость более широкого обсуждения последствий LLM для конфиденциальности, выходя за рамки проблем с запоминанием и стремясь к более комплексным мерам защиты конфиденциальности.
Хотя эти языковые модели становятся все лучше в интерпретации косвенных сигналов, исследователи полагают, что из-за большого объема обучающих данных, которые они используют, они могут быть чрезвычайно полезными инструментами для маркетологов или даже плохих актеров.
- В последнее время Исследование Deloitte более 1,700 специалистов показывает растущий разрыв между быстрым внедрением генеративного искусственного интеллекта и отставанием в развитии этических принципов. Конфиденциальность данных является главной этической проблемой: 22% респондентов назвали ее своей основной проблемой. Несмотря на это, 39% респондентов считают, что когнитивные технологии обладают наибольшим потенциалом для общественного блага. Исследование также показывает сдвиг ожиданий в сторону участия правительства в установлении этических стандартов в области технологий.
- Кроме того, материнская компания Snapchat, Snap, находится под пристальным вниманием на предмет рисков конфиденциальности связанный с его чат-ботом с искусственным интеллектом «Мой AI». Управление комиссара по информации Великобритании (ICO) выпустило предварительное уведомление о принудительном исполнении, которое потенциально может повлиять на деятельность Snap по обработке данных. ICO утверждает, что Snap не смог оценить последствия для конфиденциальности пользователей, особенно детей.
| Похожие страницы:: Лидеры искусственного интеллекта предупреждают о растущих рисках и этических проблемах в условиях быстрого прогресса |
Отказ от ответственности
В соответствии с Руководство трастового проектаОбратите внимание, что информация, представленная на этой странице, не предназначена и не должна интерпретироваться как юридическая, налоговая, инвестиционная, финансовая или любая другая форма консультации. Важно инвестировать только то, что вы можете позволить себе потерять, и обращаться за независимой финансовой консультацией, если у вас есть какие-либо сомнения. Для получения дополнительной информации мы предлагаем обратиться к положениям и условиям, а также к страницам справки и поддержки, предоставленным эмитентом или рекламодателем. MetaversePost стремится предоставлять точную и объективную отчетность, однако рыночные условия могут быть изменены без предварительного уведомления.
Об авторе
Дамир — руководитель группы, менеджер по продукту и редактор в Metaverse Post, охватывающие такие темы, как AI/ML, AGI, LLM, Metaverse и Web3-связанные поля. Его статьи ежемесячно привлекают огромную аудиторию, насчитывающую более миллиона пользователей. Похоже, он эксперт с 10-летним опытом работы в области SEO и цифрового маркетинга. Дамир упоминается в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и другие издания. Он путешествует между ОАЭ, Турцией, Россией и СНГ в качестве цифрового кочевника. Дамир получил степень бакалавра в области физики, что, по его мнению, дало ему навыки критического мышления, необходимые для достижения успеха в постоянно меняющемся мире Интернета.
Другие статьи
Дамир — руководитель группы, менеджер по продукту и редактор в Metaverse Post, охватывающие такие темы, как AI/ML, AGI, LLM, Metaverse и Web3-связанные поля. Его статьи ежемесячно привлекают огромную аудиторию, насчитывающую более миллиона пользователей. Похоже, он эксперт с 10-летним опытом работы в области SEO и цифрового маркетинга. Дамир упоминается в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и другие издания. Он путешествует между ОАЭ, Турцией, Россией и СНГ в качестве цифрового кочевника. Дамир получил степень бакалавра в области физики, что, по его мнению, дало ему навыки критического мышления, необходимые для достижения успеха в постоянно меняющемся мире Интернета.
