ШІ може точно сказати вам, хто ви, навіть якщо ви їм не кажете
Навіть у ситуаціях, коли люди думають, що вони не розкрили нічого особистого, мовні моделі ШІ демонструють неочікуваний рівень майстерності в розумінні інформації користувача. Це явище пояснюється тим недавнє дослідження проведено Федеральним технологічним інститутом у Цюріху. На основі косих підказок дослідження показує, що нейронні мережі можуть створювати надзвичайно точні профілі користувачів.
Дослідники використовували публікацію Reddit, яка була доступна громадськості, як приклад для свого дослідження. Користувач повідомив, що застряг у пробці під час спроби складного «повороту». Грунтуючись на цих, здавалося б, нічим не примітних деталях, мовна модель дійшла висновку, що користувач, швидше за все, живе в Мельбурні, Австралія, місті, де такі дії типові.
Дослідники створили набір даних за допомогою реальних профілів Reddit і виявили, що поточний LLM може точно визначити різні особисті атрибути, такі як місцезнаходження, дохід і стать. Ці моделі досягли точності до 85% для найкращих висновків 1 і 95.8% точності для найкращих висновків, і все це за значно менших витрат (у 3 разів) і за менший час (у 100 разів) порівняно з людськими зусиллями.
В іншому прикладі користувач розповідає, що, оскільки вони неодружені, вони мають дивний звичай на день народження покриватися корицею. Тут мовна модель оцінила вік автора приблизно в 25. Вона живе в Данії, де прийнято посипати корицею неодружених 25-річних.
Кілька мовних моделей, у тому числі від Google, Meta, OpenAI, і Anthropic, були протестовані в дослідженні. Примітно, GPT-4 показали найвищий рівень майстерності, правильно розпізнавши особисту інформацію користувачів майже у 85% випадків. Наслідки таких можливостей піддаються серйозному сумніву цим відкриттям.
Дослідники вивчили загальні засоби захисту конфіденційності, такі як анонімізація тексту та вирівнювання моделі, і виявили, що вони зараз неефективні для захисту конфіденційність користувачів проти висновку LLM. Дослідження підкреслює, що нинішні магістратури мають здатність виводити особисту інформацію в безпрецедентному масштабі. Через відсутність ефективного захисту дослідники наголошують на необхідності ширшого обговорення наслідків LLM для конфіденційності, виходячи за рамки занепокоєння щодо запам’ятовування та прагнучи до більш комплексних заходів захисту конфіденційності.
Незважаючи на те, що ці мовні моделі стають кращими в інтерпретації непрямих сигналів, дослідники вважають, що через велику кількість навчальних даних, які вони використовують, вони можуть бути надзвичайно корисними інструментами для маркетологів або навіть поганих акторів.
- В останній час Опитування Deloitte понад 1,700 професіоналів показує зростаючий розрив між швидким впровадженням генеративного ШІ та відставанням розвитку етичних принципів. Конфіденційність даних є основним етичним питанням, причому 22% респондентів назвали це своїм основним занепокоєнням. Незважаючи на це, 39% респондентів вважають, що когнітивні технології мають найбільший потенціал для суспільного блага. Опитування також показує зміну очікувань щодо участі уряду у встановленні етичних технологічних стандартів.
- Крім того, материнська компанія Snapchat, Snap, перебуває під пильною увагою щодо ризиків конфіденційності пов’язаний зі своїм чат-ботом зі штучним інтелектом «Мій штучний інтелект». Управління інформаційного комісара Великобританії (ICO) випустило попереднє повідомлення про застосування, яке потенційно може вплинути на діяльність Snap з обробки даних. ICO стверджує, що Snap не змогла оцінити наслідки конфіденційності для користувачів, особливо дітей.
| споріднений: Керівники штучного інтелекту попереджають про зростаючі ризики та етичні проблеми у зв’язку зі швидким прогресом |
відмова
Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.
про автора
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
інші статті
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
