人工智能可以准确地告诉你你是谁，即使你没有告诉他们
即使在人们认为自己没有透露任何个人信息的情况下，人工智能语言模型在理解用户信息方面也表现出了意想不到的熟练程度。 这种现象的解释是 最近的一项研究 由苏黎世联邦理工学院进行。 研究表明，基于间接线索，神经网络可以创建非常准确的用户档案。
研究人员使用公众可以访问的 Reddit 帖子作为调查示例。 该用户报告说，他在尝试进行困难的“勾角转弯”时遇到了交通堵塞。 根据这些看似不起眼的细节，语言模型推断出用户很可能居住在澳大利亚墨尔本，这是此类行为的典型城市。
研究人员使用真实的 Reddit 个人资料创建了一个数据集，并发现当前 法学硕士 可以准确推断出各种个人属性，例如地点、收入、性别。 与人类相比，这些模型的 top-85 推理准确率高达 1%，top-95.8 推理准确率高达 3%，且成本显着降低（100 倍），时间更短（240 倍）。
在另一个例子中，用户分享说，因为他们是单身，所以他们有一个奇怪的生日习俗，那就是涂上肉桂。 这里，语言模型估计作者的年龄约为 25 岁。她住在丹麦，那里有向 25 岁单身人士撒肉桂的习惯。
多种语言模型，包括来自 Google、Meta、 OpenAI和 Anthropic 在研究中进行了测试。 值得注意的是， GPT-4 显示出最高水平的专业知识，在近 85% 的情况下正确识别用户的个人信息。 这一揭露使人们对这种能力的含义提出了严重质疑。
研究人员检查了文本匿名化和模型对齐等常见的隐私保护措施，发现它们目前在保护方面无效 用户隐私 反对LLM的推论。 该研究强调，目前的法学硕士拥有以前所未有的规模推断个人信息的能力。 在缺乏有效防御的情况下，研究人员强调需要对LLM隐私影响进行更广泛的讨论，超越对记忆的担忧，并争取更全面的隐私保护措施。
尽管这些语言模型在解释间接线索方面越来越好，但研究人员认为，由于它们使用了大量的训练数据，它们对于营销人员甚至不良行为者来说可能是极其有用的工具。
- 最近， 德勤的调查 超过 1,700 名专业人士的调查揭示了生成式人工智能的快速采用与道德原则发展的滞后之间日益扩大的鸿沟。 数据隐私是最重要的道德问题，22% 的受访者将其视为首要担忧。 尽管如此，39% 的受访者认为认知技术最有可能造福社会。 该调查还显示，人们对政府参与制定道德技术标准的期望发生了转变。
- 此外，Snapchat 的母公司 Snap， 因隐私风险而受到审查 与其人工智能聊天机器人“My AI”相关。 英国信息专员办公室 (ICO) 已发布初步执法通知，可能会影响 Snap 的数据处理活动。 ICO 声称 Snap 未能评估对用户（尤其是儿童）的隐私影响。
免责声明
在与行 信托项目指南，请注意，本页提供的信息无意且不应被解释为法律、税务、投资、财务或任何其他形式的建议。 重要的是，仅投资您可以承受损失的金额，并在有任何疑问时寻求独立的财务建议。 如需了解更多信息，我们建议您参阅条款和条件以及发行人或广告商提供的帮助和支持页面。 MetaversePost 致力于提供准确、公正的报告，但市场状况如有变更，恕不另行通知。
关于作者
Damir 是团队领导、产品经理和编辑 Metaverse Post，涵盖 AI/ML、AGI、LLM、Metaverse 等主题 Web3- 相关领域。 他的文章每月吸引超过一百万用户的大量读者。 他似乎是一位在 SEO 和数字营销方面拥有 10 年经验的专家。 达米尔曾在 Mashable、Wired、 Cointelegraph、《纽约客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作为数字游牧者往返于阿联酋、土耳其、俄罗斯和独联体国家之间。 达米尔获得了物理学学士学位，他认为这赋予了他在不断变化的互联网格局中取得成功所需的批判性思维技能。
更多文章
Damir 是团队领导、产品经理和编辑 Metaverse Post，涵盖 AI/ML、AGI、LLM、Metaverse 等主题 Web3- 相关领域。 他的文章每月吸引超过一百万用户的大量读者。 他似乎是一位在 SEO 和数字营销方面拥有 10 年经验的专家。 达米尔曾在 Mashable、Wired、 Cointelegraph、《纽约客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作为数字游牧者往返于阿联酋、土耳其、俄罗斯和独联体国家之间。 达米尔获得了物理学学士学位，他认为这赋予了他在不断变化的互联网格局中取得成功所需的批判性思维技能。
