2024 年技术趋势：行业领导者采用人工智能应对 Deepfake 威胁
简单来说
在对抗深度造假技术的斗争中，各行业正在使用人工智能工具和解决方案来打击被操纵内容的扩散。
在正在进行的俄罗斯-乌克兰战争期间，出现了一段乌克兰总统泽连斯基要求其军队在战争中投降的视频。这后来被证明是一个 假视频.
在不断演变的抗击斗争中 深造技术各行各业越来越多地转向先进的技术手段来打击受操纵内容的扩散。从内容真实性举措到隐形水印技术、算法检测工具、协作项目和平台政策变化——打击深度造假的斗争正在变得多方面和动态。
内容真实性和内容来源
由行业参与者领导的内容真实性倡议旨在以加密方式密封内容的归属信息，从而实现从创建到消费的验证。同时，内容来源和认证联盟 (C2PA) 发布了开放标准技术规范，重点提供有关内容来源、更改和贡献者的数据。
微软更进一步，宣布推出“内容凭证即服务”，利用 C2PA 数字水印凭证来帮助选举候选人和竞选活动保持对其内容的控制。
水印技术
Meta 推出了稳定签名，这是一种隐形水印技术，旨在区分开源创建的内容 生成式人工智能模型。这种不可见的水印肉眼无法察觉，但可以通过算法追踪，有助于识别被操纵的图像。谷歌 DeepMind 也加入了 SynthID 的竞争，允许用户将数字水印直接嵌入人工智能生成的图像或音频中。
该技术使用户能够扫描内容中的水印，从而了解内容是否是使用谷歌的人工智能模型创建或更改的。
算法检测
业界正在部署深度伪造的自动检测软件，依靠各种基于人工智能的策略，例如说话人识别、语音活体检测、 面部识别和时间分析。微软的 Video Authenticator 和英特尔支持的 FakeCatcher 就是著名的例子。
然而，挑战在于检测工具的瞬态性，因为不断发展的深度伪造生产技术不断挑战其可靠性。 A 根据一项研究， 发现各个数据集的准确度水平不同（30-97%），这表明需要持续创新以跟上新兴的深度伪造技术的步伐。
项目起源
媒体机构，包括 BBC 和 微软，合作了 Project Origin。该计划旨在建立一种合成媒体的工程方法，提供数字签名的链接，以便可验证地追踪媒体内容回发布者。该项目还旨在实施验证检查，以确保内容在分发过程中保持不变。
平台政策变更
针对政治广告的高风险背景，各大平台如 元 和谷歌已宣布改变政策以提高透明度。 Meta 更新的政治广告披露政策要求广告商披露与选举相关或政治广告中经过数字修改的内容。
YouTube 要求创作者披露合成媒体内容的使用情况，不遵守规定可能会受到处罚，包括删除内容或暂停 YouTube 合作伙伴计划。 Google Play 商店还推出了针对人工智能生成内容的政策，重点是防止通过生成人工智能应用程序创建和传播有害或欺骗性内容。
随着打击深度造假的斗争愈演愈烈，事实证明，行业干预和技术解决方案对于保护数字内容的真实性和可信度至关重要。各领域主要参与者的共同努力反映了对在不断发展的合成媒体领域保持领先地位的承诺。
免责声明
在与行 信托项目指南，请注意，本页提供的信息无意且不应被解释为法律、税务、投资、财务或任何其他形式的建议。 重要的是，仅投资您可以承受损失的金额，并在有任何疑问时寻求独立的财务建议。 如需了解更多信息，我们建议您参阅条款和条件以及发行人或广告商提供的帮助和支持页面。 MetaversePost 致力于提供准确、公正的报告，但市场状况如有变更，恕不另行通知。
关于作者
Kumar 是一位经验丰富的科技记者，专注于人工智能/机器学习、营销技术以及加密货币、区块链和人工智能等新兴领域的动态交叉领域。 NFTs。 Kumar 拥有超过 3 年的行业经验，在撰写引人入胜的叙述、进行富有洞察力的采访和提供全面的见解方面建立了良好的记录。 Kumar 的专长在于制作高影响力的内容，包括为著名行业平台制作文章、报告和研究出版物。 库马尔拥有结合技术知识和讲故事的独特技能，擅长以清晰且引人入胜的方式向不同的受众传达复杂的技术概念。
更多文章
Kumar 是一位经验丰富的科技记者，专注于人工智能/机器学习、营销技术以及加密货币、区块链和人工智能等新兴领域的动态交叉领域。 NFTs。 Kumar 拥有超过 3 年的行业经验，在撰写引人入胜的叙述、进行富有洞察力的采访和提供全面的见解方面建立了良好的记录。 Kumar 的专长在于制作高影响力的内容，包括为著名行业平台制作文章、报告和研究出版物。 库马尔拥有结合技术知识和讲故事的独特技能，擅长以清晰且引人入胜的方式向不同的受众传达复杂的技术概念。
