Ross Anderson 将 AI 模型崩溃视为在线内容中日益严重的问题
在短短六个月内，生成式 AI 取得了长足的进步，引起了全世界的关注。 ChatGPT是这项技术的一个突出例子，很快就得到了普及和广泛使用。 然而，著名专家罗斯·安德森警告说 潜在风险 与未来几代模特的智力衰退有关。
Ross Anderson 是安全工程领域的先驱，也是发现安全系统和算法漏洞方面的权威。 作为皇家工程院院士和剑桥大学教授，他为信息安全领域做出了广泛贡献，塑造了各个领域的威胁模型。
现在，安德森对人类面临的全球威胁提出了警告——大型语言模型（LLM）的崩溃. 直到最近，互联网上的大部分文本都是由人类生成的。 LLM 现已成为编辑和创建新文本的主要工具，取代了人工生成的内容。
这种转变提出了重要的问题：这种趋势将走向何方，当法学硕士主导互联网时会发生什么？ 其含义不仅仅局限于文本。 例如，如果一个 音乐模特 受莫扎特作曲的训练，后代可能缺乏原作的光彩，产生较差的结果，可与音乐剧《萨列里》相提并论。 随着每一代人的发展，质量和智力下降的风险都会增加。
这个概念可能会让你想起电影“多重”，由迈克尔·基顿主演，克隆导致每个后续克隆的智力下降和愚蠢增加。
法学硕士也会出现同样的现象。 使用模型生成的内容训练模型会导致不可逆转的缺陷和几代人的文本质量下降。 内容的原始分布变得扭曲，导致无意义信息的涌入。 高斯分布收敛，在极端情况下，文本可能变得毫无意义。 后代甚至可能会根据前人所犯的错误而错误地认识现实。 这种现象被称为“模型崩溃”。
模型崩溃的后果很严重：
✔️ 互联网上越来越充斥着无意义的内容。
✔️ 消费此内容的个人可能会不知不觉地变得不那么了解情况并失去智力。
幸运的是，还有希望。 安德森表示，模型崩溃是可以避免的，这在担忧中带来了一丝乐观情绪。 要了解有关潜在解决方案以及如何避免在线信息质量下降的更多信息，我们鼓励您进一步探索。
虽然生成式 AI 前景广阔，但必须保持警惕并应对其带来的挑战。 通过了解和减轻与模型崩溃相关的风险，我们可以努力利用这项技术的好处，同时保持互联网上信息的完整性。
阅读有关人工智能的更多信息：
免责声明
在与行 信托项目指南，请注意，本页提供的信息无意且不应被解释为法律、税务、投资、财务或任何其他形式的建议。 重要的是，仅投资您可以承受损失的金额，并在有任何疑问时寻求独立的财务建议。 如需了解更多信息，我们建议您参阅条款和条件以及发行人或广告商提供的帮助和支持页面。 MetaversePost 致力于提供准确、公正的报告，但市场状况如有变更，恕不另行通知。
关于作者
Damir 是团队领导、产品经理和编辑 Metaverse Post，涵盖 AI/ML、AGI、LLM、Metaverse 等主题 Web3- 相关领域。 他的文章每月吸引超过一百万用户的大量读者。 他似乎是一位在 SEO 和数字营销方面拥有 10 年经验的专家。 达米尔曾在 Mashable、Wired、 Cointelegraph、《纽约客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作为数字游牧者往返于阿联酋、土耳其、俄罗斯和独联体国家之间。 达米尔获得了物理学学士学位，他认为这赋予了他在不断变化的互联网格局中取得成功所需的批判性思维技能。
更多文章
Damir 是团队领导、产品经理和编辑 Metaverse Post，涵盖 AI/ML、AGI、LLM、Metaverse 等主题 Web3- 相关领域。 他的文章每月吸引超过一百万用户的大量读者。 他似乎是一位在 SEO 和数字营销方面拥有 10 年经验的专家。 达米尔曾在 Mashable、Wired、 Cointelegraph、《纽约客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作为数字游牧者往返于阿联酋、土耳其、俄罗斯和独联体国家之间。 达米尔获得了物理学学士学位，他认为这赋予了他在不断变化的互联网格局中取得成功所需的批判性思维技能。
