Anthropic 基于 60 条原则为聊天模型提出“上下文 AI”
简单来说
OpenAI 使用来自人类反馈的强化学习 (RLHF) 来调整 语言模型 以人为本、安全和实用。
Anthropic 提出了另一种方法：上下文 AI，它涉及人们编写模型应遵循的宪法。
本章程基于联合国人权宣言、Apple 的服务条款、鼓励考虑非西方观点的原则。
Anthropic 提出了一种使用“宪法人工智能'。 该方法建立在 OpenAI“ 强化学习 来自人类反馈，但通过避免编写深度训练样本的需要而建立在它的基础上。 相反，该模型被训练为通过使用宪法来响应输入，该宪法旨在作为模型遵循的一组法律。
通过这种方法，人工智能可以通过评估它所说的内容与它的一套合法接受的原则来生成自己的训练样本。 这种节省时间的技术可以看作是 艾萨克·阿西莫夫的 机器人定律 实行。
构成模型基础的原则太多了，无法详细讨论。 然而，它们涵盖了许多主题，例如道德、风险规避、经济学和人工智能。 每一项的开发都是为了帮助指导 AI 在响应时做出决策 会话提示.
Anthropic 成功地训练了一个名为 Claude 的人工智能模型，该模型成功地与 OpenAI“ ChatGPT。 使用 体质-AI方法, Claude 可以以令人印象深刻的准确度响应对话提示，但随着 Anthropic 继续以这种改变游戏规则的技术为基础，预计会有更多改进。
事实上，这种新方法有可能为不再需要构建自己的训练样本的公司节省时间和金钱。 相反，这种“现成的”方法可以用作创建定制模型的基础——不需要编程知识。 同样重要的是要注意这项技术如何也有望提高会话机器人的安全性。 制定一套法律上接受的原则 减轻风险 AI 会流氓。
因此，Constitution AI 不仅有望让聊天模型开发变得更简单、更快捷，而且更安全。 人工智能和聊天机器人世界的双赢局面。
对 Anthropic 的聊天机器人“上下文 AI”的分析
Anthropic 的情境人工智能基于 60 多项原则，这些原则源自联合国人权宣言、Apple 的服务条款、鼓励考虑非西方观点的原则、 Deepmind的 Sparrow Rules 和 Anthropic Research Set 1 和 Set 2。
事实上，人工智能现在可以被教导按照从如此广泛和多样化的来源中得出的原则来行事，这确实是了不起的。 例如，通过纳入《联合国人权宣言》中的原则，聊天机器人的反应现在反映了维护自由、平等和兄弟情谊概念的重要性。 这些原则是确保 聊天机器人对话 保持道德和尊重。 同样，Apple 服务条款的纳入确保了 聊天机器人 考虑其用户的隐私利益。
鼓励考虑非西方观点的原则在“情境人工智能”模型中也发挥着重要作用。 这些原则反映了 AI 需要尊重其他文化，并确保聊天机器人的响应不会被视为有害或冒犯性。 类似地，Deepmind 的 Sparrow 规则规定聊天机器人的响应旨在与用户建立关系。
Anthropic Research Set 1 和 Set 2 的结合为人工智能对话保持文明和尊重提供了最终保证。 人工智能经过培训，以确保它以周到和礼貌的方式回答问题。
总而言之，Anthropic 的“情境人工智能”模型是人工智能领域的一项极其重要的突破。 人工智能研究. 通过允许根据从如此广泛的来源中得出的原则来教授 AI，自动对话的伦理意义得到了极大的改善。
阅读有关人工智能的更多信息：
免责声明
在与行 信托项目指南，请注意，本页提供的信息无意且不应被解释为法律、税务、投资、财务或任何其他形式的建议。 重要的是，仅投资您可以承受损失的金额，并在有任何疑问时寻求独立的财务建议。 如需了解更多信息，我们建议您参阅条款和条件以及发行人或广告商提供的帮助和支持页面。 MetaversePost 致力于提供准确、公正的报告，但市场状况如有变更，恕不另行通知。
关于作者
Damir 是团队领导、产品经理和编辑 Metaverse Post，涵盖 AI/ML、AGI、LLM、Metaverse 等主题 Web3- 相关领域。 他的文章每月吸引超过一百万用户的大量读者。 他似乎是一位在 SEO 和数字营销方面拥有 10 年经验的专家。 达米尔曾在 Mashable、Wired、 Cointelegraph、《纽约客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作为数字游牧者往返于阿联酋、土耳其、俄罗斯和独联体国家之间。 达米尔获得了物理学学士学位，他认为这赋予了他在不断变化的互联网格局中取得成功所需的批判性思维技能。
更多文章
Damir 是团队领导、产品经理和编辑 Metaverse Post，涵盖 AI/ML、AGI、LLM、Metaverse 等主题 Web3- 相关领域。 他的文章每月吸引超过一百万用户的大量读者。 他似乎是一位在 SEO 和数字营销方面拥有 10 年经验的专家。 达米尔曾在 Mashable、Wired、 Cointelegraph、《纽约客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作为数字游牧者往返于阿联酋、土耳其、俄罗斯和独联体国家之间。 达米尔获得了物理学学士学位，他认为这赋予了他在不断变化的互联网格局中取得成功所需的批判性思维技能。
