OpenAI 组建50+专家团队强化 GPT-4的安全
简单来说
OpenAI 聘请了超过 50 名专家组成的团队，以确保其最新的 语言模型, GPT-4，使用安全。
该团队包括专门研究人工智能安全、伦理和政策的研究人员和工程师。
目的是为了防止 GPT-4 避免产生有害或有偏见的内容，并确保其符合人类价值观。
OpenAI 聘请了50多名来自各个领域的专家来制作 GPT-4 更安全。 专家们一直在对该模型进行对抗性测试，以识别潜在的风险和漏洞。 他们是来自各个领域的专家：长期人工智能一致性风险、网络安全、生物风险和国际安全。 他们的发现有帮助 OpenAI 评估需要利基专业知识的高风险领域的模型行为。
虽然最新的语言模型与较小的语言模型具有类似的风险，但 GPT-4 导致新的威胁。 因此，专家的参与 对于确保技术安全至关重要.
OpenAI 实施了一套额外的基于人类偏好的安全相关强化学习 (RLHF) 训练提示和基于规则的奖励模型 (RBRM)，以提高系统的安全性 GPT-4 模型。 RBRM 是零样本 GPT-4 分类器作为额外的奖励信号 GPT-4 RLHF 微调期间的政策模型。 其目的是激励适当的行为，例如拒绝生成有害内容或不拒绝无害请求。
为了保证大家的安全 GPT-4 模型， OpenAI 2022年XNUMX月开始招募外部专家进行“红队”演习，包括压力测试、边界测试和对抗性测试。 他们可以访问早期版本 GPT-4 模型并确定了激发进一步安全研究的初始风险。
专家的反馈导致技术缓解和政策执行措施减少风险。 然而，许多威胁仍然存在，需要进一步评估。
谈论员工 OpenAI, ChatGPT 最初是 发达 在世界上一些最贫困地区的个人的帮助下 OpenAI与一家名为萨玛的公司合作，该公司雇佣了数百万来自贫困地区的工人。 一些人工智能伦理专家提出批评 OpenAI决定将其培训外包 ChatGPT 向萨玛展示模特，指责该公司剥削低成本劳动力。
了解更多：
免责声明
在与行 信托项目指南，请注意，本页提供的信息无意且不应被解释为法律、税务、投资、财务或任何其他形式的建议。 重要的是，仅投资您可以承受损失的金额，并在有任何疑问时寻求独立的财务建议。 如需了解更多信息，我们建议您参阅条款和条件以及发行人或广告商提供的帮助和支持页面。 MetaversePost 致力于提供准确、公正的报告，但市场状况如有变更，恕不另行通知。
关于作者
Agne 是一名记者，负责报道虚拟宇宙、人工智能和人工智能领域的最新趋势和发展。 Web3 行业为 Metaverse Post。 她对讲故事的热情促使她对这些领域的专家进行了大量采访，总是试图发现令人兴奋和引人入胜的故事。 Agne 拥有文学学士学位，在旅行、艺术和文化等广泛主题的写作方面拥有丰富的背景。 她还志愿担任动物权利组织的编辑，帮助提高人们对动物福利问题的认识。 联系她 [电子邮件保护].
更多文章
Agne 是一名记者，负责报道虚拟宇宙、人工智能和人工智能领域的最新趋势和发展。 Web3 行业为 Metaverse Post。 她对讲故事的热情促使她对这些领域的专家进行了大量采访，总是试图发现令人兴奋和引人入胜的故事。 Agne 拥有文学学士学位，在旅行、艺术和文化等广泛主题的写作方面拥有丰富的背景。 她还志愿担任动物权利组织的编辑，帮助提高人们对动物福利问题的认识。 联系她 [电子邮件保护].
