Anthropic、谷歌、微软和 OpenAI 任命前沿模型论坛执行董事并设立 10 万美元人工智能安全基金
简单来说
Anthropic、谷歌、微软和 OpenAI 介绍 Chris Meserole 为前沿模型论坛的首任执行董事。
同时，他们还宣布设立一项庞大的人工智能安全基金，资金超过 10 万美元。
Anthropic、谷歌、微软和 OpenAI 它们在许多情况下都能提供类似的结果。 任命 Chris Meserole 担任前沿模型论坛首任执行董事。 该行业联盟致力于促进全球尖端人工智能模型的安全和道德进步。 同时，Forum 推出了超过 10 万美元的人工智能安全基金。 该基金的目标是推动人工智能安全研究的进步。
执行总监 克里斯·梅塞罗尔 带来了技术政策和新兴技术治理方面的广泛背景。 在被任命之前，他曾担任布鲁金斯学会人工智能和新兴技术计划主任。 在他的新职位上，Meserole 将领导推动人工智能安全研究、确定安全人工智能模型开发的最佳实践、向利益相关者传播知识，并支持利用人工智能应对社会挑战的举措。
“最强大的人工智能模型为社会带来了巨大的希望，但为了实现它们的潜力，我们需要更好地了解如何安全地开发和评估它们。 我很高兴能够通过前沿模型论坛接受这一挑战。”
梅塞罗莱说。
人工智能安全基金的出现是为了应对过去一年人工智能能力的快速发展，需要对人工智能安全进行进一步的学术研究。 该基金是前沿模型论坛和慈善合作伙伴之间的合作项目，将为世界各地附属于学术机构、研究组织和初创公司的独立研究人员提供支持。
该计划的主要贡献者包括 Anthropic、Google、Microsoft 和 OpenAI以及帕特里克·J·麦戈文基金会、大卫和露西尔·帕卡德基金会、埃里克·施密特和贾恩·塔林等慈善组织。 他们的捐款总额超过 10 万美元，预计其他合作伙伴还会提供更多捐款。
今年早些时候，论坛成员在白宫做出了自愿承诺，包括支持第三方发现和报告其人工智能系统中的漏洞。 人工智能安全基金通过向外部社区提供资金来审查前沿人工智能系统来履行这一承诺。 多样化的声音和观点将丰富关于人工智能安全的全球讨论，并扩大人工智能的通用知识库。
促进人工智能安全和协作
人工智能安全基金主要致力于支持人工智能模型新评估技术和红队方法的开发，旨在发现潜在危险。 红队是一个结构化流程，用于审查人工智能系统以识别有害功能、输出或基础设施威胁。 增加该领域的资金可以提高安全标准，并为缓解人工智能系统带来的挑战提供宝贵的见解。
此外，该基金将很快寻求研究提案，并将由子午线研究所根据咨询委员会的建议进行管理，该委员会包括独立专家、人工智能专业人士和资助专家。
负责任的披露流程正在进行中，允许前沿人工智能实验室分享有关前沿人工智能模型中的漏洞和危险功能的信息及其解决方案。 一些论坛公司已经在国家安全的背景下发现了此类问题，作为指导其他实验室实施负责任的披露程序的案例研究。
展望未来，前沿模型论坛计划在未来几个月内建立一个顾问委员会，负责指导其战略重点并代表不同的专业知识和观点。 论坛将定期发布更新，包括添加新成员。 与此同时，人工智能安全基金将发出第一次提案征集，不久后就会发放赠款。 此外，论坛将继续发布技术研究结果。
该论坛的总体目标是与 Chris Meserole 合作并扩大与更广泛的研究界的接触。 这包括与 Partnership on AI、MLCommons 等组织以及其他领先的非政府组织、政府实体和跨国组织的合作伙伴关系。 他们共同致力于发挥人工智能的潜力，同时确保其安全且合乎道德的开发和利用。
免责声明
在与行 信托项目指南，请注意，本页提供的信息无意且不应被解释为法律、税务、投资、财务或任何其他形式的建议。 重要的是，仅投资您可以承受损失的金额，并在有任何疑问时寻求独立的财务建议。 如需了解更多信息，我们建议您参阅条款和条件以及发行人或广告商提供的帮助和支持页面。 MetaversePost 致力于提供准确、公正的报告，但市场状况如有变更，恕不另行通知。
关于作者
Agne 是一名记者，负责报道虚拟宇宙、人工智能和人工智能领域的最新趋势和发展。 Web3 行业为 Metaverse Post。 她对讲故事的热情促使她对这些领域的专家进行了大量采访，总是试图发现令人兴奋和引人入胜的故事。 Agne 拥有文学学士学位，在旅行、艺术和文化等广泛主题的写作方面拥有丰富的背景。 她还志愿担任动物权利组织的编辑，帮助提高人们对动物福利问题的认识。 联系她 [email protected].
更多文章
Agne 是一名记者，负责报道虚拟宇宙、人工智能和人工智能领域的最新趋势和发展。 Web3 行业为 Metaverse Post。 她对讲故事的热情促使她对这些领域的专家进行了大量采访，总是试图发现令人兴奋和引人入胜的故事。 Agne 拥有文学学士学位，在旅行、艺术和文化等广泛主题的写作方面拥有丰富的背景。 她还志愿担任动物权利组织的编辑，帮助提高人们对动物福利问题的认识。 联系她 [email protected].
