技术专家签署公开信，呼吁暂时停止训练更先进的人工智能系统 GPT-4
简单来说
超过 1100 名签署者签署了公开信，呼吁暂停大型 AI 实验。
签署人包括 Elon Musk、Steve Wozniak 和 Emad Mostaque 等。
这封公开信引发了人们对人工智能信息偏见的担忧， 工作自动化 以及人工智能对人类文明的风险。
包括领先技术专家在内的 1,100 多名签署者签署了一项 公开信 呼吁暂停六个月训练更先进的人工智能系统 GPT-4.
这封信是由生命未来研究所 (Future of Life Institute) 撰写的，这是一家非营利组织，致力于减少人类面临的全球灾难性和生存风险，尤其是先进人工智能带来的生存风险。
引用广泛认可的 Asilomar AI 原则，其中指出“先进的 AI 可能代表地球生命史上的深刻变化，应该以相称的关怀和资源来规划和管理，”这封信说，规划水平和管理没有发生。
这封信接着说，人工智能实验室正在一场“失控”的竞赛中，以开发越来越强大的人工智能，但没有人能够理解、预测或可靠地控制。 正如当代人工智能系统一样 GPT-4 能够 与人类竞争 在一般任务方面，这封信提出了对人工智能的信息偏见、工作自动化以及对人类文明失去控制的风险的担忧。
“我们呼吁所有人工智能实验室立即暂停至少 6 个月的人工智能系统训练， GPT-4。 这种暂停应该是公开的、可验证的，并包括所有关键参与者。 如果这种暂停不能迅速实施，政府应该介入并暂停，”
信中说。
这封信恳请 AI 实验室和技术专家利用暂停期制定和实施高级 AI 设计和开发的安全协议，这些协议由独立的外部专家严格审计和监督。
然而，美国记者杰夫贾维斯批评了这封信， 说 这是“道德恐慌的主要样本”。
与 DeepMind 研究科学家和来自世界各地的几位大学教授一起签署这封信的技术和机器学习领域的一些领军人物包括：
- Yoshua Bengio，蒙特利尔大学，图灵奖得主，开发深度学习，蒙特利尔学习算法研究所所长
- Stuart Russell，伯克利，计算机科学教授，智能系统中心主任，标准教科书“人工智能：现代方法”的合著者
- Elon Musk，SpaceX、Tesla 和 Twitter 的首席执行官
- 艾玛德·莫斯塔克，首席执行官， Stability AI
- Jaan Tallinn，Skype 联合创始人，生存风险研究中心，未来生命研究所
- Gary Marcus，纽约大学，AI 研究员，名誉教授
- Marc Rotenberg，AI 和数字政策中心 (CAIDP)，总裁
在一个 最近的信Rotenberg 写道，CAIDP 将向联邦贸易委员会提出投诉，呼吁对 Open AI 进行调查，并 ChatGPT，以及在建立保障措施之前禁止该产品的进一步商业发布。
OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman) 承认 “我们还需要足够的时间让我们的机构弄清楚该做什么”，并且社会离“潜在可怕的”生成人工智能工具不远了。
“我们要求联邦贸易委员会‘按下暂停键’，以便我们的机构、我们的法律和我们的社会有机会赶上来。 在我们失去控制之前，我们需要对我们创造的技术主张代理权，”CAIDP 信中写道。
别处， 欧盟立法者 目标是在年底前与欧盟国家签署一项实施人工智能规则的协议，尽管随着关于如何管理人工智能的争论愈演愈烈，它可能会遇到瓶颈。
了解更多：
免责声明
在与行 信托项目指南，请注意，本页提供的信息无意且不应被解释为法律、税务、投资、财务或任何其他形式的建议。 重要的是，仅投资您可以承受损失的金额，并在有任何疑问时寻求独立的财务建议。 如需了解更多信息，我们建议您参阅条款和条件以及发行人或广告商提供的帮助和支持页面。 MetaversePost 致力于提供准确、公正的报告，但市场状况如有变更，恕不另行通知。
关于作者
辛迪是一名记者 Metaverse Post，涵盖相关主题 web3, NFT、元宇宙和人工智能，重点是采访 Web3 行业参与者。她曾与 30 多位 C 级高管进行过交谈，并将他们的宝贵见解带给读者。辛迪来自新加坡，现居住在格鲁吉亚第比利斯。她拥有南澳大利亚大学传播与媒体研究学士学位，并拥有十年的新闻和写作经验。通过以下方式与她联系 [电子邮件保护] 有新闻发布会、公告和采访机会。
更多文章
辛迪是一名记者 Metaverse Post，涵盖相关主题 web3, NFT、元宇宙和人工智能，重点是采访 Web3 行业参与者。她曾与 30 多位 C 级高管进行过交谈，并将他们的宝贵见解带给读者。辛迪来自新加坡，现居住在格鲁吉亚第比利斯。她拥有南澳大利亚大学传播与媒体研究学士学位，并拥有十年的新闻和写作经验。通过以下方式与她联系 [电子邮件保护] 有新闻发布会、公告和采访机会。
