Dan Hendrycks：在人工智能和人类之间做出选择，进化不会选择我们
简单来说
Dan Hendrycks 的研究“自然选择更喜欢人工智能胜过人类”是一个可怕的结论。
他是一位经验丰富的知名研究人员，发表了数十篇关于评估人工智能系统安全性的科学论文。
Dan Hendrycks 的研究听起来像是对智人的死刑宣判。 研究结论“自然选择偏爱 AI 而不是人类”真是吓人。 这不是像 Dan Brown 这样受欢迎的有远见的人写的，而是由 Dan Hendrycks 写的，他是加州人工智能安全中心 (CAIS) 的主任，这是一个专门从事人工智能安全研究和实地工作的非营利组织。
Dan Hendrycks 并不是一个对 AI 进步感到恐慌的边缘疯子。 他是一位经验丰富且广受尊敬的研究人员，发表了数十篇关于评估人工智能系统安全性的科学论文——测试它们在编码、推理、理解法律等方面的能力。除此之外，他还是高斯线性误差单位 (GELU)。
杰克·克拉克，联合创始人 ChatGPT 斯坦福大学人工智能指数联合主席、经济合作与发展组织人工智能和计算部门联合主席、美国政府国家人工智能咨询委员会成员 Anthropic 的竞争对手 Anthropic 讨论了 Hendrycks 的研究结论。 “人们本能地想要对这样的说法置之不理，认为它出自某个住在森林小屋里的狂妄的疯子之口。 我想提前反驳这一点。 当一位专家不仅拥有人工智能研究经验，而且还拥有 评估人工智能系统的安全性 写论文认为，未来的人工智能系统可能会自私地行事，不符合人们的利益，我们应该注意它！
Hendrycks 的论文摘要：
- 如果AI代理变得更多 比人类聪明，这可能导致人类失去对未来的控制。
- 这很有可能不是由于人或机器的某些特殊恶意意图而发生的，而仅仅是由于根据达尔文逻辑将发展的进化原则适用于 AI 的结果。
- 为了将这种风险降到最低，需要仔细设计 AI 代理的内在动机，对其行为施加限制，并创建鼓励 AI 协作的机构。
也就是说，Hendrycks 在他 43 页的科学论文中提出了最重要的观点：
1. 我们害怕终结者的到来，但这些恐惧的基础是错误的。 有两个错误：
A。 人工智能的拟人化，以及我们对其动机的归因等——如 ChatGPT 事实表明，人工智能是一种根本不同的思维，它带来了所有的后果。
b. AI 是一种单一实体的想法：聪明或不太聪明，善良或不太善良，但事实上，这些截然不同的 AI 实体很快就会尽可能多地出现在世界上。
2. 我们对 AI 未来的看法还有另一个根本性缺陷——我们忘记了最重要的发展机制——进化，它不仅推动了生物制剂的发展，还推动了思想和意义、物质工具和非物质制度的发展。
3. 地球上已经开始形成一个环境，许多人工智能将在其中发展和进化。 这种进化将按照达尔文的逻辑进行，通过人工智能之间的竞争，同时考虑到它们“母”机构的利益：公司、军队等。
4. 竞争进化的逻辑将导致与人类相同：越来越聪明的人工智能代理将变得越来越自私，并准备通过欺骗和武力来实现目标，主要目标是权力。
5. 人工智能主体的自然选择倾向于偏爱更自私的物种而不是更利他的物种。 人工智能代理会自私地追求自己的利益，而不顾人类，这可能会给人类带来灾难性的风险。
- 请愿书 停止开发比这更先进的人工智能系统 GPT-4 社会两极分化。 第一组认为进步不能被阻止，而另一组则认为进步有时应该被阻止。 第三组不明白怎么办 GPT-4 首先运作。 本文中最重要的细节是，人工智能没有意识、意志或代理，即使没有恶意的人，它也可能是坏事。
- Geoffrey Hinton 通常被称为“人工智能教父”，被认为是深度学习社区的领军人物。 他的 40 分钟采访 ChatGPT 它的独特之处在于它易于理解，并且具有很少其他人能够理解的深度。 他强调了正在进行的“知识革命”的重要性以及人类非人的智慧。 ChatGPT，它基于具有先进数字通信功能的人工智能代理。
阅读更多相关文章：
免责声明
在与行 信托项目指南，请注意，本页提供的信息无意且不应被解释为法律、税务、投资、财务或任何其他形式的建议。 重要的是，仅投资您可以承受损失的金额，并在有任何疑问时寻求独立的财务建议。 如需了解更多信息，我们建议您参阅条款和条件以及发行人或广告商提供的帮助和支持页面。 MetaversePost 致力于提供准确、公正的报告，但市场状况如有变更，恕不另行通知。
关于作者
Damir 是团队领导、产品经理和编辑 Metaverse Post，涵盖 AI/ML、AGI、LLM、Metaverse 等主题 Web3- 相关领域。 他的文章每月吸引超过一百万用户的大量读者。 他似乎是一位在 SEO 和数字营销方面拥有 10 年经验的专家。 达米尔曾在 Mashable、Wired、 Cointelegraph、《纽约客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作为数字游牧者往返于阿联酋、土耳其、俄罗斯和独联体国家之间。 达米尔获得了物理学学士学位，他认为这赋予了他在不断变化的互联网格局中取得成功所需的批判性思维技能。
更多文章
Damir 是团队领导、产品经理和编辑 Metaverse Post，涵盖 AI/ML、AGI、LLM、Metaverse 等主题 Web3- 相关领域。 他的文章每月吸引超过一百万用户的大量读者。 他似乎是一位在 SEO 和数字营销方面拥有 10 年经验的专家。 达米尔曾在 Mashable、Wired、 Cointelegraph、《纽约客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作为数字游牧者往返于阿联酋、土耳其、俄罗斯和独联体国家之间。 达米尔获得了物理学学士学位，他认为这赋予了他在不断变化的互联网格局中取得成功所需的批判性思维技能。
