人工智能领导者警告快速进步中日益增长的风险和道德问题
在最近的一份政策声明中包括 Bengio、Hinton、Russell、Harari 和 Kahneman 在内的人工智能领域的知名人士，都对人工智能的快速进步和日益增长的社会风险敲响了警钟。
人工智能正在快速发展。 GPT-2 四年前，我们还无法从 0 数到 100，但现代模型可以编写代码、制作令人惊叹的图像并提供智力指导。 而且因为我们正在进行一场竞赛，所以进步的速度会更快。 此外，人工智能的进步速度更快，例如，协助新系统的编程和收集训练数据。
一旦进步达到人类水平，就没有理由认为它会放缓或停止。 在某些地区，人工系统在这方面已经超越了人类，表现出 更快的处理能力等 速度、更大的数据处理能力和大规模的可扩展性。 企业拥有实施远远超出当前上限的培训计划的财务手段。
作者认为，在未来十年左右的时间内，很有可能会出现更好的人工智能通才， 超越人类的能力 在许多重要领域。
接下来会发生什么？ 如果管理和分配得当，所有的生活都可以得到改善。 选择不当的选择会带来重大风险，而我们对此却没有做好准备。 大量资源没有被分配用于安全和伤害预防，而是被用来构建更强大的人工智能系统。 这需要改变； 仅仅靠自己追求技能是不够的。 而且这个过程花费的时间比预期的要长。 我们需要通过预测当前威胁的升级和新威胁的出现，在更高的风险出现之前做好计划。 我们没有足够的时间来对待人工智能，因为人工智能需要几十年的时间才能被接受 气候变化.
社会层面存在许多风险，包括不公正现象增加、稳定恶化以及对现实的普遍认知恶化。 恐怖分子和犯罪分子在这里进行广泛的活动。 人工智能可能会集中在少数玩家手中，导致全球不平等加剧，促进自动化战争、针对每个人的大规模操纵以及无处不在的监视。
作为自主的 人工智能变得更加复杂并且能够进行规划，在世界范围内采取行动，并实现其目标，这些风险只会增加。 这些目标可能不符合我们的最佳利益，对于不良行为者来说，甚至可能是有害的。 目前尚不清楚如何解决人工智能协调问题，这涉及将人工智能行为与我们复杂的目标相匹配。 此外，在以获胜为目的的比赛中，很容易忽视安全预防措施。
人类很难控制常规软件，更不用说复杂的人工智能系统了，它们越来越擅长社会工程、黑客攻击、欺骗和战略规划。 这是自主人工智能系统可以从人们那里学习或自己创造的东西。
这些系统有能力与个人和其他系统建立联盟，赢得信任，获得资金并影响决策者。 就像蠕虫一样，它们能够在整个网络中自我复制。 在人工智能助手的帮助下，已经编写了大量的代码； 未来，系统可能会将漏洞利用到许多关键系统中。 人工智能系统有能力在公开战斗中使用或威胁生物或自主武器。 这只是一个延续 当前生物研究、人工智能和战争自动化的发展趋势。 人们可能会发现介入和抵制太具有挑战性。
在许多情况下，我们愿意把控制权交给他们，甚至不需要他们提出要求。 许多个人和企业愿意在竞争环境中自行部署此类系统，因为担心自己会落后于竞争对手。
完整的文档可以找到 此处.
免责声明
在与行 信托项目指南，请注意，本页提供的信息无意且不应被解释为法律、税务、投资、财务或任何其他形式的建议。 重要的是，仅投资您可以承受损失的金额，并在有任何疑问时寻求独立的财务建议。 如需了解更多信息，我们建议您参阅条款和条件以及发行人或广告商提供的帮助和支持页面。 MetaversePost 致力于提供准确、公正的报告，但市场状况如有变更，恕不另行通知。
关于作者
Damir 是团队领导、产品经理和编辑 Metaverse Post，涵盖 AI/ML、AGI、LLM、Metaverse 等主题 Web3- 相关领域。 他的文章每月吸引超过一百万用户的大量读者。 他似乎是一位在 SEO 和数字营销方面拥有 10 年经验的专家。 达米尔曾在 Mashable、Wired、 Cointelegraph、《纽约客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作为数字游牧者往返于阿联酋、土耳其、俄罗斯和独联体国家之间。 达米尔获得了物理学学士学位，他认为这赋予了他在不断变化的互联网格局中取得成功所需的批判性思维技能。
更多文章
Damir 是团队领导、产品经理和编辑 Metaverse Post，涵盖 AI/ML、AGI、LLM、Metaverse 等主题 Web3- 相关领域。 他的文章每月吸引超过一百万用户的大量读者。 他似乎是一位在 SEO 和数字营销方面拥有 10 年经验的专家。 达米尔曾在 Mashable、Wired、 Cointelegraph、《纽约客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作为数字游牧者往返于阿联酋、土耳其、俄罗斯和独联体国家之间。 达米尔获得了物理学学士学位，他认为这赋予了他在不断变化的互联网格局中取得成功所需的批判性思维技能。
