人工智能培训暂停 6 个月是个好主意，但可能还不够
简单来说
请愿书的故事和尤德科夫斯基文章的发表让社会两极分化。
囚徒困境和博弈论表明，要解决此类问题，需要在不同地方有足够数量的正常人。
然而，这个想法也有一些缺点，比如数字进化中缺乏意识、意志和代理。
的故事 请愿书要求停止开发更先进的人工智能系统 GPT-4 社会两极分化明显。 尤德科夫斯基的释放 刊文 要求停止进一步开发 GPT 模型火上浇油，尤其是他关于数据中心轰炸的段落。
从网上的观察来看，支持请愿的人数似乎比反对者少很多，主要有以下三个论点：
| 1 | – 进步无法停止。 –请愿书的发明者 OpenAI 竞争者。 – 中国不会等。 |
| 2 | – 你不应该害怕人工智能，而应该害怕人。 – GPT 没有意识、意志、愿望或能动性，所以没有什么可害怕的。 – GPT-4 它离奴役世界还差得很远，因为它什么都不懂，会犯愚蠢的错误，而且通常都很愚蠢。 – GPT-4 将无法统治世界，因为它没有手臂/腿。 |
| 3 | – 第三组不明白如何 GPT-4 首先运作。 |
我们不会专注于第三群人，因为他们的立场来自无知。 这并不是说所有 AI 反对者都了解 AI。 尽管 Yudkovsky 本人对 AI 的主题非常深入，但您会发现很多对这项技术及其含义缺乏了解的反 AI 人士，因此不能指责他无知。
让我们来看看第一批人——那些相信进步是无法停止的人。 他们提出了不同但相似的论点，总的来说，这些人并不否认 AI 的能力及其采用带来的前景，并且相信 AI 的发展无论如何都会继续。
关于不可阻挡的进步的第一个论点是一个口号，不一定是真的。 人们似乎已经停止了一些科学实验，许多曾经被接受的研究项目不再被认为是合乎道德的，而类似的项目在今天也绝不会被允许。 然而，中国（和其他国家）的宗教裁判所和其他宗教迫害、禁书和谋杀科学家，过去阻止了多少进步？ 由于幸存者偏差，这是我们永远无法完全掌握的事情。
其他论文涉及的方法可以概括为“如果不是我们，那就是他们”。 虽然这种思路可能更容易理解，但它似乎也不是正确的解决方案。 这与博弈论中的囚徒困境非常相似。
第二组论点是最有趣的。 虽然我个人在某种程度上同意它，但有一些问题需要解决。 是的，人工智能没有意识、意志、代理等。COVID-19 也没有，但它在全球范围内造成了严重破坏。 某些东西不需要有代理感和意识就可以变得危险。 地球上的生命因为病毒而灭绝的场景并非不可想象。 一旦它的工作完成，它就可以把椅子放在桌子上，关掉灯，然后永远离开。
继续用生物学类比，有一篇精彩的文章“数字进化的惊人创造力：来自进化计算和人工生命研究社区的轶事集”，其中提供了许多过程何时朝着意想不到的方向发展的例子。 即使没有进化过程，一切都可能进入错误的概括“目标错误概括：为什么正确的规范不足以实现正确的目标。” 自由发挥优化过程可能出错的讨论在“高级机器学习系统中学习优化的风险设立的区域办事处外，我们在美国也开设了办事处，以便我们为当地客户提供更多的支持。“
同时，我们一般不考虑风险 恶意使用人工智能 和任何 滥用，这只会助长我们需要害怕人而不是人工智能本身的论点。 然而，事实是，即使没有恶意的人，人工智能也可能很糟糕。
我也同意模型会犯愚蠢的错误，但人类也会犯愚蠢的错误，但我们知道他们可能会造成伤害。 虽然模型会犯很多错误，但它们也可以解决许多普通人无法解决的很棒、很酷且复杂的问题。 来自臭名昭著的著作《通用人工智能的火花：早期实验》 GPT-4”，令我震惊的是，人工智能能够解决相当复杂的数学问题（尽管并不总是正确）的费米问题。 它的心智理论和“有点像理解”他人行为的能力也非常令人印象深刻。 所有这些都指向人工智能的智能； 存在，但不太像我们的。
至少消除 AI 模型所犯的一些错误通常是可行的，因此它们的智能可能只会增长。 您需要做的就是添加一个用于精确计算的模块、一个事实库和另一个模型的验证。
整个故事中最重要的是人工智能的发展速度。 GPT 模型 以令人眼花缭乱的速度实现了巨大的增长。 现在，有 ChatGPT 插件 可用，您可以使用 GPT 模型来编写代码，API 可供广大公众使用，并且您无需任何事先培训即可使用外部工具。
GPT-4当然，它不会征服世界，但它可以对经济产生很大的震动。 GPT-5，以及该模型的未来迭代，可能不会遥遥领先，并且可能会具有更强大的能力。 让我们面对现实吧，我们不能指望理解还不存在的模型； 我们甚至还没有接近了解已经存在的模型。 从这个意义上说，休息六个月可能是个好主意，但这可能还不够。
鉴于 人工智能种族 已经开始了，没有时间学习。
总的来说，鉴于这一切，我也签署了请愿书。 虽然我不相信它会以任何方式帮助。
阅读更多相关主题：
免责声明
在与行 信托项目指南，请注意，本页提供的信息无意且不应被解释为法律、税务、投资、财务或任何其他形式的建议。 重要的是，仅投资您可以承受损失的金额，并在有任何疑问时寻求独立的财务建议。 如需了解更多信息，我们建议您参阅条款和条件以及发行人或广告商提供的帮助和支持页面。 MetaversePost 致力于提供准确、公正的报告，但市场状况如有变更，恕不另行通知。
关于作者
Damir 是团队领导、产品经理和编辑 Metaverse Post，涵盖 AI/ML、AGI、LLM、Metaverse 等主题 Web3- 相关领域。 他的文章每月吸引超过一百万用户的大量读者。 他似乎是一位在 SEO 和数字营销方面拥有 10 年经验的专家。 达米尔曾在 Mashable、Wired、 Cointelegraph、《纽约客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作为数字游牧者往返于阿联酋、土耳其、俄罗斯和独联体国家之间。 达米尔获得了物理学学士学位，他认为这赋予了他在不断变化的互联网格局中取得成功所需的批判性思维技能。
更多文章
Damir 是团队领导、产品经理和编辑 Metaverse Post，涵盖 AI/ML、AGI、LLM、Metaverse 等主题 Web3- 相关领域。 他的文章每月吸引超过一百万用户的大量读者。 他似乎是一位在 SEO 和数字营销方面拥有 10 年经验的专家。 达米尔曾在 Mashable、Wired、 Cointelegraph、《纽约客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作为数字游牧者往返于阿联酋、土耳其、俄罗斯和独联体国家之间。 达米尔获得了物理学学士学位，他认为这赋予了他在不断变化的互联网格局中取得成功所需的批判性思维技能。
