惨痛的教训：为什么 ChatGPT 战胜手工计算技术
简单来说
Rich Sutton 教授 2019 年的论文《痛苦的教训》预测了人工智能的重大进步，例如 ChatGPT/GPT-4 和 OpenAI的方法论。
文本强调了人工智能的范式转变，其中计算方法在没有人类直觉的情况下主导性能。
但是很多 研究人员继续追求基于直觉的方法，忽视了计算驱动方法的潜力。
论文“痛苦的教训”，由 Rich Sutton 教授于 2019 年撰写，此后对于机器学习专家和有兴趣了解人工智能未来的人们来说越来越重要。 本文件中提供的见解预见了人工智能的重要发展，包括 ChatGPT/GPT-4 以及接受 OpenAI的方法论.
《惨痛的教训》的核心探讨了人工智能领域的范式转变。 过去，研究人工智能的科学家倾向于认为开发先进的人工智能需要一种非凡的、独特的方法，也称为“归纳偏差”。 这个想法指的是添加专门的信息或对特定问题的直观理解，然后指导机器的解决方案路径。
《惨痛的教训》的中心主题探讨了人工智能研究的范式转变。 此前，研究人工智能的研究人员倾向于认为，创建先进的人工智能需要一种非凡、独特的方法。 这种偏差被称为“归纳偏差”。 这个概念建议增加对特定问题的专业知识或直观洞察，然后指导机器的解决方案路径。
但一种反复出现的模式变得明显。 研究人员反复发现，通过简单地添加更多 数据和计算能力，他们可以超越这些精心设计的方法所产生的结果。 这种模式并不特定于某个领域，而是出现在国际象棋、围棋、星际争霸中，可能还出现在网络黑客中。 卷积神经网络例如，在计算机视觉领域比手动技术（如 SIFT。 有趣的是，SIFT 的发明者后来表示，如果在他进行研究时神经网络已经存在，他就会选择这种做法。 与此类似， LSTM 的性能优于所有基于规则的系统 在机器翻译领域。 使用简单的“添加更多层”策略， ChatGPT/GPT-4是这一趋势的一个主要例子，它能够超越计算语言学家创建的高度发达的模型。
萨顿“惨痛教训”的核心是，未经人类直觉修改的计算方法在性能方面常常优于其他方法。 然而，这种理解尚未被广泛接受。 许多研究人员仍然追求复杂的、基于直觉的策略，经常忽视包容性的、基于计算的方法的潜力。
五个原因 GPT 战胜了手工计算技术：
- 可扩展性：计算方法，尤其是在增加更多数据时，有可能随着技术的进步而发展和适应，使它们更加面向未来。
- 效率：基于计算和数据的通用方法在各个领域始终优于基于人类直觉的专业方法，从国际象棋和围棋等游戏到机器翻译和计算机视觉。
- 广泛的适用性：这些通用的、计算驱动的方法是通用的，可以跨学科应用，而不需要针对特定领域进行调整。
- 简单：基于原始构建的系统 计算能力 数据的方法往往更简单，不需要基于人类直觉进行复杂的调整。
- 一致的性能：如示例所示 ChatGPT/GPT-4，基于计算的模型可以实现一致的高性能，通常超越专门的方法。
原始论文是一个无价的工具，可以帮助您更好地理解萨顿教授的观点和指导人工智能发展轨迹的原则。
这篇文章的灵感来自 Telegram 频道“又是鲍里斯。“
阅读有关人工智能的更多信息：
免责声明
在与行 信托项目指南，请注意，本页提供的信息无意且不应被解释为法律、税务、投资、财务或任何其他形式的建议。 重要的是，仅投资您可以承受损失的金额，并在有任何疑问时寻求独立的财务建议。 如需了解更多信息，我们建议您参阅条款和条件以及发行人或广告商提供的帮助和支持页面。 MetaversePost 致力于提供准确、公正的报告，但市场状况如有变更，恕不另行通知。
关于作者
Damir 是团队领导、产品经理和编辑 Metaverse Post，涵盖 AI/ML、AGI、LLM、Metaverse 等主题 Web3- 相关领域。 他的文章每月吸引超过一百万用户的大量读者。 他似乎是一位在 SEO 和数字营销方面拥有 10 年经验的专家。 达米尔曾在 Mashable、Wired、 Cointelegraph、《纽约客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作为数字游牧者往返于阿联酋、土耳其、俄罗斯和独联体国家之间。 达米尔获得了物理学学士学位，他认为这赋予了他在不断变化的互联网格局中取得成功所需的批判性思维技能。
更多文章
Damir 是团队领导、产品经理和编辑 Metaverse Post，涵盖 AI/ML、AGI、LLM、Metaverse 等主题 Web3- 相关领域。 他的文章每月吸引超过一百万用户的大量读者。 他似乎是一位在 SEO 和数字营销方面拥有 10 年经验的专家。 达米尔曾在 Mashable、Wired、 Cointelegraph、《纽约客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作为数字游牧者往返于阿联酋、土耳其、俄罗斯和独联体国家之间。 达米尔获得了物理学学士学位，他认为这赋予了他在不断变化的互联网格局中取得成功所需的批判性思维技能。
