PyTorch 2.0 发布：机器学习框架的重大更新
简单来说
PyTorch 发布了 PyTorch 2.0，这是其开源机器学习框架的重大更新，具有新功能和增强功能，使其更强大和适应性更强。
该更新包括一个高性能的 Transformer API，并支持使用缩放点积注意力 (SPDA) 进行训练和推理。
PyTorch 宣布发布 火炬2.0，开源机器学习框架，受到数据科学界的高度期待。 该团队为该平台提供了多项新功能和增强功能，提高了其效力和适应性。
该框架用于计算机视觉和自然语言处理应用程序，属于 Linux 基金会的保护伞。 它通过 GPU 加速和基于自动微分构建的深度神经网络提供张量计算。 一些深度学习软件，例如 Tesla Autopilot、Pyro、Transformers、PyTorch Lightning 和 Catalyst，都是建立在 PyTorch 之上的。
PyTorch 2.0 实现了一个新的高性能 变压器API，旨在使最先进的 Transformer 模型的培训和部署更加实惠。 该版本还包括对训练和推理的高性能支持，使用自定义内核架构进行缩放点积注意力 (SPDA)。
与此同时，PyTorch 发布 OpenXLA 和 PyTorch/XLA 2.0。 PyTorch 和 XLA 的结合提供了一个可以同时支持模型训练和推理的开发堆栈。 这是可能的，因为 PyTorch 是 AI 中的流行选择，而 XLA 具有出色的编译器功能。 为了改进这个开发堆栈，将在三个主要领域进行投资。
为了训练大型模型，PyTorch/XLA 正在投资混合精度训练、运行时性能、高效模型分片和更快的数据加载等功能。 其中一些功能已经可用，而其他功能将在今年晚些时候发布，利用底层的 OpenXLA 编译器堆栈。
对于模型推理，PyTorch/XLA 专注于在 PyTorch 2.0 版本中提供具有竞争力的性能。 其他面向推理的功能包括模型服务支持、用于分片大型模型的 Dynamo 以及通过 Torch.Export 和 StableHLO 进行的量化。
在生态系统集成方面，PyTorch/XLA 正在扩大与 Hugging Face 和 PyTorch Lightning 的集成，以便用户可以通过熟悉的 API 来利用即将推出的功能和下游 OpenXLA 功能。 这包括在 OpenXLA 的拥抱面和量化中支持 FSDP。
PyTorch/XLA 是一个开源项目，这意味着您可以通过在 GitHub上.
了解更多：
免责声明
在与行 信托项目指南，请注意，本页提供的信息无意且不应被解释为法律、税务、投资、财务或任何其他形式的建议。 重要的是，仅投资您可以承受损失的金额，并在有任何疑问时寻求独立的财务建议。 如需了解更多信息，我们建议您参阅条款和条件以及发行人或广告商提供的帮助和支持页面。 MetaversePost 致力于提供准确、公正的报告，但市场状况如有变更，恕不另行通知。
关于作者
Agne 是一名记者，负责报道虚拟宇宙、人工智能和人工智能领域的最新趋势和发展。 Web3 行业为 Metaverse Post。 她对讲故事的热情促使她对这些领域的专家进行了大量采访，总是试图发现令人兴奋和引人入胜的故事。 Agne 拥有文学学士学位，在旅行、艺术和文化等广泛主题的写作方面拥有丰富的背景。 她还志愿担任动物权利组织的编辑，帮助提高人们对动物福利问题的认识。 联系她 [电子邮件保护].
更多文章
Agne 是一名记者，负责报道虚拟宇宙、人工智能和人工智能领域的最新趋势和发展。 Web3 行业为 Metaverse Post。 她对讲故事的热情促使她对这些领域的专家进行了大量采访，总是试图发现令人兴奋和引人入胜的故事。 Agne 拥有文学学士学位，在旅行、艺术和文化等广泛主题的写作方面拥有丰富的背景。 她还志愿担任动物权利组织的编辑，帮助提高人们对动物福利问题的认识。 联系她 [电子邮件保护].
