PyTorch 2.0 發布：機器學習框架的重大更新
簡單來說
PyTorch 發布了 PyTorch 2.0，這是其開源機器學習框架的重大更新，具有新功能和增強功能，使其更強大和適應性更強。
該更新包括一個高性能的 Transformer API，並支持使用縮放點積注意力 (SPDA) 進行訓練和推理。
PyTorch 宣布發布 火炬2.0，開源機器學習框架，受到數據科學界的高度期待。 該團隊為該平台提供了多項新功能和增強功能，提高了其效力和適應性。
該框架用於計算機視覺和自然語言處理應用程序，屬於 Linux 基金會的保護傘。 它通過 GPU 加速和基於自動微分構建的深度神經網絡提供張量計算。 一些深度學習軟件，例如 Tesla Autopilot、Pyro、Transformers、PyTorch Lightning 和 Catalyst，都是建立在 PyTorch 之上的。
PyTorch 2.0 實現了一個新的高性能 變壓器API，旨在使最先進的 Transformer 模型的培訓和部署更加實惠。 該版本還包括對訓練和推理的高性能支持，使用自定義內核架構進行縮放點積注意力 (SPDA)。
與此同時，PyTorch 發布 OpenXLA 和 PyTorch/XLA 2.0。 PyTorch 和 XLA 的結合提供了一個可以同時支持模型訓練和推理的開發堆棧。 這是可能的，因為 PyTorch 是 AI 中的流行選擇，而 XLA 具有出色的編譯器功能。 為了改進這個開發堆棧，將在三個主要領域進行投資。
為了訓練大型模型，PyTorch/XLA 正在投資混合精度訓練、運行時性能、高效模型分片和更快的數據加載等功能。 其中一些功能已經可用，而其他功能將在今年晚些時候發布，利用底層的 OpenXLA 編譯器堆棧。
對於模型推理，PyTorch/XLA 專注於在 PyTorch 2.0 版本中提供具有競爭力的性能。 其他面向推理的功能包括模型服務支持、用於分片大型模型的 Dynamo 以及通過 Torch.Export 和 StableHLO 進行的量化。
在生態系統集成方面，PyTorch/XLA 正在擴大與 Hugging Face 和 PyTorch Lightning 的集成，以便用戶可以通過熟悉的 API 來利用即將推出的功能和下游 OpenXLA 功能。 這包括在 OpenXLA 的擁抱面和量化中支持 FSDP。
PyTorch/XLA 是一個開源項目，這意味著您可以通過在 GitHub上.
閱讀更多：
免責聲明
在與線 信託專案指南，請注意，本頁提供的資訊無意且不應被解釋為法律、稅務、投資、財務或任何其他形式的建議。 重要的是，僅投資您可以承受損失的金額，並在有任何疑問時尋求獨立的財務建議。 如需了解更多信息，我們建議您參閱條款和條件以及發行人或廣告商提供的幫助和支援頁面。 MetaversePost 致力於提供準確、公正的報告，但市場狀況如有變更，恕不另行通知。
關於作者
Agne 是一名記者，負責報導虛擬宇宙、人工智能和人工智能領域的最新趨勢和發展。 Web3 行業為 Metaverse Post。 她對講故事的熱情促使她對這些領域的專家進行了大量採訪，總是試圖發現令人興奮和引人入勝的故事。 Agne 擁有文學學士學位，在旅行、藝術和文化等廣泛主題的寫作方面擁有豐富的背景。 她也志願擔任動物權利組織的編輯，幫助提高人們對動物福利議題的認識。 聯繫她 [電子郵件保護].
更多文章
Agne 是一名記者，負責報導虛擬宇宙、人工智能和人工智能領域的最新趨勢和發展。 Web3 行業為 Metaverse Post。 她對講故事的熱情促使她對這些領域的專家進行了大量採訪，總是試圖發現令人興奮和引人入勝的故事。 Agne 擁有文學學士學位，在旅行、藝術和文化等廣泛主題的寫作方面擁有豐富的背景。 她也志願擔任動物權利組織的編輯，幫助提高人們對動物福利議題的認識。 聯繫她 [電子郵件保護].
