Vydání PyTorch 2.0: Hlavní aktualizace rámce strojového učení
Stručně
PyTorch vydal PyTorch 2.0, hlavní aktualizaci svého otevřeného rámce strojového učení s novými funkcemi a vylepšeními, díky nimž je výkonnější a přizpůsobivější.
Aktualizace zahrnuje vysoce výkonné rozhraní Transformer API a podporu pro školení a vyvozování pomocí škálované tečkové pozornosti produktu (SPDA).
PyTorch oznámil vydání PyTorch 2.0, open-source framework strojového učení, který byl vysoce očekávaný komunitou datové vědy. Tým dodal platformě několik nových funkcí a vylepšení, čímž zvýšil její účinnost a přizpůsobivost.
Rámec se používá pro počítačové vidění a aplikace pro zpracování přirozeného jazyka a zastřešuje ho Linux Foundation. Poskytuje tensor computing s GPU akcelerací a hlubokými neuronovými sítěmi postavenými na automatické diferenciaci. Některý software pro hluboké učení, jako je Tesla Autopilot, Pyro, Transformers, PyTorch Lightning a Catalyst, je postaven na PyTorch.
PyTorch 2.0 implementuje nový vysoký výkon Transformátor API, jejímž cílem je zpřístupnit školení a nasazení nejmodernějších modelů Transformer. Vydání také zahrnuje vysoce výkonnou podporu pro školení a odvození pomocí vlastní architektury jádra pro škálovanou pozornost produktu (SPDA).
V podobné době PyTorch propuštěn OpenXLA a PyTorch/XLA 2.0. Kombinace PyTorch a XLA poskytuje vývojový zásobník, který může podporovat jak trénování modelů, tak vyvozování. To je možné, protože PyTorch je populární volbou v AI a XLA má vynikající funkce kompilátoru. Pro zlepšení tohoto vývojového zásobníku budou investice do tří hlavních oblastí.
Pro trénování velkých modelů investuje PyTorch/XLA do funkcí, jako je trénování smíšené přesnosti, výkon za běhu, efektivní sdílení modelu a rychlejší načítání dat. Některé z těchto funkcí jsou již k dispozici, zatímco jiné budou vydány později v tomto roce s využitím základního kompilátoru OpenXLA.
Pro odvození modelu se PyTorch/XLA zaměřuje na poskytování konkurenceschopného výkonu s Dynamem ve verzi PyTorch 2.0. Mezi další funkce orientované na odvození patří podpora modelování, Dynamo pro shardované velké modely a kvantizace přes Torch.Export a StableHLO.
Pokud jde o integraci ekosystému, PyTorch/XLA rozšiřuje integraci s Hugging Face a PyTorch Lightning, takže uživatelé mohou využívat připravované funkce a následné funkce OpenXLA prostřednictvím známých API. To zahrnuje podporu pro FSDP v Hugging Face a Quantization v OpenXLA.
PyTorch/XLA je projekt s otevřeným zdrojovým kódem, což znamená, že můžete přispívat k jeho vývoji hlášením problémů, odesíláním žádostí o stažení a zasíláním žádostí o komentáře (RFC) na GitHub.
Čtěte více:
- Čína plánuje do roku 48 zvýšit VR na 2026 miliard dolarů
- Bílý dům vydává komplexní rámec pro regulaci digitálních aktiv, včetně krypto a NFTs
- Stability AI získává 101 milionů dolarů, uzavírá ocenění na 1 miliardě dolarů
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Agne je novinářka, která se zabývá nejnovějšími trendy a vývojem v metaverse, AI a Web3 průmysl pro Metaverse Post. Její vášeň pro vyprávění ji přivedla k četným rozhovorům s odborníky v těchto oblastech, ve kterých se vždy snažila odhalit vzrušující a poutavé příběhy. Agne má bakalářský titul z literatury a má rozsáhlé zkušenosti s psaním o široké škále témat, včetně cestování, umění a kultury. Přihlásila se také jako redaktorka do organizace pro práva zvířat, kde pomáhala zvyšovat povědomí o otázkách dobrých životních podmínek zvířat. Kontaktujte ji [chráněno e-mailem].
Další články
Agne je novinářka, která se zabývá nejnovějšími trendy a vývojem v metaverse, AI a Web3 průmysl pro Metaverse Post. Její vášeň pro vyprávění ji přivedla k četným rozhovorům s odborníky v těchto oblastech, ve kterých se vždy snažila odhalit vzrušující a poutavé příběhy. Agne má bakalářský titul z literatury a má rozsáhlé zkušenosti s psaním o široké škále témat, včetně cestování, umění a kultury. Přihlásila se také jako redaktorka do organizace pro práva zvířat, kde pomáhala zvyšovat povědomí o otázkách dobrých životních podmínek zvířat. Kontaktujte ji [chráněno e-mailem].
