Vydanie PyTorch 2.0: Hlavná aktualizácia rámca strojového učenia
Stručne
PyTorch vydal PyTorch 2.0, hlavnú aktualizáciu svojho open source rámca strojového učenia s novými funkciami a vylepšeniami, vďaka ktorým je výkonnejší a prispôsobivejší.
Aktualizácia obsahuje vysokovýkonné rozhranie Transformer API a podporu školenia a odvodzovania pomocou škálovanej bodovej pozornosti produktu (SPDA).
PyTorch oznámil vydanie PyTorch 2.0, open-source rámec strojového učenia, ktorý bol veľmi očakávaný komunitou v oblasti údajov. Tím dodal platforme niekoľko nových funkcií a vylepšení, čím zvýšil jej potenciu a prispôsobivosť.
Rámec sa používa pre počítačové videnie a aplikácie na spracovanie prirodzeného jazyka a zastrešuje ho Linux Foundation. Poskytuje tensor computing s GPU akceleráciou a hlbokými neurónovými sieťami postavenými na automatickej diferenciácii. Niektoré softvéry na hlboké učenie, ako napríklad Tesla Autopilot, Pyro, Transformers, PyTorch Lightning a Catalyst, sú postavené na PyTorch.
PyTorch 2.0 implementuje nový vysoký výkon Transformátor API, ktorej cieľom je urobiť školenie a nasadenie najmodernejších modelov Transformer dostupnejšie. Vydanie tiež obsahuje vysokovýkonnú podporu pre školenie a odvodzovanie pomocou vlastnej architektúry jadra pre škálovanú bodovú pozornosť produktu (SPDA).
V podobnom čase PyTorch uvoľnený OpenXLA a PyTorch/XLA 2.0. Kombinácia PyTorch a XLA poskytuje vývojový balík, ktorý môže podporovať modelový tréning aj odvodzovanie. Je to možné, pretože PyTorch je populárnou voľbou v AI a XLA má vynikajúce funkcie kompilátora. Na zlepšenie tohto zásobníka rozvoja sa budú investovať do troch hlavných oblastí.
Na trénovanie veľkých modelov investuje PyTorch/XLA do funkcií, ako je trénovanie zmiešanej presnosti, prevádzkový výkon, efektívne zdieľanie modelov a rýchlejšie načítanie dát. Niektoré z týchto funkcií sú už dostupné, zatiaľ čo iné budú vydané neskôr v tomto roku s využitím základného balíka kompilátora OpenXLA.
Pre odvodenie modelu sa PyTorch/XLA zameriava na poskytovanie konkurencieschopného výkonu s Dynamo vo vydaní PyTorch 2.0. Medzi ďalšie funkcie orientované na odvodenie patrí podpora poskytovania modelov, Dynamo pre roztrhané veľké modely a kvantizácia cez Torch.Export a StableHLO.
Pokiaľ ide o integráciu ekosystému, PyTorch/XLA rozširuje integráciu s Hugging Face a PyTorch Lightning, takže používatelia môžu využívať výhody pripravovaných funkcií a nadväzujúcich funkcií OpenXLA prostredníctvom známych rozhraní API. To zahŕňa podporu pre FSDP v Hugging Face a Quantization v OpenXLA.
PyTorch/XLA je projekt s otvoreným zdrojovým kódom, čo znamená, že môžete prispieť k jeho vývoju nahlasovaním problémov, odosielaním žiadostí o stiahnutie a odosielaním žiadostí o komentáre (RFC) na GitHub.
Prečítajte si viac:
- Čína plánuje do roku 48 zvýšiť VR na 2026 miliárd dolárov
- Biely dom vydáva komplexný rámec pre reguláciu digitálnych aktív, vrátane krypto a NFTs
- Stability AI získa 101 miliónov dolárov, uzatvára ocenenie na úrovni 1 miliardy dolárov
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Agne je novinárka, ktorá pokrýva najnovšie trendy a vývoj v oblasti metaverse, AI a Web3 priemyslu pre Metaverse Post. Jej vášeň pre rozprávanie ju priviedla k mnohým rozhovorom s odborníkmi v týchto oblastiach, pričom sa vždy snažila odhaliť vzrušujúce a pútavé príbehy. Agne má bakalársky titul v odbore literatúra a má rozsiahle skúsenosti s písaním o širokej škále tém vrátane cestovania, umenia a kultúry. Dobrovoľne pracovala aj ako redaktorka organizácie za práva zvierat, kde pomáhala zvyšovať povedomie o otázkach dobrých životných podmienok zvierat. Kontaktujte ju [chránené e-mailom].
Ďalšie články
Agne je novinárka, ktorá pokrýva najnovšie trendy a vývoj v oblasti metaverse, AI a Web3 priemyslu pre Metaverse Post. Jej vášeň pre rozprávanie ju priviedla k mnohým rozhovorom s odborníkmi v týchto oblastiach, pričom sa vždy snažila odhaliť vzrušujúce a pútavé príbehy. Agne má bakalársky titul v odbore literatúra a má rozsiahle skúsenosti s písaním o širokej škále tém vrátane cestovania, umenia a kultúry. Dobrovoľne pracovala aj ako redaktorka organizácie za práva zvierat, kde pomáhala zvyšovať povedomie o otázkach dobrých životných podmienok zvierat. Kontaktujte ju [chránené e-mailom].
