Izdaja PyTorch 2.0: velika posodobitev ogrodja strojnega učenja
Na kratko
PyTorch je izdal PyTorch 2.0, veliko posodobitev svojega odprtokodnega ogrodja strojnega učenja z novimi funkcijami in izboljšavami, zaradi katerih je zmogljivejši in prilagodljivejši.
Posodobitev vključuje visoko zmogljiv API za Transformer in podporo za usposabljanje in sklepanje z uporabo skalirane pikčaste pozornosti (SPDA).
PyTorch je napovedal izdajo PyTorch 2.0, odprtokodno ogrodje strojnega učenja, ki ga je skupnost znanosti o podatkih težko pričakovala. Ekipa je platformi zagotovila več novih funkcij in izboljšav, s čimer je povečala njeno moč in prilagodljivost.
Ogrodje se uporablja za računalniški vid in aplikacije za obdelavo naravnega jezika in je pod okriljem Linux Foundation. Zagotavlja tenzorsko računalništvo s pospeškom GPE in globokimi nevronskimi mrežami, zgrajenimi na samodejnem razlikovanju. Nekatera programska oprema za globoko učenje, kot so Tesla Autopilot, Pyro, Transformers, PyTorch Lightning in Catalyst, je zgrajena na PyTorchu.
PyTorch 2.0 implementira novo visoko zmogljivost Transformer API, katerega namen je narediti usposabljanje in uvajanje najsodobnejših modelov Transformer cenovno dostopnejše. Izdaja vključuje tudi visoko zmogljivo podporo za usposabljanje in sklepanje z uporabo arhitekture jedra po meri za skalirano pozornost dot produkta (SPDA).
Ob istem času je PyTorch sprosti OpenXLA in PyTorch/XLA 2.0. Kombinacija PyTorch in XLA zagotavlja razvojni sklad, ki lahko podpira tako usposabljanje modela kot sklepanje. To je mogoče, ker je PyTorch priljubljena izbira v AI, XLA pa ima odlične funkcije prevajalnika. Za izboljšanje tega razvojnega sklopa bodo vlaganja na treh glavnih področjih.
Za usposabljanje velikih modelov PyTorch/XLA vlaga v funkcije, kot so mešano natančno usposabljanje, zmogljivost med izvajanjem, učinkovito razdeljevanje modelov in hitrejše nalaganje podatkov. Nekatere od teh funkcij so že na voljo, druge pa bodo izdane pozneje v tem letu in bodo izkoristile osnovni sklad prevajalnika OpenXLA.
Za sklepanje o modelu se PyTorch/XLA osredotoča na zagotavljanje konkurenčne zmogljivosti z Dynamo v izdaji PyTorch 2.0. Dodatne funkcije, usmerjene v sklepanje, vključujejo podporo za streženje modelov, Dynamo za razdrobljene velike modele in kvantizacijo prek Torch.Export in StableHLO.
Kar zadeva integracijo ekosistema, PyTorch/XLA širi integracijo s Hugging Face in PyTorch Lightning, tako da lahko uporabniki izkoristijo prihajajoče funkcije in funkcije OpenXLA na nižji stopnji prek znanih API-jev. To vključuje podporo za FSDP v Hugging Face in kvantizacijo v OpenXLA.
PyTorch/XLA je odprtokodni projekt, kar pomeni, da lahko prispevate k njegovemu razvoju tako, da poročate o težavah, oddate zahteve za vleko in pošljete zahteve za komentarje (RFC) na GitHub.
Preberite več:
- Kitajska namerava do leta 48 povečati VR na 2026 milijard dolarjev
- Bela hiša izda celovit okvir za regulacijo digitalnih sredstev, vključno s kripto in NFTs
- Stability AI zbere 101 milijon dolarjev, zaključi oceno pri 1 milijardi dolarjev
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Agne je novinarka, ki pokriva najnovejše trende in razvoj v metaverzumu, AI in Web3 industrije za Metaverse Post. Njena strast do pripovedovanja zgodb jo je pripeljala do številnih intervjujev s strokovnjaki s teh področij, pri čemer si je vedno prizadevala odkriti vznemirljive in privlačne zgodbe. Agne je diplomirala iz književnosti in ima obsežno znanje pisanja o številnih temah, vključno s potovanji, umetnostjo in kulturo. Bila je tudi prostovoljka urednica organizacije za pravice živali, kjer je pomagala ozaveščati o vprašanjih dobrega počutja živali. Kontaktirajte jo na [e-pošta zaščitena].
več člankov
Agne je novinarka, ki pokriva najnovejše trende in razvoj v metaverzumu, AI in Web3 industrije za Metaverse Post. Njena strast do pripovedovanja zgodb jo je pripeljala do številnih intervjujev s strokovnjaki s teh področij, pri čemer si je vedno prizadevala odkriti vznemirljive in privlačne zgodbe. Agne je diplomirala iz književnosti in ima obsežno znanje pisanja o številnih temah, vključno s potovanji, umetnostjo in kulturo. Bila je tudi prostovoljka urednica organizacije za pravice živali, kjer je pomagala ozaveščati o vprašanjih dobrega počutja živali. Kontaktirajte jo na [e-pošta zaščitena].
