PyTorch 2.0 väljalase: masinõppe raamistiku oluline värskendus
Põgusalt
PyTorch on välja andnud PyTorch 2.0, mis on oma avatud lähtekoodiga masinõpperaamistiku põhivärskendus, mis sisaldab uusi funktsioone ja täiustusi, mis muudavad selle võimsamaks ja kohandatavamaks.
Värskendus sisaldab suure jõudlusega Transformer API-t ja tuge koolituseks ja järelduste tegemiseks, kasutades skaleeritud punktide tähelepanu (SPDA).
PyTorch teatas selle väljalaskmisest PyTorch 2.0, avatud lähtekoodiga masinõppe raamistik, mida andmeteaduse kogukond väga ootas. Meeskond esitas platvormile mitmeid uusi funktsioone ja täiustusi, suurendades selle tõhusust ja kohanemisvõimet.
Raamistiku kasutatakse arvutinägemise ja loomuliku keele töötlemise rakenduste jaoks ning see on Linux Foundationi katuse all. See pakub tensorarvutust koos GPU kiirenduse ja sügavate närvivõrkudega, mis on üles ehitatud automaatsele diferentseerimisele. Mõned süvaõppetarkvarad, nagu Tesla Autopilot, Pyro, Transformers, PyTorch Lightning ja Catalyst, on ehitatud PyTorchi peale.
PyTorch 2.0 rakendab uut suure jõudlusega Transformer API, mille eesmärk on muuta tipptasemel Transformeri mudelite koolitus ja kasutuselevõtt taskukohasemaks. Väljalase sisaldab ka suure jõudlusega koolitust ja järeldusi, kasutades kohandatud kerneli arhitektuuri skaleeritud punktitoote tähelepanu (SPDA) jaoks.
Samal ajal PyTorch vabastatud OpenXLA ja PyTorch/XLA 2.0. PyTorchi ja XLA kombinatsioon pakub arenduspakki, mis toetab nii mudelikoolitust kui ka järeldusi. See on võimalik, kuna PyTorch on AI-s populaarne valik ja XLA-l on suurepärased kompilaatori funktsioonid. Selle arenduspaketi täiustamiseks investeeritakse kolme põhivaldkonda.
Suurte mudelite koolitamiseks investeerib PyTorch/XLA sellistesse funktsioonidesse nagu segatud täpsustreening, käitusaeg, tõhus mudelite jagamine ja kiirem andmete laadimine. Mõned neist funktsioonidest on juba saadaval, teised aga avaldatakse selle aasta lõpus, kasutades ära aluseks oleva OpenXLA kompilaatoripinu.
Mudeli järelduste tegemiseks keskendub PyTorch/XLA PyTorch 2.0 versioonis Dynamoga konkurentsivõimelise jõudluse pakkumisele. Täiendavad järeldustele orienteeritud funktsioonid hõlmavad mudelite teenindamise tuge, Dynamo't killustatud suurte mudelite jaoks ning kvantimist Torch.Exporti ja StableHLO kaudu.
Ökosüsteemi integreerimise osas laiendab PyTorch/XLA integratsiooni Hugging Face'i ja PyTorch Lightningiga, et kasutajad saaksid tuttavate API-de kaudu ära kasutada tulevasi funktsioone ja OpenXLA allavoolu funktsioone. See hõlmab FSDP tuge näo kallistamises ja kvantiseerimise tuge OpenXLA-s.
PyTorch/XLA on avatud lähtekoodiga projekt, mis tähendab, et saate selle arendamisele kaasa aidata, teatades probleemidest, saates tõmbetaotlusi ja saates kommentaaritaotlusi (RFC-d) GitHub.
Loe rohkem:
- Hiina kavatseb suurendada VR-i 48. aastaks 2026 miljardi dollarini
- Valge Maja annab välja tervikliku raamistiku digitaalsete varade reguleerimiseks, sealhulgas krüpto- ja NFTs
- Stability AI kogub 101 miljonit dollarit, sulgeb hinnangu 1 miljardile dollarile
Kaebused
Vastavalt Usaldusprojekti juhised, pange tähele, et sellel lehel esitatud teave ei ole mõeldud ega tohiks tõlgendada kui juriidilist, maksu-, investeerimis-, finants- või muud nõuannet. Oluline on investeerida ainult seda, mida saate endale lubada kaotada, ja kahtluste korral küsida sõltumatut finantsnõu. Lisateabe saamiseks soovitame vaadata nõudeid ja tingimusi ning väljaandja või reklaamija pakutavaid abi- ja tugilehti. MetaversePost on pühendunud täpsele ja erapooletule aruandlusele, kuid turutingimusi võidakse ette teatamata muuta.
Umbes Autor
Agne on ajakirjanik, kes kajastab uusimaid trende ja arenguid metaversumis, AI-s ja Web3 tööstused Metaverse Post. Tema kirg lugude jutustamise vastu on viinud ta andma arvukalt intervjuusid nende valdkondade ekspertidega, püüdes alati avastada põnevaid ja kaasahaaravaid lugusid. Agnel on bakalaureusekraad kirjanduses ja tal on laialdane taust kirjutamisel väga erinevatel teemadel, sealhulgas reisimine, kunst ja kultuur. Ta on olnud ka vabatahtlik toimetaja loomaõiguste organisatsioonis, kus ta aitas tõsta teadlikkust loomade heaolu küsimustest. Võtke temaga ühendust [meiliga kaitstud].
Veel artikleidAgne on ajakirjanik, kes kajastab uusimaid trende ja arenguid metaversumis, AI-s ja Web3 tööstused Metaverse Post. Tema kirg lugude jutustamise vastu on viinud ta andma arvukalt intervjuusid nende valdkondade ekspertidega, püüdes alati avastada põnevaid ja kaasahaaravaid lugusid. Agnel on bakalaureusekraad kirjanduses ja tal on laialdane taust kirjutamisel väga erinevatel teemadel, sealhulgas reisimine, kunst ja kultuur. Ta on olnud ka vabatahtlik toimetaja loomaõiguste organisatsioonis, kus ta aitas tõsta teadlikkust loomade heaolu küsimustest. Võtke temaga ühendust [meiliga kaitstud].