PyTorch 2.0 laidiens: būtisks mašīnmācīšanās ietvara atjauninājums
Īsumā
PyTorch ir izlaidusi PyTorch 2.0 — galveno tā atvērtā pirmkoda mašīnmācīšanās sistēmas atjauninājumu ar jaunām funkcijām un uzlabojumiem, kas padara to jaudīgāku un pielāgojamāku.
Atjauninājums ietver augstas veiktspējas Transformer API un atbalstu apmācībai un secinājumiem, izmantojot mērogotu punktu produktu uzmanību (SPDA).
PyTorch ir paziņojis par izlaišanu PyTorch 2.0, atvērtā pirmkoda mašīnmācīšanās sistēma, ko ļoti gaidīja datu zinātnes kopiena. Komanda platformai nodrošināja vairākas jaunas funkcijas un uzlabojumus, palielinot tās potenciālu un pielāgošanās spēju.
Ietvars tiek izmantots datorredzes un dabiskās valodas apstrādes lietojumprogrammām, un tas ir Linux Foundation jumta ietvaros. Tas nodrošina tenzoru skaitļošanu ar GPU paātrinājumu un dziļiem neironu tīkliem, kas balstīti uz automātisku diferenciāciju. Dažas dziļās mācīšanās programmatūras, piemēram, Tesla Autopilot, Pyro, Transformers, PyTorch Lightning un Catalyst, ir izveidotas uz PyTorch.
PyTorch 2.0 ievieš jaunu augstas veiktspējas versiju Transformatora API, kuras mērķis ir padarīt apmācību un vismodernāko transformatoru modeļu ieviešanu pieejamāku. Laidienā ir iekļauts arī augstas veiktspējas atbalsts apmācībai un secinājumiem, izmantojot pielāgotu kodola arhitektūru mērogotu punktu produktu uzmanībai (SPDA).
Līdzīgā laikā PyTorch atbrīvots OpenXLA un PyTorch/XLA 2.0. PyTorch un XLA kombinācija nodrošina izstrādes steku, kas var atbalstīt gan modeļu apmācību, gan secinājumus. Tas ir iespējams, jo PyTorch ir populāra AI izvēle, un XLA ir lieliskas kompilatora funkcijas. Lai uzlabotu šo attīstības kaudzi, investīcijas tiks veiktas trīs galvenajās jomās.
Lai apmācītu lielus modeļus, PyTorch/XLA iegulda tādās funkcijās kā jaukta precizitātes apmācība, izpildlaika veiktspēja, efektīva modeļa sadalīšana un ātrāka datu ielāde. Dažas no šīm funkcijām jau ir pieejamas, bet citas tiks izlaistas vēlāk šogad, izmantojot pamatā esošo OpenXLA kompilatoru kopu.
Modeļa secinājumiem PyTorch/XLA koncentrējas uz konkurētspējīgas veiktspējas nodrošināšanu ar Dynamo PyTorch 2.0 laidienā. Papildu uz secinājumiem orientētas funkcijas ietver modeļu apkalpošanas atbalstu, Dynamo šķeltajiem lielajiem modeļiem un kvantēšanu, izmantojot Torch.Export un StableHLO.
Runājot par ekosistēmu integrāciju, PyTorch/XLA paplašina integrāciju ar Hugging Face un PyTorch Lightning, lai lietotāji varētu izmantot gaidāmās funkcijas un pakārtotās OpenXLA funkcijas, izmantojot pazīstamās API. Tas ietver atbalstu FSDP programmā Hugging Face un kvantēšanu OpenXLA.
PyTorch/XLA ir atvērtā pirmkoda projekts, kas nozīmē, ka varat sniegt ieguldījumu tā attīstībā, ziņojot par problēmām, iesniedzot izvilkšanas pieprasījumus un nosūtot komentāru pieprasījumus (RFC) GitHub.
Lasīt vairāk:
- Ķīna plāno palielināt VR līdz 48 miljardiem USD līdz 2026. gadam
- Baltais nams izdod visaptverošu sistēmu digitālo aktīvu regulēšanai, tostarp kriptovalūtu un NFTs
- Stability AI piesaista 101 miljonu ASV dolāru, noslēdz novērtējumu pie 1 miljarda ASV dolāru
Atbildības noraidīšana
Atbilstīgi Uzticības projekta vadlīnijas, lūdzu, ņemiet vērā, ka šajā lapā sniegtā informācija nav paredzēta un to nedrīkst interpretēt kā juridisku, nodokļu, ieguldījumu, finanšu vai jebkāda cita veida padomu. Ir svarīgi ieguldīt tikai to, ko varat atļauties zaudēt, un meklēt neatkarīgu finanšu padomu, ja jums ir šaubas. Lai iegūtu papildinformāciju, iesakām skatīt pakalpojumu sniegšanas noteikumus, kā arī palīdzības un atbalsta lapas, ko nodrošina izdevējs vai reklāmdevējs. MetaversePost ir apņēmies sniegt precīzus, objektīvus pārskatus, taču tirgus apstākļi var tikt mainīti bez iepriekšēja brīdinājuma.
Par Autors
Agne ir žurnāliste, kas atspoguļo jaunākās tendences un notikumus metaversā, AI un Web3 nozares Metaverse Post. Viņas aizraušanās ar stāstīšanu ir likusi viņai vadīt daudzas intervijas ar šo jomu ekspertiem, vienmēr cenšoties atklāt aizraujošus un saistošus stāstus. Agnei ir bakalaura grāds literatūrā, un viņai ir plaša pieredze rakstīšanā par dažādām tēmām, tostarp ceļošanu, mākslu un kultūru. Viņa ir arī brīvprātīgi piedalījusies par redaktori dzīvnieku tiesību organizācijā, kur palīdzējusi vairot izpratni par dzīvnieku labturības jautājumiem. Sazinieties ar viņu tālāk [e-pasts aizsargāts].
Vairāk rakstus
Agne ir žurnāliste, kas atspoguļo jaunākās tendences un notikumus metaversā, AI un Web3 nozares Metaverse Post. Viņas aizraušanās ar stāstīšanu ir likusi viņai vadīt daudzas intervijas ar šo jomu ekspertiem, vienmēr cenšoties atklāt aizraujošus un saistošus stāstus. Agnei ir bakalaura grāds literatūrā, un viņai ir plaša pieredze rakstīšanā par dažādām tēmām, tostarp ceļošanu, mākslu un kultūru. Viņa ir arī brīvprātīgi piedalījusies par redaktori dzīvnieku tiesību organizācijā, kur palīdzējusi vairot izpratni par dzīvnieku labturības jautājumiem. Sazinieties ar viņu tālāk [e-pasts aizsargāts].
