Versiunea PyTorch 2.0: o actualizare majoră a cadrului de învățare automată
Pe scurt
PyTorch a lansat PyTorch 2.0, o actualizare majoră a cadrului său de învățare automată open-source, cu noi funcții și îmbunătățiri care îl fac mai puternic și mai adaptabil.
Actualizarea include un API Transformer de înaltă performanță și suport pentru instruire și inferență folosind atenția produsului punctat la scară (SPDA).
PyTorch a anunțat lansarea lui PyTorch 2.0, cadrul open-source de învățare automată, care a fost foarte așteptat de comunitatea științei datelor. Echipa a oferit câteva funcții și îmbunătățiri noi platformei, crescând potența și adaptabilitatea acesteia.
Cadrul este folosit pentru viziunea computerizată și aplicațiile de procesare a limbajului natural și se află sub umbrela Fundației Linux. Oferă calcul tensor cu accelerare GPU și rețele neuronale profunde construite pe diferențiere automată. Unele software de învățare profundă, cum ar fi Tesla Autopilot, Pyro, Transformers, PyTorch Lightning și Catalyst, sunt construite pe PyTorch.
PyTorch 2.0 implementează o nouă performanță Transformer API, care își propune să facă antrenamentul și implementarea modelelor de Transformer de ultimă generație mai accesibile. Versiunea include, de asemenea, suport de înaltă performanță pentru instruire și inferență folosind o arhitectură personalizată a nucleului pentru atenția scalată a produsului punctual (SPDA).
La un moment similar, PyTorch eliberat OpenXLA și PyTorch/XLA 2.0. Combinația dintre PyTorch și XLA oferă o stivă de dezvoltare care poate sprijini atât formarea modelului, cât și inferența. Acest lucru este posibil deoarece PyTorch este o alegere populară în AI, iar XLA are caracteristici excelente de compilare. Pentru a îmbunătăți această stivă de dezvoltare, vor exista investiții în trei domenii principale.
Pentru a antrena modele mari, PyTorch/XLA investește în funcții precum antrenament mixt de precizie, performanță de rulare, fragmentare eficientă a modelului și încărcare mai rapidă a datelor. Unele dintre aceste caracteristici sunt deja disponibile, în timp ce altele vor fi lansate mai târziu în acest an, valorificând stiva de compilatoare OpenXLA de bază.
Pentru deducerea modelului, PyTorch/XLA se concentrează pe furnizarea de performanțe competitive cu Dynamo în versiunea PyTorch 2.0. Caracteristicile suplimentare orientate spre inferență includ suport pentru servirea modelelor, Dynamo pentru modele mari fragmentate și cuantificare prin Torch.Export și StableHLO.
În ceea ce privește integrarea ecosistemului, PyTorch/XLA extinde integrarea cu Hugging Face și PyTorch Lightning, astfel încât utilizatorii să poată profita de funcțiile viitoare și de funcțiile OpenXLA din aval prin intermediul API-urilor familiare. Aceasta include suport pentru FSDP în Hugging Face și Quantization în OpenXLA.
PyTorch/XLA este un proiect open-source, ceea ce înseamnă că puteți contribui la dezvoltarea acestuia raportând probleme, trimițând cereri de extragere și trimițând cereri de comentarii (RFC) pe GitHub.
Citeşte mai mult:
- China intenționează să crească VR la 48 de miliarde de dolari până în 2026
- Casa Albă lansează un cadru cuprinzător pentru reglementarea activelor digitale, inclusiv cripto și NFTs
- Stability AI strânge 101 milioane USD, închide evaluarea la 1 miliard USD
Declinare a responsabilităţii
În conformitate cu Ghidurile proiectului Trust, vă rugăm să rețineți că informațiile furnizate pe această pagină nu sunt destinate și nu trebuie interpretate ca fiind consiliere juridică, fiscală, investițională, financiară sau orice altă formă de consiliere. Este important să investești doar ceea ce îți poți permite să pierzi și să cauți sfaturi financiare independente dacă ai îndoieli. Pentru informații suplimentare, vă sugerăm să consultați termenii și condițiile, precum și paginile de ajutor și asistență furnizate de emitent sau agent de publicitate. MetaversePost se angajează să raporteze corecte, imparțial, dar condițiile de piață pot fi modificate fără notificare.
Despre autor
Agne este o jurnalistă care acoperă cele mai recente tendințe și evoluții în metaverse, AI și Web3 industrii pentru Metaverse Post. Pasiunea ei pentru povestire a determinat-o să conducă numeroase interviuri cu experți în aceste domenii, căutând mereu să descopere povești interesante și captivante. Agne deține o diplomă de licență în literatură și are o experiență vastă în scris despre o gamă largă de subiecte, inclusiv călătorii, artă și cultură. De asemenea, s-a oferit voluntar ca editor pentru organizația pentru drepturile animalelor, unde a contribuit la creșterea gradului de conștientizare cu privire la problemele de bunăstare a animalelor. Contactează-o pe [e-mail protejat].
Mai multe articole
Agne este o jurnalistă care acoperă cele mai recente tendințe și evoluții în metaverse, AI și Web3 industrii pentru Metaverse Post. Pasiunea ei pentru povestire a determinat-o să conducă numeroase interviuri cu experți în aceste domenii, căutând mereu să descopere povești interesante și captivante. Agne deține o diplomă de licență în literatură și are o experiență vastă în scris despre o gamă largă de subiecte, inclusiv călătorii, artă și cultură. De asemenea, s-a oferit voluntar ca editor pentru organizația pentru drepturile animalelor, unde a contribuit la creșterea gradului de conștientizare cu privire la problemele de bunăstare a animalelor. Contactează-o pe [e-mail protejat].
