Izdanje PyTorch 2.0: veliko ažuriranje okvira strojnog učenja
Ukratko
PyTorch je izdao PyTorch 2.0, veliko ažuriranje svog okvira za strojno učenje otvorenog koda s novim značajkama i poboljšanjima koja ga čine moćnijim i prilagodljivijim.
Ažuriranje uključuje Transformer API visokih performansi i podršku za obuku i zaključivanje korištenjem skalirane pozornosti točkastih proizvoda (SPDA).
PyTorch je najavio izdavanje PyTorch 2.0, okvir za strojno učenje otvorenog koda, koji je visoko očekivala zajednica znanosti o podacima. Tim je isporučio nekoliko novih značajki i poboljšanja platforme, povećavajući njezinu snagu i prilagodljivost.
Okvir se koristi za računalni vid i aplikacije za obradu prirodnog jezika i nalazi se pod kišobranom Linux Foundationa. Omogućuje tenzorsko računalstvo s GPU ubrzanjem i dubokim neuronskim mrežama izgrađenim na automatskom razlikovanju. Neki softveri za duboko učenje, kao što su Tesla Autopilot, Pyro, Transformers, PyTorch Lightning i Catalyst, izgrađeni su na PyTorchu.
PyTorch 2.0 implementira nove visoke performanse Transformator API, čiji je cilj učiniti obuku i korištenje najsuvremenijih modela Transformer pristupačnijima. Izdanje također uključuje podršku visokih performansi za obuku i zaključivanje korištenjem prilagođene arhitekture kernela za skaliranu pažnju proizvoda (SPDA).
U slično vrijeme, PyTorch otpušten OpenXLA i PyTorch/XLA 2.0. Kombinacija PyTorcha i XLA pruža razvojni skup koji može podržati i obuku modela i zaključivanje. To je moguće jer je PyTorch popularan izbor u umjetnoj inteligenciji, a XLA ima izvrsne značajke prevoditelja. Kako bi se poboljšao ovaj razvojni niz, bit će ulaganja u tri glavna područja.
Kako bi trenirao velike modele, PyTorch/XLA ulaže u značajke kao što su mješovita precizna obuka, performanse u vremenu izvođenja, učinkovito dijeljenje modela i brže učitavanje podataka. Neke od ovih značajki već su dostupne, dok će druge biti objavljene kasnije ove godine, koristeći temeljni skup prevoditelja OpenXLA.
Za zaključivanje modela, PyTorch/XLA fokusiran je na pružanje konkurentne izvedbe s Dynamom u izdanju PyTorch 2.0. Dodatne značajke orijentirane na zaključivanje uključuju podršku za posluživanje modela, Dynamo za velike modele u segmentima i kvantizaciju putem Torch.Exporta i StableHLO-a.
Što se tiče integracije ekosustava, PyTorch/XLA proširuje integraciju s Hugging Face i PyTorch Lightning kako bi korisnici mogli iskoristiti prednosti nadolazećih značajki i nizvodnih značajki OpenXLA putem poznatih API-ja. To uključuje podršku za FSDP u Hugging Face i kvantizaciju u OpenXLA.
PyTorch/XLA je projekt otvorenog koda, što znači da možete doprinijeti njegovom razvoju prijavljivanjem problema, podnošenjem zahtjeva za povlačenjem i slanjem zahtjeva za komentare (RFC) na GitHub.
Pročitajte više:
- Kina planira povećati VR na 48 milijardi dolara do 2026
- Bijela kuća izdaje sveobuhvatan okvir za regulaciju digitalne imovine, uključujući kripto i NFTs
- Stability AI prikuplja 101 milijun dolara, procjena se zatvara na milijardu dolara
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Agne je novinarka koja pokriva najnovije trendove i razvoj u metaverzumu, umjetnoj inteligenciji i Web3 industrije za Metaverse Post. Njezina strast za pripovijedanjem dovela ju je do brojnih intervjua sa stručnjacima u tim područjima, uvijek nastojeći otkriti uzbudljive i privlačne priče. Agne je diplomirala književnost i ima opsežno iskustvo u pisanju o širokom rasponu tema, uključujući putovanja, umjetnost i kulturu. Također je volontirala kao urednica organizacije za prava životinja, gdje je pomogla u podizanju svijesti o pitanjima dobrobiti životinja. Kontaktirajte je na [e-pošta zaštićena].
Više članaka
Agne je novinarka koja pokriva najnovije trendove i razvoj u metaverzumu, umjetnoj inteligenciji i Web3 industrije za Metaverse Post. Njezina strast za pripovijedanjem dovela ju je do brojnih intervjua sa stručnjacima u tim područjima, uvijek nastojeći otkriti uzbudljive i privlačne priče. Agne je diplomirala književnost i ima opsežno iskustvo u pisanju o širokom rasponu tema, uključujući putovanja, umjetnost i kulturu. Također je volontirala kao urednica organizacije za prava životinja, gdje je pomogla u podizanju svijesti o pitanjima dobrobiti životinja. Kontaktirajte je na [e-pošta zaštićena].
