PyTorch 2.0 Release: En større opdatering til Machine Learning Framework
Kort sagt
PyTorch har udgivet PyTorch 2.0, en stor opdatering til dens open source-maskinlæringsramme med nye funktioner og forbedringer, der gør den mere kraftfuld og tilpasningsdygtig.
Opdateringen inkluderer en højtydende Transformer API og support til træning og inferens ved hjælp af skaleret punktprodukt opmærksomhed (SPDA).
PyTorch har annonceret udgivelsen af PyTorch 2.0, open source-maskinlæringsrammerne, som var meget ventet af datavidenskabssamfundet. Holdet leverede flere nye funktioner og forbedringer til platformen, hvilket øgede dens styrke og tilpasningsevne.
Rammen bruges til computervision og naturlige sprogbehandlingsapplikationer og er under Linux Foundation-paraplyen. Det giver tensor-databehandling med GPU-acceleration og dybe neurale netværk bygget på automatisk differentiering. Nogle deep learning-software, såsom Tesla Autopilot, Pyro, Transformers, PyTorch Lightning og Catalyst, er bygget oven på PyTorch.
PyTorch 2.0 implementerer en ny højtydende Transformer API, som har til formål at gøre træning og implementering af state-of-the-art Transformer-modeller mere overkommelige. Udgivelsen inkluderer også højtydende support til træning og inferens ved hjælp af en tilpasset kernearkitektur til skaleret punktproduktopmærksomhed (SPDA).
På et lignende tidspunkt, PyTorch frigivet OpenXLA og PyTorch/XLA 2.0. Kombinationen af PyTorch og XLA giver en udviklingsstak, der kan understøtte både modeltræning og inferens. Dette er muligt, fordi PyTorch er et populært valg i AI, og XLA har fremragende compilerfunktioner. For at forbedre denne udviklingsstak vil der blive investeret i tre hovedområder.
For at træne store modeller investerer PyTorch/XLA i funktioner såsom blandet præcisionstræning, runtime-ydeevne, effektiv modelskæring og hurtigere dataindlæsning. Nogle af disse funktioner er allerede tilgængelige, mens andre vil blive frigivet senere på året og udnytter den underliggende OpenXLA-compilerstak.
Til modelslutning fokuserer PyTorch/XLA på at levere konkurrencedygtig ydeevne med Dynamo i PyTorch 2.0-udgivelsen. Yderligere slutningsorienterede funktioner inkluderer modelserveringssupport, Dynamo til sharded store modeller og kvantisering via Torch.Export og StableHLO.
Med hensyn til økosystemintegration udvider PyTorch/XLA integrationen med Hugging Face og PyTorch Lightning, så brugere kan drage fordel af kommende funktioner og de downstream OpenXLA-funktioner gennem velkendte API'er. Dette inkluderer understøttelse af FSDP i Hugging Face og Quantization i OpenXLA.
PyTorch/XLA er et open source-projekt, hvilket betyder, at du kan bidrage til dets udvikling ved at rapportere problemer, indsende pull-anmodninger og sende anmodninger om kommentarer (RFC'er) på GitHub.
Læs mere:
- Kina planlægger at øge VR til $48 milliarder i 2026
- Det Hvide Hus frigiver en omfattende ramme for regulering af digitale aktiver, herunder krypto og NFTs
- Stability AI rejser 101 millioner dollars, lukker værdiansættelsen på 1 milliard dollars
Ansvarsfraskrivelse
I tråd med den Trust Project retningslinjer, bemærk venligst, at oplysningerne på denne side ikke er beregnet til at være og ikke skal fortolkes som juridiske, skattemæssige, investeringsmæssige, finansielle eller nogen anden form for rådgivning. Det er vigtigt kun at investere, hvad du har råd til at tabe, og at søge uafhængig finansiel rådgivning, hvis du er i tvivl. For yderligere information foreslår vi at henvise til vilkårene og betingelserne samt hjælpe- og supportsiderne fra udstederen eller annoncøren. MetaversePost er forpligtet til nøjagtig, objektiv rapportering, men markedsforholdene kan ændres uden varsel.
Om forfatteren
Agne er en journalist, der dækker de seneste trends og udviklinger inden for metaverset, AI og Web3 industrier for Metaverse Post. Hendes passion for historiefortælling har fået hende til at gennemføre adskillige interviews med eksperter inden for disse områder, hvor hun altid søger at afdække spændende og engagerende historier. Agne er uddannet bachelor i litteratur og har en omfattende baggrund i at skrive om en bred vifte af emner, herunder rejser, kunst og kultur. Hun har også været frivillig som redaktør for dyrerettighedsorganisationen, hvor hun var med til at skabe opmærksomhed omkring dyrevelfærdsspørgsmål. Kontakt hende på [e-mail beskyttet].
Flere artikler
Agne er en journalist, der dækker de seneste trends og udviklinger inden for metaverset, AI og Web3 industrier for Metaverse Post. Hendes passion for historiefortælling har fået hende til at gennemføre adskillige interviews med eksperter inden for disse områder, hvor hun altid søger at afdække spændende og engagerende historier. Agne er uddannet bachelor i litteratur og har en omfattende baggrund i at skrive om en bred vifte af emner, herunder rejser, kunst og kultur. Hun har også været frivillig som redaktør for dyrerettighedsorganisationen, hvor hun var med til at skabe opmærksomhed omkring dyrevelfærdsspørgsmål. Kontakt hende på [e-mail beskyttet].
