PyTorch 2.0 -julkaisu: merkittävä päivitys koneoppimiskehykseen
Lyhyesti
PyTorch on julkaissut PyTorch 2.0:n, suuren päivityksen avoimen lähdekoodin koneoppimiskehykseen, jossa on uusia ominaisuuksia ja parannuksia, jotka tekevät siitä tehokkaamman ja mukautuvamman.
Päivitys sisältää tehokkaan Transformer API:n ja tuen koulutukselle ja päätelmille käyttämällä skaalattua pistetuotehuomiota (SPDA).
PyTorch on ilmoittanut julkaisevansa PyTorch 2.0, avoimen lähdekoodin koneoppimiskehys, jota datatiedeyhteisö odotti suuresti. Tiimi toimitti alustaan useita uusia ominaisuuksia ja parannuksia, mikä lisäsi sen tehoa ja mukautumiskykyä.
Kehystä käytetään tietokonenäön ja luonnollisen kielen käsittelysovelluksiin, ja se on Linux Foundationin sateenvarjossa. Se tarjoaa tensorilaskennan GPU-kiihdytyksellä ja syvät hermoverkot, jotka on rakennettu automaattiseen erotteluun. Jotkut syväoppimisohjelmistot, kuten Tesla Autopilot, Pyro, Transformers, PyTorch Lightning ja Catalyst, on rakennettu PyTorchin päälle.
PyTorch 2.0 toteuttaa uuden korkean suorituskyvyn Transformer API, jonka tavoitteena on tehdä huippuluokan Transformer-mallien koulutuksesta ja käyttöönotosta edullisempaa. Julkaisu sisältää myös korkean suorituskyvyn tuen koulutukseen ja päättelyyn käyttämällä mukautettua ydinarkkitehtuuria skaalattujen pistetuotteiden huomioimiseen (SPDA).
Samaan aikaan PyTorch julkaistu OpenXLA ja PyTorch/XLA 2.0. PyTorchin ja XLA:n yhdistelmä tarjoaa kehityspinon, joka tukee sekä mallin koulutusta että päätelmiä. Tämä on mahdollista, koska PyTorch on suosittu valinta tekoälyssä ja XLA:ssa on erinomaiset kääntäjäominaisuudet. Tämän kehityspinon parantamiseksi investoidaan kolmelle pääalueelle.
PyTorch/XLA investoi suurten mallien kouluttamiseen sellaisiin ominaisuuksiin kuin sekoitettu tarkkuusharjoittelu, ajonaikainen suorituskyky, tehokas mallin sirpalointi ja nopeampi tiedon lataus. Jotkut näistä ominaisuuksista ovat jo saatavilla, kun taas toiset julkaistaan myöhemmin tänä vuonna hyödyntäen taustalla olevaa OpenXLA-kääntäjäpinoa.
Mallipäätelmiä varten PyTorch/XLA keskittyy kilpailukykyiseen suorituskykyyn Dynamon kanssa PyTorch 2.0 -julkaisussa. Muita päätelmään perustuvia ominaisuuksia ovat mallinkäyttötuki, Dynamo sirpaloituihin suuriin malleihin ja kvantisointi Torch.Exportin ja StableHLO:n kautta.
Mitä tulee ekosysteemiintegraatioon, PyTorch/XLA laajentaa integraatiota Hugging Facen ja PyTorch Lightningin kanssa, jotta käyttäjät voivat hyödyntää tulevia ominaisuuksia ja myöhempiä OpenXLA-ominaisuuksia tuttujen sovellusliittymien kautta. Tämä sisältää tuen FSDP:lle Hugging Facessa ja kvantisoinnille OpenXLA:ssa.
PyTorch/XLA on avoimen lähdekoodin projekti, mikä tarkoittaa, että voit osallistua sen kehittämiseen raportoimalla ongelmista, lähettämällä vetopyyntöjä ja lähettämällä kommenttipyyntöjä (RFC) GitHub.
Lue lisää:
- Kiina aikoo nostaa VR:n 48 miljardiin dollariin vuoteen 2026 mennessä
- Valkoinen talo julkaisee kattavan kehyksen digitaalisen omaisuuden sääntelylle, mukaan lukien krypto- ja NFTs
- Stability AI nostaa 101 miljoonaa dollaria ja sulkee arvon 1 miljardiin dollariin
Vastuun kieltäminen
Mukaisesti Luottamusprojektin ohjeetHuomaa, että tällä sivulla annettuja tietoja ei ole tarkoitettu eikä niitä tule tulkita oikeudellisiksi, verotukselliseksi, sijoitus-, rahoitus- tai minkään muun muodon neuvoiksi. On tärkeää sijoittaa vain sen verran, mitä sinulla on varaa menettää, ja pyytää riippumatonta talousneuvontaa, jos sinulla on epäilyksiä. Lisätietoja saat käyttöehdoista sekä myöntäjän tai mainostajan tarjoamista ohje- ja tukisivuista. MetaversePost on sitoutunut tarkkaan, puolueettomaan raportointiin, mutta markkinaolosuhteet voivat muuttua ilman erillistä ilmoitusta.
Author
Agne on toimittaja, joka käsittelee metaversumien, tekoälyn ja uusimpia trendejä ja kehitystä Web3 toimialoja varten Metaverse Post. Hänen intohimonsa tarinankerrontaan on johtanut hänen haastatteluihinsa näiden alojen asiantuntijoiden kanssa pyrkien aina löytämään jännittäviä ja mukaansatempaavia tarinoita. Agnella on kandidaatin tutkinto kirjallisuudesta ja laaja tausta kirjoittamiseen monenlaisista aiheista, kuten matkailusta, taiteesta ja kulttuurista. Hän on myös toiminut vapaaehtoisena toimittajana eläinoikeusjärjestöön, jossa hän auttoi lisäämään tietoisuutta eläinten hyvinvointikysymyksistä. Ota häneen yhteyttä [sähköposti suojattu].
lisää artikkeleita
Agne on toimittaja, joka käsittelee metaversumien, tekoälyn ja uusimpia trendejä ja kehitystä Web3 toimialoja varten Metaverse Post. Hänen intohimonsa tarinankerrontaan on johtanut hänen haastatteluihinsa näiden alojen asiantuntijoiden kanssa pyrkien aina löytämään jännittäviä ja mukaansatempaavia tarinoita. Agnella on kandidaatin tutkinto kirjallisuudesta ja laaja tausta kirjoittamiseen monenlaisista aiheista, kuten matkailusta, taiteesta ja kulttuurista. Hän on myös toiminut vapaaehtoisena toimittajana eläinoikeusjärjestöön, jossa hän auttoi lisäämään tietoisuutta eläinten hyvinvointikysymyksistä. Ota häneen yhteyttä [sähköposti suojattu].
