PyTorch 2.0 leidimas: pagrindinis mašininio mokymosi sistemos atnaujinimas
Trumpai
„PyTorch“ išleido „PyTorch 2.0“ – pagrindinį atvirojo kodo mašininio mokymosi sistemos atnaujinimą su naujomis funkcijomis ir patobulinimais, kurie daro ją galingesnę ir pritaikesnę.
Atnaujinimas apima didelio našumo Transformer API ir mokymų bei išvadų palaikymą naudojant mastelio taško produkto dėmesį (SPDA).
„PyTorch“ paskelbė apie išleidimą PyTorch 2.0, atvirojo kodo mašininio mokymosi sistema, kurios labai laukė duomenų mokslo bendruomenė. Komanda pristatė keletą naujų platformos funkcijų ir patobulinimų, padidindama jos potencialą ir pritaikomumą.
Sistema naudojama kompiuterinės vizijos ir natūralios kalbos apdorojimo programoms ir yra „Linux Foundation“ skėtyje. Tai suteikia tenzorinį skaičiavimą su GPU pagreitinimu ir giliais neuroniniais tinklais, paremtais automatiniu diferencijavimu. Kai kurios gilaus mokymosi programinės įrangos, tokios kaip „Tesla Autopilot“, „Pyro“, „Transformers“, „PyTorch Lightning“ ir „Catalyst“, yra sukurta „PyTorch“ viršuje.
PyTorch 2.0 įdiegia naują didelio našumo Transformatoriaus API, kuriuo siekiama, kad mokymas ir naujausių transformatorių modelių diegimas būtų prieinamesni. Leidimas taip pat apima didelio našumo mokymų ir išvadų palaikymą, naudojant tinkintą branduolio architektūrą, skirtą mastelio taško produkto dėmesiui (SPDA).
Panašiu metu PyTorch išleido OpenXLA ir PyTorch/XLA 2.0. PyTorch ir XLA derinys suteikia kūrimo krūvą, kuris gali palaikyti ir modelio mokymą, ir išvadas. Tai įmanoma, nes „PyTorch“ yra populiarus AI pasirinkimas, o XLA turi puikias kompiliatoriaus funkcijas. Norint tobulinti šį plėtros paketą, bus investuojama į tris pagrindines sritis.
Siekdama apmokyti didelius modelius, PyTorch/XLA investuoja į tokias funkcijas kaip mišrus tikslumo mokymas, vykdymo laikas, efektyvus modelio dalijimasis ir greitesnis duomenų įkėlimas. Kai kurios iš šių funkcijų jau yra prieinamos, o kitos bus išleistos vėliau šiais metais, naudojant pagrindinį OpenXLA kompiliatoriaus krūvą.
Kad būtų galima daryti išvadą apie modelį, PyTorch/XLA daugiausia dėmesio skiria konkurencingam našumui su Dynamo PyTorch 2.0 leidime. Papildomos į išvadas orientuotos funkcijos apima modelio aptarnavimo palaikymą, „Dynamo“ susmulkintiems dideliems modeliams ir kvantavimą naudojant „Torch.Export“ ir „StableHLO“.
Kalbant apie ekosistemų integravimą, PyTorch/XLA plečia integraciją su Hugging Face ir PyTorch Lightning, kad vartotojai galėtų pasinaudoti būsimomis funkcijomis ir paskesnėmis OpenXLA funkcijomis naudodamiesi pažįstamomis API. Tai apima FSDP palaikymą Hugging Face ir kvantavimą OpenXLA.
PyTorch/XLA yra atvirojo kodo projektas, o tai reiškia, kad galite prisidėti prie jo kūrimo pranešdami apie problemas, pateikdami ištraukimo užklausas ir siųsdami komentarų užklausas (RFC). GitHub.
Plačiau paskaitykite čia:
- Kinija planuoja iki 48 m. padidinti VR iki 2026 mlrd
- Baltieji rūmai išleidžia išsamią skaitmeninio turto reguliavimo sistemą, įskaitant kriptovaliutą ir NFTs
- Stability AI pritraukia 101 mln. JAV dolerių, baigia vertinimą ties 1 mlrd
Atsakomybės neigimas
Remdamasi tuo, Pasitikėjimo projekto gairės, atkreipkite dėmesį, kad šiame puslapyje pateikta informacija nėra skirta ir neturėtų būti aiškinama kaip teisinė, mokesčių, investicinė, finansinė ar bet kokia kita konsultacija. Svarbu investuoti tik tai, ką galite sau leisti prarasti, ir, jei turite kokių nors abejonių, kreiptis į nepriklausomą finansinę konsultaciją. Norėdami gauti daugiau informacijos, siūlome peržiūrėti taisykles ir nuostatas bei pagalbos ir palaikymo puslapius, kuriuos pateikia išdavėjas arba reklamuotojas. MetaversePost yra įsipareigojusi teikti tikslias, nešališkas ataskaitas, tačiau rinkos sąlygos gali keistis be įspėjimo.
Apie autorių
Agnė yra žurnalistė, kuri pasakoja apie naujausias tendencijas ir pokyčius metaverse, AI ir Web3 pramonės šakoms Metaverse Post. Jos aistra pasakojimui paskatino ją vesti daugybę interviu su šių sričių ekspertais, visada siekdama atskleisti įdomių ir įtraukiančių istorijų. Agnė yra įgijusi literatūros bakalauro laipsnį ir daug rašo įvairiomis temomis, įskaitant keliones, meną ir kultūrą. Ji taip pat savanoriavo gyvūnų teisių organizacijos redaktore, kur padėjo didinti informuotumą apie gyvūnų gerovės problemas. Susisiekite su ja [apsaugotas el. paštu].
Daugiau straipsnių
Agnė yra žurnalistė, kuri pasakoja apie naujausias tendencijas ir pokyčius metaverse, AI ir Web3 pramonės šakoms Metaverse Post. Jos aistra pasakojimui paskatino ją vesti daugybę interviu su šių sričių ekspertais, visada siekdama atskleisti įdomių ir įtraukiančių istorijų. Agnė yra įgijusi literatūros bakalauro laipsnį ir daug rašo įvairiomis temomis, įskaitant keliones, meną ir kultūrą. Ji taip pat savanoriavo gyvūnų teisių organizacijos redaktore, kur padėjo didinti informuotumą apie gyvūnų gerovės problemas. Susisiekite su ja [apsaugotas el. paštu].
