Rilascio di PyTorch 2.0: un importante aggiornamento del framework di machine learning
In Breve
PyTorch ha rilasciato PyTorch 2.0, un importante aggiornamento del suo framework di apprendimento automatico open source con nuove funzionalità e miglioramenti che lo rendono più potente e adattabile.
L'aggiornamento include un'API Transformer ad alte prestazioni e il supporto per l'addestramento e l'inferenza utilizzando SPDA (Scaled Dot Product Attention).
PyTorch ha annunciato il rilascio di PiTorcia 2.0, il framework di apprendimento automatico open source, molto atteso dalla comunità della scienza dei dati. Il team ha apportato diverse nuove funzionalità e miglioramenti alla piattaforma, aumentandone la potenza e l'adattabilità.
Il framework è utilizzato per applicazioni di visione artificiale e di elaborazione del linguaggio naturale ed è sotto l'egida della Linux Foundation. Fornisce tensor computing con accelerazione GPU e reti neurali profonde basate sulla differenziazione automatica. Alcuni software di deep learning, come Tesla Autopilot, Pyro, Transformers, PyTorch Lightning e Catalyst, sono costruiti su PyTorch.
PyTorch 2.0 implementa un nuovo ad alte prestazioni API del trasformatore, che mira a rendere più accessibile la formazione e l'implementazione di modelli Transformer all'avanguardia. La versione include anche il supporto ad alte prestazioni per l'addestramento e l'inferenza utilizzando un'architettura del kernel personalizzata per SPDA (Scaled Dot Product Attention).
Allo stesso tempo, PyTorch rilasciato OpenXLA e PyTorch/XLA 2.0. La combinazione di PyTorch e XLA fornisce uno stack di sviluppo in grado di supportare sia l'addestramento del modello che l'inferenza. Ciò è possibile perché PyTorch è una scelta popolare nell'IA e XLA ha eccellenti funzionalità di compilazione. Per migliorare questo stack di sviluppo, ci saranno investimenti in tre aree principali.
Per addestrare modelli di grandi dimensioni, PyTorch/XLA sta investendo in funzionalità come addestramento di precisione misto, prestazioni di runtime, partizionamento efficiente dei modelli e caricamento dei dati più veloce. Alcune di queste funzionalità sono già disponibili, mentre altre verranno rilasciate entro la fine dell'anno, sfruttando lo stack del compilatore OpenXLA sottostante.
Per l'inferenza del modello, PyTorch/XLA si concentra sulla fornitura di prestazioni competitive con Dynamo nella versione PyTorch 2.0. Ulteriori funzionalità orientate all'inferenza includono il supporto per la pubblicazione di modelli, Dynamo per modelli di grandi dimensioni frammentati e la quantizzazione tramite Torch.Export e StableHLO.
In termini di integrazione dell'ecosistema, PyTorch/XLA sta espandendo l'integrazione con Hugging Face e PyTorch Lightning in modo che gli utenti possano sfruttare le funzionalità imminenti e le funzionalità OpenXLA a valle tramite API familiari. Ciò include il supporto per FSDP in Hugging Face e la quantizzazione in OpenXLA.
PyTorch/XLA è un progetto open source, il che significa che puoi contribuire al suo sviluppo segnalando problemi, inviando richieste pull e inviando richieste di commenti (RFC) su GitHub.
Leggi di più:
- La Cina prevede di portare la realtà virtuale a 48 miliardi di dollari entro il 2026
- La Casa Bianca rilascia un quadro completo per la regolamentazione delle risorse digitali, tra cui criptovalute e NFTs
- Stability AI raccoglie $ 101 milioni, chiude la valutazione a $ 1 miliardo
Negazione di responsabilità
In linea con la Linee guida del progetto Trust, si prega di notare che le informazioni fornite in questa pagina non intendono essere e non devono essere interpretate come consulenza legale, fiscale, di investimento, finanziaria o di qualsiasi altra forma. È importante investire solo ciò che puoi permetterti di perdere e chiedere una consulenza finanziaria indipendente in caso di dubbi. Per ulteriori informazioni, suggeriamo di fare riferimento ai termini e alle condizioni nonché alle pagine di aiuto e supporto fornite dall'emittente o dall'inserzionista. MetaversePost si impegna a fornire report accurati e imparziali, ma le condizioni di mercato sono soggette a modifiche senza preavviso.
Circa l'autore
Agne è una giornalista che copre le ultime tendenze e gli sviluppi nel metaverso, AI e Web3 industrie per il Metaverse Post. La sua passione per lo storytelling l'ha portata a condurre numerose interviste con esperti in questi campi, cercando sempre di scoprire storie emozionanti e coinvolgenti. Agne ha conseguito una laurea in lettere e ha una vasta esperienza nella scrittura su una vasta gamma di argomenti tra cui viaggi, arte e cultura. Si è anche offerta volontaria come redattrice per l'organizzazione per i diritti degli animali, dove ha contribuito a sensibilizzare l'opinione pubblica sulle questioni relative al benessere degli animali. Contattala su [email protected].
Altri articoli
Agne è una giornalista che copre le ultime tendenze e gli sviluppi nel metaverso, AI e Web3 industrie per il Metaverse Post. La sua passione per lo storytelling l'ha portata a condurre numerose interviste con esperti in questi campi, cercando sempre di scoprire storie emozionanti e coinvolgenti. Agne ha conseguito una laurea in lettere e ha una vasta esperienza nella scrittura su una vasta gamma di argomenti tra cui viaggi, arte e cultura. Si è anche offerta volontaria come redattrice per l'organizzazione per i diritti degli animali, dove ha contribuito a sensibilizzare l'opinione pubblica sulle questioni relative al benessere degli animali. Contattala su [email protected].
