Lançamento do PyTorch 2.0: uma grande atualização para o Machine Learning Framework
Em Breve
O PyTorch lançou o PyTorch 2.0, uma grande atualização para sua estrutura de aprendizado de máquina de código aberto com novos recursos e aprimoramentos que o tornam mais poderoso e adaptável.
A atualização inclui uma API Transformer de alto desempenho e suporte para treinamento e inferência usando atenção de produto escalado (SPDA).
PyTorch anunciou o lançamento de PyTorch 2.0, a estrutura de aprendizado de máquina de código aberto, muito aguardada pela comunidade de ciência de dados. A equipe entregou vários novos recursos e aprimoramentos à plataforma, aumentando sua potência e adaptabilidade.
A estrutura é usada para aplicativos de visão computacional e processamento de linguagem natural e está sob o guarda-chuva da Linux Foundation. Ele fornece computação de tensor com aceleração de GPU e redes neurais profundas construídas em diferenciação automática. Alguns softwares de aprendizado profundo, como Tesla Autopilot, Pyro, Transformers, PyTorch Lightning e Catalyst, são construídos sobre o PyTorch.
O PyTorch 2.0 implementa uma nova tecnologia de alto desempenho API do transformador, que visa tornar o treinamento e a implantação de modelos Transformer de última geração mais acessíveis. A versão também inclui suporte de alto desempenho para treinamento e inferência usando uma arquitetura de kernel personalizada para atenção de produto escalado (SPDA).
Ao mesmo tempo, PyTorch liberado OpenXLA e PyTorch/XLA 2.0. A combinação de PyTorch e XLA fornece uma pilha de desenvolvimento que pode suportar tanto o treinamento quanto a inferência do modelo. Isso é possível porque o PyTorch é uma escolha popular em IA e o XLA possui excelentes recursos de compilador. Para melhorar essa pilha de desenvolvimento, haverá investimentos em três áreas principais.
Para treinar modelos grandes, o PyTorch/XLA está investindo em recursos como treinamento de precisão mista, desempenho de tempo de execução, fragmentação de modelo eficiente e carregamento de dados mais rápido. Alguns desses recursos já estão disponíveis, enquanto outros serão lançados ainda este ano, aproveitando a pilha subjacente do compilador OpenXLA.
Para inferência de modelo, o PyTorch/XLA se concentra em fornecer desempenho competitivo com o Dynamo na versão PyTorch 2.0. Recursos adicionais orientados para inferência incluem suporte para serviço de modelo, Dynamo para modelos grandes fragmentados e quantização via Torch.Export e StableHLO.
Em termos de integração do ecossistema, o PyTorch/XLA está expandindo a integração com o Hugging Face e o PyTorch Lightning para que os usuários possam aproveitar os recursos futuros e os recursos downstream do OpenXLA por meio de APIs familiares. Isso inclui suporte para FSDP em Hugging Face e Quantization em OpenXLA.
PyTorch/XLA é um projeto de código aberto, o que significa que você pode contribuir para seu desenvolvimento relatando problemas, enviando solicitações pull e solicitações de comentários (RFCs) em GitHub.
Leia mais:
- China planeja aumentar VR para US$ 48 bilhões até 2026
- A Casa Branca lança uma estrutura abrangente para regulamentação de ativos digitais, incluindo cripto e NFTs
- Stability AI levanta US$ 101 milhões e fecha avaliação em US$ 1 bilhão
Aviso Legal
Em linha com a Diretrizes do Projeto Trust, observe que as informações fornecidas nesta página não se destinam e não devem ser interpretadas como aconselhamento jurídico, tributário, de investimento, financeiro ou qualquer outra forma. É importante investir apenas o que você pode perder e procurar aconselhamento financeiro independente se tiver alguma dúvida. Para mais informações, sugerimos consultar os termos e condições, bem como as páginas de ajuda e suporte fornecidas pelo emissor ou anunciante. MetaversePost está comprometida com relatórios precisos e imparciais, mas as condições de mercado estão sujeitas a alterações sem aviso prévio.
Sobre o autor
Agne é uma jornalista que cobre as últimas tendências e desenvolvimentos no metaverso, IA e Web3 indústrias para o Metaverse Post. Sua paixão por contar histórias a levou a realizar inúmeras entrevistas com especialistas nessas áreas, sempre buscando descobrir histórias emocionantes e envolventes. Agne é bacharel em literatura e possui ampla experiência em redação sobre uma ampla variedade de tópicos, incluindo viagens, arte e cultura. Ela também foi voluntária como editora da organização de direitos dos animais, onde ajudou a aumentar a conscientização sobre questões de bem-estar animal. Entre em contato com ela [email protegido].
Mais artigos
Agne é uma jornalista que cobre as últimas tendências e desenvolvimentos no metaverso, IA e Web3 indústrias para o Metaverse Post. Sua paixão por contar histórias a levou a realizar inúmeras entrevistas com especialistas nessas áreas, sempre buscando descobrir histórias emocionantes e envolventes. Agne é bacharel em literatura e possui ampla experiência em redação sobre uma ampla variedade de tópicos, incluindo viagens, arte e cultura. Ela também foi voluntária como editora da organização de direitos dos animais, onde ajudou a aumentar a conscientização sobre questões de bem-estar animal. Entre em contato com ela [email protegido].
