Lanzamiento de PyTorch 2.0: una actualización importante del marco de aprendizaje automático
En Resumen
PyTorch ha lanzado PyTorch 2.0, una importante actualización de su marco de aprendizaje automático de código abierto con nuevas funciones y mejoras que lo hacen más potente y adaptable.
La actualización incluye una API de Transformer de alto rendimiento y soporte para capacitación e inferencia mediante la atención de productos de puntos escalados (SPDA).
PyTorch ha anunciado el lanzamiento de PyTorch 2.0, el marco de aprendizaje automático de código abierto, muy esperado por la comunidad de ciencia de datos. El equipo entregó varias características nuevas y mejoras a la plataforma, aumentando su potencia y adaptabilidad.
El marco se utiliza para aplicaciones de procesamiento de lenguaje natural y visión por computadora y está bajo el paraguas de la Fundación Linux. Proporciona computación de tensor con aceleración de GPU y redes neuronales profundas basadas en la diferenciación automática. Parte del software de aprendizaje profundo, como Tesla Autopilot, Pyro, Transformers, PyTorch Lightning y Catalyst, se basa en PyTorch.
PyTorch 2.0 implementa un nuevo alto rendimiento API de transformador, cuyo objetivo es hacer que la capacitación y el despliegue de modelos de transformadores de última generación sean más asequibles. El lanzamiento también incluye soporte de alto rendimiento para capacitación e inferencia utilizando una arquitectura de kernel personalizada para la atención de productos punto escalados (SPDA).
En un momento similar, PyTorch liberado OpenXLA y PyTorch/XLA 2.0. La combinación de PyTorch y XLA proporciona una pila de desarrollo que puede admitir tanto el entrenamiento como la inferencia de modelos. Esto es posible porque PyTorch es una opción popular en IA y XLA tiene excelentes funciones de compilación. Para mejorar esta pila de desarrollo, habrá inversiones en tres áreas principales.
Para entrenar modelos grandes, PyTorch/XLA está invirtiendo en funciones como entrenamiento de precisión mixta, rendimiento en tiempo de ejecución, fragmentación eficiente de modelos y carga de datos más rápida. Algunas de estas funciones ya están disponibles, mientras que otras se lanzarán a finales de este año, aprovechando la pila de compiladores OpenXLA subyacente.
Para la inferencia de modelos, PyTorch/XLA se centra en ofrecer un rendimiento competitivo con Dynamo en la versión PyTorch 2.0. Las características adicionales orientadas a la inferencia incluyen compatibilidad con el servicio de modelos, Dynamo para modelos grandes fragmentados y cuantificación a través de Torch.Export y StableHLO.
En términos de integración del ecosistema, PyTorch/XLA está ampliando la integración con Hugging Face y PyTorch Lightning para que los usuarios puedan aprovechar las próximas funciones y las funciones posteriores de OpenXLA a través de API conocidas. Esto incluye soporte para FSDP en Hugging Face y Quantization en OpenXLA.
PyTorch/XLA es un proyecto de código abierto, lo que significa que puede contribuir a su desarrollo informando problemas, enviando solicitudes de extracción y enviando solicitudes de comentarios (RFC) en GitHub.
Más información:
- China planea impulsar la realidad virtual a $ 48 mil millones para 2026
- La Casa Blanca publica un marco integral para la regulación de activos digitales, incluidas las criptomonedas y NFTs
- Stability AI recauda $ 101 millones, cierra la valoración en $ 1 mil millones
Observación
En línea con la Directrices del Proyecto Confianza, tenga en cuenta que la información proporcionada en esta página no pretende ser ni debe interpretarse como asesoramiento legal, fiscal, de inversión, financiero o de cualquier otro tipo. Es importante invertir sólo lo que pueda permitirse perder y buscar asesoramiento financiero independiente si tiene alguna duda. Para mayor información sugerimos consultar los términos y condiciones así como las páginas de ayuda y soporte proporcionadas por el emisor o anunciante. MetaversePost se compromete a brindar informes precisos e imparciales, pero las condiciones del mercado están sujetas a cambios sin previo aviso.
Sobre el Autor
Agne es una periodista que cubre las últimas tendencias y desarrollos en metaverso, IA y Web3 industrias para la Metaverse Post. Su pasión por contar historias la ha llevado a realizar numerosas entrevistas con expertos en estos campos, buscando siempre descubrir historias apasionantes y atrapantes. Agne tiene una licenciatura en literatura y tiene una amplia experiencia escribiendo sobre una amplia gama de temas, incluidos viajes, arte y cultura. También se ofreció como editora voluntaria de la organización de derechos de los animales, donde ayudó a crear conciencia sobre cuestiones de bienestar animal. Contáctala en [email protected].
Más artículos
Agne es una periodista que cubre las últimas tendencias y desarrollos en metaverso, IA y Web3 industrias para la Metaverse Post. Su pasión por contar historias la ha llevado a realizar numerosas entrevistas con expertos en estos campos, buscando siempre descubrir historias apasionantes y atrapantes. Agne tiene una licenciatura en literatura y tiene una amplia experiencia escribiendo sobre una amplia gama de temas, incluidos viajes, arte y cultura. También se ofreció como editora voluntaria de la organización de derechos de los animales, donde ayudó a crear conciencia sobre cuestiones de bienestar animal. Contáctala en [email protected].
