Выпуск PyTorch 2.0: крупное обновление платформы машинного обучения
Коротко
PyTorch выпустила PyTorch 2.0, крупное обновление своей платформы машинного обучения с открытым исходным кодом с новыми функциями и улучшениями, которые делают ее более мощной и адаптируемой.
Обновление включает в себя высокопроизводительный Transformer API и поддержку обучения и логического вывода с использованием масштабируемого точечного произведения внимания (SPDA).
PyTorch объявил о выпуске ПиТорч 2.0, инфраструктура машинного обучения с открытым исходным кодом, которую очень ждало сообщество специалистов по данным. Команда добавила в платформу несколько новых функций и улучшений, повысив ее эффективность и адаптивность.
Эта структура используется для приложений компьютерного зрения и обработки естественного языка и находится под эгидой Linux Foundation. Он обеспечивает тензорные вычисления с ускорением графического процессора и глубокими нейронными сетями, построенными на автоматическом дифференцировании. Некоторое программное обеспечение для глубокого обучения, такое как Tesla Autopilot, Pyro, Transformers, PyTorch Lightning и Catalyst, построено на основе PyTorch.
PyTorch 2.0 реализует новый высокопроизводительный API-интерфейс трансформатора, целью которого является сделать обучение и развертывание современных моделей Transformer более доступными. Релиз также включает высокопроизводительную поддержку обучения и логического вывода с использованием пользовательской архитектуры ядра для масштабируемого внимания к точечному продукту (SPDA).
В то же время PyTorch выпустил OpenXLA и PyTorch/XLA 2.0. Комбинация PyTorch и XLA обеспечивает стек разработки, который может поддерживать как обучение модели, так и вывод. Это возможно, потому что PyTorch — популярный выбор для ИИ, а XLA обладает отличными функциями компилятора. Чтобы улучшить этот стек разработки, инвестиции будут направлены в три основные области.
Для обучения больших моделей PyTorch/XLA инвестирует в такие функции, как обучение смешанной точности, производительность во время выполнения, эффективное разделение моделей и более быструю загрузку данных. Некоторые из этих функций уже доступны, а другие будут выпущены позже в этом году, используя базовый стек компилятора OpenXLA.
Для вывода модели PyTorch/XLA фокусируется на обеспечении конкурентоспособной производительности с Dynamo в версии PyTorch 2.0. Дополнительные функции, ориентированные на вывод, включают поддержку обслуживания моделей, Dynamo для сегментированных больших моделей и квантование с помощью Torch.Export и StableHLO.
Что касается интеграции с экосистемой, PyTorch/XLA расширяет интеграцию с Hugging Face и PyTorch Lightning, чтобы пользователи могли воспользоваться преимуществами будущих функций и последующих функций OpenXLA через знакомые API. Это включает в себя поддержку FSDP в Hugging Face и квантования в OpenXLA.
PyTorch/XLA — это проект с открытым исходным кодом, что означает, что вы можете внести свой вклад в его разработку, сообщая о проблемах, отправляя запросы на включение и отправляя запросы на комментарии (RFC) на GitHub.
Прочитайте больше:
- Китай планирует довести виртуальную реальность до 48 миллиардов долларов к 2026 году
- Белый дом выпускает всеобъемлющую основу для регулирования цифровых активов, включая криптовалюту и NFTs
- Stability AI привлекает 101 миллион долларов, закрывает оценку на уровне 1 миллиарда долларов
Отказ от ответственности
В соответствии с Руководство трастового проектаОбратите внимание, что информация, представленная на этой странице, не предназначена и не должна интерпретироваться как юридическая, налоговая, инвестиционная, финансовая или любая другая форма консультации. Важно инвестировать только то, что вы можете позволить себе потерять, и обращаться за независимой финансовой консультацией, если у вас есть какие-либо сомнения. Для получения дополнительной информации мы предлагаем обратиться к положениям и условиям, а также к страницам справки и поддержки, предоставленным эмитентом или рекламодателем. MetaversePost стремится предоставлять точную и объективную отчетность, однако рыночные условия могут быть изменены без предварительного уведомления.
Об авторе
Агне — журналист, освещающий последние тенденции и разработки в области метавселенной, искусственного интеллекта и Web3 отрасли для Metaverse Post. Ее страсть к рассказыванию историй побудила ее проводить многочисленные интервью с экспертами в этих областях, всегда стремясь раскрыть захватывающие и увлекательные истории. Агне имеет степень бакалавра литературы и имеет обширный опыт написания статей на самые разные темы, включая путешествия, искусство и культуру. Она также работала волонтером в качестве редактора организации по защите прав животных, где помогала повышать осведомленность о проблемах защиты животных. Свяжитесь с ней по [электронная почта защищена].
Другие статьи
Агне — журналист, освещающий последние тенденции и разработки в области метавселенной, искусственного интеллекта и Web3 отрасли для Metaverse Post. Ее страсть к рассказыванию историй побудила ее проводить многочисленные интервью с экспертами в этих областях, всегда стремясь раскрыть захватывающие и увлекательные истории. Агне имеет степень бакалавра литературы и имеет обширный опыт написания статей на самые разные темы, включая путешествия, искусство и культуру. Она также работала волонтером в качестве редактора организации по защите прав животных, где помогала повышать осведомленность о проблемах защиты животных. Свяжитесь с ней по [электронная почта защищена].
