PyTorch 2.0 릴리스: 기계 학습 프레임워크에 대한 주요 업데이트
요컨대
PyTorch는 오픈 소스 기계 학습 프레임워크에 대한 주요 업데이트인 PyTorch 2.0을 출시했습니다. 이 프레임워크는 더욱 강력하고 적응력이 뛰어난 새로운 기능과 향상된 기능을 제공합니다.
이 업데이트에는 고성능 Transformer API와 SPDA(Scaled Dot Product Attention)를 사용한 교육 및 추론 지원이 포함되어 있습니다.
PyTorch는 파이토치 2.0, 오픈 소스 기계 학습 프레임워크로 데이터 과학 커뮤니티에서 높은 기대를 받았습니다. 팀은 플랫폼에 몇 가지 새로운 기능과 향상된 기능을 제공하여 그 효능과 적응성을 높였습니다.
이 프레임워크는 컴퓨터 비전 및 자연어 처리 응용 프로그램에 사용되며 Linux Foundation 산하에 있습니다. 자동 미분을 기반으로 구축된 심층 신경망과 GPU 가속으로 텐서 컴퓨팅을 제공합니다. Tesla Autopilot, Pyro, Transformers, PyTorch Lightning 및 Catalyst와 같은 일부 딥 러닝 소프트웨어는 PyTorch 위에 구축됩니다.
PyTorch 2.0은 새로운 고성능을 구현합니다. 변환기 API, 최신 Transformer 모델의 교육 및 배포를 보다 저렴하게 만드는 것을 목표로 합니다. 이 릴리스에는 SPDA(Scaled Dot Product Attention)를 위한 맞춤형 커널 아키텍처를 사용하는 훈련 및 추론을 위한 고성능 지원도 포함되어 있습니다.
비슷한 시기에 PyTorch 출시 OpenXLA 및 PyTorch/XLA 2.0. PyTorch와 XLA의 조합은 모델 교육과 추론을 모두 지원할 수 있는 개발 스택을 제공합니다. 이는 PyTorch가 AI에서 널리 사용되는 선택이고 XLA에는 뛰어난 컴파일러 기능이 있기 때문에 가능합니다. 이 개발 스택을 개선하기 위해 세 가지 주요 영역에 대한 투자가 있을 것입니다.
대규모 모델을 교육하기 위해 PyTorch/XLA는 혼합 정밀 교육, 런타임 성능, 효율적인 모델 샤딩 및 더 빠른 데이터 로드와 같은 기능에 투자하고 있습니다. 이러한 기능 중 일부는 이미 사용 가능하며 다른 기능은 기본 OpenXLA 컴파일러 스택을 활용하여 올해 후반에 출시될 예정입니다.
모델 추론을 위해 PyTorch/XLA는 PyTorch 2.0 릴리스에서 Dynamo로 경쟁력 있는 성능을 제공하는 데 중점을 둡니다. 추가 추론 지향 기능에는 모델 제공 지원, 분할된 대형 모델을 위한 Dynamo, Torch.Export 및 StableHLO를 통한 양자화가 포함됩니다.
생태계 통합 측면에서 PyTorch/XLA는 Hugging Face 및 PyTorch Lightning과의 통합을 확장하여 사용자가 친숙한 API를 통해 향후 기능과 다운스트림 OpenXLA 기능을 활용할 수 있도록 합니다. 여기에는 Hugging Face의 FSDP 및 OpenXLA의 양자화 지원이 포함됩니다.
PyTorch/XLA는 오픈 소스 프로젝트이므로 문제를 보고하고 풀 요청을 제출하고 의견 요청(RFC)을 보내 개발에 기여할 수 있습니다. GitHub의.
더 읽기 :
- 중국, 48년까지 VR을 2026억 달러로 늘릴 계획
- 백악관, 암호화폐 및 디지털 자산 규제를 위한 포괄적인 프레임워크 발표 NFTs
- Stability AI 101억 1만 달러 모집, 평가액 XNUMX억 달러 마감
책임 부인
줄 안 트러스트 프로젝트 지침, 이 페이지에 제공된 정보는 법률, 세금, 투자, 재정 또는 기타 형태의 조언을 제공하기 위한 것이 아니며 해석되어서도 안 됩니다. 손실을 감수할 수 있는 만큼만 투자하고 의심스러운 경우 독립적인 재정 조언을 구하는 것이 중요합니다. 자세한 내용은 이용약관은 물론 발행자나 광고주가 제공하는 도움말 및 지원 페이지를 참조하시기 바랍니다. MetaversePost 는 정확하고 편견 없는 보고를 위해 최선을 다하고 있지만 시장 상황은 예고 없이 변경될 수 있습니다.
저자에 관하여
Agne는 메타버스, AI, Web3 산업 Metaverse Post. 스토리텔링에 대한 그녀의 열정으로 인해 그녀는 이 분야의 전문가들과 수많은 인터뷰를 진행했으며 항상 흥미롭고 매력적인 이야기를 발견하기 위해 노력했습니다. Agne는 문학 학사 학위를 보유하고 있으며 여행, 예술, 문화를 포함한 광범위한 주제에 대한 글쓰기에 대한 광범위한 배경을 가지고 있습니다. 그녀는 또한 동물 권리 단체의 편집자로 자원 봉사하여 동물 복지 문제에 대한 인식을 높이는 데 도움을 주었습니다. 그녀에게 연락하세요 [이메일 보호].
더 많은 기사
Agne는 메타버스, AI, Web3 산업 Metaverse Post. 스토리텔링에 대한 그녀의 열정으로 인해 그녀는 이 분야의 전문가들과 수많은 인터뷰를 진행했으며 항상 흥미롭고 매력적인 이야기를 발견하기 위해 노력했습니다. Agne는 문학 학사 학위를 보유하고 있으며 여행, 예술, 문화를 포함한 광범위한 주제에 대한 글쓰기에 대한 광범위한 배경을 가지고 있습니다. 그녀는 또한 동물 권리 단체의 편집자로 자원 봉사하여 동물 복지 문제에 대한 인식을 높이는 데 도움을 주었습니다. 그녀에게 연락하세요 [이메일 보호].
