Deci와 Qualcomm, 업계 전반에 걸쳐 생성 AI 민주화 위해 파트너십 체결
요컨대
Deci는 Qualcomm Cloud AI 100을 위한 고급 생성 AI 모델을 개발하기 위해 Qualcomm Technologies와 협력한다고 발표했습니다.
AI 솔루션 기업 데시(Deci)가 퀄컴테크놀로지스와 협력해 첨단 기술을 개발한다고 발표했다. 생성 적 AI Qualcomm Cloud AI 100용 모델. 이번 협력의 목표는 AI를 더욱 다양한 애플리케이션에 더 쉽게 접근할 수 있도록 하고 개발자를 위한 생성 AI의 성능을 민주화하는 것입니다.
양사는 Qualcomm Cloud AI 100 솔루션을 위해 특별히 모델을 맞춤화함으로써 비용 효율적인 실시간 AI 처리를 실현할 계획입니다. Cloud AI 100은 다음을 포함한 생성적 AI 추론 성능을 최적화하기 위해 구축된 Qualcomm의 솔루션입니다. 큰 언어 모델 (LLM).
Deci의 CEO이자 공동 창립자인 Yonatan Geifman은 "현재 생성 AI 환경의 주요 과제 중 일부는 이러한 거대한 모델을 처리하기 위한 컴퓨팅 성능의 가용성과 이를 실행하는 데 드는 막대한 비용과 관련이 있습니다."라고 말했습니다. Metaverse Post. "Deci의 모델을 활용함으로써 Qualcomm 사용자는 하드웨어 활용도를 극대화하는 동시에 빠른 속도와 정확성을 제공하는 모델을 통해 하드웨어 투자를 최대한 활용할 수 있습니다."
Deci는 Qualcomm Technologies와 협력하여 DeciCoder-6B와 DeciDiffusion 2.0이라는 두 가지 모델을 출시할 예정입니다.
발표에 따르면 DeciCoder-6B는 6개의 프로그래밍 언어를 지원하는 코드 생성을 위한 XNUMX억 개의 매개변수 모델이며 메모리와 계산 효율성을 유지하면서 기존 모델보다 성능이 뛰어납니다.
반면, DeciDiffusion 2.0은 732억 XNUMX만 매개변수의 텍스트-이미지 확산 모델로, 향상된 속도와 효율성으로 고품질 이미지를 제공함으로써 새로운 표준을 제시합니다.
Deci의 AI 모델을 차별화하는 요소
사용시 LLM 실제 애플리케이션에서는 예측을 수행하는 서버에서 데이터를 효율적으로 구성하는 것이 중요합니다. 주요 목표는 가능한 한 많은 사용자 요청을 동시에 처리하는 것입니다. 한 번에 처리되는 데이터 양(배치 크기)과 응답을 받는 데 걸리는 시간(대기 시간) 사이의 적절한 균형을 찾는 것은 두 가지 핵심 사항, 즉 모델 설계와 예측에 사용되는 하드웨어 기능에 따라 달라집니다.
“DeciCoder-6B는 다른 제품보다 매개변수 수가 적기 때문에 CodeGen 2 2.5B 및 7억 개의 매개변수 모델에 비해 메모리 공간이 줄어들고 7GB의 메모리가 추가로 확보됩니다. 이 모델은 메모리와 계산 효율성이 뛰어나므로 상당한 메모리 소비나 지연 시간의 눈에 띄는 증가 없이 일괄 처리를 효과적으로 확장할 수 있습니다.”라고 Deci의 CEO인 Yonatan Geifman은 말했습니다.
그는 또한 “DeciDiffusion 2.0은 40% 더 적은 반복 횟수로 고품질 이미지를 제공하며 기존에 비해 더 작고 빠른 U-Net 구성 요소를 사용합니다. Stable Diffusion 1.5. 추론 과정에서 더 적은 확산 시간 단계로 고품질 이미지를 생성할 수 있습니다.”
이 모델은 고품질 이미지를 생성하는 데 필요한 단계 수를 16단계에서 단 10단계로 효과적으로 줄입니다.
Deci의 신경 아키텍처 검색 기술인 AutoNAC는 모델의 효율성과 확장성에 중요한 역할을 했습니다. 그것 오토마타 컴퓨팅 효율적인 방식으로 검색 프로세스를 수행하여 기존 방법과 차별화됩니다. 이 기술을 통해 Deci는 다른 대규모 언어 모델 개발자에 비해 교육용 컴퓨팅 비용을 낮추면서 짧은 기간 내에 일련의 최첨단 모델을 출시할 수 있었습니다.
DeciCoder-6B: 산업적 우수성을 위한 맞춤형 정밀도
6가지 프로그래밍 언어를 지원하는 DeciCoder-XNUMXB의 능력은 이 제품을 광범위한 응용 분야에 적합한 모델로 자리매김합니다. Geifman은 모델을 활용할 수 있는 다양한 방법을 공유했습니다.
“소프트웨어 개발 분야에서는 코드 생성 및 코드 완성을 지원하여 개발 시간을 크게 단축하고 생산성을 향상시킬 수 있습니다. 또한 DeciCoder-6B를 사용하여 다양한 언어와 난이도에 맞는 프로그래밍을 가르칠 수 있습니다. 학생들은 이를 사용하여 자신의 작업을 확인하고 솔루션 매뉴얼로 사용할 수 있습니다.”라고 Deci의 Geifman은 말했습니다. Metaverse Post.
"또한 사이버 보안 분야에서는 다양한 프로그래밍 환경에서 보안 검사를 자동화하는 기능을 통해 취약성 검색을 위한 스크립트 작성 및 분석을 지원하도록 모델을 미세 조정할 수 있습니다."라고 그는 덧붙였습니다.
Deci와 콜라보레이션 퀄컴 기술은 Generative AI의 성능을 민주화하는 데 있어 중요한 단계입니다. 최적화된 모델, 효율적인 기술, 개방성에 대한 약속을 통해 파트너십은 접근 가능하고 비용 효율적인 AI 솔루션을 통해 전 세계 개발자와 업계에 역량을 부여하는 것을 목표로 합니다.
책임 부인
줄 안 트러스트 프로젝트 지침, 이 페이지에 제공된 정보는 법률, 세금, 투자, 재정 또는 기타 형태의 조언을 제공하기 위한 것이 아니며 해석되어서도 안 됩니다. 손실을 감수할 수 있는 만큼만 투자하고 의심스러운 경우 독립적인 재정 조언을 구하는 것이 중요합니다. 자세한 내용은 이용약관은 물론 발행자나 광고주가 제공하는 도움말 및 지원 페이지를 참조하시기 바랍니다. MetaversePost 는 정확하고 편견 없는 보고를 위해 최선을 다하고 있지만 시장 상황은 예고 없이 변경될 수 있습니다.
저자에 관하여
Kumar는 AI/ML, 마케팅 기술, 암호화폐, 블록체인 및 신흥 분야의 역동적인 교차점을 전문으로 하는 숙련된 기술 저널리스트입니다. NFT에스. 업계에서 3년 이상의 경험을 보유한 Kumar는 설득력 있는 내러티브 제작, 통찰력 있는 인터뷰 수행, 포괄적인 통찰력 제공 분야에서 입증된 실적을 확립했습니다. Kumar의 전문 분야는 저명한 업계 플랫폼을 위한 기사, 보고서, 연구 간행물 등 영향력이 큰 콘텐츠를 제작하는 것입니다. 기술 지식과 스토리텔링을 결합한 고유한 기술을 갖춘 Kumar는 복잡한 기술 개념을 다양한 청중에게 명확하고 매력적인 방식으로 전달하는 데 탁월합니다.
더 많은 기사
Kumar는 AI/ML, 마케팅 기술, 암호화폐, 블록체인 및 신흥 분야의 역동적인 교차점을 전문으로 하는 숙련된 기술 저널리스트입니다. NFT에스. 업계에서 3년 이상의 경험을 보유한 Kumar는 설득력 있는 내러티브 제작, 통찰력 있는 인터뷰 수행, 포괄적인 통찰력 제공 분야에서 입증된 실적을 확립했습니다. Kumar의 전문 분야는 저명한 업계 플랫폼을 위한 기사, 보고서, 연구 간행물 등 영향력이 큰 콘텐츠를 제작하는 것입니다. 기술 지식과 스토리텔링을 결합한 고유한 기술을 갖춘 Kumar는 복잡한 기술 개념을 다양한 청중에게 명확하고 매력적인 방식으로 전달하는 데 탁월합니다.
