Akash Network의 CEO인 Greg Osuri는 '2024년에는 기술 산업이 GPU에 대한 의존도를 낮추는 방향으로 나아갈 것'이라고 말했습니다.
요컨대
Overclock Labs 및 Akash Network의 CEO인 Greg Osuri는 더 적은 GPU를 수용하면 2024년에 기술 환경이 재편되고 파급 효과가 나타날 것이라고 주장합니다.
기술 산업의 주요 업체가 계속해서 시장을 장악함에 따라 강력한 GPU, 더 적은 쪽으로 눈에 띄는 변화 강력한 칩 대안의 필요성에 따라 추진된 이러한 움직임은 환경을 재편하여 소규모 기업과 스타트업이 지속적인 성장에 크게 기여할 수 있도록 할 것으로 예상됩니다. AI 붐.
특히 대규모 언어 모델 교육을 위한 고성능 컴퓨팅에 대한 수요는 다음과 같은 기존 제공업체의 역량을 능가했습니다. AWS, 마이크로소프트 애저 및 Google 클라우드. 소규모 기업에서는 이러한 고성능 리소스를 확보하고 예약하는 데 어려움을 겪고 있으며 이로 인해 분산 및 무허가 네트워크에 대한 관심이 높아지고 있습니다.
와 가진 대화에서 Metaverse Post — Overclock Labs의 CEO인 Greg Osuri Akash 네트워크, 이러한 변화의 추세 뒤에 있는 추진 요인과 잠재적인 영향을 조명합니다.
분산형 클라우드 플랫폼 Akash Network는 최근 Mainnet 8을 통해 클라우드로의 대대적인 업그레이드를 발표했습니다. 새로운 업그레이드에는 단순화를 목표로 하는 주요 개선 사항이 도입되었습니다. GPU 액세스 배포 경험을 향상시킵니다.
Greg Osuri는 더 적은 GPU를 수용하기 위한 핵심 요소로 데이터 세트 요구 사항 최적화를 식별합니다.
LoRA(낮은 순위 적응)는 이러한 변화에서 중요한 기술로 등장합니다. 이 전략적 수정은 임계 가중치에 초점을 맞추고, 필요한 매개변수 수를 줄이며, 모델에서 원래의 사전 훈련된 지식을 보존합니다.
Akash Network의 Greg Osuri는 "GPU 압박 속에서 대안을 찾는 사람들은 덜 집약적인 데이터 세트 요구 사항을 사용하고 LoRA(Low-Rank Adaptation)와 같은 보다 효율적인 기술을 배포하여 언어 모델을 훈련하고 워크로드를 병렬 방식으로 분산함으로써 발전할 것입니다."라고 말했습니다. Metaverse Post. “여기에는 더 적은 수의 A100과 동일한 작업을 수행하기 위해 하위 계층 칩 클러스터를 배포하는 것이 포함됩니다. H100에스. 권력이 소수의 손에 있지 않고 분산되는 클라우드 컴퓨팅의 새로운 시대가 도래할 것입니다.”
그는 더 적은 수의 칩 클러스터를 통해 작업 부하를 병렬화하는 것이 또 다른 전략이라고 말합니다. 기존 GPU 활용과 비교하여 클러스터는 더 나은 확장성, 비용 효율성 및 분산된 워크로드 기능을 제공합니다. 그러나 문제에는 데이터 전송 지연, 동기화 문제, 확장성 한계 그리고 통신비.
“데이터가 클수록 함께 배치되지 않은 시스템 간의 통신 비용이 더 비싸고 어려워지기 때문에 비용이 많이 들고 까다로운 통신 장벽을 극복하려면 더 효율적인 방법/기술이 필요할 것입니다. 성공적인 구현을 위해서는 하드웨어와 소프트웨어의 조합이 필요합니다.”라고 Greg Osuri는 말했습니다.
분산형 및 무허가형 네트워크의 등장은 조직이 더 적은 GPU의 잠재력을 활용하고 전반적인 칩 활용도를 높일 수 있도록 지원하는 중요한 원동력으로 떠오르고 있습니다.
Greg Osuri는 "최적화를 달성하려면 조직은 더 적은 GPU 메모리를 필요로 하는 더 작은 배치 크기를 고려하고, 디버깅할 데이터 하위 집합을 훈련하고, 더 적은 계산 리소스를 필요로 하는 사전 훈련된 모델을 활용하고, 여러 GPU에 훈련을 분산시켜야 합니다"라고 설명했습니다. "이를 통해 소규모 기업과 스타트업은 가장 강력한 GPU에 완전히 의존하지 않고도 AI 붐을 혁신하고 실질적으로 기여할 수 있습니다."
분산 네트워크는 기술 환경을 강화할 수 있습니다
Akash Network의 Greg Osuri는 더 적은 GPU를 수용하면 더욱 다양하고 경쟁적인 환경이 조성되어 세계를 지배하는 거대 기술 기업과 관련된 우려가 완화될 것이라고 예상합니다. AI 환경. 그는 이 접근 방식이 광범위한 GPU에 액세스하기 위한 비용 효율적인 개발자 우선 솔루션을 제공하여 소규모 플레이어가 동등한 입장에서 경쟁할 수 있도록 해준다고 말합니다.
“혁신적이고 분산화된 솔루션이 계속해서 등장하여 수요 급증을 해결하고 공평한 GPU 액세스를 보장하며 클라우드 컴퓨팅 및 AI 모델 교육의 혁신을 촉진하고 있습니다. 독립 기업부터 하이퍼스케일까지 다양한 제공업체의 컴퓨팅 리소스(Nvidia A100 및 H100 포함)에 대한 무허가 액세스를 제공함으로써 이러한 컴퓨팅 플랫폼은 비효율성을 완화할 수 있는 고유한 위치에 있습니다.”라고 그는 말했습니다.
소규모 회사와 스타트업은 더 적은 GPU로의 전환을 활용하여 시장에 의미 있는 기여를 할 것으로 예상됩니다. AI 도메인. Thumper.ai가 32개의 Nvidia A100 클러스터를 활용하는 것과 같은 예는 더 빠른 배포 속도를 위해 활용도가 낮은 컴퓨팅 성능을 최적화하는 것을 강조합니다.
“고성능 데이터 센터 칩부터 소비자 모델에 이르기까지 광범위한 GPU에 액세스하기 위한 비용 효율적인 개발자 우선 접근 방식을 제공함으로써 소규모 플레이어는 운영 유연성을 갖춘 기존 회사와 동일한 컴퓨팅에 액세스할 수 있습니다. 지출이 발생했습니다.”라고 Greg Osuri가 덧붙였습니다.
더 넓은 의미를 살펴보면서 Osuri씨는 기술 산업의 잠재적 패러다임 변화를 예측합니다. 덜 강력한 GPU와 분산 컴퓨팅으로의 전환은 AI를 넘어 다른 기술 영역으로 확장되는 새로운 애플리케이션과 사용 사례의 개발로 이어질 수 있습니다.
Akash Network의 Greg Osuri는 "분산 네트워크의 고유한 유연성을 통해 독립 개발자와 연구원이 완전히 새로운 애플리케이션을 실험하고 근본적으로 개방형 애플리케이션 아키텍처를 개발하는 새로운 방법을 열 수 있습니다."라고 말했습니다. Metaverse Post. “이러한 파급 효과는 산업 전반에 걸쳐 보다 분산된 애플리케이션 및 서비스 개발, 컴퓨팅 자원 및 지식의 광범위한 공유, 암호화는 그리고 blockchain, 기존 기술과의 통합이 가능합니다.”
책임 부인
줄 안 트러스트 프로젝트 지침, 이 페이지에 제공된 정보는 법률, 세금, 투자, 재정 또는 기타 형태의 조언을 제공하기 위한 것이 아니며 해석되어서도 안 됩니다. 손실을 감수할 수 있는 만큼만 투자하고 의심스러운 경우 독립적인 재정 조언을 구하는 것이 중요합니다. 자세한 내용은 이용약관은 물론 발행자나 광고주가 제공하는 도움말 및 지원 페이지를 참조하시기 바랍니다. MetaversePost 는 정확하고 편견 없는 보고를 위해 최선을 다하고 있지만 시장 상황은 예고 없이 변경될 수 있습니다.
저자에 관하여
Victor는 기술 관리 편집자/작가입니다. Metaverse Post 기업 영역 내의 인공 지능, 암호화, 데이터 과학, 메타버스 및 사이버 보안을 다룹니다. 그는 VentureBeat, DatatechVibe 및 Analytics India Magazine과 같은 유명 언론 매체에서 근무한 XNUMX년 간의 미디어 및 AI 경험을 자랑합니다. Oxford, USC 등 명문 대학에서 미디어 멘토로 활동하고 데이터 과학 및 분석 석사 학위를 취득한 Victor는 새로운 트렌드를 따라가는 데 전념하고 있습니다. 그는 독자들에게 기술 분야의 가장 통찰력 있는 최신 이야기를 제공합니다. Web3 경치.
더 많은 기사
Victor는 기술 관리 편집자/작가입니다. Metaverse Post 기업 영역 내의 인공 지능, 암호화, 데이터 과학, 메타버스 및 사이버 보안을 다룹니다. 그는 VentureBeat, DatatechVibe 및 Analytics India Magazine과 같은 유명 언론 매체에서 근무한 XNUMX년 간의 미디어 및 AI 경험을 자랑합니다. Oxford, USC 등 명문 대학에서 미디어 멘토로 활동하고 데이터 과학 및 분석 석사 학위를 취득한 Victor는 새로운 트렌드를 따라가는 데 전념하고 있습니다. 그는 독자들에게 기술 분야의 가장 통찰력 있는 최신 이야기를 제공합니다. Web3 경치.
