‘A indústria de tecnologia avançará em direção à redução da dependência de GPUs em 2024’, afirma Greg Osuri, CEO da Akash Network
Em Breve
CEO da Overclock Labs e Akash Network, Greg Osuri afirma que a adoção de GPUs menores remodelará o cenário tecnológico em 2024 e desbloqueará efeitos cascata.
À medida que os principais players da indústria de tecnologia continuam a dominar o mercado com GPUs poderosas, uma mudança notável para menos chips poderosos está prevista para 2024. Espera-se que a mudança, impulsionada pela necessidade de alternativas, remodele o cenário, permitindo que pequenas empresas e startups contribuam significativamente para o processo em curso. explosão de IA.
A demanda por computação de alto desempenho, especialmente para treinamento de grandes modelos de linguagem, ultrapassou as capacidades dos provedores tradicionais, como AWS, Microsoft Azure e Parceria . As pequenas empresas consideram um desafio adquirir e reservar estes recursos de alto desempenho, levando a um interesse crescente em redes distribuídas e sem permissão.
Em uma conversa com Metaverse Post — Greg Osuri, CEO da Overclock Labs e Rede Akash, lançam luz sobre os factores determinantes e as potenciais implicações por detrás desta tendência transformadora.
A plataforma de nuvem descentralizada Akash Network anunciou recentemente uma atualização significativa para a nuvem com Mainnet 8. A nova atualização introduziu melhorias importantes que visam simplificar Acesso à GPU e eleve a experiência de implantação.
Greg Osuri identifica a otimização dos requisitos do conjunto de dados como um elemento-chave para adotar GPUs menores.
A Adaptação de Baixo Grau (LoRA) surge como uma técnica crucial nesta mudança. Esta modificação estratégica concentra-se nos pesos críticos, reduz o número de parâmetros necessários e preserva o conhecimento original pré-treinado no modelo.
“Aqueles que buscam alternativas em meio ao aperto da GPU farão progresso usando requisitos de conjunto de dados menos intensivos, implantando técnicas mais eficientes como Adaptação de Baixo Rank (LoRA) para treinar modelos de linguagem e distribuindo cargas de trabalho de maneira paralela”, disse Greg Osuri da Akash Network. Metaverse Post. “Isso envolve a implantação de clusters de chips de nível inferior para realizar tarefas equivalentes a um número menor de A100s e H100S. Surgirá uma nova era de computação em nuvem, na qual o poder será descentralizado e não estará nas mãos de apenas alguns.”
Ele diz que paralelizar cargas de trabalho por meio de clusters de chips menores é outra estratégia. Em comparação com a utilização tradicional de GPU, os clusters oferecem melhor escalabilidade, economia e recursos de carga de trabalho distribuída. Os desafios, no entanto, incluem latência de transferência de dados, problemas de sincronização, limites de escalabilidade e custos de comunicação.
“Quanto maiores os dados, mais caros e difíceis serão os custos de comunicação entre máquinas não colocadas, portanto, provavelmente serão necessários métodos/técnicas mais eficientes para superar barreiras de comunicação caras e desafiadoras. É necessária uma combinação de hardware e software para uma implementação bem-sucedida”, disse Greg Osuri.
A ascensão de redes distribuídas e sem permissão está emergindo como um facilitador crucial, capacitando as organizações a aproveitar o potencial de GPUs menores e a aumentar a utilização geral de chips.
“Para obter otimização, as organizações devem considerar lotes menores que exigem menos memória de GPU, treinar em um subconjunto de dados para depuração, utilizar modelos pré-treinados, pois exigem menos recursos computacionais, e distribuir o treinamento entre várias GPUs”, explicou Greg Osuri. “Isso permite que empresas menores e startups inovem e façam contribuições reais para o boom da IA sem depender totalmente das GPUs mais poderosas.”
Redes distribuídas podem reforçar o cenário tecnológico
Greg Osuri, da Akash Network, prevê que a adoção de GPUs menores promoverá um ambiente mais diversificado e competitivo, mitigando as preocupações relacionadas aos gigantes da tecnologia que dominam o mercado. Cenário de IA. Ele diz que essa abordagem fornece uma solução econômica e voltada para o desenvolvedor para acessar uma ampla variedade de GPUs, permitindo que players menores possam competir em pé de igualdade.
“Soluções inovadoras e descentralizadas continuam a surgir, atendendo ao aumento da demanda, garantindo acesso equitativo à GPU e promovendo a inovação na computação em nuvem e no treinamento de modelos de IA. Ao fornecer acesso sem permissão a recursos de computação – incluindo Nvidia A100s e H100s – de uma variedade de fornecedores, desde independentes até de hiperescala, essas plataformas de computação estão posicionadas de forma única para mitigar ineficiências”, disse ele.
Espera-se que pequenas empresas e startups aproveitem a mudança para GPUs menores para fazer contribuições significativas para o Domínio de IA. Exemplos, como a utilização de um cluster de 32 Nvidia A100 pela Thumper.ai, destacam a otimização do poder de computação subutilizado para taxas de implantação mais rápidas.
“Ao oferecer uma abordagem econômica e voltada para o desenvolvedor para acessar uma ampla gama de GPUs, desde chips de datacenter de alto desempenho até modelos de consumo, os players menores poderão acessar a mesma computação que empresas mais estabelecidas que têm flexibilidade em suas operações. despesas”, acrescentou Greg Osuri.
Olhando para implicações mais amplas, Osuri prevê uma potencial mudança de paradigma na indústria tecnológica. A mudança para GPUs menos potentes e para a computação descentralizada poderá levar ao desenvolvimento de novas aplicações e casos de utilização, estendendo-se para além da IA e atingindo outros domínios tecnológicos.
“A flexibilidade inerente de uma rede distribuída poderia permitir que desenvolvedores e pesquisadores independentes experimentassem aplicações inteiramente novas e desbloquear novas maneiras de desenvolver arquiteturas de aplicações radicalmente abertas”, disse Greg Osuri, da Akash Network. Metaverse Post. “Este efeito cascata poderia levar ao desenvolvimento de aplicações e serviços mais descentralizados em todas as indústrias, a uma partilha mais ampla de recursos computacionais e de conhecimento, ao “retorno” da cripto e os votos de blockchaine integração com tecnologias existentes.”
Aviso Legal
Em linha com a Diretrizes do Projeto Trust, observe que as informações fornecidas nesta página não se destinam e não devem ser interpretadas como aconselhamento jurídico, tributário, de investimento, financeiro ou qualquer outra forma. É importante investir apenas o que você pode perder e procurar aconselhamento financeiro independente se tiver alguma dúvida. Para mais informações, sugerimos consultar os termos e condições, bem como as páginas de ajuda e suporte fornecidas pelo emissor ou anunciante. MetaversePost está comprometida com relatórios precisos e imparciais, mas as condições de mercado estão sujeitas a alterações sem aviso prévio.
Sobre o autor
Victor é Editor/Escritor Gerente de Tecnologia na Metaverse Post e cobre inteligência artificial, criptografia, ciência de dados, metaverso e segurança cibernética no âmbito empresarial. Ele possui meia década de experiência em mídia e IA trabalhando em meios de comunicação conhecidos, como VentureBeat, DatatechVibe e Analytics India Magazine. Sendo mentor de mídia em universidades de prestígio, incluindo Oxford e USC, e com mestrado em ciência e análise de dados, Victor está profundamente comprometido em se manter atualizado com as tendências emergentes. Ele oferece aos leitores as narrativas mais recentes e perspicazes da tecnologia e Web3 panorama.
Mais artigos
Victor é Editor/Escritor Gerente de Tecnologia na Metaverse Post e cobre inteligência artificial, criptografia, ciência de dados, metaverso e segurança cibernética no âmbito empresarial. Ele possui meia década de experiência em mídia e IA trabalhando em meios de comunicação conhecidos, como VentureBeat, DatatechVibe e Analytics India Magazine. Sendo mentor de mídia em universidades de prestígio, incluindo Oxford e USC, e com mestrado em ciência e análise de dados, Victor está profundamente comprometido em se manter atualizado com as tendências emergentes. Ele oferece aos leitores as narrativas mais recentes e perspicazes da tecnologia e Web3 panorama.
