Deci e Qualcomm fazem parceria para democratizar a IA generativa em todos os setores
Em Breve
Deci anunciou uma colaboração com a Qualcomm Technologies para desenvolver modelos avançados de IA generativa para o Qualcomm Cloud AI 100.
A empresa de soluções de IA Deci anunciou uma colaboração com a Qualcomm Technologies para desenvolver IA generativa modelos para o Qualcomm Cloud AI 100. A colaboração visa tornar a IA mais acessível para uma gama mais ampla de aplicações e democratizar o poder da IA generativa para desenvolvedores.
Ao adaptar modelos especificamente para a solução Qualcomm Cloud AI 100, as empresas pretendem desbloquear processamento de IA econômico e em tempo real. Cloud AI 100 é a solução da Qualcomm desenvolvida para otimizar o desempenho para inferência generativa de IA, incluindo grandes modelos de linguagem (LLM).
“Alguns dos principais desafios no cenário atual de IA generativa estão relacionados à disponibilidade de poder computacional para o processamento desses enormes modelos e ao enorme custo para executá-los”, disse Yonatan Geifman, CEO e cofundador da Deci. Metaverse Post. “Ao aproveitar os modelos da Deci, os usuários da Qualcomm podem aproveitar ao máximo seu investimento em hardware com modelos que garantem a utilização máxima do hardware e, ao mesmo tempo, oferecem alta velocidade e precisão.”
A Deci trabalhará com a Qualcomm Technologies para lançar dois modelos, nomeadamente DeciCoder-6B e DeciDiffusion 2.0.
De acordo com o anúncio, o DeciCoder-6B é um modelo de 6 bilhões de parâmetros para geração de código que suporta oito linguagens de programação e supera os modelos estabelecidos, mantendo a memória e a eficiência computacional.
Por outro lado, o DeciDiffusion 2.0 é um modelo de difusão de texto para imagem com 732 milhões de parâmetros, que estabelece novos padrões ao fornecer imagens de alta qualidade com maior velocidade e eficiência.
O que diferencia os modelos de IA da Deci
Ao usar LLMs em aplicações do mundo real, é crucial organizar com eficiência os dados nos servidores que fazem previsões. O objetivo principal é lidar com o maior número possível de solicitações de usuários ao mesmo tempo. Encontrar o equilíbrio certo entre a quantidade de dados processados de uma só vez (tamanho do lote) e o tempo necessário para obter uma resposta (latência) depende de dois aspectos principais: o design do modelo e as capacidades do hardware usado para fazer previsões.
“O DeciCoder-6B tem uma contagem de parâmetros menor do que seus equivalentes, resultando em um consumo de memória reduzido e liberando 2 GB de memória extra em comparação com os modelos CodeGen 2.5 7B e 7 bilhões de parâmetros. O modelo é excelente em memória e eficiência computacional, permitindo escalonamento eficaz do processamento em lote sem consumo substancial de memória ou aumentos notáveis na latência”, disse o CEO da Deci, Yonatan Geifman.
Ele explicou ainda: “O DeciDiffusion 2.0 oferece imagens de alta qualidade em 40% menos iterações e emprega um componente U-Net menor e mais rápido em comparação com Stable Diffusion 1.5. Ele pode produzir imagens de alta qualidade com menos intervalos de tempo de difusão durante o processo de inferência.”
O modelo reduz efetivamente o número de etapas necessárias para gerar uma imagem de qualidade de 16 para apenas 10.
A tecnologia de busca de arquitetura neural da Deci – AutoNAC – tem desempenhado um papel crucial na eficiência e escalabilidade dos modelos. Isto automatiza o processo de pesquisa de maneira eficiente em termos de computação, diferenciando-o dos métodos tradicionais. Essa tecnologia permitiu que a Deci lançasse uma série de modelos de última geração em um curto espaço de tempo, com menores gastos em computação para treinamento em comparação com outros grandes desenvolvedores de modelos de linguagem.
DeciCoder-6B: Precisão Sob Medida para Excelência Industrial
A capacidade do DeciCoder-6B de suportar oito linguagens de programação o posiciona como um modelo ideal para uma ampla gama de aplicações. Geifman compartilhou algumas das diversas maneiras pelas quais o modelo pode ser aproveitado.
“Na área de desenvolvimento de software, pode auxiliar na geração e conclusão de código, reduzindo significativamente o tempo de desenvolvimento e aumentando a produtividade. Além disso, o DeciCoder-6B pode ser usado para ensinar programação, atendendo a uma variedade de linguagens e níveis de dificuldade. Os alunos podem usá-lo para verificar seu trabalho e como um manual de solução”, disse Geifman da Deci. Metaverse Post.
“Além disso, no campo da segurança cibernética, o modelo pode ser ajustado para auxiliar na escrita e análise de scripts para verificação de vulnerabilidades, com a capacidade de automatizar verificações de segurança em vários ambientes de programação”, acrescentou.
A colaboração entre Deci e Qualcomm Technologies marca um passo significativo para democratizar o poder da IA generativa. Com modelos otimizados, tecnologia eficiente e um compromisso com a abertura, a parceria visa capacitar desenvolvedores e indústrias em todo o mundo com soluções de IA acessíveis e econômicas.
Aviso Legal
Em linha com a Diretrizes do Projeto Trust, observe que as informações fornecidas nesta página não se destinam e não devem ser interpretadas como aconselhamento jurídico, tributário, de investimento, financeiro ou qualquer outra forma. É importante investir apenas o que você pode perder e procurar aconselhamento financeiro independente se tiver alguma dúvida. Para mais informações, sugerimos consultar os termos e condições, bem como as páginas de ajuda e suporte fornecidas pelo emissor ou anunciante. MetaversePost está comprometida com relatórios precisos e imparciais, mas as condições de mercado estão sujeitas a alterações sem aviso prévio.
Sobre o autor
Kumar é um jornalista de tecnologia experiente com especialização nas interseções dinâmicas de IA/ML, tecnologia de marketing e campos emergentes como criptografia, blockchain e NFTS. Com mais de 3 anos de experiência no setor, Kumar estabeleceu um histórico comprovado na elaboração de narrativas convincentes, na condução de entrevistas perspicazes e no fornecimento de insights abrangentes. A experiência de Kumar reside na produção de conteúdo de alto impacto, incluindo artigos, relatórios e publicações de pesquisa para plataformas importantes do setor. Com um conjunto único de habilidades que combina conhecimento técnico e narrativa, Kumar se destaca na comunicação de conceitos tecnológicos complexos para diversos públicos de maneira clara e envolvente.
Mais artigos
Kumar é um jornalista de tecnologia experiente com especialização nas interseções dinâmicas de IA/ML, tecnologia de marketing e campos emergentes como criptografia, blockchain e NFTS. Com mais de 3 anos de experiência no setor, Kumar estabeleceu um histórico comprovado na elaboração de narrativas convincentes, na condução de entrevistas perspicazes e no fornecimento de insights abrangentes. A experiência de Kumar reside na produção de conteúdo de alto impacto, incluindo artigos, relatórios e publicações de pesquisa para plataformas importantes do setor. Com um conjunto único de habilidades que combina conhecimento técnico e narrativa, Kumar se destaca na comunicação de conceitos tecnológicos complexos para diversos públicos de maneira clara e envolvente.
