Deci i Qualcomm s'associen per democratitzar la IA generativa en tots els sectors
En breu
Deci va anunciar una col·laboració amb Qualcomm Technologies per desenvolupar models avançats d'IA generativa per a Qualcomm Cloud AI 100.
L'empresa de solucions d'IA Deci va anunciar una col·laboració amb Qualcomm Technologies per desenvolupar avançats IA generativa models per al Qualcomm Cloud AI 100. La col·laboració pretén fer que la IA sigui més accessible per a una gamma més àmplia d'aplicacions i democratitzar el poder de la IA generativa per als desenvolupadors.
En adaptar models específicament per a la solució Qualcomm Cloud AI 100, les empreses tenen la intenció de desbloquejar un processament d'IA en temps real i rendible. Cloud AI 100 és la solució de Qualcomm creada per optimitzar el rendiment per a la inferència generativa d'IA, inclosa grans models lingüístics (LLM).
"Alguns dels principals reptes en el panorama actual d'IA generativa es relacionen amb la disponibilitat de potència de càlcul per al processament d'aquests grans models i el cost massiu d'executar-los", va dir Yonatan Geifman, CEO i cofundador de Deci. Metaverse Post. "En aprofitar els models de Deci, els usuaris de Qualcomm poden treure el màxim profit de la seva inversió en maquinari amb models que garanteixen la màxima utilització del maquinari alhora que ofereixen alta velocitat i precisió".
Deci treballarà amb Qualcomm Technologies per llançar dos models, a saber, DeciCoder-6B i DeciDiffusion 2.0.
Segons l'anunci, DeciCoder-6B és un model de 6 milions de paràmetres per a la generació de codi que admet vuit llenguatges de programació i supera els models establerts alhora que manté la memòria i l'eficiència computacional.
D'altra banda, DeciDiffusion 2.0 és un model de difusió de text a imatge de 732 milions de paràmetres, que estableix nous estàndards oferint imatges d'alta qualitat amb una major velocitat i eficiència.
Què diferencia els models d'IA de Deci
Quan s'utilitza LLMs a les aplicacions del món real, és crucial organitzar de manera eficient les dades als servidors que fan prediccions. L'objectiu principal és gestionar tantes sol·licituds dels usuaris alhora com sigui possible. Trobar l'equilibri adequat entre la quantitat de dades processades alhora (mida del lot) i el temps que triga a obtenir una resposta (latència) depèn de dues coses clau: el disseny del model i les capacitats del maquinari utilitzat per fer prediccions.
"DeciCoder-6B té un recompte de paràmetres més reduït que els seus homòlegs, cosa que redueix l'empremta de memòria i allibera 2 GB addicionals de memòria en comparació amb els models CodeGen 2.5 7B i 7 mil milions de paràmetres. El model sobresurt en memòria i eficiència computacional, permetent una escala eficaç del processament per lots sense un consum substancial de memòria o augments notables de la latència ", va dir Yonatan Geifman, CEO de Deci.
A més, va explicar: "DeciDiffusion 2.0 ofereix imatges d'alta qualitat en un 40% menys d'iteracions i utilitza un component U-Net més petit i més ràpid en comparació amb Stable Diffusion 1.5. Pot produir imatges d'alta qualitat amb menys temps de difusió durant el procés d'inferència".
El model redueix efectivament el nombre de passos necessaris per generar una imatge de qualitat de 16 a només 10.
La tecnologia de cerca d'arquitectura neuronal de Deci, AutoNAC, ha jugat un paper crucial en l'eficiència i escalabilitat dels models. Això automatitza el procés de cerca d'una manera informàtica eficient, diferenciant-lo dels mètodes tradicionals. Aquesta tecnologia va permetre a Deci llançar una sèrie de models d'última generació en un període de temps curt, amb una despesa més baixa en informàtica per a la formació en comparació amb altres desenvolupadors de grans models de llenguatge.
DeciCoder-6B: precisió a mida per a l'excel·lència industrial
La capacitat de DeciCoder-6B per suportar vuit llenguatges de programació el posiciona com un model ideal per a una àmplia gamma d'aplicacions. Geifman va compartir algunes de les diverses maneres en què es pot aprofitar el model.
"En l'àmbit del desenvolupament de programari, pot ajudar en la generació de codi i la finalització de codi, reduint significativament el temps de desenvolupament i millorant la productivitat. A més, DeciCoder-6B es pot utilitzar per ensenyar programació, atenent una varietat d'idiomes i nivells de dificultat. Els estudiants poden utilitzar-lo per comprovar el seu treball i com a manual de solució", va dir Geifman de Deci Metaverse Post.
"A més, en l'àmbit de la ciberseguretat, el model es pot ajustar per ajudar a escriure i analitzar scripts per a l'escaneig de vulnerabilitats, amb la possibilitat d'automatitzar les comprovacions de seguretat en diversos entorns de programació", va afegir.
La col·laboració entre Deci i Qualcomm Les tecnologies marquen un pas important cap a la democratització del poder de la IA generativa. Amb models optimitzats, tecnologia eficient i un compromís amb l'obertura, l'associació pretén capacitar els desenvolupadors i les indústries de tot el món amb solucions d'IA accessibles i rendibles.
renúncia
En línia amb la Directrius del projecte Trust, si us plau, tingueu en compte que la informació proporcionada en aquesta pàgina no pretén ni s'ha d'interpretar com a assessorament legal, fiscal, d'inversió, financer o de cap altra forma. És important invertir només el que et pots permetre perdre i buscar assessorament financer independent si tens dubtes. Per obtenir més informació, us suggerim que feu referència als termes i condicions, així com a les pàgines d'ajuda i assistència proporcionades per l'emissor o l'anunciant. MetaversePost es compromet a fer informes precisos i imparcials, però les condicions del mercat estan subjectes a canvis sense previ avís.
About The Autor
Kumar és un periodista tecnològic experimentat amb una especialització en les interseccions dinàmiques d'IA/ML, tecnologia de màrqueting i camps emergents com ara cripto, blockchain i NFTs. Amb més de 3 anys d'experiència en el sector, Kumar ha establert una trajectòria demostrada en l'elaboració de narracions convincents, la realització d'entrevistes minucioses i l'oferiment d'informació exhaustiva. L'experiència de Kumar rau en la producció de contingut d'alt impacte, inclosos articles, informes i publicacions de recerca per a plataformes de la indústria destacades. Amb un conjunt d'habilitats únics que combina coneixements tècnics i narració, Kumar destaca per comunicar conceptes tecnològics complexos a diversos públics d'una manera clara i atractiva.
més articles
Kumar és un periodista tecnològic experimentat amb una especialització en les interseccions dinàmiques d'IA/ML, tecnologia de màrqueting i camps emergents com ara cripto, blockchain i NFTs. Amb més de 3 anys d'experiència en el sector, Kumar ha establert una trajectòria demostrada en l'elaboració de narracions convincents, la realització d'entrevistes minucioses i l'oferiment d'informació exhaustiva. L'experiència de Kumar rau en la producció de contingut d'alt impacte, inclosos articles, informes i publicacions de recerca per a plataformes de la indústria destacades. Amb un conjunt d'habilitats únics que combina coneixements tècnics i narració, Kumar destaca per comunicar conceptes tecnològics complexos a diversos públics d'una manera clara i atractiva.
