Deci a Qualcomm spolupracujú na demokratizácii generatívnej AI v rôznych odvetviach
Stručne
Spoločnosť Deci oznámila spoluprácu s Qualcomm Technologies na vývoji pokročilých generatívnych modelov AI pre Qualcomm Cloud AI 100.
Spoločnosť Deci zaoberajúca sa riešením AI oznámila spoluprácu s Qualcomm Technologies na vývoji pokročilých generatívna AI modely pre Qualcomm Cloud AI 100. Cieľom spolupráce je sprístupniť AI pre širší rozsah aplikácií a demokratizovať silu generatívnej AI pre vývojárov.
Prispôsobením modelov špeciálne pre riešenie Qualcomm Cloud AI 100 majú spoločnosti v úmysle odomknúť nákladovo efektívne spracovanie AI v reálnom čase. Cloud AI 100 je riešenie od Qualcommu vytvorené na optimalizáciu výkonu pre generatívne odvodenie AI vrátane veľké jazykové modely (LLM).
„Niektoré z hlavných výziev v súčasnom prostredí generatívnej AI sa týkajú dostupnosti výpočtového výkonu na spracovanie týchto obrovských modelov a obrovských nákladov na ich prevádzku,“ povedal Yonatan Geifman, generálny riaditeľ a spoluzakladateľ spoločnosti Deci. Metaverse Post. „Využitím modelov Deci môžu používatelia Qualcommu vyťažiť maximum zo svojich investícií do hardvéru s modelmi, ktoré zaisťujú maximálne využitie hardvéru a zároveň poskytujú vysokú rýchlosť a presnosť.“
Deci bude spolupracovať s Qualcomm Technologies na uvedení dvoch modelov, konkrétne DeciCoder-6B a DeciDiffusion 2.0.
Podľa oznámenia je DeciCoder-6B model so 6 miliardami parametrov na generovanie kódu podporujúci osem programovacích jazykov a prekonáva zavedené modely pri zachovaní pamäte a výpočtovej efektívnosti.
Na druhej strane, DeciDiffusion 2.0 je model šírenia textu na obrázok so 732 miliónmi parametrov, ktorý stanovuje nové štandardy poskytovaním vysokokvalitných obrázkov so zvýšenou rýchlosťou a efektivitou.
Čo odlišuje modely AI spoločnosti Deci
Pri použití LLM v aplikáciách v reálnom svete je dôležité efektívne organizovať údaje na serveroch, ktoré vytvárajú predpovede. Hlavným cieľom je vybaviť čo najviac požiadaviek používateľov súčasne. Nájdenie správnej rovnováhy medzi množstvom údajov spracovaných naraz (veľkosť dávky) a časom potrebným na získanie odpovede (latencia) závisí od dvoch kľúčových vecí: od návrhu modelu a od schopností hardvéru používaného na vytváranie predpovedí.
„DeciCoder-6B má menší počet parametrov ako jeho náprotivky, čo má za následok znížené nároky na pamäť a uvoľnenie ďalších 2 GB pamäte v porovnaní s CodeGen 2.5 7B a modelmi so 7 miliardami parametrov. Model vyniká pamäťou a výpočtovou účinnosťou, čo umožňuje efektívne škálovanie dávkového spracovania bez výraznej spotreby pamäte alebo výrazného zvýšenia latencie,“ povedal generálny riaditeľ spoločnosti Deci Yonatan Geifman.
Ďalej vysvetlil: „DeciDiffusion 2.0 poskytuje vysokokvalitné obrázky v o 40 % menej iteráciách a využíva menší a rýchlejší komponent U-Net v porovnaní s Stable Diffusion 1.5. Môže produkovať vysokokvalitné obrázky s menším počtom časových krokov difúzie počas procesu odvodzovania.
Model efektívne znižuje počet krokov potrebných na vytvorenie kvalitného obrazu zo 16 na iba 10.
Technológia vyhľadávania neurónovej architektúry spoločnosti Deci – AutoNAC – zohrala kľúčovú úlohu v efektívnosti a škálovateľnosti modelov. to automatizuje proces vyhľadávania výpočtovo efektívnym spôsobom, čím sa odlišuje od tradičných metód. Táto technológia umožnila spoločnosti Deci vydať sériu najmodernejších modelov v krátkom časovom rámci s nižšími výdavkami na výpočtovú techniku na školenie v porovnaní s inými veľkými vývojármi jazykových modelov.
DeciCoder-6B: Presnosť šitá na mieru pre priemyselnú dokonalosť
Schopnosť DeciCoder-6B podporovať osem programovacích jazykov ho predurčuje ako model pre širokú škálu aplikácií. Geifman zdieľal niektoré z rôznych spôsobov využitia modelu.
„V oblasti vývoja softvéru môže pomôcť pri generovaní a dokončovaní kódu, čím výrazne skracuje čas vývoja a zvyšuje produktivitu. Ďalej, DeciCoder-6B môže byť použitý na výučbu programovania, uspokojovanie rôznych jazykov a úrovní obtiažnosti. Študenti ho môžu použiť na kontrolu svojej práce a ako návod na riešenie,“ povedal Geifman z Deci Metaverse Post.
„Navyše, v oblasti kybernetickej bezpečnosti je možné model vyladiť tak, aby pomáhal pri písaní a analýze skriptov na skenovanie zraniteľností, so schopnosťou automatizovať bezpečnostné kontroly v rôznych programovacích prostrediach,“ dodal.
Spolupráca medzi Deci a Qualcomm Technológie predstavujú významný krok smerom k demokratizácii sily generatívnej AI. Vďaka optimalizovaným modelom, efektívnej technológii a záväzku k otvorenosti je cieľom partnerstva poskytnúť vývojárom a priemyselným odvetviam na celom svete dostupné a nákladovo efektívne riešenia AI.
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Kumar je skúsený technický novinár so špecializáciou na dynamické prieniky AI/ML, marketingových technológií a nových oblastí, ako sú krypto, blockchain a NFTs. S viac ako 3-ročnými skúsenosťami v tomto odvetví má Kumar preukázané výsledky pri vytváraní pútavých príbehov, vedení dômyselných rozhovorov a poskytovaní komplexných poznatkov. Kumarova odbornosť spočíva vo vytváraní vysoko účinného obsahu vrátane článkov, správ a výskumných publikácií pre prominentné priemyselné platformy. Vďaka jedinečnému súboru zručností, ktorý kombinuje technické znalosti a rozprávanie príbehov, Kumar vyniká v komunikácii zložitých technologických konceptov pre rôzne publikum jasným a pútavým spôsobom.
Ďalšie články
Kumar je skúsený technický novinár so špecializáciou na dynamické prieniky AI/ML, marketingových technológií a nových oblastí, ako sú krypto, blockchain a NFTs. S viac ako 3-ročnými skúsenosťami v tomto odvetví má Kumar preukázané výsledky pri vytváraní pútavých príbehov, vedení dômyselných rozhovorov a poskytovaní komplexných poznatkov. Kumarova odbornosť spočíva vo vytváraní vysoko účinného obsahu vrátane článkov, správ a výskumných publikácií pre prominentné priemyselné platformy. Vďaka jedinečnému súboru zručností, ktorý kombinuje technické znalosti a rozprávanie príbehov, Kumar vyniká v komunikácii zložitých technologických konceptov pre rôzne publikum jasným a pútavým spôsobom.
