Deci a Qualcomm spolupracují na demokratizaci generativní umělé inteligence napříč odvětvími
Stručně
Společnost Deci oznámila spolupráci s Qualcomm Technologies na vývoji pokročilých generativních modelů umělé inteligence pro Qualcomm Cloud AI 100.
Společnost Deci zabývající se řešením AI oznámila spolupráci s Qualcomm Technologies na vývoji pokročilých generativní AI modely pro Qualcomm Cloud AI 100. Cílem spolupráce je učinit AI přístupnější pro širší škálu aplikací a demokratizovat sílu generativní AI pro vývojáře.
Přizpůsobením modelů speciálně pro řešení Qualcomm Cloud AI 100 mají společnosti v úmyslu odemknout nákladově efektivní zpracování AI v reálném čase. Cloud AI 100 je řešení společnosti Qualcomm vytvořené pro optimalizaci výkonu pro generativní odvozování AI včetně velké jazykové modely (LLM).
„Některé z hlavních výzev v současném prostředí generativní umělé inteligence se týkají dostupnosti výpočetního výkonu pro zpracování těchto obrovských modelů a obrovských nákladů na jejich provoz,“ řekl Yonatan Geifman, CEO a spoluzakladatel společnosti Deci. Metaverse Post. „Využitím modelů Deci mohou uživatelé Qualcommu maximálně využít své investice do hardwaru s modely, které zajišťují maximální využití hardwaru a zároveň poskytují vysokou rychlost a přesnost.“
Deci bude spolupracovat s Qualcomm Technologies na uvedení dvou modelů, konkrétně DeciCoder-6B a DeciDiffusion 2.0.
Podle oznámení je DeciCoder-6B model s 6 miliardami parametrů pro generování kódu podporující osm programovacích jazyků a překonává zavedené modely při zachování paměti a výpočetní účinnosti.
Na druhou stranu DeciDiffusion 2.0 je model šíření textu do obrázku se 732 miliony parametrů, který nastavuje nové standardy poskytováním vysoce kvalitních obrázků se zvýšenou rychlostí a efektivitou.
Co odlišuje modely AI společnosti Deci
Při použití LLM v aplikacích v reálném světě je klíčové efektivně organizovat data na serverech, které vytvářejí předpovědi. Hlavním cílem je vyřídit co nejvíce požadavků uživatelů současně. Nalezení správné rovnováhy mezi množstvím dat zpracovaných najednou (velikost dávky) a dobou potřebnou k získání odezvy (latence) závisí na dvou klíčových věcech: na návrhu modelu a schopnostech hardwaru použitého pro vytváření předpovědí.
„DeciCoder-6B má menší počet parametrů než jeho protějšky, což má za následek menší nároky na paměť a uvolnění dalších 2 GB paměti ve srovnání s CodeGen 2.5 7B a modely se 7 miliardami parametrů. Model vyniká pamětí a výpočetní efektivitou, což umožňuje efektivní škálování dávkového zpracování bez podstatné spotřeby paměti nebo výrazného zvýšení latence,“ řekl generální ředitel společnosti Deci Yonatan Geifman.
Dále vysvětlil: „DeciDiffusion 2.0 poskytuje vysoce kvalitní obrázky v o 40 % méně iterací a využívá menší a rychlejší komponent U-Net ve srovnání s Stable Diffusion 1.5. Může produkovat vysoce kvalitní obrázky s menším počtem časových kroků difúze během procesu odvození.“
Model efektivně snižuje počet kroků potřebných k vytvoření kvalitního obrazu z 16 na pouhých 10.
Technologie vyhledávání Neural Architecture společnosti Deci – AutoNAC – sehrála klíčovou roli v efektivitě a škálovatelnosti modelů. To automatizuje proces vyhledávání výpočetně efektivním způsobem, čímž se odlišuje od tradičních metod. Tato technologie umožnila společnosti Deci vydat řadu nejmodernějších modelů v krátkém časovém rámci s nižšími výdaji na výpočetní techniku pro školení ve srovnání s jinými velkými vývojáři jazykových modelů.
DeciCoder-6B: Přesnost na míru pro průmyslovou dokonalost
Schopnost DeciCoder-6B podporovat osm programovacích jazyků jej řadí mezi go-to model pro širokou škálu aplikací. Geifman sdílel některé z různých způsobů, jak lze model využít.
„V oblasti vývoje softwaru může pomoci při generování a dokončování kódu, což výrazně zkracuje dobu vývoje a zvyšuje produktivitu. Kromě toho lze DeciCoder-6B použít k výuce programování, uspokojování různých jazyků a úrovní obtížnosti. Studenti jej mohou použít ke kontrole své práce a jako návod k řešení,“ řekl Geifman z Deci Metaverse Post.
„Navíc v oblasti kybernetické bezpečnosti lze model vyladit tak, aby pomáhal při psaní a analýze skriptů pro skenování zranitelnosti, se schopností automatizovat bezpečnostní kontroly v různých programovacích prostředích,“ dodal.
Spolupráce mezi Deci a Qualcomm Technologie znamenají významný krok k demokratizaci síly generativní umělé inteligence. Díky optimalizovaným modelům, efektivní technologii a odhodlání k otevřenosti je cílem partnerství poskytnout vývojářům a průmyslovým odvětvím po celém světě dostupná a nákladově efektivní řešení AI.
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Kumar je zkušený technický novinář se specializací na dynamické průniky AI/ML, marketingové technologie a nově vznikající obory, jako jsou kryptoměny, blockchain a NFTs. S více než 3 lety zkušeností v oboru si Kumar vytvořil prokazatelné výsledky ve vytváření působivých příběhů, vedení zasvěcených rozhovorů a poskytování komplexních poznatků. Kumarova odbornost spočívá ve vytváření vysoce působivého obsahu, včetně článků, zpráv a výzkumných publikací pro prominentní průmyslové platformy. Díky jedinečné sadě dovedností, které kombinují technické znalosti a vyprávění příběhů, Kumar vyniká v komunikaci složitých technologických konceptů pro různé publikum jasným a poutavým způsobem.
Další články
Kumar je zkušený technický novinář se specializací na dynamické průniky AI/ML, marketingové technologie a nově vznikající obory, jako jsou kryptoměny, blockchain a NFTs. S více než 3 lety zkušeností v oboru si Kumar vytvořil prokazatelné výsledky ve vytváření působivých příběhů, vedení zasvěcených rozhovorů a poskytování komplexních poznatků. Kumarova odbornost spočívá ve vytváření vysoce působivého obsahu, včetně článků, zpráv a výzkumných publikací pro prominentní průmyslové platformy. Díky jedinečné sadě dovedností, které kombinují technické znalosti a vyprávění příběhů, Kumar vyniká v komunikaci složitých technologických konceptů pro různé publikum jasným a poutavým způsobem.
