A Deci és a Qualcomm partnere a generatív mesterséges intelligencia demokratizálására az iparágakban
Röviden
A Deci bejelentette, hogy együttműködik a Qualcomm Technologies vállalattal, hogy fejlett generatív AI modelleket fejlesszen ki a Qualcomm Cloud AI 100 számára.
A Deci mesterséges intelligencia megoldásokkal foglalkozó vállalat bejelentette, hogy együttműködik a Qualcomm Technologies-szal a fejlett fejlesztések érdekében generatív AI modellek a Qualcomm Cloud AI 100-hoz. Az együttműködés célja, hogy a mesterséges intelligencia elérhetőbbé váljon az alkalmazások szélesebb köre számára, és demokratizálja a generatív AI erejét a fejlesztők számára.
A kifejezetten a Qualcomm Cloud AI 100 megoldáshoz szabott modellekkel a vállalatok költséghatékony, valós idejű AI-feldolgozást kívánnak feloldani. A Cloud AI 100 a Qualcomm megoldása, amely a generatív AI-következtetés teljesítményének optimalizálására szolgál, beleértve nagy nyelvi modellek (LLM-ek).
„A jelenlegi generatív mesterségesintelligencia-környezetben a fő kihívások némelyike a hatalmas modellek feldolgozásához szükséges számítási teljesítmény elérhetőségével és a működtetésük hatalmas költségével kapcsolatos” – mondta Yonatan Geifman, a Deci vezérigazgatója és társalapítója. Metaverse Post. „A Deci modelljeinek kihasználásával a Qualcomm felhasználók a legtöbbet hozhatják ki hardverbefektetéseikből olyan modellekkel, amelyek maximális hardverkihasználást biztosítanak, miközben nagy sebességet és pontosságot biztosítanak.”
A Deci a Qualcomm Technologies-szal együttműködve két modellt dob piacra, nevezetesen a DeciCoder-6B-t és a DeciDiffusion 2.0-t.
A közlemény szerint a DeciCoder-6B egy 6 milliárd paraméterű kódgenerálási modell, amely nyolc programozási nyelvet támogat, és felülmúlja a bevált modelleket, miközben megőrzi a memória és a számítási hatékonyságot.
Másrészt a DeciDiffusion 2.0 egy 732 millió paraméteres szöveg-kép diffúziós modell, amely új mércét állít fel azáltal, hogy kiváló minőségű képeket biztosít nagyobb sebességgel és hatékonysággal.
Mi különbözteti meg a Deci AI modelljeit?
Használat során LLM-ek a valós alkalmazásokban kulcsfontosságú az adatok hatékony rendszerezése a jóslatokat készítő szervereken. A fő cél a lehető legtöbb felhasználói kérés egyidejű kezelése. Az egyszerre feldolgozott adatmennyiség (kötegméret) és a válaszadási idő (latencia) közötti megfelelő egyensúly megtalálása két kulcsfontosságú dologtól függ: a modell kialakításától és az előrejelzésekhez használt hardver képességeitől.
„A DeciCoder-6B paramétereinek száma kisebb, mint társai, ami csökkenti a memóriaterületet, és további 2 GB memóriát szabadít fel a CodeGen 2.5 7B és 7 milliárd paraméteres modellekhez képest. A modell kiemelkedik a memória és a számítási hatékonyság terén, lehetővé téve a kötegelt feldolgozás hatékony skálázását jelentős memóriafelhasználás vagy a várakozási idő jelentős növekedése nélkül” – mondta Yonatan Geifman, a Deci vezérigazgatója.
Kifejtette továbbá: „A DeciDiffusion 2.0 kiváló minőségű képeket biztosít 40%-kal kevesebb iterációval, és kisebb és gyorsabb U-Net komponenst alkalmaz, mint a Stable Diffusion 1.5. Kiváló minőségű képeket tud készíteni kevesebb diffúziós időlépéssel a következtetési folyamat során.”
A modell hatékonyan csökkenti a minőségi kép létrehozásához szükséges lépések számát 16-ról mindössze 10-re.
A Deci Neural Architecture Search Technology – AutoNAC – döntő szerepet játszott a modellek hatékonyságában és méretezhetőségében. Azt automaták a keresési folyamatot számítás-hatékony módon, megkülönböztetve a hagyományos módszerektől. Ez a technológia lehetővé tette a Deci számára, hogy rövid időn belül kiadjon egy sor legkorszerűbb modellt, miközben a képzéshez szükséges számítástechnikai kiadások alacsonyabbak voltak, mint más nagy nyelvi modellfejlesztők.
DeciCoder-6B: Testreszabott pontosság az ipari kiválóság érdekében
A DeciCoder-6B nyolc programozási nyelv támogatására való képessége az alkalmazások széles köréhez használható modellként pozícionálja. Geifman megosztott néhány különféle módot a modell hasznosítására.
„A szoftverfejlesztés területén segítséget nyújthat a kódgenerálásban és a kódkiegészítésben, jelentősen csökkentve a fejlesztési időt és növelve a termelékenységet. Továbbá a DeciCoder-6B használható programozás oktatására, különféle nyelvek és nehézségi szintek kiszolgálására. A diákok használhatják munkájuk ellenőrzésére és megoldási kézikönyvként” – mondta Deci Geifman Metaverse Post.
"Emellett a kiberbiztonság területén a modell finomhangolható, hogy segítse a sérülékenység-vizsgálathoz szükséges szkriptek írását és elemzését, és automatizálni tudja a biztonsági ellenőrzéseket különböző programozási környezetekben" - tette hozzá.
Az együttműködés Deci és Qualcomm A technológiák jelentős lépést jelentenek a Generatív AI erejének demokratizálása felé. Az optimalizált modellekkel, hatékony technológiával és a nyitottság iránti elkötelezettséggel a partnerség célja, hogy a fejlesztőket és az iparágakat világszerte hozzáférhető és költséghatékony mesterségesintelligencia-megoldásokkal lássa el.
A felelősség megtagadása
Összhangban a A Trust Project irányelvei, kérjük, vegye figyelembe, hogy az ezen az oldalon közölt információk nem minősülnek jogi, adózási, befektetési, pénzügyi vagy bármilyen más formájú tanácsnak, és nem is értelmezhetők. Fontos, hogy csak annyit fektessen be, amennyit megengedhet magának, hogy elveszítsen, és kérjen független pénzügyi tanácsot, ha kétségei vannak. További információkért javasoljuk, hogy tekintse meg a szerződési feltételeket, valamint a kibocsátó vagy hirdető által biztosított súgó- és támogatási oldalakat. MetaversePost elkötelezett a pontos, elfogulatlan jelentéstétel mellett, de a piaci feltételek előzetes értesítés nélkül változhatnak.
A szerzőről
Kumar tapasztalt műszaki újságíró, aki az AI/ML dinamikus metszéspontjaira, a marketingtechnológiára és az olyan feltörekvő területekre szakosodott, mint a kriptográfia, blokklánc és NFTs. Az iparágban szerzett több mint 3 éves tapasztalatával Kumar bevált eredményeket hozott fel lenyűgöző narratívák készítése, éleslátó interjúk készítése és átfogó betekintések nyújtása terén. A Kumar szakértelme abban rejlik, hogy nagy hatású tartalmakat készít, ideértve cikkeket, jelentéseket és kutatási publikációkat prominens iparági platformok számára. A technikai tudást és a történetmesélést ötvöző egyedülálló készségkészletével Kumar kiválóan kommunikál összetett technológiai koncepciókkal a különböző közönségekkel, világos és vonzó módon.
További cikkek
Kumar tapasztalt műszaki újságíró, aki az AI/ML dinamikus metszéspontjaira, a marketingtechnológiára és az olyan feltörekvő területekre szakosodott, mint a kriptográfia, blokklánc és NFTs. Az iparágban szerzett több mint 3 éves tapasztalatával Kumar bevált eredményeket hozott fel lenyűgöző narratívák készítése, éleslátó interjúk készítése és átfogó betekintések nyújtása terén. A Kumar szakértelme abban rejlik, hogy nagy hatású tartalmakat készít, ideértve cikkeket, jelentéseket és kutatási publikációkat prominens iparági platformok számára. A technikai tudást és a történetmesélést ötvöző egyedülálló készségkészletével Kumar kiválóan kommunikál összetett technológiai koncepciókkal a különböző közönségekkel, világos és vonzó módon.
