Deci och Qualcomm samarbetar för att demokratisera generativ AI i olika branscher
I korthet
Deci tillkännagav ett samarbete med Qualcomm Technologies för att utveckla avancerade generativa AI-modeller för Qualcomm Cloud AI 100.
AI-lösningsföretaget Deci tillkännagav ett samarbete med Qualcomm Technologies för att utveckla avancerade generativ AI modeller för Qualcomm Cloud AI 100. Samarbetet syftar till att göra AI mer tillgänglig för ett bredare spektrum av applikationer och demokratisera kraften i generativ AI för utvecklare.
Genom att skräddarsy modeller specifikt för Qualcomm Cloud AI 100-lösningen avser företagen att låsa upp kostnadseffektiv AI-bearbetning i realtid. Cloud AI 100 är Qualcomms lösning byggd för att optimera prestanda för generativ AI-inferencing inklusive stora språkmodeller (LLMs).
"Några av de största utmaningarna i det nuvarande generativa AI-landskapet relaterar till tillgängligheten av datorkraft för bearbetning av dessa enorma modeller och den enorma kostnaden för att driva dem," sa Yonatan Geifman, VD och medgrundare av Deci Metaverse Post. "Genom att utnyttja Decis modeller kan Qualcomm-användare få ut det mesta av sin hårdvaruinvestering med modeller som säkerställer maximalt hårdvaruutnyttjande samtidigt som de levererar hög hastighet och noggrannhet."
Deci kommer att samarbeta med Qualcomm Technologies för att lansera två modeller, nämligen DeciCoder-6B och DeciDiffusion 2.0.
Enligt tillkännagivandet är DeciCoder-6B en 6 miljarder parametermodell för kodgenerering som stöder åtta programmeringsspråk och överträffar etablerade modeller samtidigt som minne och beräkningseffektivitet bibehålls.
Å andra sidan är DeciDiffusion 2.0 en 732 miljoner parametrar text-till-bild-diffusionsmodell, som sätter nya standarder genom att leverera högkvalitativa bilder med ökad hastighet och effektivitet.
Vad skiljer Decis AI-modeller åt
När man använder LLM i verkliga applikationer är det avgörande att effektivt organisera data på de servrar som gör förutsägelser. Huvudsyftet är att hantera så många användarförfrågningar som möjligt samtidigt. Att hitta rätt balans mellan mängden data som behandlas på en gång (batchstorlek) och tiden det tar att få ett svar (latens) beror på två viktiga saker: modellens design och förmågan hos hårdvaran som används för att göra förutsägelser.
"DeciCoder-6B har ett mindre parameterantal än sina motsvarigheter, vilket resulterar i ett minskat minnesfotavtryck och frigör ytterligare 2 GB minne jämfört med CodeGen 2.5 7B och 7 miljarder parametermodeller. Modellen utmärker sig i minne och beräkningseffektivitet, vilket möjliggör effektiv skalning av batchbearbetning utan betydande minnesförbrukning eller märkbara ökningar i latens, säger Decis vd Yonatan Geifman.
Han förklarade vidare, "DeciDiffusion 2.0 levererar bilder av hög kvalitet i 40 % färre iterationer och använder en mindre och snabbare U-Net-komponent jämfört med Stable Diffusion 1.5. Det kan producera högkvalitativa bilder med färre spridningstidssteg under slutledningsprocessen."
Modellen minskar effektivt antalet steg som krävs för att skapa en kvalitetsbild från 16 till bara 10.
Decis Neural Architecture Search Technology – AutoNAC – har spelat en avgörande roll för modellernas effektivitet och skalbarhet. Det automatiserar sökprocessen på ett beräkningseffektivt sätt, som skiljer den från traditionella metoder. Denna teknik gjorde det möjligt för Deci att släppa en serie toppmoderna modeller inom en kort tidsram, med lägre utgifter för datoranvändning för utbildning jämfört med andra stora språkmodellutvecklare.
DeciCoder-6B: Skräddarsydd precision för industriell excellens
DeciCoder-6B:s förmåga att stödja åtta programmeringsspråk positionerar den som en go-to-modell för ett brett spektrum av applikationer. Geifman delade några av de olika sätt som modellen kan utnyttjas på.
"Inom området mjukvaruutveckling kan den hjälpa till med kodgenerering och kodkomplettering, vilket avsevärt minskar utvecklingstiden och förbättrar produktiviteten. Dessutom kan DeciCoder-6B användas för att lära ut programmering, catering till en mängd olika språk och svårighetsnivåer. Studenter kan använda den för att kontrollera sitt arbete och som en lösningsmanual, sa Decis Geifman Metaverse Post.
"Dessutom, inom området cybersäkerhet, kan modellen finjusteras för att hjälpa till att skriva och analysera skript för sårbarhetsskanning, med möjligheten att automatisera säkerhetskontroller i olika programmeringsmiljöer", tillade han.
Samarbetet mellan Deci och Qualcomm Teknologier markerar ett viktigt steg mot att demokratisera kraften i Generativ AI. Med optimerade modeller, effektiv teknik och ett engagemang för öppenhet syftar partnerskapet till att ge utvecklare och industrier över hela världen tillgängliga och kostnadseffektiva AI-lösningar.
Villkor
I linje med den Riktlinjer för Trust Project, vänligen notera att informationen på den här sidan inte är avsedd att vara och inte ska tolkas som juridisk, skattemässig, investerings-, finansiell eller någon annan form av rådgivning. Det är viktigt att bara investera det du har råd att förlora och att söka oberoende finansiell rådgivning om du har några tvivel. För ytterligare information föreslår vi att du hänvisar till villkoren samt hjälp- och supportsidorna som tillhandahålls av utfärdaren eller annonsören. MetaversePost är engagerad i korrekt, opartisk rapportering, men marknadsförhållandena kan ändras utan föregående meddelande.
Om författaren
Kumar är en erfaren teknisk journalist med specialisering på de dynamiska skärningspunkterna mellan AI/ML, marknadsföringsteknologi och framväxande områden som krypto, blockchain och NFTs. Med över 3 års erfarenhet i branschen har Kumar etablerat en bevisad meritlista i att skapa övertygande berättelser, genomföra insiktsfulla intervjuer och leverera omfattande insikter. Kumars expertis ligger i att producera innehåll med hög effekt, inklusive artiklar, rapporter och forskningspublikationer för framstående industriplattformar. Med en unik kompetens som kombinerar teknisk kunskap och berättande, utmärker Kumar sig på att kommunicera komplexa tekniska koncept till olika publik på ett tydligt och engagerande sätt.
fler artiklar
Kumar är en erfaren teknisk journalist med specialisering på de dynamiska skärningspunkterna mellan AI/ML, marknadsföringsteknologi och framväxande områden som krypto, blockchain och NFTs. Med över 3 års erfarenhet i branschen har Kumar etablerat en bevisad meritlista i att skapa övertygande berättelser, genomföra insiktsfulla intervjuer och leverera omfattande insikter. Kumars expertis ligger i att producera innehåll med hög effekt, inklusive artiklar, rapporter och forskningspublikationer för framstående industriplattformar. Med en unik kompetens som kombinerar teknisk kunskap och berättande, utmärker Kumar sig på att kommunicera komplexa tekniska koncept till olika publik på ett tydligt och engagerande sätt.
