Deci i Qualcomm su partneri za demokratizaciju generativne umjetne inteligencije u svim industrijama
Ukratko
Deci je najavio suradnju s Qualcomm Technologies na razvoju naprednih generativnih AI modela za Qualcomm Cloud AI 100.
Tvrtka za AI rješenja Deci najavila je suradnju s Qualcomm Technologies na razvoju naprednih rješenja generativni AI modeli za Qualcomm Cloud AI 100. Suradnja ima za cilj učiniti AI pristupačnijom za širi raspon aplikacija i demokratizirati snagu generativne AI za programere.
Prilagođavanjem modela posebno za rješenje Qualcomm Cloud AI 100, tvrtke namjeravaju otključati isplativu AI obradu u stvarnom vremenu. Cloud AI 100 je Qualcommovo rješenje izgrađeno za optimizaciju performansi za generativno AI zaključivanje uključujući veliki jezični modeli (LLMs).
"Neki od glavnih izazova u trenutnom generativnom krajoliku umjetne inteligencije odnose se na dostupnost računalne snage za obradu ovih golemih modela i ogromne troškove za njihovo pokretanje", rekao je Yonatan Geifman, izvršni direktor i suosnivač tvrtke Deci Metaverse Post. "Upotrebom Decijevih modela korisnici Qualcomma mogu maksimalno iskoristiti svoje ulaganje u hardver s modelima koji osiguravaju maksimalno iskorištenje hardvera uz veliku brzinu i točnost."
Deci će raditi s Qualcomm Technologies na lansiranju dva modela, naime DeciCoder-6B i DeciDiffusion 2.0.
Prema najavi, DeciCoder-6B je model od 6 milijardi parametara za generiranje koda koji podržava osam programskih jezika i nadmašuje etablirane modele uz zadržavanje memorije i računalne učinkovitosti.
S druge strane, DeciDiffusion 2.0 je model difuzije teksta u sliku sa 732 milijuna parametara, koji postavlja nove standarde isporukom visokokvalitetnih slika uz povećanu brzinu i učinkovitost.
Što izdvaja Decijeve AI modele
Pri korištenju LLMs u aplikacijama u stvarnom svijetu ključno je učinkovito organizirati podatke na poslužiteljima koji vrše predviđanja. Glavni cilj je obraditi što više korisničkih zahtjeva u isto vrijeme. Pronalaženje prave ravnoteže između količine podataka koji se obrađuju odjednom (veličina paketa) i vremena potrebnog za dobivanje odgovora (latencija) ovisi o dvije ključne stvari: dizajnu modela i mogućnostima hardvera koji se koristi za izradu predviđanja.
“DeciCoder-6B ima manji broj parametara od svojih kolega, što rezultira smanjenim otiskom memorije i oslobađanjem dodatnih 2 GB memorije u usporedbi s modelima CodeGen 2.5 7B i 7 milijardi parametara. Model se ističe po pitanju memorije i računalne učinkovitosti, omogućujući učinkovito skaliranje skupne obrade bez značajne potrošnje memorije ili značajnih povećanja latencije,” rekao je izvršni direktor tvrtke Deci Yonatan Geifman.
Nadalje je objasnio: „DeciDiffusion 2.0 isporučuje visokokvalitetne slike u 40% manje ponavljanja i koristi manju i bržu U-Net komponentu u usporedbi s Stable Diffusion 1.5. Može proizvesti visokokvalitetne slike s manje vremenskih koraka difuzije tijekom procesa zaključivanja.”
Model učinkovito smanjuje broj koraka potrebnih za generiranje kvalitetne slike sa 16 na samo 10.
Decijeva tehnologija pretraživanja neuronske arhitekture – AutoNAC – odigrala je ključnu ulogu u učinkovitosti i skalabilnosti modela. To automatizira proces pretraživanja na računalno učinkovit način, izdvajajući ga od tradicionalnih metoda. Ova je tehnologija omogućila Deciju da objavi niz najsuvremenijih modela u kratkom vremenskom roku, uz nižu potrošnju na računalstvo za obuku u usporedbi s drugim velikim programerima jezičnih modela.
DeciCoder-6B: Prilagođena preciznost za industrijsku izvrsnost
Sposobnost DeciCoder-6B da podržava osam programskih jezika pozicionira ga kao idealan model za širok raspon aplikacija. Geifman je podijelio neke od različitih načina na koje se model može iskoristiti.
“U području razvoja softvera može pomoći u generiranju i dovršavanju koda, značajno skraćujući vrijeme razvoja i povećavajući produktivnost. Nadalje, DeciCoder-6B se može koristiti za podučavanje programiranja, za različite jezike i razine težine. Učenici ga mogu koristiti za provjeru svog rada i kao priručnik s rješenjima”, rekao je Geifman za Deci Metaverse Post.
"Osim toga, u području kibernetičke sigurnosti, model se može fino podesiti kako bi pomogao u pisanju i analizi skripti za skeniranje ranjivosti, uz mogućnost automatizacije sigurnosnih provjera u različitim programskim okruženjima", dodao je.
Suradnja između Decija i Qualcomm Tehnologije označavaju značajan korak prema demokratizaciji moći Generative AI. S optimiziranim modelima, učinkovitom tehnologijom i predanošću otvorenosti, partnerstvo ima za cilj osnažiti programere i industrije širom svijeta s dostupnim i isplativim AI rješenjima.
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Kumar je iskusan tehnološki novinar sa specijalizacijom u dinamičkim raskrižjima AI/ML-a, marketinške tehnologije i novih područja kao što su kripto, blockchain i NFTs. S više od 3 godine iskustva u industriji, Kumar ima dokazanu reputaciju u izradi uvjerljivih priča, provođenju pronicljivih intervjua i pružanju sveobuhvatnih uvida. Kumarova stručnost leži u izradi sadržaja visokog utjecaja, uključujući članke, izvješća i istraživačke publikacije za istaknute industrijske platforme. S jedinstvenim skupom vještina koje kombiniraju tehničko znanje i pripovijedanje, Kumar se ističe u komuniciranju složenih tehnoloških koncepata različitoj publici na jasan i privlačan način.
Više članaka
Kumar je iskusan tehnološki novinar sa specijalizacijom u dinamičkim raskrižjima AI/ML-a, marketinške tehnologije i novih područja kao što su kripto, blockchain i NFTs. S više od 3 godine iskustva u industriji, Kumar ima dokazanu reputaciju u izradi uvjerljivih priča, provođenju pronicljivih intervjua i pružanju sveobuhvatnih uvida. Kumarova stručnost leži u izradi sadržaja visokog utjecaja, uključujući članke, izvješća i istraživačke publikacije za istaknute industrijske platforme. S jedinstvenim skupom vještina koje kombiniraju tehničko znanje i pripovijedanje, Kumar se ističe u komuniciranju složenih tehnoloških koncepata različitoj publici na jasan i privlačan način.
