Deci ja Qualcommi partner generatiivse tehisintellekti demokratiseerimiseks kõigis tööstusharudes
Põgusalt
Deci teatas koostööst Qualcomm Technologiesiga, et töötada välja täiustatud generatiivsed AI mudelid Qualcomm Cloud AI 100 jaoks.
AI-lahenduste ettevõte Deci teatas koostööst Qualcomm Technologiesiga, et arendada edasijõudnuid generatiivne AI mudelid Qualcomm Cloud AI 100 jaoks. Koostöö eesmärk on muuta tehisintellekt laiemale rakenduste valikule kättesaadavamaks ja demokratiseerida arendajate jaoks generatiivse AI võimsust.
Spetsiaalselt Qualcomm Cloud AI 100 lahendusele mõeldud mudelite kohandamisega kavatsevad ettevõtted avada kuluefektiivse ja reaalajas tehisintellekti töötlemise. Cloud AI 100 on Qualcommi lahendus, mis on loodud generatiivse AI järeldamise jõudluse optimeerimiseks, sealhulgas suured keelemudelid (LLM-id).
"Mõned praeguse generatiivse AI maastiku peamised väljakutsed on seotud arvutusvõimsuse olemasoluga nende tohutute mudelite töötlemiseks ja nende käitamise tohutute kuludega," ütles Deci tegevjuht ja kaasasutaja Yonatan Geifman. Metaverse Post. "Deci mudeleid võimendades saavad Qualcommi kasutajad oma riistvarainvesteeringutest maksimumi võtta mudelitega, mis tagavad riistvara maksimaalse kasutamise, pakkudes samal ajal suurt kiirust ja täpsust."
Deci teeb koostööd Qualcomm Technologiesiga, et käivitada kaks mudelit, nimelt DeciCoder-6B ja DeciDiffusion 2.0.
Vastavalt teadaandele on DeciCoder-6B 6 miljardi parameetriga mudel koodi genereerimiseks, mis toetab kaheksat programmeerimiskeelt ja ületab väljakujunenud mudelid, säilitades samal ajal mälu ja arvutusliku tõhususe.
Teisest küljest on DeciDiffusion 2.0 732 miljoni parameetriga tekstist pildiks difusioonimudel, mis seab uued standardid, pakkudes kvaliteetseid pilte suurema kiiruse ja tõhususega.
Mis eristab Deci tehisintellekti mudeleid
Kasutamisel LLM-id reaalmaailma rakendustes on ülioluline andmete tõhus korraldamine ennustusi tegevates serverites. Peamine eesmärk on käsitleda võimalikult palju kasutajate taotlusi korraga. Õige tasakaalu leidmine korraga töödeldava andmehulga (partii suurus) ja vastuse saamiseks kuluva aja (latentsus) vahel sõltub kahest peamisest asjast: mudeli ülesehitusest ja prognooside tegemiseks kasutatava riistvara võimekusest.
„DeciCoder-6B parameetrite arv on väiksem kui tema kolleegidel, mille tulemuseks on väiksem mälumaht ja 2 GB lisamälu vabastamine võrreldes CodeGen 2.5 7B ja 7 miljardi parameetriga mudelitega. Mudel paistab silma mälu ja arvutusliku tõhususega, võimaldades tõhusalt skaleerida paketttöötlust ilma olulise mälutarbimiseta või märkimisväärse latentsusaja suurenemiseta, ”ütles Deci tegevjuht Yonatan Geifman.
Ta selgitas veel: "DeciDiffusion 2.0 pakub kvaliteetseid pilte 40% vähemate iteratsioonidega ja kasutab väiksemat ja kiiremat U-Neti komponenti võrreldes Stable Diffusion 1.5. See võib järeldusprotsessi ajal toota kvaliteetseid pilte vähemate difusiooniaegadega.
Mudel vähendab kvaliteetse pildi loomiseks vajalike sammude arvu tõhusalt 16-lt 10-le.
Deci närviarhitektuuri otsingutehnoloogia - AutoNAC - on mänginud mudelite tõhususe ja mastaapsuse osas otsustavat rolli. See automatiseerib otsinguprotsessi arvutuslikult tõhusal viisil, eristades seda traditsioonilistest meetoditest. See tehnoloogia võimaldas Decil lühikese aja jooksul välja anda rea tipptasemel mudeleid, kusjuures koolituse jaoks kulutati arvutitele vähem kui teiste suurte keelemudelite arendajatega.
DeciCoder-6B: kohandatud täpsus tööstuslikuks tipptasemeks
DeciCoder-6B võime toetada kaheksat programmeerimiskeelt muudab selle mudeliks paljude rakenduste jaoks. Geifman jagas mõningaid erinevaid viise, kuidas mudelit saab kasutada.
„Tarkvaraarenduse valdkonnas võib see aidata koodi genereerimisel ja lõpuleviimisel, vähendades oluliselt arendusaega ja suurendades tootlikkust. Lisaks saab DeciCoder-6B-d kasutada programmeerimise õpetamiseks, erinevate keelte ja raskusastmete jaoks. Õpilased saavad seda kasutada oma töö kontrollimiseks ja lahendusjuhendina, ”ütles Deci Geifman Metaverse Post.
"Lisaks saab küberturvalisuse valdkonnas mudelit peenhäälestada, et aidata haavatavuse kontrollimiseks skripte kirjutada ja analüüsida ning automatiseerida turvakontrolle erinevates programmeerimiskeskkondades," lisas ta.
Koostöö Deci ja Qualcomm Tehnoloogiad tähistavad olulist sammu generatiivse AI võimsuse demokratiseerimise suunas. Optimeeritud mudelite, tõhusa tehnoloogia ja avatusele pühendumisega on partnerluse eesmärk anda arendajatele ja tööstustele üle maailma juurdepääsetavate ja kulutõhusate tehisintellekti lahendusi.
Kaebused
Vastavalt Usaldusprojekti juhised, pange tähele, et sellel lehel esitatud teave ei ole mõeldud ega tohiks tõlgendada kui juriidilist, maksu-, investeerimis-, finants- või muud nõuannet. Oluline on investeerida ainult seda, mida saate endale lubada kaotada, ja kahtluste korral küsida sõltumatut finantsnõu. Lisateabe saamiseks soovitame vaadata nõudeid ja tingimusi ning väljaandja või reklaamija pakutavaid abi- ja tugilehti. MetaversePost on pühendunud täpsele ja erapooletule aruandlusele, kuid turutingimusi võidakse ette teatamata muuta.
Umbes Autor
Kumar on kogenud tehnikaajakirjanik, kes on spetsialiseerunud AI/ML dünaamilistele ristumiskohtadele, turundustehnoloogiale ja sellistele arenevatele valdkondadele nagu krüpto, plokiahel ja NFTs. Üle 3-aastase tööstusharu kogemusega Kumar on loonud tõestatud kogemusi mõjuvate narratiivide koostamisel, läbinägelike intervjuude läbiviimisel ja põhjaliku ülevaate andmisel. Kumari teadmised seisnevad silmapaistvatele tööstusplatvormidele suure mõjuga sisu, sealhulgas artiklite, aruannete ja teaduspublikatsioonide loomisel. Unikaalse oskuste kogumiga, mis ühendab tehnilised teadmised ja jutuvestmise, suudab Kumar suurepäraselt edastada keerulisi tehnoloogilisi kontseptsioone erinevatele sihtrühmadele selgel ja kaasahaaraval viisil.
Veel artikleid
Kumar on kogenud tehnikaajakirjanik, kes on spetsialiseerunud AI/ML dünaamilistele ristumiskohtadele, turundustehnoloogiale ja sellistele arenevatele valdkondadele nagu krüpto, plokiahel ja NFTs. Üle 3-aastase tööstusharu kogemusega Kumar on loonud tõestatud kogemusi mõjuvate narratiivide koostamisel, läbinägelike intervjuude läbiviimisel ja põhjaliku ülevaate andmisel. Kumari teadmised seisnevad silmapaistvatele tööstusplatvormidele suure mõjuga sisu, sealhulgas artiklite, aruannete ja teaduspublikatsioonide loomisel. Unikaalse oskuste kogumiga, mis ühendab tehnilised teadmised ja jutuvestmise, suudab Kumar suurepäraselt edastada keerulisi tehnoloogilisi kontseptsioone erinevatele sihtrühmadele selgel ja kaasahaaraval viisil.
