Deci un Qualcomm partneris, lai demokratizētu ģeneratīvo AI visās nozarēs
Īsumā
Deci paziņoja par sadarbību ar Qualcomm Technologies, lai izstrādātu uzlabotus ģeneratīvos AI modeļus Qualcomm Cloud AI 100.
AI risinājumu uzņēmums Deci paziņoja par sadarbību ar Qualcomm Technologies, lai izstrādātu progresīvus ģeneratīvais AI modeļi Qualcomm Cloud AI 100. Sadarbības mērķis ir padarīt AI pieejamāku plašākam lietojumu klāstam un demokratizēt ģeneratīvā AI jaudu izstrādātājiem.
Pielāgojot modeļus īpaši Qualcomm Cloud AI 100 risinājumam, uzņēmumi plāno atbloķēt rentablu, reāllaika AI apstrādi. Cloud AI 100 ir Qualcomm risinājums, kas izstrādāts, lai optimizētu veiktspēju ģeneratīvai AI secināšanai, tostarp lieli valodu modeļi (LLM).
"Dažas no galvenajām problēmām pašreizējā ģeneratīvā AI ainavā ir saistītas ar skaitļošanas jaudas pieejamību šo milzīgo modeļu apstrādei un milzīgajām izmaksām, lai tos darbinātu," sacīja Yonatan Geifman, Deci izpilddirektors un līdzdibinātājs. Metaverse Post. "Izmantojot Deci modeļus, Qualcomm lietotāji var gūt maksimālu labumu no ieguldījumiem aparatūrā, izmantojot modeļus, kas nodrošina maksimālu aparatūras izmantošanu, vienlaikus nodrošinot lielu ātrumu un precizitāti."
Deci sadarbosies ar Qualcomm Technologies, lai palaistu divus modeļus, proti, DeciCoder-6B un DeciDiffusion 2.0.
Saskaņā ar paziņojumu DeciCoder-6B ir 6 miljardu parametru modelis koda ģenerēšanai, kas atbalsta astoņas programmēšanas valodas un pārspēj izveidotos modeļus, vienlaikus saglabājot atmiņu un skaitļošanas efektivitāti.
No otras puses, DeciDiffusion 2.0 ir 732 miljonu parametru teksta-attēlu difūzijas modelis, kas nosaka jaunus standartus, nodrošinot augstas kvalitātes attēlus ar lielāku ātrumu un efektivitāti.
Kas atšķir Deci AI modeļus
Lietojot LLM reālās pasaules lietojumprogrammās ir ļoti svarīgi efektīvi organizēt datus serveros, kas veido prognozes. Galvenais mērķis ir apstrādāt pēc iespējas vairāk lietotāju pieprasījumu vienlaikus. Pareizā līdzsvara atrašana starp vienlaikus apstrādāto datu apjomu (partijas lielumu) un atbildes saņemšanai nepieciešamo laiku (latenci) ir atkarīga no divām galvenajām lietām: modeļa dizaina un prognožu veikšanai izmantotās aparatūras iespējām.
“DeciCoder-6B ir mazāks parametru skaits nekā tā kolēģiem, kā rezultātā tiek samazināts atmiņas apjoms un tiek atbrīvots papildu 2 GB atmiņa salīdzinājumā ar CodeGen 2.5 7B un 7 miljardu parametru modeļiem. Modelis ir izcils ar atmiņu un skaitļošanas efektivitāti, ļaujot efektīvi mērogot pakešapstrādi bez ievērojama atmiņas patēriņa vai ievērojama latentuma pieauguma, ”sacīja Deci izpilddirektors Yonatan Geifman.
Viņš arī paskaidroja: "DeciDiffusion 2.0 nodrošina augstas kvalitātes attēlus ar 40% mazāku iterāciju skaitu un izmanto mazāku un ātrāku U-Net komponentu, salīdzinot ar Stable Diffusion 1.5. Tas var radīt augstas kvalitātes attēlus ar mazākiem difūzijas laika posmiem secinājumu procesā.
Modelis efektīvi samazina kvalitatīva attēla ģenerēšanai nepieciešamo darbību skaitu no 16 līdz 10.
Deci neironu arhitektūras meklēšanas tehnoloģijai AutoNAC ir bijusi izšķiroša nozīme modeļu efektivitātē un mērogojamībā. Tas automatizē meklēšanas procesu skaitļošanas ziņā efektīvi, atšķirot to no tradicionālajām metodēm. Šī tehnoloģija ļāva uzņēmumam Deci īsā laikā izlaist virkni vismodernāko modeļu ar mazākiem izdevumiem apmācībai, salīdzinot ar citiem lieliem valodu modeļu izstrādātājiem.
DeciCoder-6B: pielāgota precizitāte rūpnieciskai izcilībai
DeciCoder-6B spēja atbalstīt astoņas programmēšanas valodas padara to par piemērotu modeli plašam lietojumu klāstam. Geifmans dalījās ar dažiem dažādiem veidiem, kā modeli var izmantot.
“Programmatūras izstrādes jomā tas var palīdzēt koda ģenerēšanā un koda pabeigšanā, ievērojami samazinot izstrādes laiku un uzlabojot produktivitāti. Turklāt DeciCoder-6B var izmantot, lai mācītu programmēšanu, ēdināšanu dažādās valodās un grūtības līmeņos. Studenti to var izmantot, lai pārbaudītu savu darbu un kā risinājumu rokasgrāmatu, ”sacīja Deci's Geifman Metaverse Post.
"Turklāt kiberdrošības jomā modeli var precīzi noregulēt, lai palīdzētu rakstīt un analizēt skriptus ievainojamības skenēšanai, ar iespēju automatizēt drošības pārbaudes dažādās programmēšanas vidēs," viņš piebilda.
Sadarbība starp Deci un Qualcomm Tehnoloģijas iezīmē nozīmīgu soli ceļā uz ģeneratīvā AI jaudas demokratizāciju. Ar optimizētiem modeļiem, efektīvām tehnoloģijām un apņemšanos nodrošināt atvērtību partnerības mērķis ir nodrošināt izstrādātājus un nozares visā pasaulē ar pieejamiem un izmaksu ziņā efektīviem AI risinājumiem.
Atbildības noraidīšana
Atbilstīgi Uzticības projekta vadlīnijas, lūdzu, ņemiet vērā, ka šajā lapā sniegtā informācija nav paredzēta un to nedrīkst interpretēt kā juridisku, nodokļu, ieguldījumu, finanšu vai jebkāda cita veida padomu. Ir svarīgi ieguldīt tikai to, ko varat atļauties zaudēt, un meklēt neatkarīgu finanšu padomu, ja jums ir šaubas. Lai iegūtu papildinformāciju, iesakām skatīt pakalpojumu sniegšanas noteikumus, kā arī palīdzības un atbalsta lapas, ko nodrošina izdevējs vai reklāmdevējs. MetaversePost ir apņēmies sniegt precīzus, objektīvus pārskatus, taču tirgus apstākļi var tikt mainīti bez iepriekšēja brīdinājuma.
Par Autors
Kumars ir pieredzējis tehnoloģiju žurnālists ar specializāciju AI/ML dinamiskos krustpunktos, mārketinga tehnoloģijās un tādās jaunās jomās kā kriptovalūta, blokķēde un NFTs. Ar vairāk nekā 3 gadu pieredzi šajā nozarē Kumar ir izveidojis pierādītus sasniegumus pārliecinošu stāstījumu veidošanā, ieskatu interviju vadīšanā un visaptverošu ieskatu sniegšanā. Kumar kompetence slēpjas augstas ietekmes satura, tostarp rakstu, ziņojumu un pētījumu publikāciju veidošanā ievērojamām nozares platformām. Ar unikālu prasmju kopumu, kas apvieno tehniskās zināšanas un stāstu stāstīšanu, Kumars izceļas ar sarežģītu tehnoloģisku koncepciju nodošanu dažādām auditorijām skaidrā un saistošā veidā.
Vairāk rakstus
Kumars ir pieredzējis tehnoloģiju žurnālists ar specializāciju AI/ML dinamiskos krustpunktos, mārketinga tehnoloģijās un tādās jaunās jomās kā kriptovalūta, blokķēde un NFTs. Ar vairāk nekā 3 gadu pieredzi šajā nozarē Kumar ir izveidojis pierādītus sasniegumus pārliecinošu stāstījumu veidošanā, ieskatu interviju vadīšanā un visaptverošu ieskatu sniegšanā. Kumar kompetence slēpjas augstas ietekmes satura, tostarp rakstu, ziņojumu un pētījumu publikāciju veidošanā ievērojamām nozares platformām. Ar unikālu prasmju kopumu, kas apvieno tehniskās zināšanas un stāstu stāstīšanu, Kumars izceļas ar sarežģītu tehnoloģisku koncepciju nodošanu dažādām auditorijām skaidrā un saistošā veidā.
