Deci și Qualcomm se asociază pentru democratizarea IA generativă în toate industriile
Pe scurt
Deci a anunțat o colaborare cu Qualcomm Technologies pentru a dezvolta modele AI generative avansate pentru Qualcomm Cloud AI 100.
Compania de soluții AI Deci a anunțat o colaborare cu Qualcomm Technologies pentru a dezvolta tehnologii avansate AI generativă modele pentru Qualcomm Cloud AI 100. Colaborarea își propune să facă AI mai accesibilă pentru o gamă mai largă de aplicații și să democratizeze puterea AI generativă pentru dezvoltatori.
Prin adaptarea modelelor special pentru soluția Qualcomm Cloud AI 100, companiile intenționează să deblocheze procesarea AI rentabilă, în timp real. Cloud AI 100 este soluția Qualcomm creată pentru a optimiza performanța pentru inferența generativă AI, inclusiv modele lingvistice mari (LLM-uri).
„Unele dintre principalele provocări din peisajul actual al IA generativă se referă la disponibilitatea puterii de calcul pentru procesarea acestor modele uriașe și la costul masiv de rulare a acestora”, a declarat Yonatan Geifman, CEO și co-fondator al Deci. Metaverse Post. „Prin valorificarea modelelor Deci, utilizatorii Qualcomm pot profita la maximum de investiția lor hardware cu modele care asigură utilizarea maximă a hardware-ului, oferind în același timp viteză și precizie ridicate.”
Deci va colabora cu Qualcomm Technologies pentru a lansa două modele, și anume DeciCoder-6B și DeciDiffusion 2.0.
Potrivit anunțului, DeciCoder-6B este un model de 6 miliarde de parametri pentru generarea de cod care acceptă opt limbaje de programare și depășește modelele stabilite, menținând în același timp memoria și eficiența de calcul.
Pe de altă parte, DeciDiffusion 2.0 este un model de difuzie text-to-image cu 732 de milioane de parametri, care stabilește noi standarde prin furnizarea de imagini de înaltă calitate, cu viteză și eficiență crescute.
Ce diferențiază modelele AI ale Deci
Atunci când se utilizează LLM-uri în aplicațiile din lumea reală, este esențial să organizați eficient datele pe serverele care fac predicții. Scopul principal este de a gestiona cât mai multe solicitări ale utilizatorilor în același timp posibil. Găsirea echilibrului potrivit între cantitatea de date procesate simultan (dimensiunea lotului) și timpul necesar pentru a obține un răspuns (latență) depinde de două lucruri cheie: designul modelului și abilitățile hardware-ului utilizat pentru a face predicții.
„DeciCoder-6B are un număr mai mic de parametri decât omologii săi, ceea ce duce la o amprentă de memorie redusă și eliberând un plus de 2 GB de memorie în comparație cu modelele CodeGen 2.5 7B și cu 7 miliarde de parametri. Modelul excelează în memorie și eficiență computațională, permițând scalarea eficientă a procesării loturilor fără un consum substanțial de memorie sau creșteri notabile ale latenței”, a declarat CEO-ul Deci Yonatan Geifman.
El a explicat în continuare: „DeciDiffusion 2.0 oferă imagini de înaltă calitate cu 40% mai puține iterații și folosește o componentă U-Net mai mică și mai rapidă în comparație cu Stable Diffusion 1.5. Poate produce imagini de înaltă calitate cu mai puțini pași de difuzie în timpul procesului de inferență.”
Modelul reduce efectiv numărul de pași necesari pentru a genera o imagine de calitate de la 16 la doar 10.
Tehnologia de căutare a arhitecturii neurale a Deci – AutoNAC – a jucat un rol crucial în eficiența și scalabilitatea modelelor. Aceasta automate procesul de căutare într-un mod eficient din punct de vedere al calculului, deosebindu-l de metodele tradiționale. Această tehnologie i-a permis lui Deci să lanseze o serie de modele de ultimă generație într-un interval de timp scurt, cu cheltuieli mai mici pentru calcularea pentru instruire în comparație cu alți dezvoltatori mari de modele lingvistice.
DeciCoder-6B: Precizie personalizată pentru excelență industrială
Capacitatea DeciCoder-6B de a suporta opt limbaje de programare îl poziționează ca un model ideal pentru o gamă largă de aplicații. Geifman a împărtășit câteva dintre diversele moduri în care modelul poate fi valorificat.
„În domeniul dezvoltării software, poate ajuta la generarea și completarea codului, reducând semnificativ timpul de dezvoltare și sporind productivitatea. În plus, DeciCoder-6B poate fi folosit pentru a preda programarea, oferind o varietate de limbi și niveluri de dificultate. Elevii îl pot folosi pentru a-și verifica munca și ca manual de soluții”, a spus Geifman de la Deci Metaverse Post.
„În plus, în domeniul securității cibernetice, modelul poate fi ajustat pentru a ajuta la scrierea și analiza scripturilor pentru scanarea vulnerabilităților, cu capacitatea de a automatiza verificările de securitate în diferite medii de programare”, a adăugat el.
Colaborarea dintre Deci și Qualcomm Tehnologiile marchează un pas semnificativ către democratizarea puterii AI generative. Cu modele optimizate, tehnologie eficientă și un angajament față de deschidere, parteneriatul își propune să ofere dezvoltatorilor și industriilor din întreaga lume soluții AI accesibile și rentabile.
Declinare a responsabilităţii
În conformitate cu Ghidurile proiectului Trust, vă rugăm să rețineți că informațiile furnizate pe această pagină nu sunt destinate și nu trebuie interpretate ca fiind consiliere juridică, fiscală, investițională, financiară sau orice altă formă de consiliere. Este important să investești doar ceea ce îți poți permite să pierzi și să cauți sfaturi financiare independente dacă ai îndoieli. Pentru informații suplimentare, vă sugerăm să consultați termenii și condițiile, precum și paginile de ajutor și asistență furnizate de emitent sau agent de publicitate. MetaversePost se angajează să raporteze corecte, imparțial, dar condițiile de piață pot fi modificate fără notificare.
Despre autor
Kumar este un jurnalist tehnic cu experiență, cu o specializare în intersecțiile dinamice ale AI/ML, tehnologie de marketing și domenii emergente, cum ar fi cripto, blockchain și NFTs. Cu peste 3 ani de experiență în industrie, Kumar și-a stabilit o experiență dovedită în elaborarea de narațiuni convingătoare, realizarea de interviuri perspicace și furnizarea de informații cuprinzătoare. Expertiza lui Kumar constă în producerea de conținut de mare impact, inclusiv articole, rapoarte și publicații de cercetare pentru platforme proeminente din industrie. Cu un set unic de abilități care combină cunoștințele tehnice și povestirea, Kumar excelează în comunicarea conceptelor tehnologice complexe către diverse audiențe într-o manieră clară și captivantă.
Mai multe articole
Kumar este un jurnalist tehnic cu experiență, cu o specializare în intersecțiile dinamice ale AI/ML, tehnologie de marketing și domenii emergente, cum ar fi cripto, blockchain și NFTs. Cu peste 3 ani de experiență în industrie, Kumar și-a stabilit o experiență dovedită în elaborarea de narațiuni convingătoare, realizarea de interviuri perspicace și furnizarea de informații cuprinzătoare. Expertiza lui Kumar constă în producerea de conținut de mare impact, inclusiv articole, rapoarte și publicații de cercetare pentru platforme proeminente din industrie. Cu un set unic de abilități care combină cunoștințele tehnice și povestirea, Kumar excelează în comunicarea conceptelor tehnologice complexe către diverse audiențe într-o manieră clară și captivantă.
