Deci ja Qualcomm-kumppani demokratisoivat generatiivista tekoälyä eri aloilla
Lyhyesti
Deci ilmoitti yhteistyöstä Qualcomm Technologiesin kanssa kehittääkseen edistyneitä generatiivisia tekoälymalleja Qualcomm Cloud AI 100:lle.
AI-ratkaisuyritys Deci ilmoitti yhteistyöstä Qualcomm Technologiesin kanssa edistyneiden kehittämiseksi generatiivinen tekoäly malleja Qualcomm Cloud AI 100:lle. Yhteistyön tavoitteena on tehdä tekoäly helpommin saavutettavissa useammille sovelluksille ja demokratisoida kehittäjien luovan tekoälyn teho.
Räätälöimällä malleja erityisesti Qualcomm Cloud AI 100 -ratkaisulle, yritykset aikovat vapauttaa kustannustehokkaan, reaaliaikaisen tekoälyn käsittelyn. Cloud AI 100 on Qualcommin ratkaisu, joka on suunniteltu optimoimaan suorituskykyä generatiiviseen tekoälypäätelmään, mukaan lukien suuria kielimalleja (LLM:t).
"Jotkut nykyisen generatiivisen tekoälymaailman tärkeimmistä haasteista liittyvät laskentatehon saatavuuteen näiden valtavien mallien käsittelyyn ja niiden käyttökustannuksiin", Yonatan Geifman, Decin toimitusjohtaja ja perustaja kertoi. Metaverse Post. "Hyödyntämällä Decin malleja Qualcommin käyttäjät voivat saada kaiken irti laitteistosijoituksestaan malleilla, jotka varmistavat laitteiston maksimaalisen käyttöasteen ja tarjoavat suuren nopeuden ja tarkkuuden."
Deci tekee yhteistyötä Qualcomm Technologiesin kanssa kahden mallin julkaisemiseksi, nimittäin DeciCoder-6B:n ja DeciDiffusion 2.0:n.
Ilmoituksen mukaan DeciCoder-6B on 6 miljardin parametrin malli koodin luomiseen, joka tukee kahdeksaa ohjelmointikieltä ja ylittää vakiintuneet mallit säilyttäen samalla muistin ja laskentatehokkuuden.
Toisaalta DeciDiffusion 2.0 on 732 miljoonan parametrin tekstistä kuvaksi diffuusiomalli, joka asettaa uudet standardit tuottamalla korkealaatuisia kuvia entistä nopeammin ja tehokkaammin.
Mikä erottaa Decin tekoälymallit muista
Käytettäessä LLM:t reaalimaailman sovelluksissa on ratkaisevan tärkeää järjestää tiedot tehokkaasti palvelimilla, jotka tekevät ennusteita. Päätavoitteena on käsitellä mahdollisimman monta käyttäjän pyyntöä samanaikaisesti. Oikean tasapainon löytäminen kerralla käsitellyn datan määrän (eräkoko) ja vastauksen saamiseen kuluvan ajan (latenssi) välillä riippuu kahdesta keskeisestä asiasta: mallin suunnittelusta ja ennusteiden tekemiseen käytetyn laitteiston kyvyistä.
"DeciCoder-6B:n parametrien määrä on pienempi kuin vastaavissa, mikä pienentää muistitilaa ja vapauttaa 2 Gt ylimääräistä muistia CodeGen 2.5 7B:hen ja 7 miljardin parametrimalliin verrattuna. Malli on erinomainen muistin ja laskentatehokkuuden suhteen, mikä mahdollistaa tehokkaan eräkäsittelyn skaalauksen ilman merkittävää muistinkulutusta tai huomattavaa latenssin kasvua", sanoi Decin toimitusjohtaja Yonatan Geifman.
Hän selitti edelleen: "DeciDiffusion 2.0 tuottaa korkealaatuisia kuvia 40 % vähemmillä iteraatioilla ja käyttää pienempää ja nopeampaa U-Net-komponenttia verrattuna Stable Diffusion 1.5. Se voi tuottaa korkealaatuisia kuvia pienemmillä diffuusioaikavaiheilla päättelyprosessin aikana."
Malli vähentää tehokkaasti laadukkaan kuvan luomiseen tarvittavien vaiheiden määrän 16:sta vain 10:een.
Decin Neural Architecture Search Technology – AutoNAC – on ollut ratkaisevassa roolissa mallien tehokkuudessa ja skaalautuvuuden kannalta. Se automaatti hakuprosessin laskennallisesti tehokkaalla tavalla erottaen sen perinteisistä menetelmistä. Tämän tekniikan ansiosta Deci pystyi julkaisemaan joukon huippuluokan malleja lyhyessä ajassa, ja koulutukseen käytettävät tietokoneet ovat pienemmät kuin muut suuret kielimallien kehittäjät.
DeciCoder-6B: Räätälöity tarkkuus teolliseen erinomaisuuteen
DeciCoder-6B:n kyky tukea kahdeksaa ohjelmointikieltä asettaa sen malliksi monenlaisiin sovelluksiin. Geifman kertoi useista eri tavoista, joilla mallia voidaan hyödyntää.
”Ohjelmistokehitysalalla se voi auttaa koodin luomisessa ja viimeistelyssä, mikä vähentää merkittävästi kehitysaikaa ja lisää tuottavuutta. Lisäksi DeciCoder-6B:tä voidaan käyttää ohjelmoinnin opettamiseen, useiden eri kielten ja vaikeustasojen tarjoamiseen. Opiskelijat voivat käyttää sitä työnsä tarkistamiseen ja ratkaisuoppaana", sanoi Decin Geifman Metaverse Post.
"Lisäksi kyberturvallisuuden alalla mallia voidaan hienosäätää auttamaan haavoittuvuustarkistuksen komentosarjojen kirjoittamisessa ja analysoinnissa, ja se pystyy automatisoimaan tietoturvatarkistuksia eri ohjelmointiympäristöissä", hän lisäsi.
Yhteistyö Decin ja Qualcomm Technologies on merkittävä askel kohti generatiivisen tekoälyn voiman demokratisoimista. Optimoiduilla malleilla, tehokkaalla teknologialla ja sitoutumisella avoimuuteen kumppanuuden tavoitteena on antaa kehittäjille ja teollisuudelle maailmanlaajuisesti käyttöön helppokäyttöisiä ja kustannustehokkaita tekoälyratkaisuja.
Vastuun kieltäminen
Mukaisesti Luottamusprojektin ohjeetHuomaa, että tällä sivulla annettuja tietoja ei ole tarkoitettu eikä niitä tule tulkita oikeudellisiksi, verotukselliseksi, sijoitus-, rahoitus- tai minkään muun muodon neuvoiksi. On tärkeää sijoittaa vain sen verran, mitä sinulla on varaa menettää, ja pyytää riippumatonta talousneuvontaa, jos sinulla on epäilyksiä. Lisätietoja saat käyttöehdoista sekä myöntäjän tai mainostajan tarjoamista ohje- ja tukisivuista. MetaversePost on sitoutunut tarkkaan, puolueettomaan raportointiin, mutta markkinaolosuhteet voivat muuttua ilman erillistä ilmoitusta.
Author
Kumar on kokenut teknologiatoimittaja, joka on erikoistunut AI/ML:n dynaamisiin risteyksiin, markkinointiteknologiaan ja nouseviin aloihin, kuten krypto-, lohkoketju- ja NFTs. Yli 3 vuoden kokemuksella alalta Kumar on saavuttanut todistetun ennätyksen vakuuttavien tarinoiden laatimisessa, oivaltavien haastattelujen tekemisessä ja kattavien näkemysten toimittamisessa. Kumarin asiantuntemus perustuu vaikuttavan sisällön tuottamiseen, mukaan lukien artikkeleita, raportteja ja tutkimusjulkaisuja merkittäville alan alustoille. Ainutlaatuisella taitosarjalla, jossa yhdistyvät tekninen tietämys ja tarinankerronta, Kumar on erinomainen kommunikoimaan monimutkaisia teknologisia käsitteitä eri yleisöille selkeällä ja mukaansatempaavalla tavalla.
lisää artikkeleita
Kumar on kokenut teknologiatoimittaja, joka on erikoistunut AI/ML:n dynaamisiin risteyksiin, markkinointiteknologiaan ja nouseviin aloihin, kuten krypto-, lohkoketju- ja NFTs. Yli 3 vuoden kokemuksella alalta Kumar on saavuttanut todistetun ennätyksen vakuuttavien tarinoiden laatimisessa, oivaltavien haastattelujen tekemisessä ja kattavien näkemysten toimittamisessa. Kumarin asiantuntemus perustuu vaikuttavan sisällön tuottamiseen, mukaan lukien artikkeleita, raportteja ja tutkimusjulkaisuja merkittäville alan alustoille. Ainutlaatuisella taitosarjalla, jossa yhdistyvät tekninen tietämys ja tarinankerronta, Kumar on erinomainen kommunikoimaan monimutkaisia teknologisia käsitteitä eri yleisöille selkeällä ja mukaansatempaavalla tavalla.
