Deci in Qualcomm sodelujeta pri demokratizaciji generativne umetne inteligence v panogah
Na kratko
Deci je napovedal sodelovanje s podjetjem Qualcomm Technologies za razvoj naprednih generativnih modelov AI za Qualcomm Cloud AI 100.
Podjetje za rešitve umetne inteligence Deci je napovedalo sodelovanje s podjetjem Qualcomm Technologies za razvoj naprednih rešitev generativni AI modeli za Qualcomm Cloud AI 100. Namen sodelovanja je narediti umetno inteligenco bolj dostopno za širši nabor aplikacij in demokratizirati moč generativne umetne inteligence za razvijalce.
S prilagajanjem modelov posebej za rešitev Qualcomm Cloud AI 100 nameravata podjetji odkleniti stroškovno učinkovito obdelavo AI v realnem času. Cloud AI 100 je Qualcommova rešitev, ustvarjena za optimizacijo zmogljivosti za generativno sklepanje AI, vključno z veliki jezikovni modeli (LLM).
"Nekateri glavni izzivi v trenutni generativni krajini umetne inteligence so povezani z razpoložljivostjo računalniške moči za obdelavo teh ogromnih modelov in ogromnimi stroški za njihovo izvajanje," je povedal Yonatan Geifman, izvršni direktor in soustanovitelj podjetja Deci. Metaverse Post. "Z izkoriščanjem modelov Deci lahko uporabniki Qualcomma kar najbolje izkoristijo svojo naložbo v strojno opremo z modeli, ki zagotavljajo maksimalno uporabo strojne opreme, hkrati pa zagotavljajo visoko hitrost in natančnost."
Deci bo sodeloval s podjetjem Qualcomm Technologies pri lansiranju dveh modelov, in sicer DeciCoder-6B in DeciDiffusion 2.0.
Glede na objavo je DeciCoder-6B model s 6 milijardami parametrov za generiranje kode, ki podpira osem programskih jezikov in prekaša uveljavljene modele, hkrati pa ohranja pomnilniško in računalniško učinkovitost.
Po drugi strani pa je DeciDiffusion 2.0 model razširjanja besedila v sliko s 732 milijoni parametrov, ki postavlja nove standarde z zagotavljanjem visokokakovostnih slik s povečano hitrostjo in učinkovitostjo.
Kaj ločuje Decijeve modele umetne inteligence
Pri uporabi LLM v aplikacijah v realnem svetu je ključnega pomena učinkovito organiziranje podatkov na strežnikih, ki dajejo napovedi. Glavni cilj je obravnavati čim več zahtev uporabnikov hkrati. Iskanje pravega ravnovesja med količino obdelanih podatkov naenkrat (velikost paketa) in časom, ki je potreben za pridobitev odgovora (zakasnitev), je odvisno od dveh ključnih stvari: zasnove modela in zmogljivosti strojne opreme, ki se uporablja za napovedovanje.
»DeciCoder-6B ima manjše število parametrov kot njegovi primerki, kar ima za posledico zmanjšan pomnilniški odtis in sprosti dodatnih 2 GB pomnilnika v primerjavi s CodeGen 2.5 7B in modeli s 7 milijardami parametrov. Model se odlikuje po pomnilniški in računalniški učinkovitosti, kar omogoča učinkovito skaliranje paketne obdelave brez znatne porabe pomnilnika ali opaznega povečanja zakasnitve,« je povedal izvršni direktor družbe Deci Yonatan Geifman.
Nadalje je pojasnil: »DeciDiffusion 2.0 zagotavlja visokokakovostne slike v 40 % manj iteracijah in uporablja manjšo in hitrejšo komponento U-Net v primerjavi z Stable Diffusion 1.5. Ustvari lahko visokokakovostne slike z manj časovnimi koraki difuzije med postopkom sklepanja.«
Model učinkovito zmanjša število korakov, potrebnih za ustvarjanje kakovostne slike, s 16 na samo 10.
Decijeva tehnologija iskanja nevronske arhitekture – AutoNAC – je igrala ključno vlogo pri učinkovitosti in razširljivosti modelov. To avtomatizira proces iskanja na računalniško učinkovit način, ki ga ločuje od tradicionalnih metod. Ta tehnologija je Deciju omogočila, da je izdal vrsto najsodobnejših modelov v kratkem časovnem okviru z nižjo porabo računalništva za usposabljanje v primerjavi z drugimi velikimi razvijalci jezikovnih modelov.
DeciCoder-6B: Prilagojena natančnost za industrijsko odličnost
Sposobnost DeciCoder-6B, da podpira osem programskih jezikov, ga postavlja kot model za široko paleto aplikacij. Geifman je delil nekaj različnih načinov, na katere je mogoče uporabiti model.
»Na področju razvoja programske opreme lahko pomaga pri generiranju kode in dokončanju kode, kar bistveno skrajša čas razvoja in poveča produktivnost. Poleg tega se lahko DeciCoder-6B uporablja za poučevanje programiranja, ki skrbi za različne jezike in težavnostne stopnje. Študenti ga lahko uporabljajo za preverjanje svojega dela in kot priročnik za rešitev,« je povedal Geifman iz podjetja Deci Metaverse Post.
"Poleg tega je na področju kibernetske varnosti model mogoče natančno prilagoditi za pomoč pri pisanju in analizi skriptov za skeniranje ranljivosti, z možnostjo avtomatiziranja varnostnih pregledov v različnih programskih okoljih," je dodal.
Sodelovanje med Decijem in Qualcomm Tehnologije pomenijo pomemben korak k demokratizaciji moči generativne umetne inteligence. Z optimiziranimi modeli, učinkovito tehnologijo in zavezanostjo odprtosti želi partnerstvo opolnomočiti razvijalce in industrije po vsem svetu z dostopnimi in stroškovno učinkovitimi rešitvami umetne inteligence.
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Kumar je izkušen tehnični novinar, specializiran za dinamična presečišča AI/ML, marketinške tehnologije in nastajajočih področij, kot so kripto, blockchain in NFTs. Z več kot 3 leti izkušenj v panogi je Kumar pridobil dokazane rezultate pri oblikovanju privlačnih pripovedi, vodenju pronicljivih intervjujev in zagotavljanju celovitih vpogledov. Kumarjevo strokovno znanje je v izdelavi odmevnih vsebin, vključno s članki, poročili in raziskovalnimi publikacijami za pomembne industrijske platforme. Z edinstvenim naborom spretnosti, ki združuje tehnično znanje in pripovedovanje zgodb, se Kumar odlikuje pri sporočanju zapletenih tehnoloških konceptov različnim občinstvom na jasen in privlačen način.
več člankov
Kumar je izkušen tehnični novinar, specializiran za dinamična presečišča AI/ML, marketinške tehnologije in nastajajočih področij, kot so kripto, blockchain in NFTs. Z več kot 3 leti izkušenj v panogi je Kumar pridobil dokazane rezultate pri oblikovanju privlačnih pripovedi, vodenju pronicljivih intervjujev in zagotavljanju celovitih vpogledov. Kumarjevo strokovno znanje je v izdelavi odmevnih vsebin, vključno s članki, poročili in raziskovalnimi publikacijami za pomembne industrijske platforme. Z edinstvenim naborom spretnosti, ki združuje tehnično znanje in pripovedovanje zgodb, se Kumar odlikuje pri sporočanju zapletenih tehnoloških konceptov različnim občinstvom na jasen in privlačen način.
