Deci at Qualcomm Partner to Democratize Generative AI Across Industries
Sa madaling sabi
Inihayag ni Deci ang pakikipagtulungan sa Qualcomm Technologies upang bumuo ng mga advanced na generative AI models para sa Qualcomm Cloud AI 100.
Ang kumpanya ng AI solutions na si Deci ay nag-anunsyo ng pakikipagtulungan sa Qualcomm Technologies upang bumuo ng advanced generative AI mga modelo para sa Qualcomm Cloud AI 100. Nilalayon ng pakikipagtulungan na gawing mas madaling ma-access ang AI para sa mas malawak na hanay ng mga application at gawing demokrasya ang kapangyarihan ng generative AI para sa mga developer.
Sa pamamagitan ng pag-angkop ng mga modelo na partikular para sa solusyon ng Qualcomm Cloud AI 100, nilalayon ng mga kumpanya na i-unlock ang cost-effective, real-time na pagproseso ng AI. Ang Cloud AI 100 ay ang solusyon ng Qualcomm na binuo para i-optimize ang performance para sa generative AI inferencing kasama na malalaking modelo ng wika (LLMs).
"Ang ilan sa mga pangunahing hamon sa kasalukuyang generative AI landscape ay nauugnay sa pagkakaroon ng computing power para sa pagproseso ng mga malalaking modelong ito at ang napakalaking gastos sa pagpapatakbo ng mga ito," sabi ni Yonatan Geifman, CEO at co-founder ng Deci. Metaverse Post. "Sa pamamagitan ng paggamit ng mga modelo ng Deci, ang mga gumagamit ng Qualcomm ay maaaring masulit ang kanilang pamumuhunan sa hardware gamit ang mga modelo na nagsisiguro ng pinakamataas na paggamit ng hardware habang naghahatid ng mataas na bilis at katumpakan."
Makikipagtulungan si Deci sa Qualcomm Technologies upang ilunsad ang dalawang modelo, ang DeciCoder-6B at DeciDiffusion 2.0.
Ayon sa anunsyo, ang DeciCoder-6B ay isang 6 na bilyong modelo ng parameter para sa pagbuo ng code na sumusuporta sa walong programming language at higit na gumaganap sa mga naitatag na modelo habang pinapanatili ang memorya at kahusayan sa pag-compute.
Sa kabilang banda, ang DeciDiffusion 2.0 ay isang 732 milyong parameter na text-to-image diffusion na modelo, na nagtatakda ng mga bagong pamantayan sa pamamagitan ng paghahatid ng mga de-kalidad na larawan na may tumaas na bilis at kahusayan.
Ano ang Nagbubukod sa Mga Modelo ng AI ni Deci
Kapag gumagamit Mga LLM sa mga real-world na application, napakahalaga na mahusay na ayusin ang data sa mga server na gumagawa ng mga hula. Ang pangunahing layunin ay upang mahawakan ang maraming mga kahilingan ng user nang sabay-sabay hangga't maaari. Ang paghahanap ng tamang balanse sa pagitan ng dami ng data na naproseso nang sabay-sabay (laki ng batch) at ang oras na kinakailangan upang makakuha ng tugon (latency) ay nakasalalay sa dalawang pangunahing bagay: ang disenyo ng modelo at ang mga kakayahan ng hardware na ginagamit para sa paggawa ng mga hula.
"Ang DeciCoder-6B ay may mas maliit na bilang ng parameter kaysa sa mga katapat nito, na nagreresulta sa isang pinababang memory footprint at nagpapalaya ng dagdag na 2GB ng memory kumpara sa CodeGen 2.5 7B at 7 bilyong modelo ng parameter. Ang modelo ay mahusay sa memorya at kahusayan sa pag-compute, na nagbibigay-daan para sa epektibong pag-scale ng pagproseso ng batch nang walang malaking pagkonsumo ng memorya o kapansin-pansing pagtaas sa latency," sabi ng CEO ng Deci na si Yonatan Geifman.
Ipinaliwanag pa niya, "Ang DeciDiffusion 2.0 ay naghahatid ng mataas na kalidad na mga imahe sa 40% na mas kaunting mga pag-ulit at gumagamit ng mas maliit at mas mabilis na bahagi ng U-Net kumpara sa Stable Diffusion 1.5. Makakagawa ito ng mga de-kalidad na larawan na may mas kaunting diffusion timestep sa panahon ng proseso ng inference."
Epektibong binabawasan ng modelo ang bilang ng mga hakbang na kailangan upang makabuo ng de-kalidad na imahe mula 16 hanggang 10 lang.
Ang Teknolohiya ng Paghahanap ng Neural Architecture ng Deci - AutoNAC - ay gumanap ng mahalagang papel sa kahusayan at scalability ng mga modelo. Ito awtomatiko ang proseso ng paghahanap sa paraang mahusay sa pagkalkula, na itinatakda ito sa mga tradisyonal na pamamaraan. Ang teknolohiyang ito ay nagbigay-daan sa Deci na maglabas ng isang serye ng mga makabagong modelo sa loob ng maikling panahon, na may mas mababang paggastos sa pag-compute para sa pagsasanay kumpara sa iba pang malalaking developer ng modelo ng wika.
DeciCoder-6B: Iniangkop na Katumpakan para sa Kahusayan sa Industriya
Ang kakayahan ng DeciCoder-6B na suportahan ang walong programming language ay naglalagay nito bilang isang go-to model para sa malawak na hanay ng mga application. Ibinahagi ni Geifman ang ilan sa mga magkakaibang paraan na magagamit ang modelo.
“Sa larangan ng software development, makakatulong ito sa pagbuo ng code at pagkumpleto ng code, na makabuluhang bawasan ang oras ng pag-develop at pagpapahusay ng produktibidad. Dagdag pa, ang DeciCoder-6B ay maaaring gamitin upang magturo ng programming, na tumutugon sa iba't ibang wika at antas ng kahirapan. Magagamit ito ng mga mag-aaral upang suriin ang kanilang trabaho at bilang isang manwal ng solusyon," sabi ni Geifman ni Deci Metaverse Post.
"Bukod pa rito, sa larangan ng cybersecurity, ang modelo ay maaaring maayos na tumulong sa pagsulat at pagsusuri ng mga script para sa pag-scan ng kahinaan, na may kakayahang i-automate ang mga pagsusuri sa seguridad sa iba't ibang kapaligiran ng programming," dagdag niya.
Ang pagtutulungan nina Deci at Qualcomm Ang mga teknolohiya ay nagmamarka ng isang makabuluhang hakbang patungo sa demokrasya sa kapangyarihan ng Generative AI. Gamit ang mga naka-optimize na modelo, mahusay na teknolohiya, at isang pangako sa pagiging bukas, ang partnership ay naglalayong bigyan ng kapangyarihan ang mga developer at industriya sa buong mundo gamit ang naa-access at cost-effective na mga solusyon sa AI.
Pagtanggi sa pananagutan
Sa linya na may Mga alituntunin ng Trust Project, pakitandaan na ang impormasyong ibinigay sa pahinang ito ay hindi nilayon at hindi dapat bigyang-kahulugan bilang legal, buwis, pamumuhunan, pananalapi, o anumang iba pang paraan ng payo. Mahalagang mamuhunan lamang kung ano ang maaari mong mawala at humingi ng independiyenteng payo sa pananalapi kung mayroon kang anumang mga pagdududa. Para sa karagdagang impormasyon, iminumungkahi naming sumangguni sa mga tuntunin at kundisyon pati na rin sa mga pahina ng tulong at suporta na ibinigay ng nagbigay o advertiser. MetaversePost ay nakatuon sa tumpak, walang pinapanigan na pag-uulat, ngunit ang mga kondisyon ng merkado ay maaaring magbago nang walang abiso.
Tungkol sa Ang May-akda
Si Kumar ay isang makaranasang Tech Journalist na may espesyalisasyon sa mga dynamic na intersection ng AI/ML, teknolohiya sa marketing, at mga umuusbong na larangan tulad ng crypto, blockchain, at NFTs. Sa mahigit 3 taong karanasan sa industriya, si Kumar ay nagtatag ng isang napatunayang track record sa paggawa ng mga nakakahimok na salaysay, pagsasagawa ng mga insightful na panayam, at paghahatid ng mga komprehensibong insight. Ang kadalubhasaan ni Kumar ay nakasalalay sa paggawa ng nilalamang may mataas na epekto, kabilang ang mga artikulo, ulat, at mga publikasyong pananaliksik para sa mga kilalang platform ng industriya. Sa isang natatanging hanay ng kasanayan na pinagsasama ang teknikal na kaalaman at pagkukuwento, mahusay si Kumar sa pakikipag-usap ng mga kumplikadong teknolohikal na konsepto sa magkakaibang mga madla sa isang malinaw at nakakaengganyo na paraan.
Mas marami pang artikulo
Si Kumar ay isang makaranasang Tech Journalist na may espesyalisasyon sa mga dynamic na intersection ng AI/ML, teknolohiya sa marketing, at mga umuusbong na larangan tulad ng crypto, blockchain, at NFTs. Sa mahigit 3 taong karanasan sa industriya, si Kumar ay nagtatag ng isang napatunayang track record sa paggawa ng mga nakakahimok na salaysay, pagsasagawa ng mga insightful na panayam, at paghahatid ng mga komprehensibong insight. Ang kadalubhasaan ni Kumar ay nakasalalay sa paggawa ng nilalamang may mataas na epekto, kabilang ang mga artikulo, ulat, at mga publikasyong pananaliksik para sa mga kilalang platform ng industriya. Sa isang natatanging hanay ng kasanayan na pinagsasama ang teknikal na kaalaman at pagkukuwento, mahusay si Kumar sa pakikipag-usap ng mga kumplikadong teknolohikal na konsepto sa magkakaibang mga madla sa isang malinaw at nakakaengganyo na paraan.
