Deci и Qualcomm си партнират за демократизиране на генеративния AI в индустриите
Накратко
Deci обяви сътрудничество с Qualcomm Technologies за разработване на усъвършенствани генеративни AI модели за Qualcomm Cloud AI 100.
Компанията за AI решения Deci обяви сътрудничество с Qualcomm Technologies за разработване на напреднали генеративен AI модели за Qualcomm Cloud AI 100. Сътрудничеството цели да направи AI по-достъпен за по-широк набор от приложения и да демократизира силата на генеративния AI за разработчиците.
Чрез адаптиране на модели специално за решението Qualcomm Cloud AI 100, компаниите възнамеряват да отключат рентабилна обработка на AI в реално време. Cloud AI 100 е решение на Qualcomm, създадено за оптимизиране на производителността за генериране на AI изводи, включително големи езикови модели (LLM).
„Някои от основните предизвикателства в сегашния генеративен AI пейзаж са свързани с наличието на изчислителна мощност за обработката на тези огромни модели и огромните разходи за тяхното управление“, каза Йонатан Гайфман, главен изпълнителен директор и съосновател на Deci Metaverse Post. „Като използват моделите на Deci, потребителите на Qualcomm могат да извлекат максимума от своята хардуерна инвестиция с модели, които осигуряват максимално използване на хардуера, като същевременно осигуряват висока скорост и точност.“
Deci ще работи с Qualcomm Technologies за пускането на два модела, а именно DeciCoder-6B и DeciDiffusion 2.0.
Според съобщението, DeciCoder-6B е модел с 6 милиарда параметъра за генериране на код, поддържащ осем езика за програмиране и превъзхожда установените модели, като същевременно запазва ефективността на паметта и изчисленията.
От друга страна, DeciDiffusion 2.0 е модел за разпространение на текст към изображение със 732 милиона параметъра, който поставя нови стандарти, като предоставя висококачествени изображения с повишена скорост и ефективност.
Какво отличава AI моделите на Deci
При използване LLM в приложенията от реалния свят е от решаващо значение да се организират ефективно данните на сървърите, които правят прогнози. Основната цел е да се обработват възможно най-много потребителски заявки по едно и също време. Намирането на правилния баланс между количеството данни, обработвани наведнъж (размер на пакета) и времето, необходимо за получаване на отговор (закъснение), зависи от две ключови неща: дизайна на модела и възможностите на хардуера, използван за правене на прогнози.
„DeciCoder-6B има по-малък брой параметри от своите аналози, което води до намален отпечатък на паметта и освобождаване на допълнителни 2GB памет в сравнение с CodeGen 2.5 7B и моделите със 7 милиарда параметри. Моделът превъзхожда по отношение на паметта и изчислителната ефективност, позволявайки ефективно мащабиране на пакетната обработка без значителна консумация на памет или забележимо увеличаване на латентността“, каза главният изпълнителен директор на Deci Йонатан Гайфман.
Освен това той обясни: „DeciDiffusion 2.0 предоставя висококачествени изображения с 40% по-малко итерации и използва по-малък и по-бърз U-Net компонент в сравнение с Stable Diffusion 1.5. Той може да произвежда висококачествени изображения с по-малко времеви стъпки на дифузия по време на процеса на извод.“
Моделът ефективно намалява броя на стъпките, необходими за генериране на качествено изображение от 16 на само 10.
Технологията за търсене на невронна архитектура на Deci – AutoNAC – изигра решаваща роля за ефективността и скалируемостта на моделите. То автоматизира процеса на търсене по компютърно ефективен начин, който го отличава от традиционните методи. Тази технология позволи на Deci да пусне серия от най-съвременни модели в рамките на кратък период от време, с по-ниски разходи за изчисления за обучение в сравнение с други големи разработчици на езикови модели.
DeciCoder-6B: Персонализирана прецизност за промишлено съвършенство
Способността на DeciCoder-6B да поддържа осем езика за програмиране го позиционира като идеален модел за широк спектър от приложения. Geifman сподели някои от различните начини, по които моделът може да бъде използван.
„В областта на разработката на софтуер може да помогне при генерирането на код и завършването на кода, като значително намалява времето за разработка и повишава производителността. Освен това, DeciCoder-6B може да се използва за обучение по програмиране, като се грижи за различни езици и нива на трудност. Учениците могат да го използват, за да проверят работата си и като наръчник за решение“, каза Geifman от Deci Metaverse Post.
„Освен това, в областта на киберсигурността, моделът може да бъде фино настроен, за да подпомага писането и анализирането на скриптове за сканиране на уязвимости, с възможност за автоматизиране на проверките за сигурност в различни програмни среди“, добави той.
Сътрудничеството между Deci и Qualcomm Технологиите отбелязват значителна стъпка към демократизиране на силата на Generative AI. С оптимизирани модели, ефективна технология и ангажимент за откритост, партньорството има за цел да даде възможност на разработчиците и индустриите по целия свят с достъпни и рентабилни AI решения.
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
Кумар е опитен технически журналист със специализация в динамичните пресечни точки на AI/ML, маркетингови технологии и нововъзникващи области като крипто, блокчейн и NFTс. С над 3 години опит в индустрията, Kumar има доказан опит в изработването на завладяващи разкази, провеждането на проницателни интервюта и предоставянето на изчерпателни прозрения. Експертният опит на Kumar се състои в създаването на силно въздействащо съдържание, включително статии, доклади и изследователски публикации за известни индустриални платформи. С уникален набор от умения, който съчетава технически познания и разказване на истории, Кумар се справя отлично в предаването на сложни технологични концепции на различни аудитории по ясен и увлекателен начин.
Още статии
Кумар е опитен технически журналист със специализация в динамичните пресечни точки на AI/ML, маркетингови технологии и нововъзникващи области като крипто, блокчейн и NFTс. С над 3 години опит в индустрията, Kumar има доказан опит в изработването на завладяващи разкази, провеждането на проницателни интервюта и предоставянето на изчерпателни прозрения. Експертният опит на Kumar се състои в създаването на силно въздействащо съдържание, включително статии, доклади и изследователски публикации за известни индустриални платформи. С уникален набор от умения, който съчетава технически познания и разказване на истории, Кумар се справя отлично в предаването на сложни технологични концепции на различни аудитории по ясен и увлекателен начин.
