Deci та Qualcomm співпрацюють у демократизації генеративного штучного інтелекту в різних галузях
Коротко
Deci оголосив про співпрацю з Qualcomm Technologies для розробки передових генеративних моделей ШІ для Qualcomm Cloud AI 100.
Компанія Deci, що займається розробкою штучного інтелекту, оголосила про співпрацю з Qualcomm Technologies для розробки передових технологій генеративний ШІ моделі для Qualcomm Cloud AI 100. Співпраця спрямована на те, щоб зробити штучний інтелект доступнішим для широкого кола програм і демократизувати силу генеративного штучного інтелекту для розробників.
Розробляючи моделі спеціально для рішення Qualcomm Cloud AI 100, компанії мають намір розблокувати економічно ефективну обробку штучного інтелекту в режимі реального часу. Cloud AI 100 — це рішення Qualcomm, створене для оптимізації продуктивності для генеративного штучного інтелекту, включаючи великі мовні моделі (LLM).
«Деякі з головних проблем у поточному генеративному ландшафті штучного інтелекту пов’язані з доступністю обчислювальної потужності для обробки цих величезних моделей і величезною вартістю їх запуску», — сказав Йонатан Гейфман, генеральний директор і співзасновник Deci. Metaverse Post. «Використовуючи моделі Deci, користувачі Qualcomm можуть максимально використати свої інвестиції в апаратне забезпечення з моделями, які забезпечують максимальне використання апаратного забезпечення, забезпечуючи високу швидкість і точність».
Deci співпрацюватиме з Qualcomm Technologies для запуску двох моделей, а саме DeciCoder-6B і DeciDiffusion 2.0.
Згідно з оголошенням, DeciCoder-6B — це модель із 6 мільярдами параметрів для генерації коду, що підтримує вісім мов програмування та перевершує встановлені моделі, зберігаючи пам’ять і обчислювальну ефективність.
З іншого боку, DeciDiffusion 2.0 — це модель розповсюдження тексту в зображення з 732 мільйонами параметрів, яка встановлює нові стандарти, надаючи високоякісні зображення з підвищеною швидкістю та ефективністю.
Що відрізняє моделі AI від Deci
При використанні LLM у додатках реального світу дуже важливо ефективно організувати дані на серверах, які роблять прогнози. Основна мета — обробляти якомога більше запитів користувачів одночасно. Пошук правильного балансу між кількістю даних, що обробляються одночасно (розмір пакета), і часом, необхідним для отримання відповіді (затримка), залежить від двох ключових речей: дизайну моделі та можливостей апаратного забезпечення, що використовується для прогнозування.
«DeciCoder-6B має меншу кількість параметрів, ніж його аналоги, що призводить до зменшення обсягу пам’яті та звільнення додаткових 2 ГБ пам’яті порівняно з моделями CodeGen 2.5 7B і 7 мільярдів параметрів. Модель вирізняється пам’яттю та обчислювальною ефективністю, дозволяючи ефективно масштабувати пакетну обробку без значного споживання пам’яті чи значного збільшення затримки», – сказав генеральний директор Deci Йонатан Гейфман.
Він також пояснив: «DeciDiffusion 2.0 забезпечує високоякісні зображення за 40% менше ітерацій і використовує менший і швидший компонент U-Net порівняно з Stable Diffusion 1.5. Він може створювати високоякісні зображення з меншою кількістю кроків дифузії під час процесу висновку».
Модель ефективно скорочує кількість кроків, необхідних для створення якісного зображення, з 16 до 10.
Технологія пошуку нейронної архітектури Deci – AutoNAC – зіграла вирішальну роль у ефективності та масштабованості моделей. Це автоматизує процес пошуку в обчислювально-ефективний спосіб, що відрізняє його від традиційних методів. Ця технологія дозволила Deci випустити серію найсучасніших моделей за короткий проміжок часу з меншими витратами на обчислення для навчання порівняно з іншими великими розробниками мовних моделей.
DeciCoder-6B: індивідуальна точність для промислової досконалості
Здатність DeciCoder-6B підтримувати вісім мов програмування робить його ідеальною моделлю для широкого спектру програм. Гейфман поділився різними способами використання моделі.
«У сфері розробки програмного забезпечення це може допомогти у створенні та завершенні коду, значно скорочуючи час розробки та підвищуючи продуктивність. Крім того, DeciCoder-6B можна використовувати для навчання програмуванню, обслуговуючи різні мови та рівні складності. Студенти можуть використовувати його для перевірки своєї роботи та як посібник із розв’язання», – сказав Гейфман із Deci Metaverse Post.
«Крім того, у сфері кібербезпеки модель може бути налаштована для допомоги в написанні та аналізі сценаріїв для сканування вразливостей із можливістю автоматизації перевірок безпеки в різних середовищах програмування», — додав він.
Співпраця між Deci та компанія Qualcomm Технології знаменують значний крок до демократизації потужності Generative AI. Завдяки оптимізованим моделям, ефективним технологіям і прагненню до відкритості це партнерство має на меті надати розробникам і галузям у всьому світі доступні та економічно ефективні рішення ШІ.
відмова
Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.
про автора
Кумар є досвідченим технічним журналістом, який спеціалізується на динамічному перетині ШІ/ML, маркетингових технологій і нових галузей, таких як криптовалюта, блокчейн і NFTс. Завдяки більш ніж 3-річному досвіду роботи в галузі Кумар має досвід створення переконливих оповідей, проведення проникливих інтерв’ю та надання вичерпної інформації. Досвід Кумара полягає у створенні вражаючого контенту, зокрема статей, звітів і дослідницьких публікацій для відомих галузевих платформ. Володіючи унікальним набором навичок, який поєднує в собі технічні знання та розповідь, Кумар чудово вміє доносити складні технологічні концепції до різноманітної аудиторії в чіткій та привабливій формі.
інші статтіКумар є досвідченим технічним журналістом, який спеціалізується на динамічному перетині ШІ/ML, маркетингових технологій і нових галузей, таких як криптовалюта, блокчейн і NFTс. Завдяки більш ніж 3-річному досвіду роботи в галузі Кумар має досвід створення переконливих оповідей, проведення проникливих інтерв’ю та надання вичерпної інформації. Досвід Кумара полягає у створенні вражаючого контенту, зокрема статей, звітів і дослідницьких публікацій для відомих галузевих платформ. Володіючи унікальним набором навичок, який поєднує в собі технічні знання та розповідь, Кумар чудово вміє доносити складні технологічні концепції до різноманітної аудиторії в чіткій та привабливій формі.