Deci dan Qualcomm Rakan Kongsi untuk Mendemokrasikan AI Generatif Merentas Industri
Secara ringkas
Deci mengumumkan kerjasama dengan Qualcomm Technologies untuk membangunkan model AI generatif termaju untuk Qualcomm Cloud AI 100.
Syarikat penyelesaian AI Deci mengumumkan kerjasama dengan Qualcomm Technologies untuk membangunkan maju AI generatif model untuk Qualcomm Cloud AI 100. Kerjasama ini bertujuan menjadikan AI lebih mudah diakses untuk rangkaian aplikasi yang lebih luas dan mendemokrasikan kuasa AI generatif untuk pembangun.
Dengan menyesuaikan model khusus untuk penyelesaian Qualcomm Cloud AI 100, syarikat berhasrat untuk membuka kunci pemprosesan AI masa nyata yang menjimatkan kos. Cloud AI 100 ialah penyelesaian Qualcomm yang dibina untuk mengoptimumkan prestasi bagi inferens AI generatif termasuk model bahasa yang besar (LLM).
"Beberapa cabaran utama dalam landskap AI generatif semasa berkaitan dengan ketersediaan kuasa pengkomputeran untuk pemprosesan model besar ini dan kos besar untuk menjalankannya," kata Yonatan Geifman, Ketua Pegawai Eksekutif dan pengasas bersama Deci. Metaverse Post. "Dengan memanfaatkan model Deci, pengguna Qualcomm boleh memanfaatkan sepenuhnya pelaburan perkakasan mereka dengan model yang memastikan penggunaan perkakasan maksimum sambil menyampaikan kelajuan dan ketepatan yang tinggi."
Deci akan bekerjasama dengan Qualcomm Technologies untuk melancarkan dua model, iaitu DeciCoder-6B dan DeciDiffusion 2.0.
Menurut pengumuman itu, DeciCoder-6B ialah model parameter 6 bilion untuk penjanaan kod yang menyokong lapan bahasa pengaturcaraan dan mengatasi prestasi model yang ditetapkan sambil mengekalkan kecekapan memori dan pengiraan.
Sebaliknya, DeciDiffusion 2.0 ialah model resapan teks-ke-imej 732 juta parameter, yang menetapkan piawaian baharu dengan menyampaikan imej berkualiti tinggi dengan peningkatan kelajuan dan kecekapan.
Perkara yang Membezakan Model AI Deci
Apabila menggunakan LLM dalam aplikasi dunia sebenar, adalah penting untuk mengatur data dengan cekap pada pelayan yang membuat ramalan. Matlamat utama adalah untuk mengendalikan seberapa banyak permintaan pengguna pada masa yang sama yang mungkin. Mencari keseimbangan yang betul antara jumlah data yang diproses sekali gus (saiz kelompok) dan masa yang diperlukan untuk mendapatkan respons (latensi) bergantung pada dua perkara utama: reka bentuk model dan kebolehan perkakasan yang digunakan untuk membuat ramalan.
“DeciCoder-6B mempunyai kiraan parameter yang lebih kecil daripada rakan sejawatannya, menyebabkan jejak memori berkurangan dan membebaskan 2GB memori tambahan berbanding model parameter CodeGen 2.5 7B dan 7 bilion. Model ini cemerlang dalam ingatan dan kecekapan pengiraan, membolehkan penskalaan pemprosesan kelompok yang berkesan tanpa penggunaan memori yang besar atau peningkatan ketara dalam kependaman,” kata Ketua Pegawai Eksekutif Deci, Yonatan Geifman.
Beliau seterusnya menjelaskan, “DeciDiffusion 2.0 menyampaikan imej berkualiti tinggi dalam 40% lebih sedikit lelaran dan menggunakan komponen U-Net yang lebih kecil dan lebih pantas berbanding dengan Stable Diffusion 1.5. Ia boleh menghasilkan imej berkualiti tinggi dengan langkah masa penyebaran yang lebih sedikit semasa proses inferens."
Model ini secara berkesan mengurangkan bilangan langkah yang diperlukan untuk menghasilkan imej berkualiti daripada 16 kepada 10 sahaja.
Teknologi Carian Seni Bina Neural Deci - AutoNAC - telah memainkan peranan penting dalam kecekapan dan kebolehskalaan model. Ia automatik proses carian dengan cara yang cekap pengiraan, membezakannya daripada kaedah tradisional. Teknologi ini membolehkan Deci mengeluarkan satu siri model terkini dalam jangka masa yang singkat, dengan perbelanjaan yang lebih rendah untuk pengkomputeran untuk latihan berbanding pembangun model bahasa besar yang lain.
DeciCoder-6B: Ketepatan Disesuaikan untuk Kecemerlangan Industri
Keupayaan DeciCoder-6B untuk menyokong lapan bahasa pengaturcaraan meletakkannya sebagai model pilihan untuk pelbagai aplikasi. Geifman berkongsi beberapa cara yang pelbagai model itu boleh dimanfaatkan.
“Dalam bidang pembangunan perisian, ia boleh membantu dalam penjanaan kod dan penyiapan kod, dengan ketara mengurangkan masa pembangunan dan meningkatkan produktiviti. Selanjutnya, DeciCoder-6B boleh digunakan untuk mengajar pengaturcaraan, memenuhi pelbagai bahasa dan tahap kesukaran. Pelajar boleh menggunakannya untuk menyemak kerja mereka dan sebagai manual penyelesaian,” kata Geifman dari Deci memberitahu Metaverse Post.
“Selain itu, dalam bidang keselamatan siber, model itu boleh diperhalusi untuk membantu dalam menulis dan menganalisis skrip untuk pengimbasan kerentanan, dengan keupayaan untuk mengautomasikan semakan keselamatan merentas pelbagai persekitaran pengaturcaraan,” tambahnya.
Kerjasama antara Deci dan Qualcomm Teknologi menandakan satu langkah penting ke arah pendemokrasian kuasa Generatif AI. Dengan model yang dioptimumkan, teknologi cekap dan komitmen terhadap keterbukaan, perkongsian itu bertujuan untuk memperkasakan pembangun dan industri di seluruh dunia dengan penyelesaian AI yang boleh diakses dan kos efektif.
Penafian
Selaras dengan Garis panduan Projek Amanah, sila ambil perhatian bahawa maklumat yang diberikan pada halaman ini tidak bertujuan untuk menjadi dan tidak seharusnya ditafsirkan sebagai nasihat undang-undang, cukai, pelaburan, kewangan atau sebarang bentuk nasihat lain. Adalah penting untuk hanya melabur apa yang anda mampu kehilangan dan mendapatkan nasihat kewangan bebas jika anda mempunyai sebarang keraguan. Untuk maklumat lanjut, kami mencadangkan merujuk kepada terma dan syarat serta halaman bantuan dan sokongan yang disediakan oleh pengeluar atau pengiklan. MetaversePost komited kepada laporan yang tepat dan tidak berat sebelah, tetapi keadaan pasaran tertakluk kepada perubahan tanpa notis.
Tentang Pengarang
Kumar ialah seorang Wartawan Teknologi berpengalaman dengan pengkhususan dalam persimpangan dinamik AI/ML, teknologi pemasaran dan bidang baru muncul seperti crypto, blockchain dan NFTs. Dengan lebih 3 tahun pengalaman dalam industri, Kumar telah mencipta rekod prestasi yang terbukti dalam mencipta naratif yang menarik, menjalankan temu bual yang berwawasan dan menyampaikan pandangan yang komprehensif. Kepakaran Kumar terletak dalam menghasilkan kandungan berimpak tinggi, termasuk artikel, laporan dan penerbitan penyelidikan untuk platform industri terkemuka. Dengan set kemahiran unik yang menggabungkan pengetahuan teknikal dan penceritaan, Kumar cemerlang dalam menyampaikan konsep teknologi yang kompleks kepada khalayak yang pelbagai dengan cara yang jelas dan menarik.
lebih banyak artikel
Kumar ialah seorang Wartawan Teknologi berpengalaman dengan pengkhususan dalam persimpangan dinamik AI/ML, teknologi pemasaran dan bidang baru muncul seperti crypto, blockchain dan NFTs. Dengan lebih 3 tahun pengalaman dalam industri, Kumar telah mencipta rekod prestasi yang terbukti dalam mencipta naratif yang menarik, menjalankan temu bual yang berwawasan dan menyampaikan pandangan yang komprehensif. Kepakaran Kumar terletak dalam menghasilkan kandungan berimpak tinggi, termasuk artikel, laporan dan penerbitan penyelidikan untuk platform industri terkemuka. Dengan set kemahiran unik yang menggabungkan pengetahuan teknikal dan penceritaan, Kumar cemerlang dalam menyampaikan konsep teknologi yang kompleks kepada khalayak yang pelbagai dengan cara yang jelas dan menarik.
