Deci dan Qualcomm Bermitra untuk Mendemokratisasikan AI Generatif di Seluruh Industri
Singkatnya
Deci mengumumkan kolaborasi dengan Qualcomm Technologies untuk mengembangkan model AI generatif canggih untuk Qualcomm Cloud AI 100.
Perusahaan solusi AI Deci mengumumkan kolaborasi dengan Qualcomm Technologies untuk mengembangkan teknologi canggih AI generatif model untuk Qualcomm Cloud AI 100. Kolaborasi ini bertujuan untuk membuat AI lebih mudah diakses untuk aplikasi yang lebih luas dan mendemokratisasi kekuatan AI generatif bagi pengembang.
Dengan merancang model khusus untuk solusi Qualcomm Cloud AI 100, perusahaan bermaksud untuk mewujudkan pemrosesan AI real-time yang hemat biaya. Cloud AI 100 adalah solusi Qualcomm yang dibuat untuk mengoptimalkan kinerja termasuk inferensi AI generatif model bahasa besar (LLM).
“Beberapa tantangan utama dalam lanskap AI generatif saat ini berkaitan dengan ketersediaan daya komputasi untuk memproses model-model besar ini dan besarnya biaya untuk menjalankannya,” kata Yonatan Geifman, CEO dan salah satu pendiri Deci. Metaverse Post. “Dengan memanfaatkan model Deci, pengguna Qualcomm dapat memaksimalkan investasi perangkat keras mereka dengan model yang memastikan pemanfaatan perangkat keras secara maksimal sekaligus memberikan kecepatan dan akurasi tinggi.”
Deci akan bekerja sama dengan Qualcomm Technologies untuk meluncurkan dua model yaitu DeciCoder-6B dan DeciDiffusion 2.0.
Menurut pengumuman tersebut, DeciCoder-6B adalah model parameter 6 miliar untuk pembuatan kode yang mendukung delapan bahasa pemrograman dan mengungguli model yang sudah ada dengan tetap menjaga efisiensi memori dan komputasi.
Di sisi lain, DeciDiffusion 2.0 adalah model difusi teks-ke-gambar dengan 732 juta parameter, yang menetapkan standar baru dengan menghadirkan gambar berkualitas tinggi dengan peningkatan kecepatan dan efisiensi.
Yang Membedakan Model AI Deci
Ketika menggunakan LLM dalam aplikasi dunia nyata, sangat penting untuk mengatur data secara efisien di server yang membuat prediksi. Tujuan utamanya adalah untuk menangani sebanyak mungkin permintaan pengguna pada waktu yang bersamaan. Menemukan keseimbangan yang tepat antara jumlah data yang diproses sekaligus (ukuran batch) dan waktu yang diperlukan untuk mendapatkan respons (latensi) bergantung pada dua hal utama: desain model dan kemampuan perangkat keras yang digunakan untuk membuat prediksi.
“DeciCoder-6B memiliki jumlah parameter yang lebih kecil dibandingkan rekan-rekannya, sehingga mengurangi jejak memori dan mengosongkan memori tambahan sebesar 2GB dibandingkan dengan model CodeGen 2.5 7B dan 7 miliar parameter. Model ini unggul dalam memori dan efisiensi komputasi, memungkinkan penskalaan pemrosesan batch yang efektif tanpa konsumsi memori yang besar atau peningkatan latensi yang signifikan,” kata CEO Deci, Yonatan Geifman.
Dia lebih lanjut menjelaskan, “DeciDiffusion 2.0 memberikan gambar berkualitas tinggi dalam iterasi 40% lebih sedikit dan menggunakan komponen U-Net yang lebih kecil dan lebih cepat dibandingkan dengan Stable Diffusion 1.5. Ini dapat menghasilkan gambar berkualitas tinggi dengan rentang waktu difusi yang lebih sedikit selama proses inferensi.”
Model ini secara efektif mengurangi jumlah langkah yang diperlukan untuk menghasilkan gambar berkualitas dari 16 menjadi hanya 10.
Teknologi Penelusuran Arsitektur Neural Deci – AutoNAC – telah memainkan peran penting dalam efisiensi dan skalabilitas model. Dia mengotomatiskan proses pencarian dengan cara komputasi yang efisien, membedakannya dari metode tradisional. Teknologi ini memungkinkan Deci merilis serangkaian model canggih dalam jangka waktu singkat, dengan pengeluaran komputasi untuk pelatihan yang lebih rendah dibandingkan dengan pengembang model bahasa besar lainnya.
DeciCoder-6B: Presisi yang Disesuaikan untuk Keunggulan Industri
Kemampuan DeciCoder-6B untuk mendukung delapan bahasa pemrograman menempatkannya sebagai model pilihan untuk berbagai aplikasi. Geifman berbagi beberapa cara yang berbeda untuk memanfaatkan model tersebut.
“Di bidang pengembangan perangkat lunak, ini dapat membantu dalam pembuatan kode dan penyelesaian kode, sehingga secara signifikan mengurangi waktu pengembangan dan meningkatkan produktivitas. Lebih lanjut, DeciCoder-6B dapat digunakan untuk mengajarkan pemrograman, melayani berbagai bahasa dan tingkat kesulitan. Siswa dapat menggunakannya untuk memeriksa pekerjaan mereka dan sebagai panduan solusi,” kata Geifman dari Deci Metaverse Post.
“Selain itu, di bidang keamanan siber, model ini dapat disesuaikan untuk membantu menulis dan menganalisis skrip pemindaian kerentanan, dengan kemampuan untuk mengotomatiskan pemeriksaan keamanan di berbagai lingkungan pemrograman,” tambahnya.
Kolaborasi antara Deci dan Qualcomm Teknologi menandai langkah signifikan menuju demokratisasi kekuatan AI Generatif. Dengan model yang dioptimalkan, teknologi yang efisien, dan komitmen terhadap keterbukaan, kemitraan ini bertujuan untuk memberdayakan pengembang dan industri di seluruh dunia dengan solusi AI yang mudah diakses dan hemat biaya.
Penolakan tanggung jawab
Sejalan dengan Percayai pedoman Proyek, harap dicatat bahwa informasi yang diberikan pada halaman ini tidak dimaksudkan untuk dan tidak boleh ditafsirkan sebagai nasihat hukum, pajak, investasi, keuangan, atau bentuk nasihat lainnya. Penting untuk hanya menginvestasikan jumlah yang mampu Anda tanggung kerugiannya dan mencari nasihat keuangan independen jika Anda ragu. Untuk informasi lebih lanjut, kami menyarankan untuk merujuk pada syarat dan ketentuan serta halaman bantuan dan dukungan yang disediakan oleh penerbit atau pengiklan. MetaversePost berkomitmen terhadap pelaporan yang akurat dan tidak memihak, namun kondisi pasar dapat berubah tanpa pemberitahuan.
Tentang Penulis
Kumar adalah Jurnalis Teknologi berpengalaman dengan spesialisasi dalam persimpangan dinamis AI/ML, teknologi pemasaran, dan bidang baru seperti kripto, blockchain, dan NFTS. Dengan pengalaman lebih dari 3 tahun di industri ini, Kumar telah memiliki rekam jejak yang terbukti dalam menyusun narasi yang menarik, melakukan wawancara yang mendalam, dan memberikan wawasan yang komprehensif. Keahlian Kumar terletak pada produksi konten berdampak tinggi, termasuk artikel, laporan, dan publikasi penelitian untuk platform industri terkemuka. Dengan keahlian unik yang menggabungkan pengetahuan teknis dan penyampaian cerita, Kumar unggul dalam mengkomunikasikan konsep teknologi yang kompleks kepada beragam audiens dengan cara yang jelas dan menarik.
lebih artikel
Kumar adalah Jurnalis Teknologi berpengalaman dengan spesialisasi dalam persimpangan dinamis AI/ML, teknologi pemasaran, dan bidang baru seperti kripto, blockchain, dan NFTS. Dengan pengalaman lebih dari 3 tahun di industri ini, Kumar telah memiliki rekam jejak yang terbukti dalam menyusun narasi yang menarik, melakukan wawancara yang mendalam, dan memberikan wawasan yang komprehensif. Keahlian Kumar terletak pada produksi konten berdampak tinggi, termasuk artikel, laporan, dan publikasi penelitian untuk platform industri terkemuka. Dengan keahlian unik yang menggabungkan pengetahuan teknis dan penyampaian cerita, Kumar unggul dalam mengkomunikasikan konsep teknologi yang kompleks kepada beragam audiens dengan cara yang jelas dan menarik.
