Peneliti Carnegie Mellon Menghadirkan MLC LLM untuk Model Bahasa Lari di Perangkat Apa Pun
Singkatnya
MLC LLM dan Web LLM memungkinkan pengguna untuk menyebarkan model bahasa di perangkat apa pun, memungkinkan aplikasi dan penggunaan baru untuk pemahaman bahasa alami.
Peneliti Universitas Carnegie Mellon telah mempresentasikan MLC LLM, seperangkat alat yang dapat merevolusi cara model bahasa dijalankan di perangkat apa pun. Model semacam itu memungkinkan pengguna membuat berbagai aplikasi bahasa alami, seperti asisten virtual dan chatbot cerdas. Melalui pengoptimalan kinerja terpisah, MLC LLM sekarang dapat digunakan pada berbagai platform dan skenario.
| Baca lebih lanjut: 10 Universitas Terbaik untuk Mempelajari Kecerdasan Buatan |
Alat baru yang dikenal dengan Web LLM, juga merupakan bagian dari inisiatif ini. Ini memungkinkan peluncuran model bahasa langsung di browser, artinya pengguna tidak perlu mengunduh sistem secara manual, yang ukurannya bisa beberapa gigabyte. Model Vicuna 7B, yang memiliki 7 miliar parameter, telah dibuat dengan cara ini. Ini bisa sangat berguna saat merancang asisten virtual dan chatbot yang lebih pas karena membutuhkan parameter dalam jumlah besar.
Menggunakan MLC LLM dan Web LLM, sekarang dimungkinkan untuk menerapkan apa pun model bahasa pilihan di perangkat apa pun. Para peneliti di Carnegie Mellon telah melaporkan bahwa hal ini akan membuka serangkaian penerapan yang sebelumnya tidak mungkin dilakukan. Setiap model bahasa kini dapat digunakan di berbagai perangkat komputasi, seperti laptop dan ponsel, atau bahkan prosesor dan akselerator video. Ini membuka banyak kemungkinan untuk pemrosesan bahasa alami dan Mesin belajar.
Inisiatif baru dari Carnegie Mellon membuka jalan bagi berbagai aplikasi dan penggunaan baru untuk pemahaman bahasa alami. Karena Anda dapat menggunakan model bahasa ini di perangkat apa pun, akan lebih mudah untuk menerapkan teknologi tersebut dalam berbagai skenario. Baik itu untuk asisten virtual atau layanan pelanggan otomatis, alat baru ini dapat berdampak drastis pada cara penyelesaian tugas ini.
Tim riset Carnegie Mellon mengembangkan MLC LLM untuk dijalankan di perangkat apa pun, termasuk iPhone dan perangkat rumah pintar lainnya, dengan prosesor modern dan RAM 6 GB atau lebih. Pendekatan yang disederhanakan ini berarti bahwa perangkat sekarang dapat menjalankan model bahasa dengan kecepatan pembuatan hampir secara real-time, bahkan saat dioptimalkan oleh pengembang eksternal dan bukan teknisi Apple.
Selain memungkinkan interaksi alami dengan produk, MLC LLM juga dapat digunakan untuk mengoptimalkan tugas manajemen perangkat. Dengan hanya 4GB hingga 6GB RAM yang diperlukan untuk menjalankan, model bahasa revolusioner ini akan menjadi tambahan yang bagus untuk model iPhone masa depan dan berpotensi diluncurkan ke produksi tanpa waktu lama. proses pengembangan.
Dengan memperkenalkan MLC LLM model bahasa, peneliti Carnegie Mellon telah menciptakan cara yang efisien dan tangguh untuk menjalankan model bahasa di perangkat apa pun. Sistem MLC LLM adalah terobosan dalam pemrosesan bahasa alami dan akan memungkinkan pengguna untuk berinteraksi secara alami dengan perangkat mereka secara lebih efektif. Ini juga memiliki potensi untuk secara signifikan mempercepat proses pengembangan untuk tugas manajemen perangkat di masa mendatang. Kemungkinannya tidak terbatas dengan MLC LLM, dan karya Carnegie Mellon pasti akan melakukannya mengubah cara kita berpikir tentang model bahasa menjadi lebih baik.
Baca lebih lanjut tentang AI:
Penolakan tanggung jawab
Sejalan dengan Percayai pedoman Proyek, harap dicatat bahwa informasi yang diberikan pada halaman ini tidak dimaksudkan untuk dan tidak boleh ditafsirkan sebagai nasihat hukum, pajak, investasi, keuangan, atau bentuk nasihat lainnya. Penting untuk hanya menginvestasikan jumlah yang mampu Anda tanggung kerugiannya dan mencari nasihat keuangan independen jika Anda ragu. Untuk informasi lebih lanjut, kami menyarankan untuk merujuk pada syarat dan ketentuan serta halaman bantuan dan dukungan yang disediakan oleh penerbit atau pengiklan. MetaversePost berkomitmen terhadap pelaporan yang akurat dan tidak memihak, namun kondisi pasar dapat berubah tanpa pemberitahuan.
Tentang Penulis
Damir adalah pemimpin tim, manajer produk, dan editor di Metaverse Post, mencakup topik seperti AI/ML, AGI, LLM, Metaverse, dan Web3-bidang terkait. Artikelnya menarik lebih dari satu juta pengguna setiap bulan. Dia tampaknya ahli dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebutkan dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, dan publikasi lainnya. Dia melakukan perjalanan antara UEA, Turki, Rusia, dan CIS sebagai pengembara digital. Damir memperoleh gelar sarjana dalam bidang fisika, yang menurutnya telah memberinya keterampilan berpikir kritis yang diperlukan untuk berhasil dalam lanskap internet yang selalu berubah.
lebih artikel
Damir adalah pemimpin tim, manajer produk, dan editor di Metaverse Post, mencakup topik seperti AI/ML, AGI, LLM, Metaverse, dan Web3-bidang terkait. Artikelnya menarik lebih dari satu juta pengguna setiap bulan. Dia tampaknya ahli dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebutkan dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, dan publikasi lainnya. Dia melakukan perjalanan antara UEA, Turki, Rusia, dan CIS sebagai pengembara digital. Damir memperoleh gelar sarjana dalam bidang fisika, yang menurutnya telah memberinya keterampilan berpikir kritis yang diperlukan untuk berhasil dalam lanskap internet yang selalu berubah.
