Penyelidik Carnegie Mellon Mempersembahkan MLC LLM untuk Model Bahasa Berjalan pada Mana-mana Peranti
Secara ringkas
MLC LLM dan Web LLM membenarkan pengguna menggunakan model bahasa pada sebarang peranti, membenarkan aplikasi dan penggunaan baharu untuk pemahaman bahasa semula jadi.
Penyelidik Universiti Carnegie Mellon telah membentangkan MLC LLM, satu set alat yang boleh merevolusikan cara model bahasa dijalankan pada mana-mana peranti. Model sedemikian membolehkan pengguna mencipta pelbagai aplikasi bahasa semula jadi, seperti pembantu maya dan chatbot pintar. Melalui pengoptimuman prestasi yang berasingan, MLC LLM kini boleh digunakan pada platform dan senario yang berbeza.
| Baca lebih lanjut: 10 Universiti Terbaik untuk Mempelajari Kepintaran Buatan |
Alat baharu, dikenali sebagai Web LLM, juga merupakan sebahagian daripada inisiatif ini. Ia membenarkan pelancaran model bahasa terus dalam penyemak imbas, bermakna pengguna tidak perlu memuat turun sistem secara manual, yang boleh bersaiz beberapa gigabait. Model Vicuna 7B, yang mempunyai 7 bilion parameter, telah dibuat dengan cara ini. Ini boleh menjadi sangat berguna apabila mereka bentuk pembantu maya dan chatbot yang lebih sesuai kerana ia memerlukan sejumlah besar parameter.
Menggunakan MLC LLM dan Web LLM, kini boleh digunakan untuk menggunakan mana-mana model bahasa pilihan pada mana-mana peranti. Para penyelidik di Carnegie Mellon telah melaporkan bahawa ini akan membuka pelbagai aplikasi yang tidak mungkin dilakukan sebelum ini. mana-mana model bahasa kini boleh digunakan pada pelbagai peranti pengkomputeran, seperti komputer riba dan telefon, malah pemproses dan pemecut video. Ini membuka dunia kemungkinan untuk pemprosesan bahasa semula jadi dan pembelajaran mesin.
Inisiatif baharu daripada Carnegie Mellon membuka jalan untuk pelbagai aplikasi dan penggunaan baharu untuk pemahaman bahasa semula jadi. Memandangkan anda boleh menggunakan model bahasa ini pada mana-mana peranti, adalah lebih mudah untuk menggunakan teknologi sedemikian dalam banyak senario yang berbeza. Sama ada untuk pembantu maya atau perkhidmatan pelanggan automatik, alat baharu ini boleh memberi kesan drastik terhadap cara tugasan ini dilakukan.
Pasukan penyelidik Carnegie Mellon membangunkan MLC LLM untuk dijalankan pada mana-mana peranti, termasuk iPhone dan peranti rumah pintar lain, dengan pemproses moden dan 6GB atau lebih RAM. Pendekatan diperkemas ini bermakna peranti kini boleh menjalankan model bahasa dengan kelajuan penjanaan hampir masa nyata, walaupun apabila dioptimumkan oleh pembangun luar dan bukan jurutera Apple.
Selain membenarkan interaksi semula jadi dengan produk, MLC LLM juga boleh digunakan untuk mengoptimumkan tugas pengurusan peranti. Dengan hanya 4GB hingga 6GB RAM yang diperlukan untuk dijalankan, model bahasa revolusioner ini akan membuat penambahan yang sangat baik kepada model iPhone masa hadapan dan berpotensi untuk dilancarkan ke dalam pengeluaran tanpa masa yang panjang. proses pembangunan.
Dengan memperkenalkan MLC LLM model bahasa, penyelidik Carnegie Mellon telah mencipta cara yang cekap dan mantap untuk menjalankan model bahasa pada sebarang peranti. Sistem MLC LLM merupakan satu kejayaan dalam pemprosesan bahasa semula jadi dan akan membolehkan pengguna untuk berinteraksi secara semula jadi dengan peranti mereka dengan lebih berkesan. Ia juga berpotensi untuk mempercepatkan proses pembangunan dengan ketara untuk tugas pengurusan peranti masa hadapan. Kemungkinannya tidak berkesudahan dengan MLC LLM, dan kerja Carnegie Mellon pasti akan berlaku mengubah cara kita berfikir tentang model bahasa untuk yang lebih baik.
Baca lebih lanjut mengenai AI:
Penafian
Selaras dengan Garis panduan Projek Amanah, sila ambil perhatian bahawa maklumat yang diberikan pada halaman ini tidak bertujuan untuk menjadi dan tidak seharusnya ditafsirkan sebagai nasihat undang-undang, cukai, pelaburan, kewangan atau sebarang bentuk nasihat lain. Adalah penting untuk hanya melabur apa yang anda mampu kehilangan dan mendapatkan nasihat kewangan bebas jika anda mempunyai sebarang keraguan. Untuk maklumat lanjut, kami mencadangkan merujuk kepada terma dan syarat serta halaman bantuan dan sokongan yang disediakan oleh pengeluar atau pengiklan. MetaversePost komited kepada laporan yang tepat dan tidak berat sebelah, tetapi keadaan pasaran tertakluk kepada perubahan tanpa notis.
Tentang Pengarang
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
lebih banyak artikel
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
