Karnegi Mellon tadqiqotchilari har qanday qurilmada til modellarini ishlatish uchun MLC LLMni taqdim etishdi
Qisqacha
MLC LLM va Web LLM foydalanuvchilarga joylashtirish imkonini beradi til modellari har qanday qurilmada tabiiy tilni tushunish uchun yangi ilovalar va foydalanish imkonini beradi.
Karnegi Mellon universiteti tadqiqotchilari ma'ruza qildilar MLC LLM, har qanday qurilmada til modellari qanday ishlashini inqilob qilishi mumkin bo'lgan vositalar to'plami. Bunday modellar foydalanuvchilarga virtual yordamchilar va aqlli chatbotlar kabi bir qator tabiiy til ilovalarini yaratish imkonini beradi. Alohida ish faoliyatini optimallashtirish orqali MLC LLM endi turli platformalar va stsenariylarda ishlatilishi mumkin.
deb nomlanuvchi yangi vosita Veb LLM, shuningdek, ushbu tashabbusning bir qismidir. Bu brauzerda to'g'ridan-to'g'ri til modellarini ishga tushirish imkonini beradi, ya'ni foydalanuvchilar tizimni qo'lda yuklab olishlari shart emas, uning hajmi bir necha gigabayt bo'lishi mumkin. 7 milliard parametrga ega Vicuna 7B modeli shu tarzda yaratilgan. Bu ko'proq mos virtual yordamchilar va chatbotlarni loyihalashda juda foydali bo'lishi mumkin, chunki ular katta miqdordagi parametrlarni talab qiladi.
MLC LLM va Web LLM dan foydalanib, endi istalganini joylashtirish mumkin til modeli har qanday qurilmada tanlov. Karnegi Mellon tadqiqotchilari bu ilgari imkoni bo'lmagan bir qator ilovalarni ochishini xabar qilishdi. Har qanday til modeli endi noutbuklar va telefonlar, hatto protsessorlar va video tezlatgichlar kabi turli xil hisoblash qurilmalarida ham o'rnatilishi mumkin. Bu tabiiy tilni qayta ishlash uchun imkoniyatlar dunyosini ochadi va kompyuterni o'rganish.
Karnegi Mellonning yangi tashabbusi tabiiy tilni tushunish uchun bir qator yangi ilovalar va foydalanish uchun yo'l ochadi. Ushbu til modellarini har qanday qurilmada ishlatishingiz mumkinligi sababli, bunday texnologiyani turli xil stsenariylarda joylashtirish ancha oson. Virtual yordamchilar yoki avtomatlashtirilgan mijozlarga xizmat ko'rsatish uchun bo'ladimi, bu yangi vosita bu vazifalarni bajarish usuliga keskin ta'sir ko'rsatishi mumkin.
Karnegi Mellonning tadqiqot guruhi zamonaviy protsessor va 6 Gb yoki undan ortiq operativ xotiraga ega bo‘lgan har qanday qurilmada, jumladan iPhone va boshqa aqlli uy qurilmalarida ishlash uchun MLC LLMni ishlab chiqdi. Ushbu soddalashtirilgan yondashuv, qurilmalar endi Apple muhandislari emas, balki tashqi ishlab chiquvchilar tomonidan optimallashtirilgan bo'lsa ham, deyarli real vaqtda yaratish tezligi bilan til modellarini ishlatishi mumkinligini anglatadi.
MLC LLM mahsulotlar bilan tabiiy o'zaro ta'sir o'tkazishga ruxsat berishdan tashqari, qurilmalarni boshqarish vazifalarini optimallashtirish uchun ham ishlatilishi mumkin. Ishlash uchun atigi 4 Gb dan 6 Gb operativ xotiraga ega bo'lgan ushbu inqilobiy til modeli kelajakdagi iPhone modellariga ajoyib qo'shimcha bo'ladi va uni uzoq vaqt talab qilmasdan ishlab chiqarishga yo'naltirish mumkin. rivojlanish jarayoni.
MLC LLMni joriy etish orqali til modeli, Karnegi Mellon tadqiqotchilari har qanday qurilmada til modellarini ishga tushirishning samarali va mustahkam usulini yaratdilar. MLC LLM tizimi tabiiy tillarni qayta ishlashda yutuq va foydalanuvchilarga imkon beradi ularning qurilmalari bilan tabiiy ravishda yanada samarali o'zaro ta'sir qilish. Shuningdek, u kelajakdagi qurilmalarni boshqarish vazifalarini ishlab chiqish jarayonini sezilarli darajada tezlashtirish imkoniyatiga ega. MLC LLM bilan imkoniyatlar cheksizdir va Karnegi Mellonning ishi shubhasiz til modellari haqidagi fikrimizni o'zgartiring yaxshisi uchun.
AI haqida ko'proq o'qing:
Masʼuliyatdan voz kechish
Bunga javoban Ishonch loyihasi bo'yicha ko'rsatmalar, iltimos, ushbu sahifada taqdim etilgan ma'lumotlar yuridik, soliq, investitsiya, moliyaviy yoki boshqa har qanday maslahat shakli sifatida talqin qilinmasligi va talqin qilinmasligini unutmang. Faqat yo'qotishingiz mumkin bo'lgan narsaga investitsiya qilish va agar shubhangiz bo'lsa, mustaqil moliyaviy maslahat olish muhimdir. Qo'shimcha ma'lumot olish uchun biz shartlar va emitent yoki reklama beruvchi tomonidan taqdim etilgan yordam va qo'llab-quvvatlash sahifalariga murojaat qilishni tavsiya qilamiz. MetaversePost to'g'ri, xolis hisobot berish majburiyatini oladi, lekin bozor sharoitlari ogohlantirilmasdan o'zgarishi mumkin.
Muallif haqida
Damir - guruh rahbari, mahsulot menejeri va muharrir Metaverse Post, AI/ML, AGI, LLMs, Metaverse va kabi mavzularni qamrab oladi Web3- tegishli sohalar. Uning maqolalari har oy milliondan ortiq foydalanuvchilarning katta auditoriyasini jalb qiladi. U SEO va raqamli marketing bo'yicha 10 yillik tajribaga ega mutaxassis bo'lib ko'rinadi. Damir haqida Mashable, Wired nashrlarida tilga olingan. Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto va boshqa nashrlar. U BAA, Turkiya, Rossiya va MDH davlatlari oʻrtasida raqamli koʻchmanchi sifatida sayohat qiladi. Damir fizika bo'yicha bakalavr darajasini oldi, uning fikricha, bu unga internetning doimiy o'zgaruvchan manzarasida muvaffaqiyatga erishish uchun zarur bo'lgan tanqidiy fikrlash qobiliyatlarini berdi.
Boshqa maqolalar
Damir - guruh rahbari, mahsulot menejeri va muharrir Metaverse Post, AI/ML, AGI, LLMs, Metaverse va kabi mavzularni qamrab oladi Web3- tegishli sohalar. Uning maqolalari har oy milliondan ortiq foydalanuvchilarning katta auditoriyasini jalb qiladi. U SEO va raqamli marketing bo'yicha 10 yillik tajribaga ega mutaxassis bo'lib ko'rinadi. Damir haqida Mashable, Wired nashrlarida tilga olingan. Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto va boshqa nashrlar. U BAA, Turkiya, Rossiya va MDH davlatlari oʻrtasida raqamli koʻchmanchi sifatida sayohat qiladi. Damir fizika bo'yicha bakalavr darajasini oldi, uning fikricha, bu unga internetning doimiy o'zgaruvchan manzarasida muvaffaqiyatga erishish uchun zarur bo'lgan tanqidiy fikrlash qobiliyatlarini berdi.
