Carnegie Mellon tyrėjai pristato MLC LLM, skirtą kalbų modeliams paleisti bet kuriame įrenginyje
Trumpai
MLC LLM ir Web LLM leidžia vartotojams diegti kalbos modeliai bet kuriame įrenginyje, leidžiantis naudoti naujas programas ir naudoti natūralią kalbą.
Carnegie Mellon universiteto mokslininkai pristatė MLC LLM, įrankių rinkinys, galintis pakeisti kalbų modelių paleidimą bet kuriame įrenginyje. Tokie modeliai leidžia vartotojams kurti įvairias natūralios kalbos programas, tokias kaip virtualūs asistentai ir išmanieji pokalbių robotai. Atskirai optimizuojant našumą, MLC LLM dabar gali būti naudojamas skirtingose platformose ir scenarijuose.
| Plačiau paskaitykite čia: 10 geriausių universitetų, studijuojančių dirbtinį intelektą |
Naujasis įrankis, žinomas kaip Web LLM, taip pat yra šios iniciatyvos dalis. Tai leidžia paleisti kalbų modelius tiesiai naršyklėje, o tai reiškia, kad vartotojams nereikia rankiniu būdu atsisiųsti sistemos, kuri gali būti kelių gigabaitų dydžio. Taip sukurtas Vicuna 7B modelis, turintis 7 milijardus parametrų. Tai gali būti labai naudinga kuriant labiau tinkančius virtualius asistentus ir pokalbių robotus, nes jiems reikia daug parametrų.
Naudojant MLC LLM ir Web LLM, dabar galima įdiegti bet kurį kalbos modelis pasirinkti bet kuriame įrenginyje. Carnegie Mellon mokslininkai pranešė, kad tai atvertų daugybę programų, kurių anksčiau nebuvo įmanoma. Bet koks kalbos modelis dabar gali būti įdiegta įvairiuose skaičiavimo įrenginiuose, tokiuose kaip nešiojamieji kompiuteriai ir telefonai, ar net procesoriai ir vaizdo greitintuvai. Tai atveria natūralios kalbos apdorojimo galimybių pasaulį ir mašininis mokymasis.
Nauja Carnegie Mellon iniciatyva atveria kelią daugybei naujų natūralios kalbos supratimo taikomųjų programų ir naudojimo būdų. Kadangi šiuos kalbų modelius galite naudoti bet kuriame įrenginyje, daug lengviau įdiegti tokią technologiją įvairiuose scenarijuose. Nesvarbu, ar tai virtualūs asistentai, ar automatizuotas klientų aptarnavimas, šis naujas įrankis gali turėti drastiškos įtakos šių užduočių atlikimui.
Carnegie Mellon tyrimų grupė sukūrė MLC LLM, kad būtų galima paleisti bet kuriame įrenginyje, įskaitant iPhone ir kitus išmaniuosius namų įrenginius, su šiuolaikišku procesoriumi ir 6 GB ar daugiau RAM. Šis supaprastintas metodas reiškia, kad įrenginiai dabar gali paleisti kalbų modelius beveik realiuoju laiku, net jei juos optimizavo išoriniai kūrėjai, o ne Apple inžinieriai.
MLC LLM ne tik leidžia natūraliai sąveikauti su produktais, bet ir gali būti naudojamas įrenginio valdymo užduotims optimizuoti. Veikimui reikalingas tik 4–6 GB RAM, todėl šis revoliucinis kalbos modelis puikiai papildys būsimus „iPhone“ modelius ir gali būti pradėtas gaminti be ilgų pastangų. plėtros procesas.
Pristatęs MLC LLM kalbos modelis, Carnegie Mellon mokslininkai sukūrė veiksmingą ir patikimą būdą paleisti kalbos modelius bet kuriame įrenginyje. MLC LLM sistema yra proveržis natūralios kalbos apdorojimo ir leis vartotojams kad natūraliai sąveikautų su savo įrenginiais efektyviau. Tai taip pat gali žymiai pagreitinti būsimų įrenginių valdymo užduočių kūrimo procesą. MLC LLM galimybės yra neribotos, o Carnegie Mellon darbas tikrai bus pakeisti požiūrį į kalbos modelius į gerąją pusę.
Skaitykite daugiau apie AI:
Atsakomybės neigimas
Remdamasi tuo, Pasitikėjimo projekto gairės, atkreipkite dėmesį, kad šiame puslapyje pateikta informacija nėra skirta ir neturėtų būti aiškinama kaip teisinė, mokesčių, investicinė, finansinė ar bet kokia kita konsultacija. Svarbu investuoti tik tai, ką galite sau leisti prarasti, ir, jei turite kokių nors abejonių, kreiptis į nepriklausomą finansinę konsultaciją. Norėdami gauti daugiau informacijos, siūlome peržiūrėti taisykles ir nuostatas bei pagalbos ir palaikymo puslapius, kuriuos pateikia išdavėjas arba reklamuotojas. MetaversePost yra įsipareigojusi teikti tikslias, nešališkas ataskaitas, tačiau rinkos sąlygos gali keistis be įspėjimo.
Apie autorių
Damiras yra komandos vadovas, produktų vadovas ir redaktorius Metaverse Post, apimantis tokias temas kaip AI/ML, AGI, LLM, Metaverse ir Web3– susijusiose srityse. Jo straipsniai kas mėnesį pritraukia didžiulę daugiau nei milijono vartotojų auditoriją. Atrodo, kad jis yra ekspertas, turintis 10 metų SEO ir skaitmeninės rinkodaros patirtį. Damiras buvo paminėtas Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ir kiti leidiniai. Jis keliauja tarp JAE, Turkijos, Rusijos ir NVS kaip skaitmeninis klajoklis. Damiras įgijo fizikos bakalauro laipsnį, kuris, jo manymu, suteikė jam kritinio mąstymo įgūdžių, reikalingų sėkmingam nuolat besikeičiančiame interneto peizaže.
Daugiau straipsnių
Damiras yra komandos vadovas, produktų vadovas ir redaktorius Metaverse Post, apimantis tokias temas kaip AI/ML, AGI, LLM, Metaverse ir Web3– susijusiose srityse. Jo straipsniai kas mėnesį pritraukia didžiulę daugiau nei milijono vartotojų auditoriją. Atrodo, kad jis yra ekspertas, turintis 10 metų SEO ir skaitmeninės rinkodaros patirtį. Damiras buvo paminėtas Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ir kiti leidiniai. Jis keliauja tarp JAE, Turkijos, Rusijos ir NVS kaip skaitmeninis klajoklis. Damiras įgijo fizikos bakalauro laipsnį, kuris, jo manymu, suteikė jam kritinio mąstymo įgūdžių, reikalingų sėkmingam nuolat besikeičiančiame interneto peizaže.
