Carnegie Melloni teadlased esitlevad MLC LLM-i keelemudelite käitamiseks mis tahes seadmes
Põgusalt
MLC LLM ja Web LLM võimaldavad kasutajatel juurutada keelemudelid mis tahes seadmes, võimaldades loomuliku keele mõistmiseks uusi rakendusi ja kasutusviise.
Carnegie Melloni ülikooli teadlased on esitanud MLC LLM, tööriistade komplekt, mis võib muuta keelemudelite käitamist mis tahes seadmes. Sellised mudelid võimaldavad kasutajatel luua mitmesuguseid loomuliku keele rakendusi, nagu virtuaalsed assistendid ja nutikad vestlusrobotid. Eraldi jõudluse optimeerimise kaudu saab MLC LLM-i nüüd kasutada erinevatel platvormidel ja stsenaariumidel.
| Loe rohkem: 10 parimat ülikooli tehisintellekti uurimiseks |
Uus tööriist, tuntud kui Veeb LLM, on samuti osa sellest algatusest. See võimaldab käivitada keelemudeleid otse brauseris, mis tähendab, et kasutajad ei pea käsitsi alla laadima süsteemi, mis võib olla mitu gigabaiti suur. Nii on loodud Vicuna 7B mudel, millel on 7 miljardit parameetrit. See võib olla väga kasulik sobivamate virtuaalsete assistentide ja vestlusrobotite kujundamisel, kuna need nõuavad palju parameetreid.
Kasutades MLC LLM-i ja Web LLM-i, on nüüd võimalik juurutada mis tahes keelemudel valikuliselt mis tahes seadmes. Carnegie Melloni teadlased on teatanud, et see avaks hulga rakendusi, mis varem polnud võimalikud. Ükskõik milline keelemudel saab nüüd kasutada erinevates arvutusseadmetes, nagu sülearvutid ja telefonid, või isegi protsessorites ja videokiirendites. See avab võimaluste maailma loomuliku keele töötlemiseks ja masinõpe.
Carnegie Melloni uus algatus sillutab teed paljudele uutele rakendustele ja kasutusviisidele loomuliku keele mõistmiseks. Kuna saate neid keelemudeleid kasutada mis tahes seadmes, on sellist tehnoloogiat palju lihtsam juurutada paljudes erinevates stsenaariumides. Olenemata sellest, kas see on mõeldud virtuaalsetele assistentidele või automatiseeritud klienditeenindusele, võib sellel uuel tööriistal olla nende ülesannete tegemisele drastiline mõju.
Carnegie Melloni uurimisrühm töötas välja MLC LLM-i, et seda saaks kasutada mis tahes seadmetes, sealhulgas iPhone'ides ja muudes nutikate koduseadmetes, millel on moodne protsessor ja 6 GB või rohkem RAM-i. See sujuvam lähenemisviis tähendab, et seadmed saavad nüüd käivitada keelemudeleid peaaegu reaalajas genereerimiskiirusega, isegi kui neid on optimeerinud välised arendajad, mitte Apple'i insenerid.
Lisaks loomuliku koostoime võimaldamisele toodetega saab MLC LLM-i kasutada ka seadmehaldusülesannete optimeerimiseks. Kuna töötamiseks on vaja vaid 4 GB kuni 6 GB muutmälu, on see revolutsiooniline keelemudel tulevastele iPhone'i mudelitele suurepärane täiendus ja seda võib potentsiaalselt ilma pika ajata tootmisse viia. arendusprotsess.
Tutvustades MLC LLM-i keelemudelCarnegie Melloni teadlased on loonud tõhusa ja jõulise viisi keelemudelite käitamiseks mis tahes seadmes. MLC LLM süsteem on läbimurre loomuliku keele töötlemises ja võimaldab kasutajatel oma seadmetega loomulikul viisil tõhusamalt suhelda. Samuti on sellel potentsiaal tulevaste seadmehaldusülesannete arendusprotsessi oluliselt kiirendada. MLC LLM-i võimalused on lõputud ja Carnegie Melloni töö teeb seda kindlasti muuta seda, kuidas me keelemudelitest mõtleme paremuse poole.
Loe AI kohta lähemalt:
Kaebused
Vastavalt Usaldusprojekti juhised, pange tähele, et sellel lehel esitatud teave ei ole mõeldud ega tohiks tõlgendada kui juriidilist, maksu-, investeerimis-, finants- või muud nõuannet. Oluline on investeerida ainult seda, mida saate endale lubada kaotada, ja kahtluste korral küsida sõltumatut finantsnõu. Lisateabe saamiseks soovitame vaadata nõudeid ja tingimusi ning väljaandja või reklaamija pakutavaid abi- ja tugilehti. MetaversePost on pühendunud täpsele ja erapooletule aruandlusele, kuid turutingimusi võidakse ette teatamata muuta.
Umbes Autor
Damir on ettevõtte meeskonnajuht, tootejuht ja toimetaja Metaverse Post, mis hõlmab selliseid teemasid nagu AI/ML, AGI, LLM-id, Metaverse ja Web3-seotud väljad. Tema artiklid meelitavad igal kuul tohutut vaatajaskonda, üle miljoni kasutaja. Ta näib olevat ekspert, kellel on 10-aastane SEO ja digitaalse turunduse kogemus. Damirit on mainitud ajakirjades Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muud väljaanded. Ta reisib digitaalse nomaadina AÜE, Türgi, Venemaa ja SRÜ vahel. Damir omandas bakalaureusekraadi füüsikas, mis on tema arvates andnud talle kriitilise mõtlemise oskused, mida on vaja pidevalt muutuval Interneti-maastikul edukaks saamiseks.
Veel artikleid
Damir on ettevõtte meeskonnajuht, tootejuht ja toimetaja Metaverse Post, mis hõlmab selliseid teemasid nagu AI/ML, AGI, LLM-id, Metaverse ja Web3-seotud väljad. Tema artiklid meelitavad igal kuul tohutut vaatajaskonda, üle miljoni kasutaja. Ta näib olevat ekspert, kellel on 10-aastane SEO ja digitaalse turunduse kogemus. Damirit on mainitud ajakirjades Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muud väljaanded. Ta reisib digitaalse nomaadina AÜE, Türgi, Venemaa ja SRÜ vahel. Damir omandas bakalaureusekraadi füüsikas, mis on tema arvates andnud talle kriitilise mõtlemise oskused, mida on vaja pidevalt muutuval Interneti-maastikul edukaks saamiseks.
