Raziskovalci Carnegie Mellon predstavljajo MLC LLM za izvajanje jezikovnih modelov v kateri koli napravi
Na kratko
MLC LLM in Web LLM uporabnikom omogočata uvajanje jezikovni modeli na kateri koli napravi, kar omogoča nove aplikacije in uporabe za razumevanje naravnega jezika.
Raziskovalci Univerze Carnegie Mellon so predstavili MLC LLM, nabor orodij, ki bi lahko spremenila način izvajanja jezikovnih modelov v kateri koli napravi. Takšni modeli omogočajo uporabnikom, da ustvarijo vrsto aplikacij v naravnem jeziku, kot so virtualni pomočniki in pametni chatboti. Z ločenimi optimizacijami zmogljivosti je MLC LLM zdaj mogoče uporabljati na različnih platformah in scenarijih.
| Preberite več: 10 najboljših univerz za študij umetne inteligence |
Novo orodje, znano kot Spletni LLM, je tudi del te pobude. Omogoča zagon jezikovnih modelov neposredno v brskalniku, kar pomeni, da uporabnikom ni treba ročno prenesti sistema, ki je lahko velik več gigabajtov. Tako je nastal model Vicuna 7B, ki ima 7 milijard parametrov. To je lahko zelo uporabno pri oblikovanju primernejših virtualnih pomočnikov in klepetalnih robotov, saj zahtevajo velike količine parametrov.
Z uporabo MLC LLM in Web LLM je zdaj mogoče namestiti katero koli jezikovni model po izbiri na kateri koli napravi. Raziskovalci iz Carnegie Mellon so poročali, da bi to odprlo vrsto aplikacij, ki prej niso bile mogoče. Kaj jezikovni model zdaj je mogoče namestiti na različne računalniške naprave, kot so prenosniki in telefoni, ali celo na procesorje in video pospeševalnike. To odpira svet možnosti za obdelavo naravnega jezika in strojno učenje.
Nova pobuda Carnegie Mellon utira pot vrsti novih aplikacij in uporab za razumevanje naravnega jezika. Ker lahko te jezikovne modele uporabljate v kateri koli napravi, je veliko lažje uvesti takšno tehnologijo v številnih različnih scenarijih. Ne glede na to, ali gre za virtualne pomočnike ali avtomatizirane storitve za stranke, bi to novo orodje lahko imelo drastičen vpliv na način izvajanja teh nalog.
Raziskovalna skupina Carnegie Mellon je razvila MLC LLM za delovanje v kateri koli napravi, vključno s telefoni iPhone in drugimi pametnimi domačimi napravami, s sodobnim procesorjem in 6 GB ali več RAM-a. Ta poenostavljen pristop pomeni, da lahko naprave zdaj poganjajo jezikovne modele s hitrostjo generiranja skoraj v realnem času, tudi če jih optimizirajo zunanji razvijalci in ne Applovi inženirji.
Poleg tega, da omogoča naravno interakcijo z izdelki, se lahko MLC LLM uporablja tudi za optimizacijo nalog upravljanja naprav. S samo 4 GB do 6 GB RAM-a, ki je potreben za delovanje, bo ta revolucionarni jezikovni model odličen dodatek k prihodnjim modelom iPhone in bi ga lahko potencialno vključili v proizvodnjo brez dolgotrajnega razvojni proces.
Z uvedbo MLC LLM jezikovni model, so raziskovalci Carnegie Mellon ustvarili učinkovit in robusten način za izvajanje jezikovnih modelov na kateri koli napravi. Sistem MLC LLM je preboj v obdelavi naravnega jezika in bo omogočil uporabnikom za bolj učinkovito naravno interakcijo s svojimi napravami. Ima tudi potencial za znatno pospešitev razvojnega procesa za prihodnje naloge upravljanja naprav. Možnosti so neskončne z MLC LLM in delo Carnegieja Mellona bo zagotovo spremenijo način razmišljanja o jezikovnih modelih na bolje.
Preberite več o AI:
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
več člankov
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
