Carnegie Mellon-forskere præsenterer MLC LLM for at køre sprogmodeller på enhver enhed
Kort sagt
MLC LLM og Web LLM giver brugerne mulighed for at implementere sprogmodeller på enhver enhed, hvilket giver mulighed for nye applikationer og anvendelser til naturlig sprogforståelse.
Carnegie Mellon University forskere har præsenteret MLC LLM, et sæt værktøjer, der kan revolutionere, hvordan sprogmodeller køres på enhver enhed. Sådanne modeller giver brugerne mulighed for at skabe en række naturlige sprogapplikationer, såsom virtuelle assistenter og smarte chatbots. Gennem separate ydelsesoptimeringer kan MLC LLM nu bruges på forskellige platforme og scenarier.
Det nye værktøj, kendt som Web LLM, er også en del af dette initiativ. Det giver mulighed for lancering af sprogmodeller direkte i browseren, hvilket betyder, at brugerne ikke skal manuelt downloade systemet, som kan være flere gigabyte stort. Vicuna 7B-modellen, som har 7 milliarder parametre, er blevet til på denne måde. Dette kan være yderst nyttigt, når man designer mere passende virtuelle assistenter og chatbots, da de kræver store mængder af parametre.
Ved at bruge MLC LLM og Web LLM er det nu muligt at implementere evt sprogmodel valgfrit på enhver enhed. Forskerne ved Carnegie Mellon har rapporteret, at dette ville åbne op for en række applikationer, som ikke var mulige før. Nogen sprogmodel kan nu implementeres på forskellige computerenheder, såsom bærbare computere og telefoner, eller endda processorer og videoacceleratorer. Dette åbner op for en verden af muligheder for naturlig sprogbehandling og machine learning.
Det nye initiativ fra Carnegie Mellon baner vejen for en række nye applikationer og anvendelser til naturlig sprogforståelse. Da du kan bruge disse sprogmodeller på enhver enhed, er det meget nemmere at implementere en sådan teknologi i mange forskellige scenarier. Uanset om det er til virtuelle assistenter eller automatiseret kundeservice, kan dette nye værktøj have en drastisk indvirkning på den måde, disse opgaver udføres på.
Carnegie Mellons forskerhold udviklede MLC LLM til at køre på enhver enhed, inklusive iPhones og andre smarte hjemmeenheder, med en moderne processor og 6 GB eller mere RAM. Denne strømlinede tilgang betyder, at enheder nu kan køre sprogmodeller med næsten realtidsgenereringshastighed, selv når de er optimeret af eksterne udviklere og ikke Apple-ingeniører.
Ud over at give mulighed for naturlige interaktioner med produkter, kan MLC LLM også bruges til at optimere enhedsadministrationsopgaver. Med kun 4GB til 6GB RAM nødvendig for at køre, vil denne revolutionerende sprogmodel være en fremragende tilføjelse til fremtidige iPhone-modeller og kan potentielt blive sat i produktion uden den lange udviklingsproces.
Ved at introducere MLC LLM sprogmodel, Carnegie Mellon-forskere har skabt en effektiv og robust måde at køre sprogmodeller på på enhver enhed. MLC LLM-systemet er et gennembrud inden for naturlig sprogbehandling og vil aktivere brugerne at interagere naturligt med deres enheder mere effektivt. Det har også potentialet til betydeligt at fremskynde udviklingsprocessen for fremtidige enhedsadministrationsopgaver. Mulighederne er uendelige med MLC LLM, og Carnegie Mellons arbejde vil helt sikkert transformere den måde, vi tænker sprogmodeller på for det bedste.
Læs mere om AI:
Ansvarsfraskrivelse
I tråd med den Trust Project retningslinjer, bemærk venligst, at oplysningerne på denne side ikke er beregnet til at være og ikke skal fortolkes som juridiske, skattemæssige, investeringsmæssige, finansielle eller nogen anden form for rådgivning. Det er vigtigt kun at investere, hvad du har råd til at tabe, og at søge uafhængig finansiel rådgivning, hvis du er i tvivl. For yderligere information foreslår vi at henvise til vilkårene og betingelserne samt hjælpe- og supportsiderne fra udstederen eller annoncøren. MetaversePost er forpligtet til nøjagtig, objektiv rapportering, men markedsforholdene kan ændres uden varsel.
Om forfatteren
Damir er teamleder, produktchef og redaktør på Metaverse Post, der dækker emner som AI/ML, AGI, LLM'er, Metaverse og Web3-relaterede felter. Hans artikler tiltrækker et massivt publikum på over en million brugere hver måned. Han ser ud til at være en ekspert med 10 års erfaring i SEO og digital markedsføring. Damir er blevet nævnt i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto og andre publikationer. Han rejser mellem UAE, Tyrkiet, Rusland og SNG som en digital nomade. Damir tog en bachelorgrad i fysik, som han mener har givet ham de kritiske tænkningskompetencer, der er nødvendige for at få succes i internettets evigt skiftende landskab.
Flere artikler
Damir er teamleder, produktchef og redaktør på Metaverse Post, der dækker emner som AI/ML, AGI, LLM'er, Metaverse og Web3-relaterede felter. Hans artikler tiltrækker et massivt publikum på over en million brugere hver måned. Han ser ud til at være en ekspert med 10 års erfaring i SEO og digital markedsføring. Damir er blevet nævnt i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto og andre publikationer. Han rejser mellem UAE, Tyrkiet, Rusland og SNG som en digital nomade. Damir tog en bachelorgrad i fysik, som han mener har givet ham de kritiske tænkningskompetencer, der er nødvendige for at få succes i internettets evigt skiftende landskab.
