Els investigadors de Carnegie Mellon presenten MLC LLM per executar models de llenguatge en qualsevol dispositiu
En breu
MLC LLM i Web LLM permeten als usuaris desplegar models lingüístics en qualsevol dispositiu, permetent noves aplicacions i usos per a la comprensió del llenguatge natural.
Investigadors de la Carnegie Mellon University han presentat MLC LLM, un conjunt d'eines que podrien revolucionar la manera com s'executen els models lingüístics en qualsevol dispositiu. Aquests models permeten als usuaris crear una sèrie d'aplicacions de llenguatge natural, com ara assistents virtuals i chatbots intel·ligents. Mitjançant optimitzacions de rendiment separades, ara MLC LLM es pot utilitzar en diferents plataformes i escenaris.
La nova eina, coneguda com Web LLM, també forma part d'aquesta iniciativa. Permet el llançament de models d'idioma directament al navegador, el que significa que els usuaris no han de descarregar manualment el sistema, que pot tenir una mida de diversos gigabytes. D'aquesta manera s'ha creat el model Vicuna 7B, que té 7 milions de paràmetres. Això pot ser extremadament útil quan es dissenyen assistents virtuals i chatbots més adequats, ja que requereixen grans quantitats de paràmetres.
Amb MLC LLM i Web LLM, ara és possible implementar-ne qualsevol model lingüístic d'elecció en qualsevol dispositiu. Els investigadors de Carnegie Mellon han informat que això obriria una sèrie d'aplicacions que abans no eren possibles. Cap model lingüístic Ara es pot implementar en diversos dispositius informàtics, com ara ordinadors portàtils i telèfons, o fins i tot processadors i acceleradors de vídeo. Això obre un món de possibilitats per al processament del llenguatge natural i màquina d'aprenentatge.
La nova iniciativa de Carnegie Mellon obre el camí per a una sèrie de noves aplicacions i usos per a la comprensió del llenguatge natural. Com que podeu utilitzar aquests models d'idioma en qualsevol dispositiu, és molt més fàcil desplegar aquesta tecnologia en molts escenaris diferents. Tant si es tracta d'assistents virtuals com d'atenció al client automatitzada, aquesta nova eina podria tenir un impacte dràstic en la manera com es fan aquestes tasques.
L'equip d'investigació de Carnegie Mellon va desenvolupar MLC LLM per executar-se en qualsevol dispositiu, inclosos iPhones i altres dispositius domèstics intel·ligents, amb un processador modern i 6 GB o més de RAM. Aquest enfocament racionalitzat significa que els dispositius ara poden executar models d'idioma amb una velocitat de generació gairebé en temps real, fins i tot quan estiguin optimitzats per desenvolupadors externs i no per enginyers d'Apple.
A més de permetre interaccions naturals amb els productes, MLC LLM també es pot utilitzar per optimitzar les tasques de gestió de dispositius. Amb només de 4 GB a 6 GB de RAM necessaris per funcionar, aquest model d'idioma revolucionari serà una excel·lent addició als futurs models d'iPhone i es podria llançar a la producció sense el llarg termini. procés de desenvolupament.
Amb la presentació del MLC LLM model lingüístic, els investigadors de Carnegie Mellon han creat una manera eficient i robusta d'executar models de llenguatge en qualsevol dispositiu. El sistema MLC LLM és un avenç en el processament del llenguatge natural i permetrà als usuaris interactuar de manera natural amb els seus dispositius de manera més eficaç. També té el potencial d'accelerar significativament el procés de desenvolupament per a tasques futures de gestió de dispositius. Les possibilitats són infinites amb MLC LLM, i el treball de Carnegie Mellon segurament ho farà transformar la nostra manera de pensar sobre els models lingüístics per millor.
Llegeix més sobre AI:
renúncia
En línia amb la Directrius del projecte Trust, si us plau, tingueu en compte que la informació proporcionada en aquesta pàgina no pretén ni s'ha d'interpretar com a assessorament legal, fiscal, d'inversió, financer o de cap altra forma. És important invertir només el que et pots permetre perdre i buscar assessorament financer independent si tens dubtes. Per obtenir més informació, us suggerim que feu referència als termes i condicions, així com a les pàgines d'ajuda i assistència proporcionades per l'emissor o l'anunciant. MetaversePost es compromet a fer informes precisos i imparcials, però les condicions del mercat estan subjectes a canvis sense previ avís.
About The Autor
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
més articles
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
