Investigadores de Carnegie Mellon presentan MLC LLM para ejecutar modelos de lenguaje en cualquier dispositivo
En Resumen
MLC LLM y Web LLM permiten a los usuarios implementar modelos de lenguaje en cualquier dispositivo, lo que permite nuevas aplicaciones y usos para la comprensión del lenguaje natural.
Investigadores de la Universidad Carnegie Mellon han presentado MLC LLM, un conjunto de herramientas que podría revolucionar la forma en que se ejecutan los modelos de lenguaje en cualquier dispositivo. Dichos modelos permiten a los usuarios crear una variedad de aplicaciones de lenguaje natural, como asistentes virtuales y chatbots inteligentes. A través de optimizaciones de rendimiento separadas, MLC LLM ahora se puede usar en diferentes plataformas y escenarios.
| Más información: 10 mejores universidades para estudiar inteligencia artificial |
La nueva herramienta, conocida como Máster en Derecho Web, también forma parte de esta iniciativa. Permite el lanzamiento de modelos de lenguaje directamente en el navegador, lo que significa que los usuarios no tienen que descargar manualmente el sistema, que puede tener varios gigabytes de tamaño. Así se ha creado el modelo Vicuña 7B, que tiene 7 mil millones de parámetros. Esto puede ser extremadamente útil al diseñar asistentes virtuales y chatbots más adecuados, ya que requieren una gran cantidad de parámetros.
Usando MLC LLM y Web LLM, ahora es posible implementar cualquier modelo de lenguaje de elección en cualquier dispositivo. Los investigadores de Carnegie Mellon han informado que esto abriría una gama de aplicaciones que antes no eran posibles. Cualquier modelo de lenguaje Ahora se puede implementar en varios dispositivos informáticos, como computadoras portátiles y teléfonos, o incluso procesadores y aceleradores de video. Esto abre un mundo de posibilidades para el procesamiento del lenguaje natural y máquina de aprendizaje.
La nueva iniciativa de Carnegie Mellon allana el camino para una gama de nuevas aplicaciones y usos para la comprensión del lenguaje natural. Como puede usar estos modelos de lenguaje en cualquier dispositivo, es mucho más fácil implementar dicha tecnología en muchos escenarios diferentes. Ya sea para asistentes virtuales o servicio al cliente automatizado, esta nueva herramienta podría tener un impacto drástico en la forma en que se realizan estas tareas.
El equipo de investigación de Carnegie Mellon desarrolló MLC LLM para ejecutarse en cualquier dispositivo, incluidos iPhones y otros dispositivos domésticos inteligentes, con un procesador moderno y 6 GB o más de RAM. Este enfoque simplificado significa que los dispositivos ahora pueden ejecutar modelos de lenguaje con una velocidad de generación casi en tiempo real, incluso cuando están optimizados por desarrolladores externos y no por ingenieros de Apple.
Además de permitir interacciones naturales con los productos, MLC LLM también se puede utilizar para optimizar las tareas de administración de dispositivos. Con solo 4 GB a 6 GB de RAM necesarios para funcionar, este revolucionario modelo de lenguaje será una excelente adición a los futuros modelos de iPhone y podría implementarse en producción sin el largo proceso de desarrollo.
Al presentar el MLC LLM modelo de lenguaje, los investigadores de Carnegie Mellon han creado una forma eficiente y sólida de ejecutar modelos de lenguaje en cualquier dispositivo. El sistema MLC LLM es un gran avance en el procesamiento del lenguaje natural y permitirá a los usuarios para interactuar naturalmente con sus dispositivos de manera más efectiva. También tiene el potencial de acelerar significativamente el proceso de desarrollo para futuras tareas de administración de dispositivos. Las posibilidades son infinitas con MLC LLM, y el trabajo de Carnegie Mellon seguramente transformar la forma en que pensamos sobre los modelos de lenguaje para el mejor.
Lea más sobre la IA:
Observación
En línea con la Directrices del Proyecto Confianza, tenga en cuenta que la información proporcionada en esta página no pretende ser ni debe interpretarse como asesoramiento legal, fiscal, de inversión, financiero o de cualquier otro tipo. Es importante invertir sólo lo que pueda permitirse perder y buscar asesoramiento financiero independiente si tiene alguna duda. Para mayor información sugerimos consultar los términos y condiciones así como las páginas de ayuda y soporte proporcionadas por el emisor o anunciante. MetaversePost se compromete a brindar informes precisos e imparciales, pero las condiciones del mercado están sujetas a cambios sin previo aviso.
Sobre el Autor
Damir es el líder del equipo, gerente de producto y editor en Metaverse Post, que cubre temas como AI/ML, AGI, LLM, Metaverse y Web3-campos relacionados. Sus artículos atraen una audiencia masiva de más de un millón de usuarios cada mes. Parece ser un experto con 10 años de experiencia en SEO y marketing digital. Damir ha sido mencionado en Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto y otras publicaciones. Viaja entre los Emiratos Árabes Unidos, Turquía, Rusia y la CEI como nómada digital. Damir obtuvo una licenciatura en física, que él cree que le ha dado las habilidades de pensamiento crítico necesarias para tener éxito en el panorama siempre cambiante de Internet.
Más artículos
Damir es el líder del equipo, gerente de producto y editor en Metaverse Post, que cubre temas como AI/ML, AGI, LLM, Metaverse y Web3-campos relacionados. Sus artículos atraen una audiencia masiva de más de un millón de usuarios cada mes. Parece ser un experto con 10 años de experiencia en SEO y marketing digital. Damir ha sido mencionado en Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto y otras publicaciones. Viaja entre los Emiratos Árabes Unidos, Turquía, Rusia y la CEI como nómada digital. Damir obtuvo una licenciatura en física, que él cree que le ha dado las habilidades de pensamiento crítico necesarias para tener éxito en el panorama siempre cambiante de Internet.
