Изследователите на Carnegie Mellon представят MLC LLM за изпълнение на езикови модели на всяко устройство
Накратко
MLC LLM и Web LLM позволяват на потребителите да внедряват езикови модели на всяко устройство, което позволява нови приложения и употреби за разбиране на естествен език.
Изследователи от университета Карнеги Мелън представиха MLC LLM, набор от инструменти, които биха могли да революционизират начина, по който езиковите модели се изпълняват на всяко устройство. Такива модели позволяват на потребителите да създават набор от приложения на естествен език, като виртуални асистенти и интелигентни чатботове. Чрез отделни оптимизации на производителността MLC LLM вече може да се използва на различни платформи и сценарии.
Новият инструмент, известен като Уеб LLM, също е част от тази инициатива. Той позволява стартирането на езикови модели директно в браузъра, което означава, че потребителите не трябва ръчно да изтеглят системата, която може да бъде с размер няколко гигабайта. По този начин е създаден моделът Vicuna 7B, който има 7 милиарда параметъра. Това може да бъде изключително полезно при проектирането на по-подходящи виртуални асистенти и чатботове, тъй като те изискват голямо количество параметри.
Използвайки MLC LLM и Web LLM, вече е възможно да внедрите всеки езиков модел по избор на всяко устройство. Изследователите от Carnegie Mellon съобщиха, че това ще отвори набор от приложения, които не са били възможни преди. Всякакви езиков модел вече може да се внедри на различни компютърни устройства, като лаптопи и телефони, или дори процесори и видео акселераторы. Това отваря свят от възможности за обработка на естествен език и машинно обучение.
Новата инициатива на Carnegie Mellon проправя пътя за набор от нови приложения и употреби за разбиране на естествен език. Тъй като можете да използвате тези езикови модели на всяко устройство, е много по-лесно да внедрите такава технология в много различни сценарии. Независимо дали става въпрос за виртуални асистенти или автоматизирано обслужване на клиенти, този нов инструмент може да има драстично въздействие върху начина, по който се изпълняват тези задачи.
Изследователският екип на Carnegie Mellon разработи MLC LLM, за да работи на всяко устройство, включително iPhone и други интелигентни домашни устройства, с модерен процесор и 6 GB или повече RAM. Този рационализиран подход означава, че устройствата вече могат да изпълняват езикови модели със скорост на генериране почти в реално време, дори когато са оптимизирани от външни разработчици, а не от инженери на Apple.
Освен че позволява естествени взаимодействия с продуктите, MLC LLM може да се използва и за оптимизиране на задачите за управление на устройства. Със само 4GB до 6GB RAM, необходими за работа, този революционен езиков модел ще бъде отлично допълнение към бъдещите модели iPhone и потенциално може да бъде пуснат в производство без дългите процес на развитие.
Чрез въвеждане на MLC LLM езиков модел, изследователите на Carnegie Mellon създадоха ефективен и стабилен начин за изпълнение на езикови модели на всяко устройство. Системата MLC LLM е пробив в обработката на естествен език и ще позволи на потребителите за по-ефективно естествено взаимодействие с техните устройства. Освен това има потенциала значително да ускори процеса на разработка за бъдещи задачи за управление на устройства. Възможностите са безкрайни с MLC LLM и работата на Карнеги Мелън със сигурност ще го направи трансформират начина, по който мислим за езиковите модели за по-добро.
Прочетете повече за AI:
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
Още статии
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
