卡內基梅隆大學研究人員展示了用於在任何設備上運行語言模型的 MLC LLM
簡單來說
MLC LLM 和 Web LLM 允許用戶部署 語言模型 在任何設備上,允許自然語言理解的新應用程序和用法。
卡內基梅隆大學的研究人員提出 MLC法學碩士,一組可以徹底改變語言模型在任何設備上運行方式的工具。 此類模型允許用戶創建一系列自然語言應用程序,例如虛擬助手和智能聊天機器人。 通過單獨的性能優化,MLC LLM 現在可以用於不同的平台和場景。
閱讀更多: 10 所研究人工智能的最佳大學 |
新工具,稱為 網絡法學碩士,也是這項倡議的一部分。 它允許直接在瀏覽器中啟動語言模型,這意味著用戶不必手動下載可能有數 GB 大小的系統。 具有 7 億個參數的 Vicuna 7B 模型就是通過這種方式創建的。 這在設計更合適的虛擬助手和聊天機器人時非常有用,因為它們需要大量參數。
使用 MLC LLM 和 Web LLM,現在可以部署任何 語言模型 任何設備上的選擇。 卡內基美隆大學的研究人員報告說,這將開啟一系列以前不可能的應用。 任何 語言模型 現在可以部署在各種運算設備上,例如筆記型電腦和手機,甚至處理器和視訊加速器。 這為自然語言處理開啟了一個充滿可能性的世界 機器學習.
卡內基梅隆大學的新舉措為自然語言理解的一系列新應用和用法鋪平了道路。 由於您可以在任何設備上使用這些語言模型,因此在許多不同的場景中部署此類技術要容易得多。 無論是用於虛擬助理還是自動化客戶服務,這個新工具都可能對完成這些任務的方式產生巨大影響。
卡內基梅隆大學的研究團隊開發的 MLC LLM 可以在任何設備上運行,包括 iPhone 和其他智能家居設備,配備現代處理器和 6GB 或更多內存。 這種簡化的方法意味著設備現在可以以幾乎實時的生成速度運行語言模型,即使是在由外部開發人員而非 Apple 工程師進行優化時也是如此。
除了允許與產品進行自然交互外,MLC LLM 還可用於優化設備管理任務。 只需 4GB 到 6GB 的 RAM 即可運行,這種革命性的語言模型將成為未來 iPhone 型號的絕佳補充,並有可能在無需冗長的情況下投入生產 開發過程.
通過引入 MLC LLM 語言模型, 卡內基梅隆大學的研究人員創造了一種在任何設備上運行語言模型的高效且穩健的方式。 MLC LLM系統是自然語言處理和 將使用戶 更有效地與他們的設備進行自然交互。 它還具有顯著加快未來設備管理任務的開發過程的潛力。 MLC LLM 的可能性是無限的,卡內基梅隆大學的工作肯定會 改變我們思考語言模型的方式 為了更好。
閱讀有關人工智能的更多信息:
免責聲明
在與線 信託專案指南,請注意,本頁提供的資訊無意且不應被解釋為法律、稅務、投資、財務或任何其他形式的建議。 重要的是,僅投資您可以承受損失的金額,並在有任何疑問時尋求獨立的財務建議。 如需了解更多信息,我們建議您參閱條款和條件以及發行人或廣告商提供的幫助和支援頁面。 MetaversePost 致力於提供準確、公正的報告,但市場狀況如有變更,恕不另行通知。
關於作者
Damir 是團隊領導、產品經理和編輯 Metaverse Post,涵蓋 AI/ML、AGI、LLM、Metaverse 等主題 Web3- 相關領域。 他的文章每月吸引超過一百萬用戶的大量讀者。 他似乎是一位在 SEO 和數字營銷方面擁有 10 年經驗的專家。 達米爾曾在 Mashable、Wired、 Cointelegraph、《紐約客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作為數字游牧者往返於阿聯酋、土耳其、俄羅斯和獨聯體國家之間。 達米爾獲得了物理學學士學位,他認為這賦予了他在不斷變化的互聯網格局中取得成功所需的批判性思維技能。
更多文章Damir 是團隊領導、產品經理和編輯 Metaverse Post,涵蓋 AI/ML、AGI、LLM、Metaverse 等主題 Web3- 相關領域。 他的文章每月吸引超過一百萬用戶的大量讀者。 他似乎是一位在 SEO 和數字營銷方面擁有 10 年經驗的專家。 達米爾曾在 Mashable、Wired、 Cointelegraph、《紐約客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作為數字游牧者往返於阿聯酋、土耳其、俄羅斯和獨聯體國家之間。 達米爾獲得了物理學學士學位,他認為這賦予了他在不斷變化的互聯網格局中取得成功所需的批判性思維技能。