卡内基梅隆大学研究人员展示了用于在任何设备上运行语言模型的 MLC LLM
简单来说
MLC LLM 和 Web LLM 允许用户部署 语言模型 在任何设备上，允许自然语言理解的新应用程序和用法。
卡内基梅隆大学的研究人员提出 MLC法学硕士，一组可以彻底改变语言模型在任何设备上运行方式的工具。 此类模型允许用户创建一系列自然语言应用程序，例如虚拟助手和智能聊天机器人。 通过单独的性能优化，MLC LLM 现在可以用于不同的平台和场景。
| 了解更多： 10 所研究人工智能的最佳大学 |
新工具，称为 网络法学硕士，也是这项倡议的一部分。 它允许直接在浏览器中启动语言模型，这意味着用户不必手动下载可能有数 GB 大小的系统。 具有 7 亿个参数的 Vicuna 7B 模型就是通过这种方式创建的。 这在设计更合适的虚拟助手和聊天机器人时非常有用，因为它们需要大量参数。
使用 MLC LLM 和 Web LLM，现在可以部署任何 语言模型 任何设备上的选择。 卡内基梅隆大学的研究人员报告说，这将开辟一系列以前不可能的应用。 任何 语言模型 现在可以部署在各种计算设备上，例如笔记本电脑和手机，甚至处理器和视频加速器。 这为自然语言处理开辟了一个充满可能性的世界 机器学习.
卡内基梅隆大学的新举措为自然语言理解的一系列新应用和用法铺平了道路。 由于您可以在任何设备上使用这些语言模型，因此在许多不同的场景中部署此类技术要容易得多。 无论是用于虚拟助理还是自动化客户服务，这个新工具都可能对完成这些任务的方式产生巨大影响。
卡内基梅隆大学的研究团队开发的 MLC LLM 可以在任何设备上运行，包括 iPhone 和其他智能家居设备，配备现代处理器和 6GB 或更多内存。 这种简化的方法意味着设备现在可以以几乎实时的生成速度运行语言模型，即使是在由外部开发人员而非 Apple 工程师进行优化时也是如此。
除了允许与产品进行自然交互外，MLC LLM 还可用于优化设备管理任务。 只需 4GB 到 6GB 的 RAM 即可运行，这种革命性的语言模型将成为未来 iPhone 型号的绝佳补充，并有可能在无需冗长的情况下投入生产 发展进程.
通过引入 MLC LLM 语言模型, 卡内基梅隆大学的研究人员创造了一种在任何设备上运行语言模型的高效且稳健的方法。 MLC LLM系统是自然语言处理和 将使用户 更有效地与他们的设备进行自然交互。 它还具有显着加快未来设备管理任务的开发过程的潜力。 MLC LLM 的可能性是无限的，卡内基梅隆大学的工作肯定会 改变我们思考语言模型的方式 为了更好。
阅读有关人工智能的更多信息：
免责声明
在与行 信托项目指南，请注意，本页提供的信息无意且不应被解释为法律、税务、投资、财务或任何其他形式的建议。 重要的是，仅投资您可以承受损失的金额，并在有任何疑问时寻求独立的财务建议。 如需了解更多信息，我们建议您参阅条款和条件以及发行人或广告商提供的帮助和支持页面。 MetaversePost 致力于提供准确、公正的报告，但市场状况如有变更，恕不另行通知。
关于作者
Damir 是团队领导、产品经理和编辑 Metaverse Post，涵盖 AI/ML、AGI、LLM、Metaverse 等主题 Web3- 相关领域。 他的文章每月吸引超过一百万用户的大量读者。 他似乎是一位在 SEO 和数字营销方面拥有 10 年经验的专家。 达米尔曾在 Mashable、Wired、 Cointelegraph、《纽约客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作为数字游牧者往返于阿联酋、土耳其、俄罗斯和独联体国家之间。 达米尔获得了物理学学士学位，他认为这赋予了他在不断变化的互联网格局中取得成功所需的批判性思维技能。
更多文章
Damir 是团队领导、产品经理和编辑 Metaverse Post，涵盖 AI/ML、AGI、LLM、Metaverse 等主题 Web3- 相关领域。 他的文章每月吸引超过一百万用户的大量读者。 他似乎是一位在 SEO 和数字营销方面拥有 10 年经验的专家。 达米尔曾在 Mashable、Wired、 Cointelegraph、《纽约客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作为数字游牧者往返于阿联酋、土耳其、俄罗斯和独联体国家之间。 达米尔获得了物理学学士学位，他认为这赋予了他在不断变化的互联网格局中取得成功所需的批判性思维技能。
