Carnegie Mellon 연구원, 모든 장치에서 언어 모델 실행을 위한 MLC LLM 제시
요컨대
MLC LLM 및 웹 LLM을 통해 사용자는 언어 모델 모든 장치에서 자연어 이해를 위한 새로운 애플리케이션과 사용법을 허용합니다.
카네기 멜론 대학교 연구원들이 발표한 MLC 법무법인, 언어 모델이 모든 장치에서 실행되는 방식을 혁신할 수 있는 일련의 도구입니다. 이러한 모델을 통해 사용자는 가상 비서 및 스마트 챗봇과 같은 다양한 자연어 애플리케이션을 만들 수 있습니다. 별도의 성능 최적화를 통해 이제 MLC LLM을 다양한 플랫폼과 시나리오에서 사용할 수 있습니다.
| 더 읽기 : 인공 지능을 공부하기 가장 좋은 10개 대학 |
로 알려진 새로운 도구 웹 LLM, 또한 이 이니셔티브의 일부입니다. 이를 통해 브라우저에서 직접 언어 모델을 시작할 수 있습니다. 즉, 사용자는 크기가 몇 기가바이트가 될 수 있는 시스템을 수동으로 다운로드할 필요가 없습니다. 7억 개의 매개변수가 있는 Vicuna 7B 모델은 이렇게 생성되었습니다. 이는 많은 양의 매개변수가 필요하기 때문에 보다 적합한 가상 비서 및 챗봇을 설계할 때 매우 유용할 수 있습니다.
MLC LLM 및 Web LLM을 사용하여 이제 모든 것을 배포할 수 있습니다. 언어 모델 어떤 장치에서든 선택할 수 있습니다. Carnegie Mellon의 연구원들은 이것이 이전에는 불가능했던 다양한 응용 분야를 열어줄 것이라고 보고했습니다. 어느 언어 모델 이제 노트북, 휴대폰, 프로세서, 비디오 가속기와 같은 다양한 컴퓨팅 장치에 배포할 수 있습니다. 이는 자연어 처리에 대한 가능성의 세계를 열어줍니다. 기계 학습.
Carnegie Mellon의 새로운 이니셔티브는 자연어 이해를 위한 다양한 새로운 응용 프로그램 및 용도를 위한 길을 열어줍니다. 모든 장치에서 이러한 언어 모델을 사용할 수 있으므로 다양한 시나리오에서 이러한 기술을 배포하는 것이 훨씬 쉽습니다. 가상 비서든 자동화된 고객 서비스든 이 새로운 도구는 이러한 작업이 수행되는 방식에 큰 영향을 미칠 수 있습니다.
Carnegie Mellon의 연구팀은 최신 프로세서와 6GB 이상의 RAM을 갖춘 iPhone 및 기타 스마트 홈 장치를 포함한 모든 장치에서 실행되는 MLC LLM을 개발했습니다. 이 간소화된 접근 방식은 Apple 엔지니어가 아닌 외부 개발자가 최적화한 경우에도 장치에서 거의 실시간 생성 속도로 언어 모델을 실행할 수 있음을 의미합니다.
MLC LLM은 제품과의 자연스러운 상호 작용을 허용하는 것 외에도 장치 관리 작업을 최적화하는 데 사용할 수 있습니다. 실행하는 데 4GB에서 6GB의 RAM만 있으면 되는 이 혁신적인 언어 모델은 향후 iPhone 모델에 탁월한 추가 기능을 제공할 것이며 잠재적으로 오래 걸리지 않고 생산에 들어갈 수 있습니다. 개발 과정.
MLC LLM을 도입하여 언어 모델, Carnegie Mellon 연구원은 모든 장치에서 언어 모델을 실행하는 효율적이고 강력한 방법을 만들었습니다. MLC LLM 시스템은 자연어 처리 및 사용자를 활성화합니다 보다 효과적으로 장치와 자연스럽게 상호 작용합니다. 또한 향후 장치 관리 작업을 위한 개발 프로세스를 크게 가속화할 수 있는 잠재력이 있습니다. MLC LLM의 가능성은 무한하며 Carnegie Mellon의 작업은 반드시 언어 모델에 대한 우리의 생각을 바꾸다 더 나은.
AI에 대해 자세히 알아보기:
책임 부인
줄 안 트러스트 프로젝트 지침, 이 페이지에 제공된 정보는 법률, 세금, 투자, 재정 또는 기타 형태의 조언을 제공하기 위한 것이 아니며 해석되어서도 안 됩니다. 손실을 감수할 수 있는 만큼만 투자하고 의심스러운 경우 독립적인 재정 조언을 구하는 것이 중요합니다. 자세한 내용은 이용약관은 물론 발행자나 광고주가 제공하는 도움말 및 지원 페이지를 참조하시기 바랍니다. MetaversePost 는 정확하고 편견 없는 보고를 위해 최선을 다하고 있지만 시장 상황은 예고 없이 변경될 수 있습니다.
저자에 관하여
Damir는 팀 리더, 제품 관리자 및 편집자입니다. Metaverse Post, AI/ML, AGI, LLM, Metaverse 및 Web3-관련 분야. 그의 기사는 매달 백만 명이 넘는 사용자의 엄청난 청중을 끌어들입니다. 그는 SEO 및 디지털 마케팅 분야에서 10년의 경험을 가진 전문가로 보입니다. Damir는 Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto 및 기타 간행물. UAE, 터키, 러시아, CIS를 오가며 디지털 유목민으로 활동하고 있습니다. Damir는 끊임없이 변화하는 인터넷 환경에서 성공하는 데 필요한 비판적 사고 기술을 제공했다고 믿는 물리학 학사 학위를 받았습니다.
더 많은 기사
Damir는 팀 리더, 제품 관리자 및 편집자입니다. Metaverse Post, AI/ML, AGI, LLM, Metaverse 및 Web3-관련 분야. 그의 기사는 매달 백만 명이 넘는 사용자의 엄청난 청중을 끌어들입니다. 그는 SEO 및 디지털 마케팅 분야에서 10년의 경험을 가진 전문가로 보입니다. Damir는 Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto 및 기타 간행물. UAE, 터키, 러시아, CIS를 오가며 디지털 유목민으로 활동하고 있습니다. Damir는 끊임없이 변화하는 인터넷 환경에서 성공하는 데 필요한 비판적 사고 기술을 제공했다고 믿는 물리학 학사 학위를 받았습니다.
