Carnegie Mellon Araştırmacıları, Dil Modellerini Herhangi Bir Cihazda Çalıştırmak için MLC LLM'yi Sunar
Kısaca
MLC LLM ve Web LLM, kullanıcıların dağıtım yapmasına olanak tanır dil modelleri herhangi bir cihazda doğal dilin anlaşılmasına yönelik yeni uygulamalara ve kullanımlara olanak tanır.
Carnegie Mellon Üniversitesi araştırmacıları sundu MLC Yüksek Lisans, herhangi bir cihazda dil modellerinin çalıştırılmasında devrim yaratabilecek bir dizi araç. Bu tür modeller, kullanıcıların sanal asistanlar ve akıllı sohbet robotları gibi bir dizi doğal dil uygulaması oluşturmasına olanak tanır. Ayrı performans optimizasyonları sayesinde, MLC LLM artık farklı platformlarda ve senaryolarda kullanılabilir.
| Daha fazla oku: Yapay Zeka Çalışmak İçin En İyi 10 Üniversite |
olarak bilinen yeni araç Web LLM'si, da bu girişimin bir parçasıdır. Dil modellerinin doğrudan tarayıcıda başlatılmasına izin verir; bu, kullanıcıların, boyutu birkaç gigabayt olabilen sistemi manuel olarak indirmeleri gerekmediği anlamına gelir. 7 milyar parametreye sahip olan Vicuna 7B modeli bu şekilde oluşturulmuştur. Bu, büyük miktarda parametre gerektirdiklerinden, daha uygun sanal asistanlar ve sohbet robotları tasarlarken son derece yararlı olabilir.
MLC LLM ve Web LLM kullanarak, artık herhangi bir dil modeli herhangi bir cihazda tercih edilebilir. Carnegie Mellon'daki araştırmacılar bunun daha önce mümkün olmayan bir dizi uygulamanın önünü açacağını bildirdi. Herhangi dil modeli artık dizüstü bilgisayarlar ve telefonlar gibi çeşitli bilgi işlem cihazlarına, hatta işlemcilere ve video hızlandırıcılara bile dağıtılabilir. Bu, doğal dil işleme için bir olasılıklar dünyasının kapılarını açar ve makine öğrenme.
Carnegie Mellon'un yeni girişimi, doğal dil anlayışı için bir dizi yeni uygulamanın ve kullanımın yolunu açıyor. Bu dil modellerini herhangi bir cihazda kullanabileceğiniz için, bu teknolojiyi birçok farklı senaryoda devreye almak çok daha kolaydır. İster sanal asistanlar ister otomatik müşteri hizmetleri için olsun, bu yeni aracın bu görevlerin yerine getirilme biçimi üzerinde ciddi bir etkisi olabilir.
Carnegie Mellon'ın araştırma ekibi, MLC LLM'yi modern bir işlemciye ve 6 GB veya daha fazla RAM'e sahip iPhone'lar ve diğer akıllı ev cihazları da dahil olmak üzere herhangi bir cihazda çalışacak şekilde geliştirdi. Bu kolaylaştırılmış yaklaşım, Apple mühendisleri tarafından değil, harici geliştiriciler tarafından optimize edildiğinde bile cihazların artık dil modellerini neredeyse gerçek zamanlı üretim hızında çalıştırabileceği anlamına geliyor.
Ürünlerle doğal etkileşimlere izin vermenin yanı sıra MLC LLM, cihaz yönetimi görevlerini optimize etmek için de kullanılabilir. Çalıştırmak için yalnızca 4 GB ila 6 GB RAM'e ihtiyaç duyan bu devrim niteliğindeki dil modeli, gelecekteki iPhone modellerine mükemmel bir katkı sağlayacak ve potansiyel olarak uzun bir süre olmadan üretime aktarılabilir. gelişme süreci.
MLC LLM'yi tanıtarak dil modeli, Carnegie Mellon araştırmacıları, dil modellerini herhangi bir cihazda çalıştırmanın verimli ve sağlam bir yolunu yarattı. MLC LLM sistemi, doğal dil işlemede bir dönüm noktasıdır ve kullanıcıları etkinleştirecek cihazlarıyla daha etkili bir şekilde doğal bir şekilde etkileşim kurmak için. Ayrıca, gelecekteki cihaz yönetimi görevleri için geliştirme sürecini önemli ölçüde hızlandırma potansiyeline de sahiptir. MLC LLM ile olasılıklar sonsuzdur ve Carnegie Mellon'un çalışmaları kesinlikle dil modelleri hakkında düşünme şeklimizi değiştir en iyisi için.
AI hakkında daha fazlasını okuyun:
Feragatname
Doğrultusunda Trust Project yönergeleri, lütfen bu sayfada sağlanan bilgilerin hukuki, vergi, yatırım, finansal veya başka herhangi bir tavsiye niteliğinde olmadığını ve bu şekilde yorumlanmaması gerektiğini unutmayın. Yalnızca kaybetmeyi göze alabileceğiniz kadar yatırım yapmak ve herhangi bir şüpheniz varsa bağımsız finansal tavsiye almak önemlidir. Daha fazla bilgi için şartlar ve koşulların yanı sıra kartı veren kuruluş veya reklamveren tarafından sağlanan yardım ve destek sayfalarına bakmanızı öneririz. MetaversePost doğru, tarafsız raporlamaya kendini adamıştır, ancak piyasa koşulları önceden haber verilmeksizin değiştirilebilir.
Yazar hakkında
Damir şu anda ekip lideri, ürün yöneticisi ve editördür: Metaverse Post, AI/ML, AGI, LLM'ler, Metaverse ve Web3-İlgili alanlar. Makaleleri, her ay bir milyondan fazla kullanıcıdan oluşan büyük bir kitleyi kendine çekiyor. SEO ve dijital pazarlama konusunda 10 yıllık deneyime sahip bir uzman gibi görünüyor. Damir'den Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ve diğer yayınlar. Dijital bir göçebe olarak BAE, Türkiye, Rusya ve BDT arasında seyahat ediyor. Damir, kendisine internetin sürekli değişen ortamında başarılı olmak için gereken eleştirel düşünme becerilerini verdiğine inandığı fizik alanında lisans derecesi aldı.
Daha fazla haber
Damir şu anda ekip lideri, ürün yöneticisi ve editördür: Metaverse Post, AI/ML, AGI, LLM'ler, Metaverse ve Web3-İlgili alanlar. Makaleleri, her ay bir milyondan fazla kullanıcıdan oluşan büyük bir kitleyi kendine çekiyor. SEO ve dijital pazarlama konusunda 10 yıllık deneyime sahip bir uzman gibi görünüyor. Damir'den Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ve diğer yayınlar. Dijital bir göçebe olarak BAE, Türkiye, Rusya ve BDT arasında seyahat ediyor. Damir, kendisine internetin sürekli değişen ortamında başarılı olmak için gereken eleştirel düşünme becerilerini verdiğine inandığı fizik alanında lisans derecesi aldı.
