Carnegie Mellon Tədqiqatçıları Dil Modellərini İstənilən Cihazda işlətmək üçün MLC LLM-ni təqdim etdilər
Qısaca
MLC LLM və Web LLM istifadəçilərə yerləşdirməyə imkan verir dil modelləri istənilən cihazda təbii dilin anlaşılması üçün yeni proqramlar və istifadələrə imkan verir.
Karnegi Mellon Universitetinin tədqiqatçıları təqdim ediblər MLC LLM, dil modellərinin hər hansı bir cihazda necə işlədilməsində inqilab yarada biləcək alətlər dəsti. Belə modellər istifadəçilərə virtual köməkçilər və ağıllı chatbotlar kimi bir sıra təbii dil proqramları yaratmağa imkan verir. Ayrı-ayrı performans optimallaşdırmaları vasitəsilə MLC LLM indi müxtəlif platformalarda və ssenarilərdə istifadə oluna bilər.
| Daha ətraflı: Süni intellekt öyrənmək üçün ən yaxşı 10 universitet |
kimi tanınan yeni alət Veb LLM, həm də bu təşəbbüsün bir hissəsidir. O, dil modellərini birbaşa brauzerdə işə salmağa imkan verir, yəni istifadəçilər bir neçə giqabayt ölçüdə olan sistemi əl ilə yükləməli deyillər. 7 milyard parametrə malik olan Vicuna 7B modeli bu şəkildə yaradılmışdır. Bu, daha uyğun virtual köməkçilər və chatbotlar dizayn edərkən son dərəcə faydalı ola bilər, çünki onlar çoxlu parametrlər tələb edir.
MLC LLM və Web LLM-dən istifadə edərək indi hər hansı birini yerləşdirmək mümkündür dil modeli istənilən cihazda seçim. Carnegie Mellon tədqiqatçıları bunun əvvəllər mümkün olmayan bir sıra tətbiqlər açacağını bildirdilər. Hər hansı dil modeli İndi noutbuklar və telefonlar, hətta prosessorlar və video sürətləndiricilər kimi müxtəlif hesablama cihazlarında yerləşdirilə bilər. Bu, təbii dil emalı üçün imkanlar dünyası açır və maşın təlim.
Carnegie Mellon-un yeni təşəbbüsü təbii dilin anlaşılması üçün bir sıra yeni tətbiqlər və istifadələr üçün yol açır. Bu dil modellərini istənilən cihazda istifadə edə bildiyiniz üçün bu cür texnologiyanı bir çox müxtəlif ssenarilərdə yerləşdirmək çox asandır. İstər virtual köməkçilər, istərsə də avtomatlaşdırılmış müştəri xidməti üçün olsun, bu yeni alət bu tapşırıqların yerinə yetirilməsinə kəskin təsir göstərə bilər.
Carnegie Mellon-un tədqiqat qrupu müasir prosessor və 6 GB və ya daha çox RAM ilə iPhone və digər ağıllı ev cihazları da daxil olmaqla istənilən cihazda işləmək üçün MLC LLM yaratmışdır. Bu sadələşdirilmiş yanaşma o deməkdir ki, cihazlar artıq Apple mühəndisləri tərəfindən deyil, xarici tərtibatçılar tərəfindən optimallaşdırılsa belə, demək olar ki, real vaxt generasiya sürəti ilə dil modellərini işlədə bilər.
Məhsullarla təbii qarşılıqlı əlaqəyə imkan verməklə yanaşı, MLC LLM cihazı idarəetmə tapşırıqlarını optimallaşdırmaq üçün də istifadə edilə bilər. İşləmək üçün yalnız 4 GB-dan 6 GB-a qədər RAM tələb edən bu inqilabi dil modeli gələcək iPhone modellərinə əla əlavə olacaq və potensial olaraq uzun müddət tələb olunmadan istehsala təqdim edilə bilər. inkişaf prosesi.
MLC LLM təqdim etməklə dil modeli, Carnegie Mellon tədqiqatçıları istənilən cihazda dil modellərini idarə etmək üçün səmərəli və möhkəm üsul yaratdılar. MLC LLM sistemi təbii dil emalında bir irəliləyişdir və istifadəçilərə imkan verəcək onların cihazları ilə təbii şəkildə daha effektiv qarşılıqlı əlaqədə olmaq. O, həmçinin gələcək cihaz idarəetmə tapşırıqları üçün inkişaf prosesini əhəmiyyətli dərəcədə sürətləndirmək potensialına malikdir. MLC LLM ilə imkanlar sonsuzdur və Karnegi Mellonun işi şübhəsiz ki dil modelləri haqqında düşüncə tərzimizi dəyişdirin daha yaxşısı üçün.
AI haqqında daha çox oxuyun:
Məsuliyyətdən imtina
uyğun olaraq Güvən Layihəsi qaydaları, lütfən nəzərə alın ki, bu səhifədə təqdim olunan məlumat hüquqi, vergi, investisiya, maliyyə və ya hər hansı digər məsləhət forması kimi təfsir edilməməlidir və təfsir edilməməlidir. Yalnız itirə biləcəyiniz şeyə investisiya qoymaq və hər hansı bir şübhəniz varsa, müstəqil maliyyə məsləhətləri axtarmaq vacibdir. Əlavə məlumat üçün biz emitent və ya reklamçı tərəfindən təmin edilən şərtlər və şərtlərə, həmçinin yardım və dəstək səhifələrinə müraciət etməyi təklif edirik. MetaversePost dəqiq, qərəzsiz hesabat verməyə sadiqdir, lakin bazar şərtləri xəbərdarlıq edilmədən dəyişdirilə bilər.
Müəllif haqqında
Damir komanda rəhbəri, məhsul meneceri və redaktordur Metaverse Post, AI/ML, AGI, LLMs, Metaverse və kimi mövzuları əhatə edir Web3- əlaqəli sahələr. Onun məqalələri hər ay bir milyondan çox istifadəçinin kütləsini cəlb edir. O, SEO və rəqəmsal marketinq sahəsində 10 illik təcrübəyə malik mütəxəssis kimi görünür. Damirin adı Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto və digər nəşrlər. O, rəqəmsal köçəri kimi BƏƏ, Türkiyə, Rusiya və MDB arasında səyahət edir. Damir fizika üzrə bakalavr dərəcəsi qazandı və onun fikrincə, bu, ona internetin daim dəyişən mənzərəsində uğur qazanmaq üçün lazım olan tənqidi düşünmə bacarıqlarını verdi.
Ətraflı məqalələr
Damir komanda rəhbəri, məhsul meneceri və redaktordur Metaverse Post, AI/ML, AGI, LLMs, Metaverse və kimi mövzuları əhatə edir Web3- əlaqəli sahələr. Onun məqalələri hər ay bir milyondan çox istifadəçinin kütləsini cəlb edir. O, SEO və rəqəmsal marketinq sahəsində 10 illik təcrübəyə malik mütəxəssis kimi görünür. Damirin adı Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto və digər nəşrlər. O, rəqəmsal köçəri kimi BƏƏ, Türkiyə, Rusiya və MDB arasında səyahət edir. Damir fizika üzrə bakalavr dərəcəsi qazandı və onun fikrincə, bu, ona internetin daim dəyişən mənzərəsində uğur qazanmaq üçün lazım olan tənqidi düşünmə bacarıqlarını verdi.
