Cercetătorii Carnegie Mellon prezintă MLC LLM pentru rularea modelelor de limbaj pe orice dispozitiv
Pe scurt
MLC LLM și Web LLM permit utilizatorilor să implementeze modele de limbaj pe orice dispozitiv, permițând noi aplicații și utilizări pentru înțelegerea limbajului natural.
Au prezentat cercetătorii de la Universitatea Carnegie Mellon MLC LLM, un set de instrumente care ar putea revoluționa modul în care modelele lingvistice sunt rulate pe orice dispozitiv. Astfel de modele permit utilizatorilor să creeze o gamă largă de aplicații în limbaj natural, cum ar fi asistenți virtuali și chatbot-uri inteligenți. Prin optimizări separate de performanță, MLC LLM poate fi acum utilizat pe diferite platforme și scenarii.
| Citeşte mai mult: 10 cele mai bune universități pentru a studia inteligența artificială |
Noul instrument, cunoscut ca Web LLM, face și parte din această inițiativă. Permite lansarea modelelor de limbă direct în browser, ceea ce înseamnă că utilizatorii nu trebuie să descarce manual sistemul, care poate avea o dimensiune de câțiva gigaocteți. Modelul Vicuna 7B, care are 7 miliarde de parametri, a fost creat astfel. Acest lucru poate fi extrem de util atunci când proiectați asistenți virtuali și chatbot-uri mai potriviti, deoarece necesită cantități mari de parametri.
Folosind MLC LLM și Web LLM, acum este posibil să implementați oricare model de limbaj la alegere pe orice dispozitiv. Cercetătorii de la Carnegie Mellon au raportat că acest lucru ar deschide o serie de aplicații care nu erau posibile înainte. Orice model de limbaj poate fi acum implementat pe diverse dispozitive de calcul, cum ar fi laptopuri și telefoane, sau chiar procesoare și acceleratoare video. Acest lucru deschide o lume de posibilități pentru procesarea limbajului natural și masina de învățare.
Noua inițiativă de la Carnegie Mellon deschide calea pentru o serie de noi aplicații și utilizări pentru înțelegerea limbajului natural. Deoarece puteți utiliza aceste modele de limbaj pe orice dispozitiv, este mult mai ușor să implementați o astfel de tehnologie în multe scenarii diferite. Fie că este vorba de asistenți virtuali sau de servicii automate pentru clienți, acest nou instrument ar putea avea un impact drastic asupra modului în care sunt îndeplinite aceste sarcini.
Echipa de cercetare a lui Carnegie Mellon a dezvoltat MLC LLM pentru a fi rulat pe orice dispozitiv, inclusiv iPhone și alte dispozitive inteligente de acasă, cu un procesor modern și 6 GB sau mai mult de RAM. Această abordare simplificată înseamnă că dispozitivele pot rula acum modele de limbaj cu viteză de generare aproape în timp real, chiar și atunci când sunt optimizate de dezvoltatori externi și nu de inginerii Apple.
Pe lângă faptul că permite interacțiuni naturale cu produsele, MLC LLM poate fi folosit și pentru a optimiza sarcinile de gestionare a dispozitivelor. Cu doar 4 GB până la 6 GB de memorie RAM necesare pentru a rula, acest model de limbă revoluționar va fi o completare excelentă pentru viitoarele modele de iPhone și ar putea fi introdus în producție fără a dura mult timp. proces de dezvoltare.
Prin introducerea MLC LLM model de limbaj, Cercetătorii Carnegie Mellon au creat o modalitate eficientă și robustă de a rula modele de limbaj pe orice dispozitiv. Sistemul MLC LLM este o descoperire în procesarea limbajului natural și va permite utilizatorilor să interacționeze în mod natural cu dispozitivele lor în mod mai eficient. De asemenea, are potențialul de a accelera semnificativ procesul de dezvoltare pentru sarcinile viitoare de gestionare a dispozitivelor. Posibilitățile sunt nesfârșite cu MLC LLM, iar munca lui Carnegie Mellon va fi cu siguranță transforma modul în care gândim modelele lingvistice pentru mai bine.
Citiți mai multe despre AI:
Declinare a responsabilităţii
În conformitate cu Ghidurile proiectului Trust, vă rugăm să rețineți că informațiile furnizate pe această pagină nu sunt destinate și nu trebuie interpretate ca fiind consiliere juridică, fiscală, investițională, financiară sau orice altă formă de consiliere. Este important să investești doar ceea ce îți poți permite să pierzi și să cauți sfaturi financiare independente dacă ai îndoieli. Pentru informații suplimentare, vă sugerăm să consultați termenii și condițiile, precum și paginile de ajutor și asistență furnizate de emitent sau agent de publicitate. MetaversePost se angajează să raporteze corecte, imparțial, dar condițiile de piață pot fi modificate fără notificare.
Despre autor
Damir este liderul echipei, manager de produs și editor la Metaverse Post, care acoperă subiecte precum AI/ML, AGI, LLM-uri, Metaverse și Web3-domenii conexe. Articolele sale atrag o audiență masivă de peste un milion de utilizatori în fiecare lună. El pare a fi un expert cu 10 ani de experiență în SEO și marketing digital. Damir a fost menționat în Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto și alte publicații. Călătorește între Emiratele Arabe Unite, Turcia, Rusia și CSI ca nomad digital. Damir a obținut o diplomă de licență în fizică, despre care crede că i-a oferit abilitățile de gândire critică necesare pentru a avea succes în peisajul în continuă schimbare al internetului.
Mai multe articole
Damir este liderul echipei, manager de produs și editor la Metaverse Post, care acoperă subiecte precum AI/ML, AGI, LLM-uri, Metaverse și Web3-domenii conexe. Articolele sale atrag o audiență masivă de peste un milion de utilizatori în fiecare lună. El pare a fi un expert cu 10 ani de experiență în SEO și marketing digital. Damir a fost menționat în Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto și alte publicații. Călătorește între Emiratele Arabe Unite, Turcia, Rusia și CSI ca nomad digital. Damir a obținut o diplomă de licență în fizică, despre care crede că i-a oferit abilitățile de gândire critică necesare pentru a avea succes în peisajul în continuă schimbare al internetului.
