Kārnegija Melona pētnieki piedāvā MLC LLM valodu modeļu palaišanai jebkurā ierīcē
Īsumā
MLC LLM un Web LLM ļauj lietotājiem izvietot valodu modeļi jebkurā ierīcē, ļaujot izmantot jaunas lietojumprogrammas un lietojumus dabiskās valodas izpratnei.
Kārnegija Melona universitātes pētnieki ir prezentējuši MLC LLM, rīku komplekts, kas varētu mainīt valodu modeļu palaišanu jebkurā ierīcē. Šādi modeļi ļauj lietotājiem izveidot virkni dabiskās valodas lietojumprogrammu, piemēram, virtuālos palīgus un viedos tērzēšanas robotus. Izmantojot atsevišķu veiktspējas optimizāciju, MLC LLM tagad var izmantot dažādās platformās un scenārijos.
| Lasīt vairāk: 10 labākās universitātes mākslīgā intelekta studijām |
Jaunais rīks, kas pazīstams kā Web LLM, arī ir daļa no šīs iniciatīvas. Tas ļauj palaist valodu modeļus tieši pārlūkprogrammā, kas nozīmē, ka lietotājiem nav manuāli jālejupielādē sistēma, kuras izmērs var būt vairāki gigabaiti. Tādā veidā ir izveidots Vicuna 7B modelis, kuram ir 7 miljardi parametru. Tas var būt ļoti noderīgi, izstrādājot piemērotākus virtuālos palīgus un tērzēšanas robotus, jo tiem ir nepieciešams liels parametru daudzums.
Izmantojot MLC LLM un Web LLM, tagad ir iespējams izvietot jebkuru valodas modelis pēc izvēles jebkurā ierīcē. Kārnegija Melona pētnieki ir ziņojuši, ka tas pavērtu virkni lietojumu, kas iepriekš nebija iespējams. Jebkurš valodas modelis tagad var izvietot dažādās skaitļošanas ierīcēs, piemēram, klēpjdatoros un tālruņos vai pat procesoros un video paātrinātājos. Tas paver iespēju pasauli dabiskās valodas apstrādei un mašīna mācīšanās.
Jaunā Kārnegija Melona iniciatīva paver ceļu virknei jaunu lietojumu un pielietojumu dabiskās valodas izpratnei. Tā kā šos valodu modeļus varat izmantot jebkurā ierīcē, šādu tehnoloģiju ir daudz vieglāk izvietot daudzos dažādos scenārijos. Neatkarīgi no tā, vai runa ir par virtuālajiem palīgiem vai automatizēto klientu apkalpošanu, šim jaunajam rīkam var būt krasi ietekme uz šo uzdevumu veikšanas veidu.
Kārnegija Melona pētnieku komanda izstrādāja MLC LLM, lai to darbinātu jebkurā ierīcē, tostarp iPhone un citās viedās mājas ierīcēs, ar modernu procesoru un 6 GB vai vairāk RAM. Šī racionalizētā pieeja nozīmē, ka ierīces tagad var darbināt valodu modeļus ar gandrīz reāllaika ģenerēšanas ātrumu, pat ja tos ir optimizējuši ārēji izstrādātāji, nevis Apple inženieri.
Papildus dabiskai mijiedarbībai ar produktiem MLC LLM var izmantot arī ierīču pārvaldības uzdevumu optimizēšanai. Tā kā darbībai nepieciešama tikai 4 GB līdz 6 GB RAM, šis revolucionārais valodas modelis būs lielisks papildinājums nākamajiem iPhone modeļiem un, iespējams, varētu tikt ieviests ražošanā bez ilgstošas attīstības process.
Ieviešot MLC LLM valodas modelisKārnegija Melona pētnieki ir izveidojuši efektīvu un stabilu veidu, kā palaist valodu modeļus jebkurā ierīcē. MLC LLM sistēma ir izrāviens dabiskās valodas apstrādē un ļaus lietotājiem efektīvāk mijiedarboties ar savām ierīcēm. Tas arī var ievērojami paātrināt turpmāko ierīču pārvaldības uzdevumu izstrādes procesu. Ar MLC LLM iespējas ir bezgalīgas, un Kārnegija Melona darbs noteikti būs pārveidot to, kā mēs domājam par valodu modeļiem priekš labākā.
Lasiet vairāk par AI:
Atbildības noraidīšana
Atbilstīgi Uzticības projekta vadlīnijas, lūdzu, ņemiet vērā, ka šajā lapā sniegtā informācija nav paredzēta un to nedrīkst interpretēt kā juridisku, nodokļu, ieguldījumu, finanšu vai jebkāda cita veida padomu. Ir svarīgi ieguldīt tikai to, ko varat atļauties zaudēt, un meklēt neatkarīgu finanšu padomu, ja jums ir šaubas. Lai iegūtu papildinformāciju, iesakām skatīt pakalpojumu sniegšanas noteikumus, kā arī palīdzības un atbalsta lapas, ko nodrošina izdevējs vai reklāmdevējs. MetaversePost ir apņēmies sniegt precīzus, objektīvus pārskatus, taču tirgus apstākļi var tikt mainīti bez iepriekšēja brīdinājuma.
Par Autors
Damirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.
Vairāk rakstus
Damirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.
