Onderzoekers van Carnegie Mellon presenteren MLC LLM voor het uitvoeren van taalmodellen op elk apparaat
In het kort
Met MLC LLM en Web LLM kunnen gebruikers implementeren taalmodellen op elk apparaat, waardoor nieuwe toepassingen en gebruiksmogelijkheden voor het begrijpen van natuurlijke taal mogelijk zijn.
Onderzoekers van de Carnegie Mellon University hebben dit gepresenteerd MLC LLM, een set tools die een revolutie teweeg kunnen brengen in de manier waarop taalmodellen op elk apparaat worden uitgevoerd. Dergelijke modellen stellen gebruikers in staat om een scala aan natuurlijke taaltoepassingen te creëren, zoals virtuele assistenten en slimme chatbots. Door afzonderlijke prestatie-optimalisaties kan MLC LLM nu op verschillende platforms en scenario's worden gebruikt.
De nieuwe tool, bekend als Web-LLM, maakt ook deel uit van dit initiatief. Hiermee kunnen taalmodellen rechtstreeks in de browser worden gestart, wat betekent dat gebruikers het systeem, dat enkele gigabytes groot kan zijn, niet handmatig hoeven te downloaden. Op deze manier is het Vicuna 7B-model met 7 miljard parameters tot stand gekomen. Dit kan erg handig zijn bij het ontwerpen van meer passende virtuele assistenten en chatbots, aangezien deze grote hoeveelheden parameters vereisen.
Met behulp van MLC LLM en Web LLM is het nu mogelijk om elk te implementeren taalmodel naar keuze op elk apparaat. De onderzoekers van Carnegie Mellon hebben gemeld dat dit een reeks toepassingen zou openen die voorheen niet mogelijk waren. Elk taalmodel kan nu worden ingezet op verschillende computerapparatuur, zoals laptops en telefoons, of zelfs processors en videoversnellers. Dit opent een wereld van mogelijkheden voor natuurlijke taalverwerking machine learning.
Het nieuwe initiatief van Carnegie Mellon maakt de weg vrij voor een reeks nieuwe toepassingen en gebruiken voor het begrijpen van natuurlijke taal. Aangezien u deze taalmodellen op elk apparaat kunt gebruiken, is het veel eenvoudiger om dergelijke technologie in veel verschillende scenario's in te zetten. Of het nu gaat om virtuele assistenten of geautomatiseerde klantenservice, deze nieuwe tool kan een drastische impact hebben op de manier waarop deze taken worden uitgevoerd.
Het onderzoeksteam van Carnegie Mellon heeft MLC LLM ontwikkeld voor gebruik op elk apparaat, inclusief iPhones en andere smart home-apparaten, met een moderne processor en 6 GB of meer RAM. Deze gestroomlijnde aanpak betekent dat apparaten nu taalmodellen kunnen uitvoeren met bijna real-time generatiesnelheid, zelfs als ze zijn geoptimaliseerd door externe ontwikkelaars en niet door Apple-technici.
Naast het mogelijk maken van natuurlijke interacties met producten, kan MLC LLM ook worden gebruikt om apparaatbeheertaken te optimaliseren. Met slechts 4GB tot 6GB RAM nodig om te werken, zal dit revolutionaire taalmodel een uitstekende aanvulling zijn op toekomstige iPhone-modellen en zou het mogelijk in productie kunnen worden genomen zonder de lange ontwikkelingsproces.
Door de introductie van de MLC LLM taalmodel, hebben onderzoekers van Carnegie Mellon een efficiënte en robuuste manier ontwikkeld om taalmodellen op elk apparaat uit te voeren. Het MLC LLM-systeem is een doorbraak in de verwerking van natuurlijke taal zal gebruikers inschakelen om op een natuurlijkere manier met hun apparaten te communiceren. Het heeft ook het potentieel om het ontwikkelingsproces voor toekomstige apparaatbeheertaken aanzienlijk te versnellen. De mogelijkheden zijn eindeloos met MLC LLM, en het werk van Carnegie Mellon zal dat zeker zijn de manier veranderen waarop we over taalmodellen denken ten goede.
Lees meer over AI:
Disclaimer
In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.
Over de auteur
Damir is de teamleider, productmanager en redacteur bij Metaverse Post, met onderwerpen als AI/ML, AGI, LLM's, Metaverse en Web3-gerelateerde velden. Zijn artikelen trekken maandelijks een enorm publiek van meer dan een miljoen gebruikers. Hij blijkt een expert te zijn met 10 jaar ervaring in SEO en digitale marketing. Damir is genoemd in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto en andere publicaties. Hij reist als digitale nomade tussen de VAE, Turkije, Rusland en het GOS. Damir behaalde een bachelordiploma in natuurkunde, wat hem volgens hem de kritische denkvaardigheden heeft gegeven die nodig zijn om succesvol te zijn in het steeds veranderende landschap van internet.
Meer artikelen
Damir is de teamleider, productmanager en redacteur bij Metaverse Post, met onderwerpen als AI/ML, AGI, LLM's, Metaverse en Web3-gerelateerde velden. Zijn artikelen trekken maandelijks een enorm publiek van meer dan een miljoen gebruikers. Hij blijkt een expert te zijn met 10 jaar ervaring in SEO en digitale marketing. Damir is genoemd in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto en andere publicaties. Hij reist als digitale nomade tussen de VAE, Turkije, Rusland en het GOS. Damir behaalde een bachelordiploma in natuurkunde, wat hem volgens hem de kritische denkvaardigheden heeft gegeven die nodig zijn om succesvol te zijn in het steeds veranderende landschap van internet.
