Οι ερευνητές του Carnegie Mellon παρουσιάζουν το MLC LLM για μοντέλα γλώσσας τρεξίματος σε οποιαδήποτε συσκευή
Εν συντομία
Το MLC LLM και το Web LLM επιτρέπουν στους χρήστες να αναπτύξουν γλωσσικά μοντέλα σε οποιαδήποτε συσκευή, επιτρέποντας νέες εφαρμογές και χρήσεις για την κατανόηση φυσικής γλώσσας.
Ερευνητές του Πανεπιστημίου Carnegie Mellon παρουσίασαν MLC LLM, ένα σύνολο εργαλείων που θα μπορούσαν να φέρουν επανάσταση στον τρόπο με τον οποίο εκτελούνται τα μοντέλα γλώσσας σε οποιαδήποτε συσκευή. Τέτοια μοντέλα επιτρέπουν στους χρήστες να δημιουργούν μια σειρά από εφαρμογές φυσικής γλώσσας, όπως εικονικούς βοηθούς και έξυπνα chatbots. Μέσω ξεχωριστών βελτιστοποιήσεων απόδοσης, το MLC LLM μπορεί πλέον να χρησιμοποιηθεί σε διαφορετικές πλατφόρμες και σενάρια.
| Διαβάστε περισσότερα: 10 καλύτερα πανεπιστήμια για σπουδές τεχνητής νοημοσύνης |
Το νέο εργαλείο, γνωστό ως Web LLM, αποτελεί επίσης μέρος αυτής της πρωτοβουλίας. Επιτρέπει την εκκίνηση μοντέλων γλώσσας απευθείας στο πρόγραμμα περιήγησης, πράγμα που σημαίνει ότι οι χρήστες δεν χρειάζεται να κάνουν λήψη του συστήματος με μη αυτόματο τρόπο, το μέγεθος του οποίου μπορεί να είναι αρκετά gigabyte. Το μοντέλο Vicuna 7B, το οποίο έχει 7 δισεκατομμύρια παραμέτρους, έχει δημιουργηθεί με αυτόν τον τρόπο. Αυτό μπορεί να είναι εξαιρετικά χρήσιμο όταν σχεδιάζετε πιο κατάλληλους εικονικούς βοηθούς και chatbot, καθώς απαιτούν μεγάλες ποσότητες παραμέτρων.
Χρησιμοποιώντας το MLC LLM και το Web LLM, είναι πλέον δυνατή η ανάπτυξη οποιουδήποτε γλωσσικό μοντέλο επιλογής σε οποιαδήποτε συσκευή. Οι ερευνητές στο Carnegie Mellon ανέφεραν ότι αυτό θα άνοιγε μια σειρά από εφαρμογές που δεν ήταν δυνατές πριν. Οποιος γλωσσικό μοντέλο μπορεί πλέον να αναπτυχθεί σε διάφορες υπολογιστικές συσκευές, όπως φορητούς υπολογιστές και τηλέφωνα, ή ακόμα και επεξεργαστές και επιταχυντές βίντεο. Αυτό ανοίγει έναν κόσμο δυνατοτήτων για επεξεργασία φυσικής γλώσσας και μάθηση μηχανής.
Η νέα πρωτοβουλία της Carnegie Mellon ανοίγει το δρόμο για μια σειρά από νέες εφαρμογές και χρήσεις για την κατανόηση φυσικής γλώσσας. Καθώς μπορείτε να χρησιμοποιήσετε αυτά τα μοντέλα γλώσσας σε οποιαδήποτε συσκευή, είναι πολύ πιο εύκολο να αναπτύξετε μια τέτοια τεχνολογία σε πολλά διαφορετικά σενάρια. Είτε πρόκειται για εικονικούς βοηθούς είτε για αυτοματοποιημένη εξυπηρέτηση πελατών, αυτό το νέο εργαλείο θα μπορούσε να έχει δραστικό αντίκτυπο στον τρόπο με τον οποίο εκτελούνται αυτές οι εργασίες.
Η ερευνητική ομάδα του Carnegie Mellon ανέπτυξε το MLC LLM για να λειτουργεί σε οποιαδήποτε συσκευή, συμπεριλαμβανομένων των iPhone και άλλων έξυπνων οικιακών συσκευών, με σύγχρονο επεξεργαστή και 6 GB ή περισσότερο RAM. Αυτή η βελτιστοποιημένη προσέγγιση σημαίνει ότι οι συσκευές μπορούν πλέον να εκτελούν μοντέλα γλώσσας με ταχύτητα παραγωγής σχεδόν σε πραγματικό χρόνο, ακόμη και όταν βελτιστοποιούνται από εξωτερικούς προγραμματιστές και όχι από μηχανικούς της Apple.
Εκτός από το ότι επιτρέπει φυσικές αλληλεπιδράσεις με προϊόντα, το MLC LLM μπορεί επίσης να χρησιμοποιηθεί για τη βελτιστοποίηση των εργασιών διαχείρισης συσκευών. Με μόνο 4 GB έως 6 GB μνήμης RAM που απαιτούνται για να λειτουργήσει, αυτό το επαναστατικό μοντέλο γλώσσας θα αποτελέσει μια εξαιρετική προσθήκη στα μελλοντικά μοντέλα iPhone και θα μπορούσε ενδεχομένως να κυκλοφορήσει στην παραγωγή χωρίς τη χρονοβόρα διαδικασία ανάπτυξης.
Με την εισαγωγή του MLC LLM γλωσσικό μοντέλο, οι ερευνητές του Carnegie Mellon δημιούργησαν έναν αποτελεσματικό και ισχυρό τρόπο εκτέλεσης μοντέλων γλώσσας σε οποιαδήποτε συσκευή. Το σύστημα MLC LLM είναι μια σημαντική ανακάλυψη στην επεξεργασία φυσικής γλώσσας και θα επιτρέψει στους χρήστες να αλληλεπιδρούν φυσικά με τις συσκευές τους πιο αποτελεσματικά. Έχει επίσης τη δυνατότητα να επιταχύνει σημαντικά τη διαδικασία ανάπτυξης για μελλοντικές εργασίες διαχείρισης συσκευών. Οι δυνατότητες είναι ατελείωτες με το MLC LLM και η δουλειά του Carnegie Mellon σίγουρα θα μεταμορφώσουν τον τρόπο που σκεφτόμαστε τα γλωσσικά μοντέλα για το καλύτερο.
Διαβάστε περισσότερα για το AI:
Αποποίηση ευθυνών
Σύμφωνα με το Οδηγίες του έργου Trust, σημειώστε ότι οι πληροφορίες που παρέχονται σε αυτήν τη σελίδα δεν προορίζονται και δεν πρέπει να ερμηνεύονται ως νομικές, φορολογικές, επενδυτικές, χρηματοοικονομικές ή οποιαδήποτε άλλη μορφή συμβουλής. Είναι σημαντικό να επενδύσετε μόνο ό,τι έχετε την πολυτέλεια να χάσετε και να αναζητήσετε ανεξάρτητες οικονομικές συμβουλές εάν έχετε οποιεσδήποτε αμφιβολίες. Για περισσότερες πληροφορίες, προτείνουμε να ανατρέξετε στους όρους και τις προϋποθέσεις, καθώς και στις σελίδες βοήθειας και υποστήριξης που παρέχονται από τον εκδότη ή τον διαφημιστή. MetaversePost δεσμεύεται για ακριβείς, αμερόληπτες αναφορές, αλλά οι συνθήκες της αγοράς υπόκεινται σε αλλαγές χωρίς προειδοποίηση.
Σχετικά με το Συγγραφέας
Ο Damir είναι ο αρχηγός της ομάδας, ο διευθυντής προϊόντων και ο συντάκτης στο Metaverse Post, καλύπτοντας θέματα όπως AI/ML, AGI, LLMs, Metaverse και Web3-σχετικά πεδία. Τα άρθρα του προσελκύουν ένα τεράστιο κοινό άνω του ενός εκατομμυρίου χρηστών κάθε μήνα. Φαίνεται να είναι ειδικός με 10ετή εμπειρία στο SEO και το ψηφιακό μάρκετινγκ. Ο Damir έχει αναφερθεί στο Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto και άλλες εκδόσεις. Ταξιδεύει μεταξύ των ΗΑΕ, της Τουρκίας, της Ρωσίας και της ΚΑΚ ως ψηφιακός νομάδας. Ο Damir απέκτησε πτυχίο στη φυσική, το οποίο πιστεύει ότι του έχει δώσει τις δεξιότητες κριτικής σκέψης που απαιτούνται για να είναι επιτυχής στο συνεχώς μεταβαλλόμενο τοπίο του Διαδικτύου.
Περισσότερα άρθρα
Ο Damir είναι ο αρχηγός της ομάδας, ο διευθυντής προϊόντων και ο συντάκτης στο Metaverse Post, καλύπτοντας θέματα όπως AI/ML, AGI, LLMs, Metaverse και Web3-σχετικά πεδία. Τα άρθρα του προσελκύουν ένα τεράστιο κοινό άνω του ενός εκατομμυρίου χρηστών κάθε μήνα. Φαίνεται να είναι ειδικός με 10ετή εμπειρία στο SEO και το ψηφιακό μάρκετινγκ. Ο Damir έχει αναφερθεί στο Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto και άλλες εκδόσεις. Ταξιδεύει μεταξύ των ΗΑΕ, της Τουρκίας, της Ρωσίας και της ΚΑΚ ως ψηφιακός νομάδας. Ο Damir απέκτησε πτυχίο στη φυσική, το οποίο πιστεύει ότι του έχει δώσει τις δεξιότητες κριτικής σκέψης που απαιτούνται για να είναι επιτυχής στο συνεχώς μεταβαλλόμενο τοπίο του Διαδικτύου.
