Ο Διευθύνων Σύμβουλος του Hugging Face προβλέπει ότι μικρότερα μοντέλα τεχνητής νοημοσύνης θα κυριαρχήσουν το 2024
Εν συντομία
Το 2024 θα δει την άνοδο των μοντέλων μικρών γλωσσών, καθώς οι εταιρείες ξεπερνούν τα όρια της αποτελεσματικότητας, της σχέσης κόστους-αποτελεσματικότητας και της προσβασιμότητας.
Για τεχνητή νοημοσύνη, το έτος 2024 πρόκειται να σηματοδοτήσει μια σημαντική καμπή — με την άνοδο των Μικρών Γλωσσικών Μοντέλων (SLM), καθώς οι εταιρείες υπερβαίνουν τα όρια της αποτελεσματικότητας, της σχέσης κόστους-αποτελεσματικότητας και της προσβασιμότητας.
Το ταξίδι από την κυριαρχία των τεράστιων μεγάλων γλωσσικών μοντέλων (LLM) στην εμφάνιση συμπαγών, ισχυρών SLM υπόσχεται να αναδιαμορφώσει το Τοπίο AI.
Αυτός ο ισχυρισμός βρήκε την υποστήριξή του Clam Delangue, συνιδρυτή και διευθύνοντα σύμβουλο της Αγκαλιάζοντας το πρόσωπο.
«Το Phi-2 της Microsoft AI είναι πλέον το νούμερο ένα trending μοντέλο στο Hugging Face. Το 2024 θα είναι η χρονιά των μικρών μοντέλων AI!». είπε ο Ντελάνγκ, σε α Δημοσίευση LinkedIn.
Επιπλέον, στις αρχές Δεκεμβρίου, η γαλλική startup τεχνητής νοημοσύνης Mistral, αμέσως μετά τη συγκέντρωση ενός σημαντικού $ 415 εκατομμύρια ο γύρος χρηματοδότησης, παρουσίασε το Mixtral 8x7B, ένα SLM ανοιχτού κώδικα που κέρδισε γρήγορα την έλξη για την ικανότητά του να ανταγωνίζεται την ποιότητα του GPT-3.5 σε ορισμένα σημεία αναφοράς, όλα ενώ εκτελούνται σε έναν μόνο υπολογιστή με μέτρια μνήμη RAM 100 gigabyte.
Η προσέγγιση του Mistral, που ονομάζεται μοντέλο «αραιό μείγμα ειδικών», συνδυάζει μικρότερα μοντέλα εκπαιδευμένα για συγκεκριμένες εργασίες, επιτυγχάνοντας αξιοσημείωτη αποτελεσματικότητα.
Για να μην μακρηγορώ, γίγαντας της τεχνολογίας Microsoft μπήκε στην αρένα με το Phi-2, την τελευταία έκδοση του εγχώριου SLM του. Ιδιαίτερα μικροσκοπικό με μόλις 2.7 δισεκατομμύρια παραμέτρους, το Phi-2 έχει σχεδιαστεί για να λειτουργεί σε κινητό τηλέφωνο, επιδεικνύοντας τη δέσμευση της βιομηχανίας να μειώσει τα μοντέλα χωρίς συμβιβασμούς στις δυνατότητες.
Μοντέλα όπως GPT-3Το , με εκπληκτικές 175 δισεκατομμύρια παραμέτρους, παρουσίασε την ικανότητα να δημιουργεί κείμενο που μοιάζει με άνθρωπο, να απαντά σε ερωτήσεις και να συνοψίζει έγγραφα. Ωστόσο, τα εγγενή μειονεκτήματα των LLM, συμπεριλαμβανομένων των ανησυχιών που σχετίζονται με την αποτελεσματικότητα, το κόστος και την προσαρμοστικότητα, έχουν ανοίξει το δρόμο για την άνοδο των SLM.
Παράγοντες που οδηγούν την ανάπτυξη γλωσσικού μοντέλου μικρής κλίμακας
Τα SLM διαθέτουν μια βελτιωμένη προσέγγιση με λιγότερες παραμέτρους, με αποτέλεσμα μεγαλύτερη ταχύτητα συμπερασμάτων και υψηλότερη απόδοση. Οι μειωμένες απαιτήσεις μνήμης και αποθήκευσης καθιστούν τις υπολογιστικές διαδικασίες ευέλικτες, αμφισβητώντας τη συμβατική πεποίθηση ότι η χωρητικότητα του μοντέλου πρέπει πάντα να είναι παράλληλη με την αύξηση της όρεξης για δεδομένα.
Ενώ τα μεγάλα γλωσσικά μοντέλα αρέσουν GPT-3 επιβαρύνονται με υπερβολικό κόστος – συχνά δεκάδες εκατομμύρια δολάρια για την ανάπτυξη – τα SLM αποτελούν μια οικονομικά αποδοτική εναλλακτική.
Αυτά τα μοντέλα μπορούν να εκπαιδευτούν, να αναπτυχθούν και να λειτουργήσουν σε εύκολα διαθέσιμο υλικό εμπορευμάτων, καθιστώντας τα μια οικονομικά βιώσιμη επιλογή για τις επιχειρήσεις. Επιπλέον, οι μέτριες απαιτήσεις τους σε πόρους τους τοποθετούν ως ιδανικούς υποψηφίους για εφαρμογές στον υπολογισμό αιχμής, που εκτελούνται εκτός σύνδεσης σε συσκευές χαμηλότερης ισχύος.
Ομοίως, ένα βασικό πλεονέκτημα των SLM έγκειται στη δυνατότητα προσαρμογής τους. Σε αντίθεση με τα μεγαλύτερα αντίστοιχά τους, τα οποία αντιπροσωπεύουν συμβιβασμούς σε όλους τους τομείς, τα SLM μπορούν να ρυθμιστούν με ακρίβεια για συγκεκριμένες εφαρμογές. Οι γρήγοροι κύκλοι επανάληψης διευκολύνουν τον πρακτικό πειραματισμό, επιτρέποντας στους προγραμματιστές να προσαρμόσουν τα μοντέλα σε συγκεκριμένες ανάγκες.
Καθώς πλησιάζουμε στο 2024, η άνοδος των μοντέλων μικρών γλωσσών σηματοδοτεί μια μεταμορφωτική εποχή στην τεχνητή νοημοσύνη. Η σκηνή έχει οριστεί για το Έτος Μικρών μοντέλων AI, όπου η καινοτομία και η προσβασιμότητα συγκλίνουνdefiστις δυνατότητες της τεχνητής νοημοσύνης.
Αποποίηση ευθυνών
Σύμφωνα με το Οδηγίες του έργου Trust, σημειώστε ότι οι πληροφορίες που παρέχονται σε αυτήν τη σελίδα δεν προορίζονται και δεν πρέπει να ερμηνεύονται ως νομικές, φορολογικές, επενδυτικές, χρηματοοικονομικές ή οποιαδήποτε άλλη μορφή συμβουλής. Είναι σημαντικό να επενδύσετε μόνο ό,τι έχετε την πολυτέλεια να χάσετε και να αναζητήσετε ανεξάρτητες οικονομικές συμβουλές εάν έχετε οποιεσδήποτε αμφιβολίες. Για περισσότερες πληροφορίες, προτείνουμε να ανατρέξετε στους όρους και τις προϋποθέσεις, καθώς και στις σελίδες βοήθειας και υποστήριξης που παρέχονται από τον εκδότη ή τον διαφημιστή. MetaversePost δεσμεύεται για ακριβείς, αμερόληπτες αναφορές, αλλά οι συνθήκες της αγοράς υπόκεινται σε αλλαγές χωρίς προειδοποίηση.
Σχετικά με το Συγγραφέας
Ο Kumar είναι ένας έμπειρος Τεχνικός Δημοσιογράφος με εξειδίκευση στις δυναμικές διασταυρώσεις της AI/ML, της τεχνολογίας μάρκετινγκ και των αναδυόμενων τομέων όπως η κρυπτογράφηση, η αλυσίδα μπλοκ και η NFTμικρό. Με περισσότερα από 3 χρόνια εμπειρίας στον κλάδο, η Kumar έχει δημιουργήσει ένα αποδεδειγμένο ιστορικό στη δημιουργία συναρπαστικών αφηγήσεων, τη διεξαγωγή οξυδερκών συνεντεύξεων και την παροχή ολοκληρωμένων πληροφοριών. Η τεχνογνωσία της Kumar έγκειται στην παραγωγή περιεχομένου υψηλής απήχησης, συμπεριλαμβανομένων άρθρων, εκθέσεων και ερευνητικών δημοσιεύσεων για εξέχουσες πλατφόρμες του κλάδου. Με ένα μοναδικό σύνολο δεξιοτήτων που συνδυάζει τεχνικές γνώσεις και αφήγηση, ο Kumar διαπρέπει στην επικοινωνία σύνθετων τεχνολογικών εννοιών σε διαφορετικά κοινά με σαφή και ελκυστικό τρόπο.
Περισσότερα άρθρα
Ο Kumar είναι ένας έμπειρος Τεχνικός Δημοσιογράφος με εξειδίκευση στις δυναμικές διασταυρώσεις της AI/ML, της τεχνολογίας μάρκετινγκ και των αναδυόμενων τομέων όπως η κρυπτογράφηση, η αλυσίδα μπλοκ και η NFTμικρό. Με περισσότερα από 3 χρόνια εμπειρίας στον κλάδο, η Kumar έχει δημιουργήσει ένα αποδεδειγμένο ιστορικό στη δημιουργία συναρπαστικών αφηγήσεων, τη διεξαγωγή οξυδερκών συνεντεύξεων και την παροχή ολοκληρωμένων πληροφοριών. Η τεχνογνωσία της Kumar έγκειται στην παραγωγή περιεχομένου υψηλής απήχησης, συμπεριλαμβανομένων άρθρων, εκθέσεων και ερευνητικών δημοσιεύσεων για εξέχουσες πλατφόρμες του κλάδου. Με ένα μοναδικό σύνολο δεξιοτήτων που συνδυάζει τεχνικές γνώσεις και αφήγηση, ο Kumar διαπρέπει στην επικοινωνία σύνθετων τεχνολογικών εννοιών σε διαφορετικά κοινά με σαφή και ελκυστικό τρόπο.
