Η RagaAI εγκαινιάζει Open-Source LLM Hub για να διευκολύνει την αξιολόγηση και την ασφάλεια του μοντέλου γλώσσας
Εν συντομία
Η RagaAI κυκλοφόρησε το «RagaAI LLM Hub», μια πλατφόρμα ανοιχτού κώδικα για την αξιολόγηση και τη δημιουργία προστατευτικών κιγκλιδωμάτων για μοντέλα γλωσσών ειδικών τεχνητής νοημοσύνης.
Πλατφόρμα δοκιμών AI RagaAI πρόσφατα ανακοίνωσε την έναρξη του «Κόμβος RagaAI LLM», μια πλατφόρμα ανοιχτού κώδικα και έτοιμη για επιχειρήσεις, σχεδιασμένη για την αξιολόγηση και τη δημιουργία προστατευτικών κιγκλιδωμάτων για Μεγάλα γλωσσικά μοντέλα (LLMs). Με περισσότερες από 100 προσεκτικά σχεδιασμένες μετρήσεις, η πλατφόρμα στοχεύει να αποτρέψει καταστροφικές αποτυχίες σε εφαρμογές LLM και Ανάκτηση Augmented Generation (RAG).
Το RagaAI LLM Hub προσφέρει σε προγραμματιστές και οργανισμούς μια ισχυρή εργαλειοθήκη για να αξιολογούν και να συγκρίνουν αποτελεσματικά τα LLM, καλύπτοντας κρίσιμες πτυχές όπως η Συνάφεια και η Κατανόηση, η Ποιότητα Περιεχομένου, Παραίσθηση, Ασφάλεια & Μεροληψία, Συνάφεια Περιεχομένου, Σάρωση προστατευτικών κιγκλιδωμάτων και ευπάθειας. Επιπλέον, παρέχει μια σειρά δοκιμών που βασίζονται σε μετρήσεις για ποσοτική ανάλυση.
«Η ολιστική αξιολόγηση των LLM είναι μια βασική απαίτηση στον κόσμο της δημιουργίας LLM αυτή τη στιγμή, καθώς οι επιστήμονες δεδομένων και οι επιχειρήσεις καταλαβαίνουν ποια τεχνολογία και στοίβα λειτουργεί για αυτούς. Η διάγνωση ενός προβλήματος απαιτεί σχολαστικό εντοπισμό του προβλήματος στην πηγή, και δεδομένων των εκατοντάδων πιθανών βασικών αιτιών, απαιτεί εκατοντάδες μετρήσεις για τον εντοπισμό αυτής της βασικής αιτίας." Γκάουραβ Αγκαρόλ, είπε ο ιδρυτής της RagaAI MPost.
«Η ικανότητα του RagaAI LLM Hub για ολοκληρωμένες δοκιμές προσθέτει σημαντική αξία στη ροή εργασιών ενός προγραμματιστή, εξοικονομώντας κρίσιμο χρόνο εξαλείφοντας την ad hoc ανάλυση και επιταχύνοντας την ανάπτυξη LLM κατά 3 φορές».
Σχεδιασμένο για να αντιμετωπίζει ζητήματα σε όλο τον κύκλο ζωής του LLM, από την απόδειξη έως τις εφαρμογές παραγωγής, το RagaAI LLM Hub εντοπίζει υποκείμενα προβλήματα εντός Εφαρμογές LLM και διευκολύνει την επίλυσή τους στην πηγή, φέρνοντας επανάσταση στις προσεγγίσεις για τη διασφάλιση της αξιοπιστίας και της αξιοπιστίας.
Η RagaAI ισχυρίζεται ότι το LLM Hub της ενισχύει αυτήν την ικανότητα μέσω μιας σειράς δοκιμών που καλύπτουν διάφορες πτυχές λήψης αποφάσεων:
- Προτροπές: Επαναλαμβάνει και προσδιορίζει τα βέλτιστα πρότυπα προτροπών ενώ δημιουργεί προστατευτικά κιγκλιδώματα για τον μετριασμό των επιθέσεων αντιπάλου.
- Διαχείριση περιβάλλοντος για RAG: Βοηθά τους χρήστες να βρουν τη βέλτιστη ισορροπία μεταξύ της απόδοσης LLM και του κόστους/λανθάνοντος χρόνου όταν λειτουργούν σε κλίμακα.
- Δημιουργία απόκρισης: Χρησιμοποιεί μετρήσεις για τον εντοπισμό παραισθήσεων στις απαντήσεις LLM και δημιουργεί προστατευτικά κιγκλιδώματα για την πρόληψη της μεροληψίας, της διαρροής PII και άλλων πιθανών ζητημάτων.
Μετριασμός των ψευδαισθήσεων και της μεροληψίας AI μέσω της διάγνωσης LLM
Το RagaAI LLM Hub βρίσκει εφαρμογές σε διάφορους κλάδους, συμπεριλαμβανομένου του ηλεκτρονικού εμπορίου, των οικονομικών, του μάρκετινγκ, της νομικής και της υγειονομικής περίθαλψης, υποστηρίζοντας προγραμματιστές και επιχειρήσεις σε εργασίες όπως chatbots, δημιουργία περιεχομένου, σύνοψη κειμένου και δημιουργία πηγαίου κώδικα.
Πέρα από την αξιολόγηση, το RagaAI LLM Hub βοηθά στη δημιουργία προστατευτικών κιγκλιδωμάτων για τη διασφάλιση του απορρήτου των δεδομένων και τη νομική συμμόρφωση, προάγοντας ηθικά και υπεύθυνη AI πρακτικές, ιδιαίτερα σε ευαίσθητους τομείς όπως τα οικονομικά, η υγειονομική περίθαλψη και το δίκαιο.
«Ένας από τους πελάτες μας στον χώρο του ηλεκτρονικού εμπορίου χρησιμοποιούσε LLM για chatbot για υποστήριξη πελατών και το chatbot έδινε λάθος απαντήσεις. Χρησιμοποιώντας το RagaAI, αυτό το ζήτημα εντοπίστηκε και επιλύθηκε με επιτυχία», είπε ο Gaurav Agarwal του RagaAI. MPost. «Στην ασφάλιση υγείας, τα προσωπικά στοιχεία του ασθενούς είναι σημαντικό να προστατεύονται. Σε έναν από τους πελάτες μας, ορισμένες από τις σημαντικές προσωπικές πληροφορίες κοινοποιήθηκαν στο τρίτο μέρος — ένα τεράστιο ζήτημα απορρήτου δεδομένων. Χρησιμοποιώντας τα προστατευτικά κιγκλιδώματα RagaAI LLM Hub, αυτό και παρόμοια άλλα προβλήματα εντοπίστηκαν σε πραγματικό χρόνο και αποτράπηκαν να συμβούν.»
Επιπλέον, στοχεύει στον μετριασμό των κινδύνων για τη φήμη με την τήρηση των κοινωνικών κανόνων και αξιών.
«Το RagaAI βοηθά στη ρύθμιση προστατευτικών κιγκλιδωμάτων όπως η ανίχνευση Προσωπικών Πληροφοριών (PII) στην απόκριση LLM. Αυτό διασφαλίζει ότι δεν θα διαρρεύσουν ποτέ προσωπικά δεδομένα από εσωτερικά έγγραφα από την εφαρμογή LLM και είναι κρίσιμο για το Responsible AI», εξήγησε ο Gaurav Agarwal. «Αυτό και άλλα προστατευτικά κιγκλιδώματα, όπως η διασφάλιση αμερόληπτων και δίκαιων απαντήσεων, ο μη σχολιασμός των ανταγωνιστών και η κατάργηση των Υλικών Μη Δημόσιων Πληροφοριών (MNPI) είναι ζωτικής σημασίας για τις εταιρείες καθώς προσπαθούν να αποφύγουν την κοινωνική βλάβη και τη φήμη τους».
Η κυκλοφορία του RagaAI LLM Hub ακολουθεί μια επιτυχημένη πορεία $ 4.7 εκατομμύρια σε έναν γύρο χρηματοδότησης εκκίνησης τον Ιανουάριο του 2024 με επικεφαλής την pi Ventures, για την επέκτασή της Έρευνα AI, ανάπτυξη και βάση πελατών σε όλες τις ΗΠΑ και την Ευρώπη.
«Στόχος μας είναι να παρέχουμε την καλύτερη τεχνολογία για να κάνουμε τα LLM αξιόπιστα και αξιόπιστα. Επενδύει σημαντικά για τη δημιουργία βασικών τεχνολογιών για την αντιμετώπιση πτυχών διασφάλισης ποιότητας LLM. Η δημιουργία αυτής της τεχνολογίας ανοιχτού κώδικα είναι η προσπάθειά μας να το καταστήσουμε διαθέσιμο σε όλους ώστε η κοινότητα προγραμματιστών να αξιοποιήσει την καλύτερη διαθέσιμη λύση», δήλωσε ο Gaurav Agarwal.
Αποποίηση Eυθυνών
Σύμφωνα με το Οδηγίες του έργου Trust, σημειώστε ότι οι πληροφορίες που παρέχονται σε αυτήν τη σελίδα δεν προορίζονται και δεν πρέπει να ερμηνεύονται ως νομικές, φορολογικές, επενδυτικές, χρηματοοικονομικές ή οποιαδήποτε άλλη μορφή συμβουλής. Είναι σημαντικό να επενδύσετε μόνο ό,τι έχετε την πολυτέλεια να χάσετε και να αναζητήσετε ανεξάρτητες οικονομικές συμβουλές εάν έχετε οποιεσδήποτε αμφιβολίες. Για περισσότερες πληροφορίες, προτείνουμε να ανατρέξετε στους όρους και τις προϋποθέσεις, καθώς και στις σελίδες βοήθειας και υποστήριξης που παρέχονται από τον εκδότη ή τον διαφημιστή. MetaversePost δεσμεύεται για ακριβείς, αμερόληπτες αναφορές, αλλά οι συνθήκες της αγοράς υπόκεινται σε αλλαγές χωρίς προειδοποίηση.
Σχετικά με το Συγγραφέας
Ο Victor είναι Managing Tech Editor/Writer στο Metaverse Post και καλύπτει την τεχνητή νοημοσύνη, τα κρυπτονομίσματα, την επιστήμη των δεδομένων, το μετασυμβάν και την ασφάλεια στον κυβερνοχώρο εντός του επιχειρηματικού χώρου. Διαθέτει μισή δεκαετία εμπειρίας μέσων και τεχνητής νοημοσύνης που εργάζεται σε γνωστά μέσα ενημέρωσης όπως το VentureBeat, το DatatechVibe και το Analytics India Magazine. Όντας Μέντορας μέσων σε διάσημα πανεπιστήμια, συμπεριλαμβανομένων των Οξφόρδης και USC και με μεταπτυχιακό στην επιστήμη δεδομένων και την ανάλυση, ο Victor είναι βαθιά αφοσιωμένος στο να ενημερώνεται για τις αναδυόμενες τάσεις. Προσφέρει στους αναγνώστες τις πιο πρόσφατες και πιο διορατικές αφηγήσεις από το Tech και Web3 τοπίο.
Περισσότερα άρθρα
Ο Victor είναι Managing Tech Editor/Writer στο Metaverse Post και καλύπτει την τεχνητή νοημοσύνη, τα κρυπτονομίσματα, την επιστήμη των δεδομένων, το μετασυμβάν και την ασφάλεια στον κυβερνοχώρο εντός του επιχειρηματικού χώρου. Διαθέτει μισή δεκαετία εμπειρίας μέσων και τεχνητής νοημοσύνης που εργάζεται σε γνωστά μέσα ενημέρωσης όπως το VentureBeat, το DatatechVibe και το Analytics India Magazine. Όντας Μέντορας μέσων σε διάσημα πανεπιστήμια, συμπεριλαμβανομένων των Οξφόρδης και USC και με μεταπτυχιακό στην επιστήμη δεδομένων και την ανάλυση, ο Victor είναι βαθιά αφοσιωμένος στο να ενημερώνεται για τις αναδυόμενες τάσεις. Προσφέρει στους αναγνώστες τις πιο πρόσφατες και πιο διορατικές αφηγήσεις από το Tech και Web3 τοπίο.
