Nachrichtenbericht Technologie
08. März 2024

RagaAI führt Open-Source-LLM-Hub ein, um die Bewertung und Sicherheit von Sprachmodellen zu vereinfachen

In Kürze

RagaAI hat „RagaAI LLM Hub“ gestartet, eine Open-Source-Plattform zur Bewertung und Festlegung von Leitplanken für KI-spezifische Sprachmodelle.

RagaAI führt Open-Source-LLM-Hub ein, um die Bewertung und Sicherheit von Sprachmodellen zu vereinfachen

KI-Testplattform RagaAI kündigte kürzlich den Start von „RagaAI LLM Hub„, eine Open-Source- und unternehmensfähige Plattform zur Evaluierung und Festlegung von Leitplanken für Large Language Models (LLMs). Mit über 100 sorgfältig erstellten Metriken zielt die Plattform darauf ab, katastrophale Ausfälle in LLMs und Retrieval Augmented Generation (RAG)-Anwendungen zu verhindern.

Der RagaAI LLM Hub bietet Entwicklern und Organisationen ein robustes Toolkit zur effektiven Bewertung und zum Vergleich von LLMs und deckt kritische Aspekte wie Relevanz und Verständnis, Inhaltsqualität, Halluzination, Sicherheit und Bias, Kontextrelevanz, Leitplanken und Schwachstellenscan. Darüber hinaus bietet es eine Reihe metrischer Tests für die quantitative Analyse.

„Die ganzheitliche Bewertung von LLMs ist derzeit eine Schlüsselanforderung in der Welt des LLM-Aufbaus, da Datenwissenschaftler und Unternehmen herausfinden, welche Technologie und welcher Stack für sie geeignet sind. „Die Diagnose eines Problems erfordert eine sorgfältige Identifizierung des Problems an der Quelle, und angesichts Hunderter möglicher Grundursachen sind Hunderte von Metriken erforderlich, um diese Grundursache zu lokalisieren.“ Gaurav Agarwal, sagte der Gründer von RagaAI MPost.

„Die Fähigkeit von RagaAI LLM Hub für umfassende Tests stellt einen erheblichen Mehrwert für den Arbeitsablauf eines Entwicklers dar, indem er durch den Wegfall von Ad-hoc-Analysen entscheidende Zeit spart und die LLM-Entwicklung um das Dreifache beschleunigt.“  

Der RagaAI LLM Hub ist darauf ausgelegt, Probleme im gesamten LLM-Lebenszyklus zu lösen, vom Proof-of-Concept bis hin zu Produktionsanwendungen, und identifiziert zugrunde liegende Probleme LLM-Anwendungen und erleichtert deren Lösung an der Quelle, wodurch Ansätze zur Gewährleistung von Zuverlässigkeit und Vertrauenswürdigkeit revolutioniert werden.

RagaAI behauptet, dass sein LLM Hub diese Fähigkeit durch eine Reihe von Tests ermöglicht, die verschiedene Aspekte der Entscheidungsfindung abdecken:

  • Eingabeaufforderungen: Es iteriert und identifiziert optimale Eingabeaufforderungsvorlagen und richtet gleichzeitig Leitplanken ein, um gegnerische Angriffe abzuschwächen.
  • Kontextmanagement für RAGs: Es unterstützt Benutzer dabei, das optimale Gleichgewicht zwischen LLM-Leistung und Kosten/Latenz beim Betrieb in großem Maßstab zu finden.
  • Antwortgenerierung: Es verwendet Metriken, um Halluzinationen in LLM-Antworten zu identifizieren und legt Leitplanken fest, um Verzerrungen, PII-Lecks und andere potenzielle Probleme zu verhindern.
Quelle: RagaAI

Milderung von KI-Halluzinationen und Verzerrungen durch LLM-Diagnose

Der RagaAI LLM Hub findet Anwendungen in verschiedenen Branchen, darunter E-Commerce, Finanzen, Marketing, Recht und Gesundheitswesen, und unterstützt Entwickler und Unternehmen bei Aufgaben wie Chatbots, Inhaltserstellung, Textzusammenfassung und Quellcodegenerierung.

Über die Evaluierung hinaus hilft der RagaAI LLM Hub dabei, Leitplanken festzulegen, um den Datenschutz und die Einhaltung gesetzlicher Vorschriften sicherzustellen und ethische und ethische Grundsätze zu fördern verantwortliche KI insbesondere in sensiblen Bereichen wie Finanzen, Gesundheitswesen und Recht.

„Einer unserer Kunden im E-Commerce-Bereich nutzte LLMs als Chatbot für den Kundensupport und der Chatbot gab falsche Antworten. Mithilfe von RagaAI wurde dieses Problem erfolgreich erkannt und behoben“, sagte Gaurav Agarwal von RagaAI MPost. „In der Krankenversicherung ist es wichtig, die persönlichen Daten des Patienten zu schützen. Bei einem unserer Kunden wurden einige wichtige persönliche Daten an Dritte weitergegeben – ein großes Datenschutzproblem. Mithilfe der Leitplanken des RagaAI LLM Hub wurden dieses und ähnliche andere Probleme in Echtzeit erkannt und verhindert.“

Gaurav Agarwal, Gründer von RagaAI

Darüber hinaus zielt es darauf ab, Reputationsrisiken durch die Einhaltung gesellschaftlicher Normen und Werte zu mindern.

„RagaAI hilft bei der Festlegung von Leitplanken wie der Erkennung persönlich identifizierbarer Informationen (PII) in der LLM-Reaktion. Dies stellt sicher, dass niemals personenbezogene Daten aus internen Dokumenten durch die LLM-Anwendung verloren gehen und ist für Responsible AI von entscheidender Bedeutung“, erklärte Gaurav Agarwal. „Diese und andere Leitplanken wie die Sicherstellung unvoreingenommener und fairer Antworten, das Verzicht auf Kommentare zu Wettbewerbern und die Entfernung von Material Non Public Information (MNPI) sind für Unternehmen von entscheidender Bedeutung, wenn sie versuchen, gesellschaftlichen Schaden und Rufschädigung zu vermeiden.“

Der Start des RagaAI LLM Hub folgt einem erfolgreichen 4.7 Mio. US$ in einer Seed-Finanzierungsrunde im Januar 2024 unter der Leitung von pi Ventures, um seine zu erweitern KI-Forschung, Entwicklung und Kundenstamm in den USA und Europa.

„Unser Ziel ist es, die beste Technologie bereitzustellen, um LLMs vertrauenswürdig und zuverlässig zu machen. Es investiert erheblich in den Aufbau von Schlüsseltechnologien, die Aspekte der LLM-Qualitätssicherung berücksichtigen. Durch die Bereitstellung dieser Technologie als Open-Source-Lösung wollen wir sie allen zugänglich machen, damit die Entwicklergemeinschaft auf der besten verfügbaren Lösung aufbauen kann“, sagte Gaurav Agarwal.

Haftungsausschluss

Im Einklang mit der Richtlinien des Trust-ProjektsBitte beachten Sie, dass die auf dieser Seite bereitgestellten Informationen nicht als Rechts-, Steuer-, Anlage-, Finanz- oder sonstige Beratung gedacht sind und nicht als solche interpretiert werden sollten. Es ist wichtig, nur so viel zu investieren, wie Sie sich leisten können, zu verlieren, und im Zweifelsfall eine unabhängige Finanzberatung einzuholen. Für weitere Informationen empfehlen wir einen Blick auf die Allgemeinen Geschäftsbedingungen sowie die Hilfe- und Supportseiten des Herausgebers oder Werbetreibenden. MetaversePost ist einer genauen, unvoreingenommenen Berichterstattung verpflichtet, die Marktbedingungen können sich jedoch ohne Vorankündigung ändern.

Über den Autor

Victor ist geschäftsführender technischer Redakteur/Autor bei Metaverse Post und deckt künstliche Intelligenz, Krypto, Datenwissenschaft, Metaverse und Cybersicherheit im Unternehmensbereich ab. Er verfügt über ein halbes Jahrzehnt Medien- und KI-Erfahrung bei bekannten Medienunternehmen wie VentureBeat, DatatechVibe und Analytics India Magazine. Als Medienmentor an renommierten Universitäten wie Oxford und USC und mit einem Master-Abschluss in Datenwissenschaft und Analytik ist es Victor ein großes Anliegen, über neue Trends auf dem Laufenden zu bleiben. Er bietet den Lesern die neuesten und aufschlussreichsten Erzählungen aus der Tech- und Web3 Landschaft.

Weitere Artikel
Victor Dey
Victor Dey

Victor ist geschäftsführender technischer Redakteur/Autor bei Metaverse Post und deckt künstliche Intelligenz, Krypto, Datenwissenschaft, Metaverse und Cybersicherheit im Unternehmensbereich ab. Er verfügt über ein halbes Jahrzehnt Medien- und KI-Erfahrung bei bekannten Medienunternehmen wie VentureBeat, DatatechVibe und Analytics India Magazine. Als Medienmentor an renommierten Universitäten wie Oxford und USC und mit einem Master-Abschluss in Datenwissenschaft und Analytik ist es Victor ein großes Anliegen, über neue Trends auf dem Laufenden zu bleiben. Er bietet den Lesern die neuesten und aufschlussreichsten Erzählungen aus der Tech- und Web3 Landschaft.

Von Ripple zum Big Green DAO: Wie Kryptowährungsprojekte zur Wohltätigkeit beitragen

Lassen Sie uns Initiativen erkunden, die das Potenzial digitaler Währungen für wohltätige Zwecke nutzen.

Weitere Informationen

AlphaFold 3, Med-Gemini und andere: Die Art und Weise, wie KI das Gesundheitswesen im Jahr 2024 verändert

KI manifestiert sich im Gesundheitswesen auf verschiedene Weise, von der Aufdeckung neuer genetischer Zusammenhänge bis hin zur Stärkung robotergestützter chirurgischer Systeme ...

Weitere Informationen
Treten Sie unserer innovativen Tech-Community bei
Weiterlesen
Mehr lesen
Pyth Network setzt Pull Oracle auf Solana ein und ermöglicht Entwicklern den Zugriff auf Oracle-Preise
Nachrichtenbericht Technologie
Pyth Network setzt Pull Oracle auf Solana ein und ermöglicht Entwicklern den Zugriff auf Oracle-Preise
17. Juni 2024
Aethirs KI- und Gaming-Partner für Airdrop Tokens an seine Checker Node-Inhaber
Featured Nachrichtenbericht Technologie
Aethirs KI- und Gaming-Partner für Airdrop Tokens an seine Checker Node-Inhaber
17. Juni 2024
Notional Finance wird V2 bis Ende Juli vollständig abschaffen und fordert Benutzer auf, auf V3 umzusteigen
Nachrichtenbericht Technologie
Notional Finance wird V2 bis Ende Juli vollständig abschaffen und fordert Benutzer auf, auf V3 umzusteigen
17. Juni 2024
Tether startet mit Tether Gold unterstützte Alloy-Plattform und führt ersten Token aUSD₮ ein
Märkte Nachrichtenbericht Technologie
Tether startet mit Tether Gold unterstützte Alloy-Plattform und führt ersten Token aUSD₮ ein
17. Juni 2024