RagaAI spouští Open-Source LLM Hub pro usnadnění hodnocení a bezpečnosti jazykového modelu
Stručně
Společnost RagaAI spustila „RagaAI LLM Hub“, open-source platformu pro hodnocení a vytváření mantinelů pro specifické jazykové modely AI.
Testovací platforma AI RagaAI nedávno oznámila spuštění „Rozbočovač RagaAI LLM“, open-source a podniková platforma určená pro vyhodnocování a vytváření zábradlí pro Velké jazykové modely (LLM). S více než 100 pečlivě vytvořenými metrikami se platforma snaží předcházet katastrofickým selháním v aplikacích LLM a Retrieval Augmented Generation (RAG).
RagaAI LLM Hub nabízí vývojářům a organizacím robustní sadu nástrojů pro efektivní hodnocení a porovnávání LLM, pokrývající kritické aspekty, jako je relevance a porozumění, kvalita obsahu, Halucinace, Bezpečnost a zkreslení, Relevance kontextu, Skenování zábradlí a zranitelnosti. Navíc poskytuje sadu metrických testů pro kvantitativní analýzu.
„Holistické hodnocení LLM je v současné době klíčovým požadavkem ve světě budování LLM, protože datoví vědci a podniky zjišťují, jaká technologie a zásobník jim vyhovuje. Diagnostika problému vyžaduje pečlivou identifikaci problému u zdroje a vzhledem ke stovkám možných kořenových příčin vyžaduje stovky metrik k určení této hlavní příčiny,“ Gaurav Agarwal, řekl zakladatel společnosti RagaAI MPost.
„Schopnost komplexního testování RagaAI LLM Hub přidává významnou hodnotu do pracovního postupu vývojářů, šetří rozhodující čas tím, že eliminuje ad hoc analýzu a trojnásobně zrychluje vývoj LLM.“
RagaAI LLM Hub, navržený tak, aby řešil problémy v průběhu životního cyklu LLM, od proof-of-concept po produkční aplikace, identifikuje základní problémy v rámci LLM aplikace a usnadňuje jejich řešení u zdroje, což přináší revoluci v přístupech k zajištění spolehlivosti a důvěryhodnosti.
RagaAI tvrdí, že jeho LLM Hub tuto schopnost zmocňuje prostřednictvím řady testů pokrývajících různé aspekty rozhodování:
- Výzvy: Iteruje a identifikuje optimální šablony výzev a zároveň vytváří zábradlí pro zmírnění nepřátelských útoků.
- Context Management for RAGs: Pomáhá uživatelům najít optimální rovnováhu mezi výkonem LLM a náklady/latence při provozu ve velkém měřítku.
- Generování odezvy: Využívá metriky k identifikaci halucinací v odpovědích LLM a vytváří zábradlí, aby se zabránilo zkreslení, úniku PII a dalším potenciálním problémům.
Zmírnění halucinací a zkreslení umělé inteligence pomocí diagnostiky LLM
RagaAI LLM Hub nachází aplikace v různých odvětvích, včetně elektronického obchodu, financí, marketingu, práva a zdravotnictví, podporuje vývojáře a podniky v úkolech, jako je např. chatbots, tvorba obsahu, sumarizace textu a generování zdrojového kódu.
Kromě hodnocení pomáhá RagaAI LLM Hub při nastavování mantinelů pro zajištění soukromí dat a dodržování právních předpisů, podporuje etické a zodpovědná AI praxe, zejména v citlivých odvětvích, jako jsou finance, zdravotnictví a právo.
„Jeden z našich zákazníků v oblasti e-commerce používal LLM pro chatbota pro zákaznickou podporu a chatbot dával špatné odpovědi. Pomocí RagaAI byl tento problém úspěšně detekován a vyřešen,“ řekl Gaurav Agarwal z RagaAI MPost. „Ve zdravotním pojištění je důležité chránit osobní údaje pacienta. U jednoho z našich zákazníků byly některé důležité osobní informace sdíleny s třetí stranou – velký problém s ochranou osobních údajů. Pomocí zábradlí RagaAI LLM Hub byly tyto a podobné další problémy detekovány v reálném čase a bylo zabráněno jejich výskytu.“
Kromě toho se zaměřuje na zmírnění reputačních rizik dodržováním společenských norem a hodnot.
„RagaAI pomáhá při nastavování zábradlí, jako je detekce osobně identifikovatelných informací (PII) v reakci LLM. To zajišťuje, že z aplikace LLM nikdy neuniknou žádná osobní data z interních dokumentů a je to pro Responsible AI zásadní,“ vysvětlil Gaurav Agarwal. „Toto a další mantinely, jako je zajištění nezaujatých a spravedlivých odpovědí, nekomentování konkurentů a odstraňování materiálních neveřejných informací (MNPI), jsou pro firmy zásadní, protože se snaží vyhnout se společenským a reputačním škodám.“
Spuštění RagaAI LLM Hub následuje po úspěšném 4.7 milionu $ v kole počátečního financování v lednu 2024 vedeném společností pi Ventures, aby rozšířila své výzkum AI, vývoj a klientská základna v USA a Evropě.
„Naším cílem je poskytovat nejlepší technologii, aby LLM byly důvěryhodné a spolehlivé. Významně investuje do budování klíčových technologií, které řeší aspekty zajišťování kvality LLM. Udělat z této technologie open-source je naše snaha zpřístupnit ji všem pro vývojářskou komunitu, aby mohla stavět na nejlepším dostupném řešení,“ řekl Gaurav Agarwal.
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Victor je vedoucím technickým redaktorem/spisovatelem ve společnosti Metaverse Post a pokrývá umělou inteligenci, krypto, datovou vědu, metaverse a kybernetickou bezpečnost v rámci podnikové sféry. Může se pochlubit půl desetiletími zkušeností s médii a umělou inteligencí ve známých médiích, jako jsou VentureBeat, DatatechVibe a Analytics India Magazine. Victor je mediálním mentorem na prestižních univerzitách včetně Oxfordu a USC a má magisterský titul v oboru datové vědy a analytiky a je hluboce odhodlán držet krok s novými trendy. Nabízí čtenářům nejnovější a nejpozoruhodnější příběhy z Tech and Web3 krajina.
Další články
Victor je vedoucím technickým redaktorem/spisovatelem ve společnosti Metaverse Post a pokrývá umělou inteligenci, krypto, datovou vědu, metaverse a kybernetickou bezpečnost v rámci podnikové sféry. Může se pochlubit půl desetiletími zkušeností s médii a umělou inteligencí ve známých médiích, jako jsou VentureBeat, DatatechVibe a Analytics India Magazine. Victor je mediálním mentorem na prestižních univerzitách včetně Oxfordu a USC a má magisterský titul v oboru datové vědy a analytiky a je hluboce odhodlán držet krok s novými trendy. Nabízí čtenářům nejnovější a nejpozoruhodnější příběhy z Tech and Web3 krajina.
