RagaAI spúšťa Open-Source LLM Hub na uľahčenie hodnotenia a bezpečnosti jazykového modelu
Stručne
RagaAI spustila „RagaAI LLM Hub“, platformu s otvoreným zdrojovým kódom na vyhodnocovanie a vytváranie mantinelov pre špecifické jazykové modely AI.
Testovacia platforma AI RagaAI nedávno oznámil spustenie „Rozbočovač RagaAI LLM,“ platforma s otvoreným zdrojom a pripravená na podnikanie, ktorá je určená na hodnotenie a vytváranie zábran pre Veľké jazykové modely (LLM). S viac ako 100 precízne vytvorenými metrikami sa platforma zameriava na prevenciu katastrofických zlyhaní v aplikáciách LLM a Retrieval Augmented Generation (RAG).
RagaAI LLM Hub ponúka vývojárom a organizáciám rozsiahlu súpravu nástrojov na efektívne hodnotenie a porovnávanie LLM, ktoré pokrýva kritické aspekty, ako je relevancia a porozumenie, kvalita obsahu, halucinácie, Bezpečnosť a zaujatosť, Relevancia kontextu, Zábradlia a skenovanie zraniteľnosti. Okrem toho poskytuje sadu metrických testov pre kvantitatívnu analýzu.
„Holistické hodnotenie LLM je kľúčovou požiadavkou vo svete budovania LLM práve teraz, keď vedci v oblasti údajov a podniky zisťujú, aká technológia a zásobník im vyhovuje. Diagnostika problému si vyžaduje starostlivú identifikáciu problému pri zdroji a vzhľadom na stovky možných základných príčin si vyžaduje stovky metrík na určenie hlavnej príčiny,“ Gaurav Agarwalpovedal zakladateľ spoločnosti RagaAI MPost.
„Schopnosť komplexného testovania RagaAI LLM Hub pridáva významnú hodnotu do pracovného postupu vývojárov, šetrí rozhodujúci čas tým, že eliminuje analýzu ad hoc a zrýchľuje vývoj LLM 3x.“
RagaAI LLM Hub, navrhnutý na riešenie problémov počas celého životného cyklu LLM, od overenia koncepcie až po produkčné aplikácie, identifikuje základné problémy v rámci LLM aplikácie a uľahčuje ich riešenie pri zdroji, čím prevratné prístupy k zabezpečeniu spoľahlivosti a dôveryhodnosti.
RagaAI tvrdí, že jeho LLM Hub umožňuje túto schopnosť prostredníctvom radu testov pokrývajúcich rôzne aspekty rozhodovania:
- Výzvy: Iteruje a identifikuje optimálne šablóny výziev a zároveň vytvára ochranné zábradlie na zmiernenie útokov protivníkov.
- Kontextový manažment pre RAG: Pomáha používateľom nájsť optimálnu rovnováhu medzi výkonom LLM a cenou/latenciou pri prevádzke vo veľkom rozsahu.
- Generovanie odozvy: Využíva metriky na identifikáciu halucinácií v odpovediach LLM a vytvára ochranné zábradlie, aby sa zabránilo zaujatosti, úniku PII a iným potenciálnym problémom.
Zmiernenie halucinácií a zaujatosti AI prostredníctvom diagnostiky LLM
RagaAI LLM Hub nachádza aplikácie v rôznych odvetviach, vrátane elektronického obchodu, financií, marketingu, práva a zdravotníctva, podporuje vývojárov a podniky pri úlohách, ako napr. chatbots, tvorba obsahu, sumarizácia textu a generovanie zdrojového kódu.
Okrem hodnotenia pomáha RagaAI LLM Hub pri nastavovaní mantinelov, aby sa zabezpečilo súkromie údajov a súlad s právnymi predpismi, pričom podporuje etické a zodpovedná AI najmä v citlivých sektoroch, ako sú financie, zdravotníctvo a právo.
„Jeden z našich zákazníkov v priestore elektronického obchodu používal LLM pre chatbota na zákaznícku podporu a chatbot dával nesprávne odpovede. Pomocou RagaAI bol tento problém úspešne zistený a vyriešený,“ povedal Gaurav Agarwal z RagaAI MPost. „V zdravotnom poistení je dôležité chrániť osobné údaje pacienta. V jednom z našich zákazníkov boli niektoré dôležité osobné informácie zdieľané s treťou stranou – veľký problém ochrany osobných údajov. Pomocou ochranných zábradlí RagaAI LLM Hub boli tieto a podobné ďalšie problémy zistené v reálnom čase a zabránilo sa im.“
Okrem toho sa zameriava na zmiernenie reputačných rizík dodržiavaním spoločenských noriem a hodnôt.
„RagaAI pomáha pri nastavovaní mantinelov, ako je zisťovanie osobne identifikovateľných informácií (PII) v reakcii LLM. To zaisťuje, že z aplikácie LLM nikdy neuniknú žiadne osobné údaje z interných dokumentov a je to rozhodujúce pre Zodpovednú AI,“ vysvetlil Gaurav Agarwal. „Toto a ďalšie mantinely, ako je zabezpečenie nezaujatých a spravodlivých odpovedí, nekomentovanie konkurentov a odstraňovanie materiálnych neverejných informácií (MNPI), sú pre firmy kľúčové, pretože sa snažia vyhnúť spoločenským škodám a poškodeniu dobrého mena.“
Spustenie RagaAI LLM Hub nasleduje po úspešnom $ 4.7 miliónov v kole počiatočného financovania v januári 2024 pod vedením pi Ventures s cieľom rozšíriť jeho výskum AI, vývoj a klientska základňa v USA a Európe.
„Naším cieľom je poskytnúť najlepšiu technológiu, vďaka ktorej budú LLM dôveryhodné a spoľahlivé. Výrazne investuje do budovania kľúčových technológií na riešenie aspektov zabezpečenia kvality LLM. Urobiť túto technológiu ako open-source je našou snahou, aby bola dostupná pre každého pre vývojársku komunitu, aby stavala na najlepšom dostupnom riešení,“ povedal Gaurav Agarwal.
Disclaimer
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Victor je výkonným technickým redaktorom/spisovateľom v Metaverse Post a pokrýva umelú inteligenciu, krypto, dátovú vedu, metaverse a kybernetickú bezpečnosť v rámci podnikovej sféry. Môže sa pochváliť polročnými skúsenosťami s médiami a AI prácou v známych médiách, ako sú VentureBeat, DatatechVibe a Analytics India Magazine. Victor ako mediálny mentor na prestížnych univerzitách vrátane Oxfordu a USC a s magisterským titulom v oblasti vedy o údajoch a analytiky je hlboko odhodlaný držať krok s novými trendmi. Čitateľom ponúka najnovšie a najpozoruhodnejšie príbehy z Tech a Web3 terén.
Ďalšie články
Victor je výkonným technickým redaktorom/spisovateľom v Metaverse Post a pokrýva umelú inteligenciu, krypto, dátovú vedu, metaverse a kybernetickú bezpečnosť v rámci podnikovej sféry. Môže sa pochváliť polročnými skúsenosťami s médiami a AI prácou v známych médiách, ako sú VentureBeat, DatatechVibe a Analytics India Magazine. Victor ako mediálny mentor na prestížnych univerzitách vrátane Oxfordu a USC a s magisterským titulom v oblasti vedy o údajoch a analytiky je hlboko odhodlaný držať krok s novými trendmi. Čitateľom ponúka najnovšie a najpozoruhodnejšie príbehy z Tech a Web3 terén.
