RagaAI pokreće Open-Source LLM Hub kako bi olakšao evaluaciju i sigurnost jezičnog modela
Ukratko
RagaAI je pokrenuo 'RagaAI LLM Hub', platformu otvorenog koda za procjenu i uspostavljanje zaštitnih ograda za specifične jezične modele umjetne inteligencije.
AI platforma za testiranje RagaAI nedavno je najavio pokretanje "RagaAI LLM Hub”, platforma otvorenog koda spremna za poduzeća dizajnirana za procjenu i uspostavljanje zaštitnih ograda za Veliki jezični modeli (LLMs). S više od 100 precizno izrađenih metrika, platforma ima za cilj spriječiti katastrofalne kvarove u LLM-ovima i aplikacijama za prošireno generiranje dohvaćanja (RAG).
RagaAI LLM Hub nudi razvojnim programerima i organizacijama snažan alat za učinkovitu procjenu i usporedbu LLM-ova, pokrivajući kritične aspekte kao što su relevantnost i razumijevanje, kvaliteta sadržaja, Halucinacija, Sigurnost i pristranost, Relevantnost konteksta, Zaštitne ograde i skeniranje ranjivosti. Dodatno, pruža skup testova temeljenih na metrici za kvantitativnu analizu.
“Holistička procjena LLM-a trenutno je ključni zahtjev u svijetu izgradnje LLM-a, dok znanstvenici i poduzeća shvaćaju koja tehnologija i skup im odgovaraju. Dijagnosticiranje problema zahtijeva precizno identificiranje problema na izvoru, a s obzirom na stotine mogućih temeljnih uzroka, potrebno je stotine metrika da se točno odredi taj glavni uzrok," Gaurav Agarwal, rekao je osnivač tvrtke RagaAI MPost.
“Sposobnost RagaAI LLM Huba za sveobuhvatno testiranje dodaje značajnu vrijednost tijeku rada programera, štedeći ključno vrijeme eliminacijom ad hoc analize i ubrzavajući razvoj LLM-a za 3x.”
Dizajniran za rješavanje problema tijekom životnog ciklusa LLM-a, od dokaza koncepta do proizvodnih aplikacija, RagaAI LLM Hub identificira temeljne probleme unutar LLM aplikacije i olakšava njihovo rješavanje na izvoru, revolucionarizirajući pristupe osiguravanju pouzdanosti i pouzdanosti.
RagaAI tvrdi da njegov LLM Hub osnažuje ovu sposobnost kroz niz testova koji pokrivaju različite aspekte donošenja odluka:
- Upute: Ponavlja i identificira optimalne predloške upita dok uspostavlja zaštitne ograde za ublažavanje suparničkih napada.
- Upravljanje kontekstom za RAG-ove: pomaže korisnicima u pronalaženju optimalne ravnoteže između performansi LLM-a i troškova/kašnjenja kada rade na velikom broju.
- Generiranje odgovora: koristi metriku za prepoznavanje halucinacija u odgovorima LLM-a i uspostavlja zaštitne ograde za sprječavanje pristranosti, curenja PII-a i drugih potencijalnih problema.
Ublažavanje halucinacija i pristranosti umjetne inteligencije putem LLM dijagnoze
RagaAI LLM Hub pronalazi aplikacije u raznim industrijama, uključujući e-trgovinu, financije, marketing, pravo i zdravstvo, podržavajući programere i poduzeća u zadacima kao što su chatbots, stvaranje sadržaja, sažimanje teksta i generiranje izvornog koda.
Osim evaluacije, RagaAI LLM Hub pomaže u postavljanju zaštitnih ograda kako bi se osigurala privatnost podataka i zakonska usklađenost, promičući etičke i odgovorna AI praksi, posebno u osjetljivim sektorima poput financija, zdravstva i prava.
“Jedan od naših kupaca u prostoru e-trgovine koristio je LLM za chatbot za korisničku podršku, a chatbot je davao pogrešne odgovore. Koristeći RagaAI, ovaj problem je uspješno otkriven i riješen,” rekao je Gaurav Agarwal iz RagaAI-ja MPost. “U zdravstvenom osiguranju osobne podatke pacijenata važno je zaštititi. U jednom od naših klijenata, neki od važnih osobnih podataka podijeljeni su trećoj strani — veliki problem privatnosti podataka. Korištenjem zaštitnih ograda RagaAI LLM Hub, ovaj i slični drugi problemi otkriveni su u stvarnom vremenu i spriječeno da se dogodi.”
Osim toga, ima za cilj ublažiti reputacijske rizike pridržavanjem društvenih normi i vrijednosti.
“RagaAI pomaže u postavljanju zaštitnih ograda kao što je otkrivanje osobnih podataka (PII) u LLM odgovoru. Ovo osigurava da LLM aplikacija nikada ne procuri iz internih dokumenata i ključno je za Responsible AI,” objasnio je Gaurav Agarwal. "Ova i druge zaštitne ograde kao što su osiguravanje nepristranih i poštenih odgovora, ne komentiranje konkurenata i uklanjanje materijalnih informacija koje nisu javne (MNPI) ključne su za tvrtke jer žele izbjeći društvenu štetu i štetu po ugled."
Lansiranje RagaAI LLM Huba slijedi uspješno $ 4.7 milijuna u početnom krugu financiranja u siječnju 2024. koji vodi pi Ventures, kako bi proširio svoj istraživanje umjetne inteligencije, razvoj i baza klijenata diljem SAD-a i Europe.
“Naš cilj je pružiti najbolju tehnologiju kako bismo LLM-ove učinili pouzdanima i pouzdanima. Značajno ulaže u izgradnju ključnih tehnologija za rješavanje aspekata osiguranja kvalitete LLM-a. Učiniti ovu tehnologiju otvorenim kodom naš je napor u smjeru da je učinimo dostupnom svima kako bi zajednica programera mogla graditi na vrhu najboljeg dostupnog rješenja,” rekao je Gaurav Agarwal.
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Victor je glavni tehnički urednik/pisac u Metaverse Post i pokriva umjetnu inteligenciju, kripto, podatkovnu znanost, metaverzum i kibernetičku sigurnost unutar područja poduzeća. Može se pohvaliti pola desetljeća iskustva u medijima i umjetnoj inteligenciji radeći u poznatim medijskim kućama kao što su VentureBeat, DatatechVibe i Analytics India Magazine. Budući da je medijski mentor na prestižnim sveučilištima, uključujući Oxford i USC, te s magisterijem iz podatkovne znanosti i analitike, Victor je duboko predan tome da ostane u toku s novim trendovima. Čitateljima nudi najnovije i najpronicljivije priče iz Tech and Web3 krajolik.
Više članaka
Victor je glavni tehnički urednik/pisac u Metaverse Post i pokriva umjetnu inteligenciju, kripto, podatkovnu znanost, metaverzum i kibernetičku sigurnost unutar područja poduzeća. Može se pohvaliti pola desetljeća iskustva u medijima i umjetnoj inteligenciji radeći u poznatim medijskim kućama kao što su VentureBeat, DatatechVibe i Analytics India Magazine. Budući da je medijski mentor na prestižnim sveučilištima, uključujući Oxford i USC, te s magisterijem iz podatkovne znanosti i analitike, Victor je duboko predan tome da ostane u toku s novim trendovima. Čitateljima nudi najnovije i najpronicljivije priče iz Tech and Web3 krajolik.
