RagaAI zažene odprtokodno središče LLM za olajšanje vrednotenja in varnosti jezikovnega modela
Na kratko
RagaAI je lansiral 'RagaAI LLM Hub,' odprtokodno platformo za vrednotenje in vzpostavljanje ograje za posebne jezikovne modele AI.
Platforma za testiranje AI RagaAI je nedavno napovedal začetek "RagaAI LLM Hub,« odprtokodna platforma, pripravljena za podjetja, zasnovana za ocenjevanje in vzpostavljanje zaščitnih ograj za Veliki jezikovni modeli (LLM). Z več kot 100 natančno izdelanimi metrikami želi platforma preprečiti katastrofalne napake v LLM in aplikacijah RAG (Retrieval Augmented Generation).
RagaAI LLM Hub ponuja razvijalcem in organizacijam robusten nabor orodij za učinkovito ocenjevanje in primerjavo LLM-jev, ki zajema kritične vidike, kot so ustreznost in razumevanje, kakovost vsebine, Hallucinacija, varnost in pristranskost, ustreznost konteksta, zaščitne ograje in skeniranje ranljivosti. Poleg tega ponuja nabor na metriki temelječih testov za kvantitativno analizo.
»Holistično vrednotenje LLM je trenutno ključna zahteva v svetu gradnje LLM, saj podatkovni znanstveniki in podjetja ugotavljajo, katera tehnologija in sklad jim ustrezata. Diagnosticiranje težave zahteva natančno identifikacijo težave pri izvoru in glede na stotine možnih temeljnih vzrokov zahteva na stotine meritev za določitev tega temeljnega vzroka,« Gaurav Agarwal, je povedal ustanovitelj podjetja RagaAI MPost.
»Zmogljivost RagaAI LLM Hub za celovito testiranje doda pomembno vrednost poteku dela razvijalca, prihrani ključni čas z odpravo ad hoc analize in pospeši razvoj LLM za 3x.«
Središče RagaAI LLM Hub, zasnovano za reševanje težav v celotnem življenjskem ciklu LLM, od dokazovanja koncepta do produkcijskih aplikacij, prepoznava temeljne težave znotraj LLM aplikacije in olajšuje njihovo reševanje pri izvoru, s čimer revolucionira pristope k zagotavljanju zanesljivosti in zanesljivosti.
RagaAI trdi, da njegovo središče LLM omogoča to zmožnost prek vrste testov, ki pokrivajo različne vidike odločanja:
- Pozivi: Ponavlja in identificira optimalne predloge pozivov, medtem ko vzpostavlja zaščitne ograje za ublažitev nasprotniških napadov.
- Upravljanje konteksta za RAG: pomaga uporabnikom pri iskanju optimalnega ravnovesja med zmogljivostjo LLM in stroški/zakasnitvijo pri delu v velikem obsegu.
- Generiranje odziva: uporablja metrike za prepoznavanje halucinacij v odzivih LLM in vzpostavlja zaščitne ograje za preprečevanje pristranskosti, uhajanja PII in drugih morebitnih težav.
Zmanjšanje halucinacij in pristranskosti umetne inteligence z diagnozo LLM
RagaAI LLM Hub najde aplikacije v različnih panogah, vključno z e-trgovino, financami, trženjem, pravom in zdravstvenim varstvom, ter podpira razvijalce in podjetja pri nalogah, kot so klepetalnice, ustvarjanje vsebine, povzemanje besedila in ustvarjanje izvorne kode.
Poleg vrednotenja RagaAI LLM Hub pomaga pri postavljanju zaščitnih ograj za zagotavljanje zasebnosti podatkov in skladnosti s pravnimi predpisi ter spodbuja etično in odgovorna AI prakse, zlasti v občutljivih sektorjih, kot so finance, zdravstvo in pravo.
»Ena od naših strank v prostoru e-trgovine je za podporo strankam uporabljala LLM za chatbot in chatbot je dajal napačne odgovore. Z uporabo RagaAI je bila ta težava uspešno odkrita in rešena,« je povedal Gaurav Agarwal iz RagaAI. MPost. »V zdravstvenem zavarovanju je pomembno varovati osebne podatke pacientov. Pri eni od naših strank so bili nekateri pomembni osebni podatki posredovani tretji osebi – velika težava glede zasebnosti podatkov. Z uporabo zaščitnih ograj RagaAI LLM Hub so bile te in podobne druge težave zaznane v realnem času in preprečene.«
Poleg tega si prizadeva ublažiti tveganja za ugled z upoštevanjem družbenih norm in vrednot.
»RagaAI pomaga pri postavljanju zaščitnih ograj, kot je zaznavanje osebno določljivih informacij (PII) v odzivu LLM. To zagotavlja, da aplikacija LLM nikoli ne uhaja osebnih podatkov iz notranjih dokumentov in je ključnega pomena za odgovorno umetno inteligenco,« je pojasnil Gaurav Agarwal. "Ta in druge zaščitne ograje, kot je zagotavljanje nepristranskih in poštenih odzivov, ne komentiranje konkurentov in odstranjevanje materialnih nejavnih informacij (MNPI), so ključnega pomena za podjetja, saj se želijo izogniti družbeni škodi in škodi ugleda."
Začetek RagaAI LLM Hub sledi uspešnemu $ 4.7 milijonov v krogu začetnega financiranja januarja 2024, ki ga vodi pi Ventures, za razširitev svojega Raziskave AI, razvoj in bazo strank v ZDA in Evropi.
»Naš cilj je zagotoviti najboljšo tehnologijo, da bodo LLM-ji vredni zaupanja in zanesljivi. Znatno vlaga v izgradnjo ključnih tehnologij za obravnavo vidikov zagotavljanja kakovosti LLM. Narediti to tehnologijo odprtokodno je naše prizadevanje v smeri, da bi bilo to na voljo vsem, da bi skupnost razvijalcev gradila na vrhu najboljše razpoložljive rešitve,« je dejal Gaurav Agarwal.
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Victor je odgovorni tehnični urednik/pisec pri Metaverse Post in pokriva umetno inteligenco, kripto, podatkovno znanost, metaverzum in kibernetsko varnost znotraj področja podjetij. Ponaša se s pol desetletja izkušenj z mediji in umetno inteligenco pri delu v znanih medijih, kot so VentureBeat, DatatechVibe in Analytics India Magazine. Kot medijski mentor na prestižnih univerzah, vključno z Oxfordom in USC, ter z magisterijem iz podatkovne znanosti in analitike, je Victor globoko predan temu, da ostaja na tekočem z nastajajočimi trendi. Bralcem ponuja najnovejše in najbolj pronicljive pripovedi iz Tech and Web3 pokrajina.
več člankov
Victor je odgovorni tehnični urednik/pisec pri Metaverse Post in pokriva umetno inteligenco, kripto, podatkovno znanost, metaverzum in kibernetsko varnost znotraj področja podjetij. Ponaša se s pol desetletja izkušenj z mediji in umetno inteligenco pri delu v znanih medijih, kot so VentureBeat, DatatechVibe in Analytics India Magazine. Kot medijski mentor na prestižnih univerzah, vključno z Oxfordom in USC, ter z magisterijem iz podatkovne znanosti in analitike, je Victor globoko predan temu, da ostaja na tekočem z nastajajočimi trendi. Bralcem ponuja najnovejše in najbolj pronicljive pripovedi iz Tech and Web3 pokrajina.
