Buletin de stiri Tehnologia
Martie 08, 2024

RagaAI lansează Hub-ul LLM cu sursă deschisă pentru a ușura evaluarea și siguranța modelelor lingvistice

Pe scurt

RagaAI a lansat „RagaAI LLM Hub”, o platformă open-source pentru evaluarea și stabilirea de balustrade pentru modelele de limbaj specifice AI.

RagaAI lansează Hub-ul LLM cu sursă deschisă pentru a ușura evaluarea și siguranța modelelor lingvistice

Platformă de testare AI RagaAI a anunțat recent lansarea „RagaAI LLM Hub”, o platformă open-source și pregătită pentru întreprindere, concepută pentru evaluarea și stabilirea de balustrade pentru Modele de limbaj mari (LLM-uri). Cu peste 100 de metrici meticulos elaborate, platforma își propune să prevină eșecurile catastrofale în aplicațiile LLM și Retrieval Augmented Generation (RAG).

RagaAI LLM Hub oferă dezvoltatorilor și organizațiilor un set de instrumente robust pentru a evalua și compara eficient LLM-urile, acoperind aspecte critice precum relevanța și înțelegerea, calitatea conținutului, Halucinaţie, Siguranță și prejudecăți, Relevanța contextului, Balustrade și Scanarea vulnerabilităților. În plus, oferă o suită de teste bazate pe metrice pentru analiză cantitativă.

„Evaluarea holistică a LLM-urilor este o cerință cheie în lumea construcției LLM chiar acum, deoarece oamenii de știință de date și întreprinderile își dau seama ce tehnologie și stiva funcționează pentru ei. Diagnosticarea unei probleme necesită identificarea meticuloasă a problemei la sursă și, având în vedere sute de cauze rădăcină posibile, este nevoie de sute de măsurători pentru a identifica cauza principală.” Gaurav Agarwal, a spus fondatorul RagaAI MPost.

„Abilitatea RagaAI LLM Hub de testare cuprinzătoare adaugă o valoare semnificativă fluxului de lucru al dezvoltatorului, economisind timp crucial prin eliminarea analizei ad-hoc și accelerând dezvoltarea LLM de trei ori.”  

Conceput pentru a aborda problemele de-a lungul ciclului de viață LLM, de la proba de concept până la aplicații de producție, RagaAI LLM Hub identifică problemele de bază în Aplicații LLM și facilitează rezolvarea acestora la sursă, revoluționând abordările pentru asigurarea fiabilității și a fiabilității.

RagaAI susține că Hub-ul său LLM împuternicește această capacitate printr-o serie de teste care acoperă diferite aspecte de luare a deciziilor:

  • Solicitări: repetă și identifică șabloanele optime de prompt în timp ce stabilește balustrade pentru a atenua atacurile adverse.
  • Managementul contextului pentru RAG-uri: ajută utilizatorii să găsească echilibrul optim între performanța LLM și cost/latență atunci când operează la scară.
  • Generarea răspunsurilor: folosește valori pentru a identifica halucinațiile în răspunsurile LLM și stabilește balustrade pentru a preveni părtinirea, scurgerile de informații personale și alte probleme potențiale.
Sursa: RagaAI

Atenuarea halucinațiilor și a părtinirii AI prin diagnosticarea LLM

RagaAI LLM Hub găsește aplicații în diverse industrii, inclusiv comerț electronic, finanțe, marketing, juridic și asistență medicală, sprijinind dezvoltatorii și întreprinderile în sarcini precum chatbots, crearea de conținut, rezumarea textului și generarea codului sursă.

Dincolo de evaluare, RagaAI LLM Hub ajută la stabilirea de balustrade pentru a asigura confidențialitatea datelor și conformitatea legală, promovând etica și AI responsabil practici, în special în sectoare sensibile precum finanțele, sănătatea și dreptul.

„Unul dintre clienții noștri din spațiul de comerț electronic folosea LLM-uri pentru chatbot pentru asistență pentru clienți, iar chatbot-ul dădea răspunsuri greșite. Folosind RagaAI, această problemă a fost detectată și rezolvată cu succes”, a declarat Gaurav Agarwal de la RagaAI. MPost. „În asigurările de sănătate, informațiile personale ale pacientului sunt importante pentru a fi protejate. La unul dintre clienții noștri, unele dintre informațiile personale importante au fost partajate unei terțe părți - o problemă uriașă de confidențialitate a datelor. Folosind balustradele RagaAI LLM Hub, aceasta și alte probleme similare au fost detectate în timp real și au fost împiedicate să se întâmple.”

Gaurav Agarwal, fondator la RagaAI

În plus, își propune să atenueze riscurile reputaționale prin aderarea la normele și valorile societății.

„RagaAI ajută la stabilirea unor balustrade, cum ar fi detectarea informațiilor de identificare personală (PII) în răspunsul LLM. Acest lucru asigură că nicio dată cu caracter personal din documentele interne nu este scursă de aplicația LLM și este esențială pentru AI responsabilă”, a explicat Gaurav Agarwal. „Acesta și alte bariere, cum ar fi asigurarea unor răspunsuri imparțiale și corecte, necomentarea concurenților și eliminarea informațiilor materiale non-publice (MNPI) sunt esențiale pentru firme, deoarece încearcă să evite prejudiciul societal și reputațional.”

Lansarea RagaAI LLM Hub urmează un succes $ 4.7 de milioane de într-o rundă de finanțare de început în ianuarie 2024 condusă de pi Ventures, pentru a-și extinde Cercetare AI, dezvoltare și bază de clienți din SUA și Europa.

„Scopul nostru este de a oferi cea mai bună tehnologie pentru a face LLM-urile demne de încredere și de încredere. Investește semnificativ pentru a construi tehnologii cheie pentru a aborda aspectele de asigurare a calității LLM. A face această tehnologie open-source este efortul nostru în direcția de a face acest lucru disponibil pentru toată lumea pentru ca comunitatea de dezvoltatori să se bazeze pe cea mai bună soluție disponibilă”, a spus Gaurav Agarwal.

Declinare a responsabilităţii

În conformitate cu Ghidurile proiectului Trust, vă rugăm să rețineți că informațiile furnizate pe această pagină nu sunt destinate și nu trebuie interpretate ca fiind consiliere juridică, fiscală, investițională, financiară sau orice altă formă de consiliere. Este important să investești doar ceea ce îți poți permite să pierzi și să cauți sfaturi financiare independente dacă ai îndoieli. Pentru informații suplimentare, vă sugerăm să consultați termenii și condițiile, precum și paginile de ajutor și asistență furnizate de emitent sau agent de publicitate. MetaversePost se angajează să raporteze corecte, imparțial, dar condițiile de piață pot fi modificate fără notificare.

Despre autor

Victor este editor/scriitor tehnic la Metaverse Post și acoperă inteligența artificială, cripto, știința datelor, metaversul și securitatea cibernetică în domeniul întreprinderilor. Se mândrește cu o jumătate de deceniu de experiență media și AI lucrând la instituții media cunoscute precum VentureBeat, DatatechVibe și Analytics India Magazine. Fiind mentor media la universități prestigioase, inclusiv Oxford și USC și cu o diplomă de master în știința datelor și analiză, Victor este profund angajat să rămână la curent cu tendințele emergente. El oferă cititorilor cele mai recente și mai perspicace narațiuni din Tech și Web3 peisaj.

Mai multe articole
Victor Dey
Victor Dey

Victor este editor/scriitor tehnic la Metaverse Post și acoperă inteligența artificială, cripto, știința datelor, metaversul și securitatea cibernetică în domeniul întreprinderilor. Se mândrește cu o jumătate de deceniu de experiență media și AI lucrând la instituții media cunoscute precum VentureBeat, DatatechVibe și Analytics India Magazine. Fiind mentor media la universități prestigioase, inclusiv Oxford și USC și cu o diplomă de master în știința datelor și analiză, Victor este profund angajat să rămână la curent cu tendințele emergente. El oferă cititorilor cele mai recente și mai perspicace narațiuni din Tech și Web3 peisaj.

Hot Stories
Alăturați-vă Newsletter-ului nostru.
Ultimele ştiri

De la Ripple la Big Green DAO: Cum contribuie proiectele de criptomonede la caritate

Să explorăm inițiativele care valorifică potențialul monedelor digitale pentru cauze caritabile.

Aflați mai multe

AlphaFold 3, Med-Gemini și alții: modul în care AI transformă asistența medicală în 2024

Inteligența artificială se manifestă în diferite moduri în asistența medicală, de la descoperirea de noi corelații genetice până la abilitarea sistemelor chirurgicale robotizate...

Aflați mai multe
Alăturați-vă comunității noastre tehnologice inovatoare
Citeste mai mult
Află mai multe
Co-fondatorul Binance, Yi He, îl îndeamnă pe Elon Musk să abordeze escrocherii criptografice în creștere pe X
Opinie Afaceri Stil de viață pieţe Software Tehnologia
Co-fondatorul Binance, Yi He, îl îndeamnă pe Elon Musk să abordeze escrocherii criptografice în creștere pe X
17 Iunie, 2024
Recapitulare Crypto Market: Analizarea tendințelor săptămânale în Bitcoin, Ethereum, Toncoin
rezumat Afaceri pieţe Tehnologia
Recapitulare Crypto Market: Analizarea tendințelor săptămânale în Bitcoin, Ethereum, Toncoin
17 Iunie, 2024
Trader Joe lansează Liquidity Book V2.2 și introduce funcția „Stimulente concentrate”.
Buletin de stiri Tehnologia
Trader Joe lansează Liquidity Book V2.2 și introduce funcția „Stimulente concentrate”.
17 Iunie, 2024
Crypto Exchange Binance lansează „Futures Grand Tournament” cu fond de premii de 3M USDT
Stil de viață Buletin de stiri Tehnologia
Crypto Exchange Binance lansează „Futures Grand Tournament” cu fond de premii de 3M USDT
17 Iunie, 2024
CRYPTOMERIA LABS PTE. LTD.