RagaAI lancia un hub LLM open source per facilitare la valutazione e la sicurezza del modello linguistico
In Breve
RagaAI ha lanciato "RagaAI LLM Hub", una piattaforma open source per la valutazione e la creazione di guardrail per modelli linguistici specifici dell'intelligenza artificiale.
Piattaforma di test dell'intelligenza artificiale RagaAI ha recentemente annunciato il lancio di “RagaAI LLM Hub", una piattaforma open source e pronta per l'impresa progettata per la valutazione e la creazione di guardrail per Grandi modelli linguistici (LLM). Con oltre 100 parametri elaborati meticolosamente, la piattaforma mira a prevenire guasti catastrofici nelle applicazioni LLM e Retrieval Augmented Generation (RAG).
L'hub LLM RagaAI offre agli sviluppatori e alle organizzazioni un solido toolkit per valutare e confrontare i LLM in modo efficace, coprendo aspetti critici come pertinenza e comprensione, qualità dei contenuti, Allucinazione, Sicurezza e pregiudizi, Rilevanza del contesto, Guardrail e Scansione delle vulnerabilità. Inoltre, fornisce una suite di test basati su parametri per l'analisi quantitativa.
“La valutazione olistica dei LLM è un requisito chiave nel mondo della costruzione di LLM in questo momento, poiché i data scientist e le imprese capiscono quale tecnologia e stack funzionano per loro. La diagnosi di un problema richiede l’identificazione meticolosa del problema alla fonte e, date le centinaia di possibili cause alla radice, sono necessari centinaia di parametri per individuare quella causa alla radice”. Gaurav Aggarwal, ha detto il fondatore di RagaAI MPost.
"La capacità di RagaAI LLM Hub di eseguire test completi aggiunge un valore significativo al flusso di lavoro di uno sviluppatore, facendo risparmiare tempo cruciale eliminando analisi ad hoc e accelerando lo sviluppo LLM di 3 volte."
Progettato per affrontare i problemi durante l'intero ciclo di vita LLM, dalla prova di concetto alle applicazioni di produzione, RagaAI LLM Hub identifica i problemi sottostanti all'interno Applicazioni LLM e facilita la loro risoluzione alla fonte, rivoluzionando gli approcci volti a garantire affidabilità e affidabilità.
RagaAI afferma che il suo hub LLM potenzia questa capacità attraverso una serie di test che coprono vari aspetti decisionali:
- Prompt: itera e identifica modelli di prompt ottimali stabilendo al tempo stesso guardrail per mitigare gli attacchi avversari.
- Gestione del contesto per RAG: aiuta gli utenti a trovare l'equilibrio ottimale tra prestazioni LLM e costi/latenza quando si opera su larga scala.
- Generazione di risposte: utilizza metriche per identificare le allucinazioni nelle risposte LLM e stabilisce barriere per prevenire errori, perdite di informazioni personali e altri potenziali problemi.
Mitigare le allucinazioni e i pregiudizi dell'intelligenza artificiale attraverso la diagnosi LLM
L'hub RagaAI LLM trova applicazioni in vari settori, tra cui e-commerce, finanza, marketing, legale e sanitario, supportando sviluppatori e imprese in attività come chatbots, creazione di contenuti, riepilogo del testo e generazione di codice sorgente.
Al di là della valutazione, RagaAI LLM Hub aiuta a stabilire barriere per garantire la privacy dei dati e la conformità legale, promuovendo etica e AI responsabile pratiche, in particolare in settori sensibili come la finanza, la sanità e il diritto.
"Uno dei nostri clienti nel settore dell'e-commerce utilizzava LLM per chatbot per l'assistenza clienti e il chatbot forniva risposte sbagliate. Utilizzando RagaAI, questo problema è stato rilevato e risolto con successo", ha dichiarato Gaurav Agarwal di RagaAI MPost. “Nell'assicurazione sanitaria, è importante che le informazioni personali del paziente siano salvaguardate. In uno dei nostri clienti, alcune informazioni personali importanti sono state condivise con terze parti: un enorme problema di privacy dei dati. Utilizzando i guardrail RagaAI LLM Hub, questo e altri problemi simili sono stati rilevati in tempo reale ed è stato impedito che si verificassero."
Inoltre, mira a mitigare i rischi reputazionali aderendo alle norme e ai valori sociali.
“RagaAI aiuta a impostare barriere come il rilevamento di informazioni di identificazione personale (PII) nella risposta LLM. Ciò garantisce che nessun dato personale proveniente dai documenti interni venga mai divulgato dall’applicazione LLM ed è fondamentale per l’intelligenza artificiale responsabile”, ha spiegato Gaurav Agarwal. “Questo e altri limiti, come garantire risposte imparziali ed eque, non commentare i concorrenti e rimuovere le informazioni non pubbliche materiali (MNPI), sono cruciali per le aziende che cercano di evitare danni alla società e alla reputazione”.
Il lancio del RagaAI LLM Hub segue un successo $4.7 milioni in un round di finanziamento iniziale nel gennaio 2024 guidato da pi Ventures, per espandere la propria Ricerca sull'intelligenza artificiale, sviluppo e base clienti negli Stati Uniti e in Europa.
“Il nostro obiettivo è fornire la migliore tecnologia per rendere i LLM affidabili e affidabili. Sta investendo in modo significativo per costruire tecnologie chiave per affrontare gli aspetti di garanzia della qualità LLM. Rendere questa tecnologia open source è il nostro sforzo nella direzione di renderla disponibile a tutti affinché la comunità degli sviluppatori possa basarsi sulla migliore soluzione disponibile", ha affermato Gaurav Agarwal.
Negazione di responsabilità
In linea con la Linee guida del progetto Trust, si prega di notare che le informazioni fornite in questa pagina non intendono essere e non devono essere interpretate come consulenza legale, fiscale, di investimento, finanziaria o di qualsiasi altra forma. È importante investire solo ciò che puoi permetterti di perdere e chiedere una consulenza finanziaria indipendente in caso di dubbi. Per ulteriori informazioni, suggeriamo di fare riferimento ai termini e alle condizioni nonché alle pagine di aiuto e supporto fornite dall'emittente o dall'inserzionista. MetaversePost si impegna a fornire report accurati e imparziali, ma le condizioni di mercato sono soggette a modifiche senza preavviso.
Circa l'autore
Victor è un redattore/scrittore tecnico responsabile presso Metaverse Post e copre l'intelligenza artificiale, la crittografia, la scienza dei dati, il metaverso e la sicurezza informatica nell'ambito aziendale. Vanta mezzo decennio di esperienza nel campo dei media e dell'intelligenza artificiale lavorando presso noti organi di stampa come VentureBeat, DatatechVibe e Analytics India Magazine. Essendo un mentore multimediale presso prestigiose università tra cui Oxford e USC e con un master in scienza e analisi dei dati, Victor è profondamente impegnato a rimanere al passo con le tendenze emergenti. Offre ai lettori le narrazioni più recenti e più approfondite del Tech e Web3 paesaggio.
Altri articoli
Victor è un redattore/scrittore tecnico responsabile presso Metaverse Post e copre l'intelligenza artificiale, la crittografia, la scienza dei dati, il metaverso e la sicurezza informatica nell'ambito aziendale. Vanta mezzo decennio di esperienza nel campo dei media e dell'intelligenza artificiale lavorando presso noti organi di stampa come VentureBeat, DatatechVibe e Analytics India Magazine. Essendo un mentore multimediale presso prestigiose università tra cui Oxford e USC e con un master in scienza e analisi dei dati, Victor è profondamente impegnato a rimanere al passo con le tendenze emergenti. Offre ai lettori le narrazioni più recenti e più approfondite del Tech e Web3 paesaggio.
