RagaAI käynnistää avoimen lähdekoodin LLM-keskuksen helpottaakseen kielimallien arviointia ja turvallisuutta
Lyhyesti
RagaAI julkaisi RagaAI LLM Hubin, avoimen lähdekoodin alustan, jolla arvioidaan ja luodaan suojakaiteet tekoälykohtaisille kielimalleille.
AI-testausalusta RagaAI ilmoitti äskettäin käynnistävänsä "RagaAI LLM Hub”, avoimen lähdekoodin ja yrityskäyttöön sopiva alusta, joka on suunniteltu arvioimaan ja luomaan suojakaiteet Suuret kielimallit (LLM:t). Yli 100 huolellisesti laaditun mittarin avulla alustan tavoitteena on estää katastrofaaliset viat LLM-sovelluksissa ja Retrieval Augmented Generation (RAG) -sovelluksissa.
RagaAI LLM Hub tarjoaa kehittäjille ja organisaatioille vankan työkalupakin, jolla voidaan arvioida ja vertailla LLM-yrityksiä tehokkaasti. Se kattaa kriittiset näkökohdat, kuten osuvuuden ja ymmärtämisen, sisällön laadun, Hallusinaatio, Turvallisuus ja harha, kontekstin vastaavuus, suojakaiteet ja haavoittuvuuden tarkistus. Lisäksi se tarjoaa joukon metriin perustuvia testejä kvantitatiiviseen analyysiin.
"Oikeusalan oppilaitosten kokonaisvaltainen arviointi on keskeinen vaatimus LLM-rakentamisen maailmassa tällä hetkellä, kun datatieteilijät ja yritykset selvittävät, mikä tekniikka ja pino heille sopii. Ongelman diagnosointi vaatii huolellisen ongelman tunnistamista sen lähteellä, ja kun otetaan huomioon satoja mahdollisia perimmäisiä syitä, se vaatii satoja mittareita tämän perimmäisen syyn tunnistamiseksi. Gaurav Agarwal, RagaAI:n perustaja kertoi MPost.
"RagaAI LLM Hubin kyky kattavaan testaukseen tuo merkittävää lisäarvoa kehittäjän työnkulkuun, mikä säästää ratkaisevaa aikaa eliminoimalla ad hoc -analyysin ja nopeuttamalla LLM-kehitystä kolminkertaisesti."
RagaAI LLM Hub, joka on suunniteltu ratkaisemaan ongelmia koko LLM-elinkaarin aikana, konseptin todistamisesta tuotantosovelluksiin, tunnistaa taustalla olevat ongelmat LLM-sovellukset ja helpottaa niiden ratkaisemista lähteellä, mullistaen lähestymistapoja luotettavuuden ja luotettavuuden takaamiseksi.
RagaAI vakuuttaa, että sen LLM Hub antaa tämän ominaisuuden käyttöön useilla testeillä, jotka kattavat erilaisia päätöksentekonäkökohtia:
- Kehotteet: Se toistaa ja tunnistaa optimaaliset kehotemallit ja luo suojakaiteet vastustavien hyökkäysten lieventämiseksi.
- Kontekstinhallinta RAG:ille: Se auttaa käyttäjiä löytämään optimaalisen tasapainon LLM-suorituskyvyn ja kustannus/viive välillä, kun ne toimivat mittakaavassa.
- Response Generation: Se käyttää mittareita tunnistamaan hallusinaatiot LLM-vastauksissa ja muodostaa suojakaiteet estämään harhaa, henkilökohtaisten tunnistetietojen vuotamista ja muita mahdollisia ongelmia.
Tekoälyhalusinaatioiden ja harhojen lieventäminen LLM-diagnoosin avulla
RagaAI LLM Hub löytää sovelluksia eri toimialoilta, mukaan lukien sähköinen kaupankäynti, rahoitus, markkinointi, laki- ja terveydenhuolto, ja se tukee kehittäjiä ja yrityksiä mm. chatbots, sisällön luominen, tekstin yhteenveto ja lähdekoodin luominen.
Arvioinnin lisäksi RagaAI LLM Hub auttaa asettamaan suojakaiteet varmistaakseen tietosuojan ja lainmukaisuuden sekä edistää eettisiä ja vastuullinen tekoäly käytäntöjä erityisesti herkillä aloilla, kuten rahoitus, terveydenhuolto ja laki.
”Yksi asiakkaistamme verkkokaupan alueella käytti LLM:itä chatbotille asiakastukeen, ja chatbot antoi vääriä vastauksia. RagaAI:n avulla tämä ongelma havaittiin ja ratkaistiin onnistuneesti”, RagaAI:n Gaurav Agarwal kertoi MPost. ”Sairausvakuutuksessa potilaan henkilötiedot ovat tärkeitä turvassa. Eräällä asiakkaallamme osa tärkeistä henkilötiedoista jaettiin kolmannelle osapuolelle – tämä on valtava tietosuojaongelma. RagaAI LLM Hub -suojakaiteiden avulla tämä ja vastaavat muut ongelmat havaittiin reaaliajassa ja estettiin tapahtumasta."
Lisäksi se pyrkii vähentämään maineriskejä noudattamalla yhteiskunnallisia normeja ja arvoja.
"RagaAI auttaa asettamaan suojakaiteet, kuten henkilökohtaisten tunnistetietojen (PII) havaitsemisen LLM-vastauksessa. Tämä varmistaa, että LLM-sovellus ei koskaan vuoda sisäisistä asiakirjoista peräisin olevia henkilötietoja, ja se on kriittistä vastuullisen tekoälyn kannalta", Gaurav Agarwal selitti. "Tämä ja muut suojakaiteet, kuten puolueettoman ja oikeudenmukaisen vastauksen varmistaminen, kilpailijoiden kommentoimatta jättäminen ja materiaalisen ei-julkisen tiedon (MNPI) poistaminen, ovat ratkaisevan tärkeitä yrityksille, koska ne pyrkivät välttämään yhteiskunnallisia ja mainehaittoja."
RagaAI LLM Hubin julkaisu seuraa menestystä $ 4.7 euroa pi Venturesin johtamassa siemenrahoituskierroksessa tammikuussa 2024 laajentaakseen sen AI tutkimus, kehitys ja asiakaskunta kaikkialla Yhdysvalloissa ja Euroopassa.
”Tavoitteenamme on tarjota parasta teknologiaa, joka tekee LLM:istä luotettavia. Se investoi merkittävästi avainteknologioiden rakentamiseen, jotta voidaan vastata LLM-laadunvarmistusnäkökohtiin. Tämän teknologian tekeminen avoimen lähdekoodin käyttöön on pyrkimyksemme tuoda se kaikkien saataville, jotta kehittäjäyhteisö voi rakentaa parhaan saatavilla olevan ratkaisun päälle”, Gaurav Agarwal sanoi.
Vastuun kieltäminen
Mukaisesti Luottamusprojektin ohjeetHuomaa, että tällä sivulla annettuja tietoja ei ole tarkoitettu eikä niitä tule tulkita oikeudellisiksi, verotukselliseksi, sijoitus-, rahoitus- tai minkään muun muodon neuvoiksi. On tärkeää sijoittaa vain sen verran, mitä sinulla on varaa menettää, ja pyytää riippumatonta talousneuvontaa, jos sinulla on epäilyksiä. Lisätietoja saat käyttöehdoista sekä myöntäjän tai mainostajan tarjoamista ohje- ja tukisivuista. MetaversePost on sitoutunut tarkkaan, puolueettomaan raportointiin, mutta markkinaolosuhteet voivat muuttua ilman erillistä ilmoitusta.
Author
Victor on johtava tekninen toimittaja/kirjoittaja osoitteessa Metaverse Post ja kattaa tekoälyn, krypton, datatieteen, metaversumien ja kyberturvallisuuden yritysmaailmassa. Hänellä on puolen vuosikymmenen media- ja tekoälykokemus työskentelystä tunnetuissa tiedotusvälineissä, kuten VentureBeatissa, DatatechVibessä ja Analytics India Magazinessa. Mediamentorina arvostetuissa yliopistoissa, kuten Oxfordissa ja USC:ssä, sekä datatieteen ja analytiikan maisterin tutkinnon suorittaneena Victor on syvästi sitoutunut pysymään uusien trendien tasalla. Hän tarjoaa lukijoille viimeisimmät ja oivaltavimmat kertomukset Tech and Web3 maisema.
lisää artikkeleita
Victor on johtava tekninen toimittaja/kirjoittaja osoitteessa Metaverse Post ja kattaa tekoälyn, krypton, datatieteen, metaversumien ja kyberturvallisuuden yritysmaailmassa. Hänellä on puolen vuosikymmenen media- ja tekoälykokemus työskentelystä tunnetuissa tiedotusvälineissä, kuten VentureBeatissa, DatatechVibessä ja Analytics India Magazinessa. Mediamentorina arvostetuissa yliopistoissa, kuten Oxfordissa ja USC:ssä, sekä datatieteen ja analytiikan maisterin tutkinnon suorittaneena Victor on syvästi sitoutunut pysymään uusien trendien tasalla. Hän tarjoaa lukijoille viimeisimmät ja oivaltavimmat kertomukset Tech and Web3 maisema.
