RagaAI izlaiž atvērtā pirmkoda LLM centru, lai atvieglotu valodu modeļu novērtēšanu un drošību
Īsumā
RagaAI atklāja RagaAI LLM Hub — atvērtā pirmkoda platformu, lai novērtētu un izveidotu aizsargmargus AI specifiskiem valodu modeļiem.
AI testēšanas platforma RagaAI nesen paziņoja par “RagaAI LLM centrs”, atvērtā koda un uzņēmumam piemērota platforma, kas paredzēta, lai novērtētu un izveidotu aizsargmargus Lieli valodu modeļi (LLM). Ar vairāk nekā 100 rūpīgi izstrādātiem rādītājiem platformas mērķis ir novērst katastrofālas kļūmes LLM un Retrieval Augmented Generation (RAG) lietojumprogrammās.
RagaAI LLM centrs piedāvā izstrādātājiem un organizācijām spēcīgu rīku komplektu, lai efektīvi novērtētu un salīdzinātu LLM, aptverot tādus kritiskus aspektus kā atbilstība un izpratne, satura kvalitāte, Halucinācijas, drošība un novirze, konteksta atbilstība, aizsargmargas un ievainojamības skenēšana. Turklāt tas nodrošina uz metriku balstītu testu komplektu kvantitatīvās analīzes veikšanai.
“Šobrīd LLM veidošanas pasaulē galvenā prasība ir holistiska LLM novērtēšana, jo datu zinātnieki un uzņēmumi izdomā, kāda tehnoloģija un steks viņiem der. Lai diagnosticētu problēmu, ir rūpīgi jāidentificē problēma tās avotā, un, ņemot vērā simtiem iespējamo pamatcēloņu, ir nepieciešami simtiem metrikas, lai precīzi noteiktu galveno cēloni. Gauravs Agarvals, stāstīja RagaAI dibinātājs MPost.
"RagaAI LLM Hub spēja veikt visaptverošu testēšanu piešķir ievērojamu vērtību izstrādātāja darbplūsmai, ietaupot būtisku laiku, novēršot ad hoc analīzi un paātrinot LLM izstrādi trīs reizes."
RagaAI LLM Hub, kas izstrādāts, lai risinātu problēmas visā LLM dzīves ciklā, sākot no koncepcijas apstiprināšanas līdz ražošanas lietojumprogrammām, identificē pamata problēmas LLM lietojumprogrammas un atvieglo to atrisināšanu pie avota, mainot pieejas uzticamības un uzticamības nodrošināšanai.
RagaAI apgalvo, ka tā LLM Hub nodrošina šo iespēju, izmantojot virkni testu, kas aptver dažādus lēmumu pieņemšanas aspektus:
- Uzvednes: tā atkārto un identificē optimālas uzvedņu veidnes, vienlaikus izveidojot aizsargmargas, lai mazinātu pretrunīgus uzbrukumus.
- RAG konteksta pārvaldība: tā palīdz lietotājiem atrast optimālo līdzsvaru starp LLM veiktspēju un izmaksām/latenci, ja darbojas plašā mērogā.
- Atbilžu ģenerēšana: tā izmanto metriku, lai identificētu halucinācijas LLM atbildēs, un izveido aizsargmargas, lai novērstu novirzes, PII noplūdi un citas iespējamās problēmas.
AI halucināciju un novirzes mazināšana, izmantojot LLM diagnostiku
RagaAI LLM Hub atrod lietojumprogrammas dažādās nozarēs, tostarp e-komercijā, finansēs, mārketingā, juridiskajā un veselības aprūpē, atbalstot izstrādātājus un uzņēmumus tādos uzdevumos kā chatbots, satura izveide, teksta apkopošana un pirmkoda ģenerēšana.
Papildus novērtējumam RagaAI LLM Hub palīdz noteikt aizsargmargas, lai nodrošinātu datu privātumu un tiesisko atbilstību, veicinot ētikas un atbildīgs AI praksē, jo īpaši tādās jutīgās nozarēs kā finanses, veselības aprūpe un tiesību akti.
“Viens no mūsu klientiem e-komercijas telpā izmantoja LLM tērzēšanas robotam klientu atbalstam, un tērzēšanas robots sniedza nepareizas atbildes. Izmantojot RagaAI, šī problēma tika veiksmīgi atklāta un atrisināta, ”sacīja RagaAI pārstāvis Gauravs Agarvals MPost. “Veselības apdrošināšanā pacienta personiskā informācija ir svarīga, lai tā būtu aizsargāta. Vienam no mūsu klientiem daļa no svarīgās personas informācijas tika kopīgota ar trešo pusi — tā ir milzīga datu konfidencialitātes problēma. Izmantojot RagaAI LLM Hub aizsargmargas, šī un līdzīgas citas problēmas tika atklātas reāllaikā un novērstas.
Turklāt tās mērķis ir mazināt reputācijas riskus, ievērojot sabiedrības normas un vērtības.
“RagaAI palīdz iestatīt aizsargmargas, piemēram, personiski identificējamas informācijas (PII) noteikšanu LLM atbildē. Tas nodrošina, ka LLM lietojumprogramma nekad nenopludinās personas datus no iekšējiem dokumentiem, un tas ir ļoti svarīgi atbildīgajam AI, ”skaidroja Gauravs Agarvals. "Šīs un citas aizsargmargas, piemēram, objektīvas un godīgas atbildes nodrošināšana, konkurentu nekomentēšana un būtiskas nepubliskas informācijas (MNPI) noņemšana, ir ļoti svarīgas uzņēmumiem, jo tie cenšas izvairīties no kaitējuma sabiedrībai un reputācijai."
RagaAI LLM Hub palaišana ir veiksmīga $ 4.7 miljoni sākuma finansējuma kārtā 2024. gada janvārī, ko vadīja pi Ventures, lai paplašinātu savu AI pētījumi, izstrāde un klientu bāze visā ASV un Eiropā.
“Mūsu mērķis ir nodrošināt vislabāko tehnoloģiju, lai LLM būtu uzticami un uzticami. Tā iegulda ievērojamus līdzekļus, lai izveidotu galvenās tehnoloģijas, lai risinātu LLM kvalitātes nodrošināšanas aspektus. Šīs tehnoloģijas padarīšana par atvērtā pirmkoda izmantošanu ir mūsu pūliņi, lai padarītu to pieejamu ikvienam, lai izstrādātāju kopiena varētu izmantot labāko pieejamo risinājumu,” sacīja Gauravs Agarvals.
Atbildības noraidīšana
Atbilstīgi Uzticības projekta vadlīnijas, lūdzu, ņemiet vērā, ka šajā lapā sniegtā informācija nav paredzēta un to nedrīkst interpretēt kā juridisku, nodokļu, ieguldījumu, finanšu vai jebkāda cita veida padomu. Ir svarīgi ieguldīt tikai to, ko varat atļauties zaudēt, un meklēt neatkarīgu finanšu padomu, ja jums ir šaubas. Lai iegūtu papildinformāciju, iesakām skatīt pakalpojumu sniegšanas noteikumus, kā arī palīdzības un atbalsta lapas, ko nodrošina izdevējs vai reklāmdevējs. MetaversePost ir apņēmies sniegt precīzus, objektīvus pārskatus, taču tirgus apstākļi var tikt mainīti bez iepriekšēja brīdinājuma.
Par Autors
Viktors ir vadošais tehniskais redaktors/rakstnieks uzņēmumā Metaverse Post un aptver mākslīgo intelektu, kriptovalūtu, datu zinātni, metaversu un kiberdrošību uzņēmuma jomā. Viņam ir pusdesmit gadu ilga plašsaziņas līdzekļu un AI pieredze, strādājot tādos labi zināmos plašsaziņas līdzekļos kā VentureBeat, DatatechVibe un Analytics India Magazine. Būdams mediju mentors prestižās universitātēs, tostarp Oksfordā un USC, un ieguvis maģistra grādu datu zinātnē un analītikā, Viktors ir cieši apņēmies sekot līdzi jaunajām tendencēm. Viņš piedāvā lasītājiem jaunākos un visredzamākos stāstus no Tech un Web3 ainava.
Vairāk rakstus
Viktors ir vadošais tehniskais redaktors/rakstnieks uzņēmumā Metaverse Post un aptver mākslīgo intelektu, kriptovalūtu, datu zinātni, metaversu un kiberdrošību uzņēmuma jomā. Viņam ir pusdesmit gadu ilga plašsaziņas līdzekļu un AI pieredze, strādājot tādos labi zināmos plašsaziņas līdzekļos kā VentureBeat, DatatechVibe un Analytics India Magazine. Būdams mediju mentors prestižās universitātēs, tostarp Oksfordā un USC, un ieguvis maģistra grādu datu zinātnē un analītikā, Viktors ir cieši apņēmies sekot līdzi jaunajām tendencēm. Viņš piedāvā lasītājiem jaunākos un visredzamākos stāstus no Tech un Web3 ainava.
