Inilunsad ng RagaAI ang Open-Source LLM Hub para Mapadali ang Pagsusuri at Kaligtasan ng Modelo ng Wika
Sa madaling sabi
Inilunsad ng RagaAI ang 'RagaAI LLM Hub,' isang open-source na platform para sa pagsusuri at pagtatatag ng mga guardrail para sa mga partikular na modelo ng wika ng AI.
Platform ng pagsubok ng AI RagaAI kamakailan ay inihayag ang paglulunsad ng "RagaAI LLM Hub,” isang open-source at enterprise-ready na platform na idinisenyo para sa pagsusuri at pagtatatag ng mga guardrail para sa Malaking Modelo ng Wika (LLMs). Sa mahigit 100 masusing ginawang sukatan, ang platform ay naglalayong maiwasan ang mga sakuna na pagkabigo sa mga LLM at Retrieval Augmented Generation (RAG) na mga application.
Ang RagaAI LLM Hub ay nag-aalok sa mga developer at organisasyon ng isang mahusay na toolkit upang masuri at maihambing ang mga LLM nang epektibo, na sumasaklaw sa mga kritikal na aspeto tulad ng Kaugnayan at Pag-unawa, Kalidad ng Nilalaman, Pagkakatalaga, Kaligtasan at Pagkiling, Kaugnayan ng Konteksto, Pag-scan ng Guardrails at Vulnerability. Bukod pa rito, nagbibigay ito ng hanay ng Mga Pagsusulit na Batay sa Sukatan para sa pagsusuri ng dami.
“Ang holistic na pagsusuri ng mga LLM ay isang pangunahing kinakailangan sa mundo ng pagtatayo ng LLM sa ngayon, dahil alam ng mga data scientist at enterprise kung anong teknolohiya at stack ang gumagana para sa kanila. Ang pag-diagnose ng isang problema ay nangangailangan ng masusing pagtukoy sa problema sa pinagmulan, at binigyan ng daan-daang posibleng ugat, nangangailangan ito ng daan-daang sukatan upang matukoy ang ugat na dahilan na iyon," Gaurav Agarwal, sinabi ng tagapagtatag sa RagaAI MPost.
“Ang kakayahan ng RagaAI LLM Hub para sa komprehensibong pagsubok ay nagdaragdag ng makabuluhang halaga sa daloy ng trabaho ng isang developer, na nakakatipid ng mahalagang oras sa pamamagitan ng pag-aalis ng ad hoc analysis at pagpapabilis ng pag-develop ng LLM nang 3x."
Idinisenyo upang matugunan ang mga isyu sa buong LLM lifecycle, mula sa patunay-ng-konsepto hanggang sa mga aplikasyon sa produksyon, kinikilala ng RagaAI LLM Hub ang mga pangunahing problema sa loob Mga aplikasyon ng LLM at pinapadali ang kanilang paglutas sa pinagmulan, binabago ang mga diskarte sa pagtiyak ng pagiging maaasahan at pagiging mapagkakatiwalaan.
Iginiit ng RagaAI na ang LLM Hub nito ay nagbibigay kapangyarihan sa kakayahang ito sa pamamagitan ng isang hanay ng mga pagsubok na sumasaklaw sa iba't ibang aspeto ng paggawa ng desisyon:
- Mga Prompt: Inuulit nito at tinutukoy ang pinakamainam na mga template ng prompt habang nagtatatag ng mga guardrail upang mabawasan ang mga pag-atake ng adversarial.
- Pamamahala ng Konteksto para sa mga RAG: Tinutulungan nito ang mga user sa paghahanap ng pinakamainam na balanse sa pagitan ng pagganap ng LLM at gastos/latency kapag tumatakbo nang malaki.
- Pagbuo ng Tugon: Gumagamit ito ng mga sukatan upang matukoy ang mga guni-guni sa mga tugon ng LLM at nagtatatag ng mga guardrail upang maiwasan ang pagkiling, pagtagas ng PII, at iba pang potensyal na isyu.
Pagbabawas ng AI Hallucinations at Bias Sa pamamagitan ng LLM Diagnosis
Ang RagaAI LLM Hub ay nakakahanap ng mga aplikasyon sa iba't ibang industriya, kabilang ang e-commerce, pananalapi, marketing, legal at pangangalagang pangkalusugan, pagsuporta sa mga developer at negosyo sa mga gawain tulad ng chatbots, paglikha ng nilalaman, pagbubuod ng teksto, at pagbuo ng source code.
Higit pa sa pagsusuri, ang RagaAI LLM Hub ay tumutulong sa pagtatakda ng mga guardrail upang matiyak ang pagkapribado ng data at legal na pagsunod, pagtataguyod ng etika at responsable AI mga gawi, partikular sa mga sensitibong sektor tulad ng pananalapi, pangangalaga sa kalusugan, at batas.
“Ang isa sa aming mga customer sa e-commerce space ay gumagamit ng mga LLM para sa chatbot para sa suporta sa customer, at ang chatbot ay nagbibigay ng mga maling sagot. Gamit ang RagaAI, matagumpay na natukoy at naresolba ang isyung ito,” sabi ni Gaurav Agarwal ng RagaAI MPost. “Sa segurong pangkalusugan, ang personal na impormasyon ng pasyente ay mahalagang mapangalagaan. Sa isa sa aming mga customer, ibinahagi sa 3rd party ang ilan sa mahahalagang personal na impormasyon — isang malaking isyu sa privacy ng data. Gamit ang mga guardrail ng RagaAI LLM Hub, ito at ang iba pang mga katulad na isyu ay nakita sa real time at napigilang mangyari."
Bukod pa rito, nilalayon nitong pagaanin ang mga panganib sa reputasyon sa pamamagitan ng pagsunod sa mga pamantayan at halaga ng lipunan.
“Tumutulong ang RagaAI sa pagtatakda ng mga guardrail tulad ng pagtuklas ng Personally identifiable Information (PII) sa tugon ng LLM. Tinitiyak nito na walang personal na data mula sa mga panloob na dokumento ang na-leak ng LLM application at kritikal sa Responsible AI,” paliwanag ni Gaurav Agarwal. "Ito at ang iba pang mga guardrail tulad ng pagtiyak ng walang pinapanigan at patas na mga tugon, hindi pagkomento sa mga kakumpitensya at pag-alis ng Material Non Public Information (MNPI) ay mahalaga para sa mga kumpanya habang tinitingnan nilang maiwasan ang pinsala sa lipunan at reputasyon."
Ang paglulunsad ng RagaAI LLM Hub ay kasunod ng isang matagumpay $ 4.7 Milyon sa isang seed funding round noong Enero 2024 na pinangunahan ng pi Ventures, upang palawakin ang mga ito pananaliksik sa AI, development at client base sa buong US at Europe.
“Ang aming layunin ay magbigay ng pinakamahusay na teknolohiya upang gawing mapagkakatiwalaan at maaasahan ang mga LLM. Malaki ang pamumuhunan nito upang makabuo ng mga pangunahing teknolohiya para matugunan ang mga aspeto ng katiyakan ng kalidad ng LLM. Ang paggawa ng teknolohiyang ito na open-source ay ang aming pagsusumikap sa direksyon na gawin itong available sa lahat para sa komunidad ng developer na bumuo sa tuktok ng pinakamahusay na magagamit na solusyon, "sabi ni Gaurav Agarwal.
Pagtanggi sa pananagutan
Sa linya na may Mga alituntunin ng Trust Project, pakitandaan na ang impormasyong ibinigay sa pahinang ito ay hindi nilayon at hindi dapat bigyang-kahulugan bilang legal, buwis, pamumuhunan, pananalapi, o anumang iba pang paraan ng payo. Mahalagang mamuhunan lamang kung ano ang maaari mong mawala at humingi ng independiyenteng payo sa pananalapi kung mayroon kang anumang mga pagdududa. Para sa karagdagang impormasyon, iminumungkahi naming sumangguni sa mga tuntunin at kundisyon pati na rin sa mga pahina ng tulong at suporta na ibinigay ng nagbigay o advertiser. MetaversePost ay nakatuon sa tumpak, walang pinapanigan na pag-uulat, ngunit ang mga kondisyon ng merkado ay maaaring magbago nang walang abiso.
Tungkol sa Ang May-akda
Si Victor ay isang Managing Tech Editor/Writer sa Metaverse Post at sumasaklaw sa artificial intelligence, crypto, data science, metaverse at cybersecurity sa loob ng enterprise realm. Ipinagmamalaki niya ang kalahating dekada ng karanasan sa media at AI na nagtatrabaho sa mga kilalang media outlet gaya ng VentureBeat, DatatechVibe at Analytics India Magazine. Bilang isang Media Mentor sa mga prestihiyosong unibersidad kabilang ang Oxford at USC at may Master's degree sa data science at analytics, si Victor ay lubos na nakatuon sa pananatiling abreast sa mga umuusbong na uso. Nag-aalok siya sa mga mambabasa ng pinakabago at pinakamahuhusay na mga salaysay mula sa Tech at Web3 tanawin.
Mas marami pang artikulo
Si Victor ay isang Managing Tech Editor/Writer sa Metaverse Post at sumasaklaw sa artificial intelligence, crypto, data science, metaverse at cybersecurity sa loob ng enterprise realm. Ipinagmamalaki niya ang kalahating dekada ng karanasan sa media at AI na nagtatrabaho sa mga kilalang media outlet gaya ng VentureBeat, DatatechVibe at Analytics India Magazine. Bilang isang Media Mentor sa mga prestihiyosong unibersidad kabilang ang Oxford at USC at may Master's degree sa data science at analytics, si Victor ay lubos na nakatuon sa pananatiling abreast sa mga umuusbong na uso. Nag-aalok siya sa mga mambabasa ng pinakabago at pinakamahuhusay na mga salaysay mula sa Tech at Web3 tanawin.
