RagaAI Dil Modelinin Qiymətləndirilməsini və Təhlükəsizliyini Asanlaşdırmaq üçün Açıq Mənbəli LLM Mərkəzini işə salır
Qısaca
RagaAI, süni intellektə xüsusi dil modelləri üçün qoruyucuların qiymətləndirilməsi və qurulması üçün açıq mənbə platforması olan "RagaAI LLM Hub"ı işə saldı.
AI sınaq platforması RagaAI Bu yaxınlarda ""RagaAI LLM mərkəzi,” üçün qoruyucuların qiymətləndirilməsi və qurulması üçün nəzərdə tutulmuş açıq mənbəli və müəssisə üçün hazır platformadır. Böyük Dil Modelləri (LLM). 100-dən çox dəqiqliklə hazırlanmış ölçülərlə, platforma LLM-lərdə və Axtarış Artırılmış Nəsil (RAG) tətbiqlərində fəlakətli uğursuzluqların qarşısını almağı hədəfləyir.
RagaAI LLM Hub tərtibatçılara və təşkilatlara LLM-ləri effektiv şəkildə qiymətləndirmək və müqayisə etmək üçün Aidiyyət və Anlaşma, Məzmun Keyfiyyəti kimi kritik aspektləri əhatə edən möhkəm alət dəsti təklif edir Hallusinasiya, Təhlükəsizlik və Qərəz, Kontekstlə Münasiblik, Qoruyucular və Zəifliyin skan edilməsi. Bundan əlavə, kəmiyyət təhlili üçün Metrik Əsaslı Testlər dəstini təqdim edir.
“Hazırda LLM quruculuğu dünyasında LLM-lərin hərtərəfli qiymətləndirilməsi əsas tələbdir, çünki məlumat alimləri və müəssisələr onlar üçün hansı texnologiya və yığının işlədiyini müəyyənləşdirirlər. Problemin diaqnostikası problemi mənbədə dəqiq müəyyənləşdirməyi tələb edir və yüzlərlə mümkün əsas səbəbi nəzərə alsaq, bu əsas səbəbi dəqiq müəyyən etmək üçün yüzlərlə ölçü tələb olunur”. Gaurav AgarvalBu barədə RagaAI şirkətinin təsisçisi bildirib MPost.
“RagaAI LLM Hub-ın hərtərəfli sınaq qabiliyyəti, xüsusi analizi aradan qaldırmaq və LLM inkişafını 3 dəfə sürətləndirməklə həlledici vaxta qənaət edərək, tərtibatçının iş prosesinə əhəmiyyətli dəyər əlavə edir.”
Konsepsiya sübutundan tutmuş istehsal proqramlarına qədər LLM həyat dövrü boyunca problemləri həll etmək üçün nəzərdə tutulmuş RagaAI LLM Hub daxilində əsas problemləri müəyyən edir. LLM proqramları və onların mənbədə həllini asanlaşdırır, etibarlılıq və etibarlılığı təmin etmək üçün yanaşmaları dəyişdirir.
RagaAI, LLM Hub-ın müxtəlif qərar vermə aspektlərini əhatə edən bir sıra testlər vasitəsilə bu qabiliyyəti gücləndirdiyini təsdiqləyir:
- Tələblər: Düşmən hücumlarını yumşaltmaq üçün qoruyucu barmaqlıqlar qurarkən optimal xəbərdarlıq şablonlarını təkrarlayır və müəyyən edir.
- RAG-lar üçün Kontekst İdarəetmə: O, miqyasda işləyərkən LLM performansı və xərc/gecikmə arasında optimal tarazlığı tapmaqda istifadəçilərə kömək edir.
- Cavab Yaradılması: LLM cavablarında varsanıları müəyyən etmək üçün ölçülərdən istifadə edir və qərəzliliyin, PII sızmasının və digər potensial problemlərin qarşısını almaq üçün qoruyucu relslər yaradır.
LLM diaqnostikası vasitəsilə süni intellekt halüsinasiyalarının və qərəzliliyin azaldılması
RagaAI LLM Hub müxtəlif sənaye sahələrində, o cümlədən e-ticarət, maliyyə, marketinq, hüquq və səhiyyə, inkişaf etdiriciləri və müəssisələri dəstəkləyən proqramlar tapır. chatbots, məzmunun yaradılması, mətnin ümumiləşdirilməsi və mənbə kodunun yaradılması.
Qiymətləndirmədən başqa, RagaAI LLM Hub məlumatların məxfiliyini və qanuni uyğunluğu təmin etmək, etik və etik qaydaları təşviq etmək üçün qoruyucuların qurulmasına kömək edir. məsul AI təcrübələr, xüsusilə maliyyə, səhiyyə və hüquq kimi həssas sektorlarda.
“Elektron ticarət məkanındakı müştərilərimizdən biri müştəri dəstəyi üçün chatbot üçün LLM-lərdən istifadə edirdi və chatbot yanlış cavablar verirdi. RagaAI istifadə edərək, bu problem uğurla aşkar edildi və həll edildi "dedi RagaAI-dən Gaurav Agarval MPost. “Sağlamlıq sığortasında xəstənin şəxsi məlumatlarının qorunması vacibdir. Müştərilərimizdən birində mühüm şəxsi məlumatlardan bəziləri 3-cü tərəflə paylaşıldı – bu, böyük məlumat məxfiliyi problemidir. RagaAI LLM Hub qoruyucularından istifadə edərək, bu və buna bənzər digər problemlər real vaxtda aşkar edilib və baş verməsinin qarşısı alınıb”.
Bundan əlavə, o, ictimai norma və dəyərlərə riayət etməklə reputasiya risklərini azaltmağı hədəfləyir.
“RagaAI, LLM cavabında Şəxsi Müəyyən edilə bilən Məlumatın (PII) aşkarlanması kimi qoruyucuların qurulmasına kömək edir. Bu, daxili sənədlərdən heç bir şəxsi məlumatın LLM tətbiqi tərəfindən sızdırılmamasını təmin edir və Məsul AI üçün çox vacibdir "dedi Gaurav Agarwal. "Bu və qərəzsiz və ədalətli cavabların təmin edilməsi, rəqiblərə şərh verməmək və Material Qeyri-İctimai Məlumatların (MNPI) silinməsi kimi digər qoruyucu vasitələr cəmiyyət və nüfuza zərər vurmaqdan qaçmağa çalışdıqları üçün firmalar üçün çox vacibdir."
RagaAI LLM Hub-ın işə salınması uğurlu nəticədən sonra baş verir $ 4.7 milyon 2024-cü ilin yanvarında pi Ventures-in rəhbərlik etdiyi toxum maliyyələşdirmə turunda, genişləndirmək AI tədqiqatı, ABŞ və Avropada inkişaf və müştəri bazası.
“Məqsədimiz LLM-ləri etibarlı və etibarlı etmək üçün ən yaxşı texnologiyanı təmin etməkdir. O, LLM keyfiyyət təminatı aspektlərini həll etmək üçün əsas texnologiyalar yaratmaq üçün əhəmiyyətli dərəcədə sərmayə qoyur. Bu texnologiyanı açıq mənbəyə çevirmək, inkişaf etdirici icmasının ən yaxşı mövcud həll yolu üzərində qurulması üçün bunu hamı üçün əlçatan etmək istiqamətindəki səyimizdir” dedi Gaurav Agarwal.
Məsuliyyətdən imtina
uyğun olaraq Güvən Layihəsi qaydaları, lütfən nəzərə alın ki, bu səhifədə təqdim olunan məlumat hüquqi, vergi, investisiya, maliyyə və ya hər hansı digər məsləhət forması kimi təfsir edilməməlidir və təfsir edilməməlidir. Yalnız itirə biləcəyiniz şeyə investisiya qoymaq və hər hansı bir şübhəniz varsa, müstəqil maliyyə məsləhətləri axtarmaq vacibdir. Əlavə məlumat üçün biz emitent və ya reklamçı tərəfindən təmin edilən şərtlər və şərtlərə, həmçinin yardım və dəstək səhifələrinə müraciət etməyi təklif edirik. MetaversePost dəqiq, qərəzsiz hesabat verməyə sadiqdir, lakin bazar şərtləri xəbərdarlıq edilmədən dəyişdirilə bilər.
Müəllif haqqında
Viktor İdarəedici Texniki Redaktor/Yazıçıdır Metaverse Post və müəssisə sahəsində süni intellekt, kriptovalyuta, məlumat elmi, metaverse və kibertəhlükəsizliyi əhatə edir. O, VentureBeat, DatatechVibe və Analytics India Magazine kimi tanınmış media orqanlarında işləyən yarım onillik media və AI təcrübəsinə malikdir. Oksford və USC daxil olmaqla nüfuzlu universitetlərdə Media Mentoru olan və məlumat elmi və analitika üzrə magistr dərəcəsi ilə Viktor inkişaf etməkdə olan tendensiyalardan xəbərdar olmağa dərindən sadiqdir. O, oxuculara Tech və ən son və ən dərin hekayələri təqdim edir Web3 mənzərə.
Ətraflı məqalələr
Viktor İdarəedici Texniki Redaktor/Yazıçıdır Metaverse Post və müəssisə sahəsində süni intellekt, kriptovalyuta, məlumat elmi, metaverse və kibertəhlükəsizliyi əhatə edir. O, VentureBeat, DatatechVibe və Analytics India Magazine kimi tanınmış media orqanlarında işləyən yarım onillik media və AI təcrübəsinə malikdir. Oksford və USC daxil olmaqla nüfuzlu universitetlərdə Media Mentoru olan və məlumat elmi və analitika üzrə magistr dərəcəsi ilə Viktor inkişaf etməkdə olan tendensiyalardan xəbərdar olmağa dərindən sadiqdir. O, oxuculara Tech və ən son və ən dərin hekayələri təqdim edir Web3 mənzərə.
