RagaAI til modelini baholash va xavfsizlikni osonlashtirish uchun ochiq manbali LLM markazini ishga tushirdi
Qisqacha
RagaAI "RagaAI LLM Hub" ni ishga tushirdi, bu AIga xos til modellari uchun to'siqlarni baholash va o'rnatish uchun ochiq manba platformasi.
AI sinov platformasi RagaAI yaqinda ishga tushirilganini e'lon qildi "RagaAI LLM markazi," ochiq manbali va korporativ foydalanishga tayyor platforma uchun himoya panjaralarini baholash va o'rnatish uchun mo'ljallangan. Katta til modellari (LLM). 100 dan ortiq puxta ishlab chiqilgan ko'rsatkichlar bilan platforma LLM va Retrieval Augmented Generation (RAG) ilovalarida halokatli nosozliklarning oldini olishga qaratilgan.
RagaAI LLM Hub ishlab chiquvchilar va tashkilotlarga LLMlarni samarali baholash va solishtirish uchun ishonchli vositalar to'plamini taklif etadi, bu muhim jihatlarni qamrab oladi, masalan, dolzarblik va tushunish, kontent sifati, Gallyutsinatsiya, Xavfsizlik va tarafkashlik, Kontekstga aloqadorlik, Guardrails va zaifliklarni skanerlash. Bundan tashqari, u miqdoriy tahlil uchun Metrik-asoslangan testlar to'plamini taqdim etadi.
“LLMlarni yaxlit baholash hozirda LLM qurish dunyosining asosiy talabidir, chunki ma'lumotlar olimlari va korxonalar ular uchun qanday texnologiya va stek ishlashini aniqlaydilar. Muammoni tashxislash muammoni manbada sinchkovlik bilan aniqlashni talab qiladi va yuzlab mumkin bo'lgan asosiy sabablarni hisobga olgan holda, bu asosiy sababni aniqlash uchun yuzlab ko'rsatkichlar talab qilinadi " Gaurav Agarval, dedi RagaAI asoschisi MPost.
"RagaAI LLM Hubning keng qamrovli sinovdan o'tkazish qobiliyati ishlab chiquvchining ish jarayoniga sezilarli qiymat qo'shadi, bu maxsus tahlilni yo'q qilish va LLM rivojlanishini 3 baravar tezlashtirish orqali muhim vaqtni tejaydi."
RagaAI LLM uyasi LLM hayotiy tsikli davomida, kontseptsiyani isbotlashdan tortib ishlab chiqarish ilovalarigacha bo'lgan muammolarni hal qilish uchun mo'ljallangan. LLM ilovalari va ularni manbada hal qilishni osonlashtiradi, ishonchlilik va ishonchlilikni ta'minlashga yondashuvlarni inqilob qiladi.
RagaAI o'zining LLM uyasi qaror qabul qilishning turli jihatlarini qamrab oluvchi bir qator testlar orqali ushbu imkoniyatni kuchaytirishini tasdiqlaydi:
- Ko'rsatmalar: raqib hujumlarini yumshatish uchun to'siqlarni o'rnatishda optimal tezkor shablonlarni takrorlaydi va aniqlaydi.
- RAG uchun kontekstni boshqarish: Bu foydalanuvchilarga masshtabda ishlaganda LLM ishlashi va xarajat/kechikish o'rtasidagi optimal muvozanatni topishda yordam beradi.
- Javobni yaratish: U LLM javoblarida gallyutsinatsiyalarni aniqlash uchun o'lchovlardan foydalanadi va tarafkashlik, PII oqishi va boshqa mumkin bo'lgan muammolarni oldini olish uchun himoya panjaralarini o'rnatadi.
LLM diagnostikasi orqali AI gallyutsinatsiyalari va tarafkashliklarni yumshatish
RagaAI LLM Hub turli sohalarda, jumladan, elektron tijorat, moliya, marketing, yuridik va sog'liqni saqlash, ishlab chiquvchilar va korxonalarni qo'llab-quvvatlash kabi vazifalarda ilovalarni topadi. chatbots, kontent yaratish, matnni umumlashtirish va manba kodini yaratish.
Baholashdan tashqari, RagaAI LLM Hub ma'lumotlarning maxfiyligi va qonuniy muvofiqligini ta'minlash, axloqiy va axloqiy qoidalarni targ'ib qilish uchun to'siqlarni o'rnatishda yordam beradi. mas'uliyatli AI amaliyotlar, ayniqsa moliya, sog'liqni saqlash va huquq kabi nozik sohalarda.
“Elektron tijorat sohasidagi mijozlarimizdan biri mijozlarni qo‘llab-quvvatlash uchun chatbot uchun LLMlardan foydalangan va chatbot noto‘g‘ri javoblar bergan. RagaAI yordamida bu muammo muvaffaqiyatli aniqlandi va hal qilindi”, dedi RagaAI’dan Gaurav Agarval. MPost. “Sog'liqni saqlash sug'urtasida bemorning shaxsiy ma'lumotlarini himoya qilish muhimdir. Mijozlarimizdan birida ba'zi muhim shaxsiy ma'lumotlar uchinchi tomon bilan baham ko'rilgan - bu katta ma'lumotlar maxfiyligi muammosi. RagaAI LLM Hub to'siqlari yordamida bu va shunga o'xshash boshqa muammolar real vaqtda aniqlandi va ularning oldini oldi.
Bundan tashqari, u ijtimoiy me'yorlar va qadriyatlarga rioya qilish orqali obro'-e'tibor xavfini kamaytirishga qaratilgan.
“RagaAI LLM javobida shaxsni identifikatsiyalash mumkin bo'lgan ma'lumotni (PII) aniqlash kabi to'siqlarni o'rnatishda yordam beradi. Bu ichki hujjatlardagi shaxsiy ma'lumotlarning LLM ilovasi tomonidan sizib chiqmasligini ta'minlaydi va mas'uliyatli AI uchun juda muhimdir ", dedi Gaurav Agarval. "Ushbu va xolis va adolatli javoblarni ta'minlash, raqobatchilar haqida sharh bermaslik va ommaviy bo'lmagan materiallarni (MNPI) olib tashlash kabi boshqa to'siqlar jamiyat va obro'ga zarar yetkazmaslikka intilayotgan kompaniyalar uchun juda muhimdir."
RagaAI LLM Hubning ishga tushirilishi muvaffaqiyatli yakunlandi $ 4.7 million 2024 yil yanvar oyida pi Ventures boshchiligidagi urug'lik moliyalashtirish bosqichida, uning kengaytirish AI tadqiqoti, AQSh va Yevropa bo'ylab ishlab chiqish va mijozlar bazasi.
“Bizning maqsadimiz LLMlarni ishonchli va ishonchli qilish uchun eng yaxshi texnologiyani taqdim etishdir. U LLM sifat kafolati jihatlarini hal qilish uchun asosiy texnologiyalarni yaratish uchun katta miqdorda sarmoya kiritmoqda. Ushbu texnologiyani ochiq manbaga aylantirish bizning ishlab chiquvchilar hamjamiyatiga mavjud bo'lgan eng yaxshi yechimga asoslanishi uchun buni hamma uchun ochiq qilish yo'lidagi harakatimizdir”, dedi Gaurav Agarval.
Masʼuliyatdan voz kechish
Bunga javoban Ishonch loyihasi bo'yicha ko'rsatmalar, iltimos, ushbu sahifada taqdim etilgan ma'lumotlar yuridik, soliq, investitsiya, moliyaviy yoki boshqa har qanday maslahat shakli sifatida talqin qilinmasligi va talqin qilinmasligini unutmang. Faqat yo'qotishingiz mumkin bo'lgan narsaga investitsiya qilish va agar shubhangiz bo'lsa, mustaqil moliyaviy maslahat olish muhimdir. Qo'shimcha ma'lumot olish uchun biz shartlar va emitent yoki reklama beruvchi tomonidan taqdim etilgan yordam va qo'llab-quvvatlash sahifalariga murojaat qilishni tavsiya qilamiz. MetaversePost to'g'ri, xolis hisobot berish majburiyatini oladi, lekin bozor sharoitlari ogohlantirilmasdan o'zgarishi mumkin.
Muallif haqida
Viktor - boshqaruvchi texnik muharrir/yozuvchi Metaverse Post va korxona doirasidagi sun'iy intellekt, kriptografiya, ma'lumotlar fani, metaverse va kiberxavfsizlikni qamrab oladi. U VentureBeat, DatatechVibe va Analytics India Magazine kabi taniqli ommaviy axborot vositalarida ishlaydigan yarim o'n yillik media va AI tajribasiga ega. Oksford va USC kabi nufuzli universitetlarda Media bo'yicha murabbiy bo'lib, ma'lumotlar fanlari va analitika bo'yicha magistr darajasiga ega bo'lgan Viktor rivojlanayotgan tendentsiyalardan xabardor bo'lishga qattiq intiladi. U o'quvchilarga Tech va eng so'nggi va eng chuqur hikoyalarni taklif qiladi Web3 landshaft.
Boshqa maqolalar
Viktor - boshqaruvchi texnik muharrir/yozuvchi Metaverse Post va korxona doirasidagi sun'iy intellekt, kriptografiya, ma'lumotlar fani, metaverse va kiberxavfsizlikni qamrab oladi. U VentureBeat, DatatechVibe va Analytics India Magazine kabi taniqli ommaviy axborot vositalarida ishlaydigan yarim o'n yillik media va AI tajribasiga ega. Oksford va USC kabi nufuzli universitetlarda Media bo'yicha murabbiy bo'lib, ma'lumotlar fanlari va analitika bo'yicha magistr darajasiga ega bo'lgan Viktor rivojlanayotgan tendentsiyalardan xabardor bo'lishga qattiq intiladi. U o'quvchilarga Tech va eng so'nggi va eng chuqur hikoyalarni taklif qiladi Web3 landshaft.
