RagaAI, Dil Modeli Değerlendirmesini ve Güvenliği Kolaylaştırmak için Açık Kaynak Yüksek Lisans Merkezini Başlattı
Kısaca
RagaAI, yapay zekaya özgü dil modellerine yönelik korkulukları değerlendirmek ve oluşturmak için açık kaynaklı bir platform olan 'RagaAI LLM Hub'ı başlattı.
Yapay zeka test platformu RagaAI yakın zamanda lansmanını duyurdu:RagaAI Yüksek Lisans Merkezi“korkulukların değerlendirilmesi ve oluşturulması için tasarlanmış açık kaynaklı ve kurumsal kullanıma hazır bir platform” Büyük Dil Modelleri (LLM'ler). Platform, titizlikle hazırlanmış 100'den fazla ölçümle, LLM'lerde ve Alma Artırılmış Üretim (RAG) uygulamalarında yıkıcı hataları önlemeyi amaçlıyor.
RagaAI LLM Merkezi, geliştiricilere ve kuruluşlara Yüksek Lisans'ları etkili bir şekilde değerlendirmek ve karşılaştırmak için Uygunluk ve Anlama, İçerik Kalitesi gibi kritik yönleri kapsayan güçlü bir araç seti sunar. sanrı, Güvenlik ve Önyargı, Bağlam Uygunluğu, Korkuluklar ve Güvenlik Açığı taraması. Ek olarak, niceliksel analiz için bir Metrik Tabanlı Test paketi sağlar.
“Veri bilimcileri ve işletmeler kendileri için hangi teknolojinin ve yığının işe yaradığını anladıklarından, LLM'lerin bütünsel değerlendirmesi şu anda LLM oluşturma dünyasında önemli bir gerekliliktir. Bir sorunu teşhis etmek, sorunun kaynağında titizlikle tanımlanmasını gerektirir ve yüzlerce olası temel neden göz önüne alındığında, bu temel nedeni tam olarak belirlemek için yüzlerce ölçüm gerekir." Gaurav AgarwalRagaAI'nin kurucusu şunları söyledi: MPost.
"RagaAI LLM Hub'ın kapsamlı test etme yeteneği, geliştiricinin iş akışına önemli bir değer katıyor, özel analizleri ortadan kaldırarak ve LLM gelişimini 3 kat hızlandırarak önemli zaman tasarrufu sağlıyor."
Konsept kanıtından üretim uygulamalarına kadar LLM yaşam döngüsü boyunca sorunları ele almak üzere tasarlanan RagaAI LLM Hub, içinde yatan temel sorunları tanımlar. Yüksek Lisans başvuruları ve bunların kaynağında çözümlenmesini kolaylaştırarak güvenilirliğin ve güvenilirliğin sağlanmasına yönelik yaklaşımlarda devrim yaratıyor.
RagaAI, Yüksek Lisans Merkezinin bu yeteneği çeşitli karar alma hususlarını kapsayan bir dizi test aracılığıyla güçlendirdiğini iddia ediyor:
- İstemler: Düşman saldırılarını azaltmak için korkuluklar oluştururken en uygun istem şablonlarını yineler ve tanımlar.
- RAG'ler için İçerik Yönetimi: Kullanıcıların, geniş ölçekte çalışırken LLM performansı ile maliyet/gecikme arasındaki optimum dengeyi bulmalarına yardımcı olur.
- Yanıt Oluşturma: LLM yanıtlarındaki halüsinasyonları belirlemek için ölçümler kullanır ve önyargıyı, PII sızıntısını ve diğer potansiyel sorunları önlemek için korkuluklar oluşturur.
Yüksek Lisans Teşhisi Yoluyla Yapay Zeka Halüsinasyonlarını ve Önyargıları Azaltma
RagaAI LLM Merkezi, e-ticaret, finans, pazarlama, hukuk ve sağlık hizmetleri de dahil olmak üzere çeşitli sektörlerde uygulamalar bulur ve geliştiricileri ve işletmeleri aşağıdaki gibi görevlerde destekler: chatbots, içerik oluşturma, metin özetleme ve kaynak kodu oluşturma.
RagaAI LLM Merkezi, değerlendirmenin ötesinde, veri gizliliğini ve yasal uyumluluğu sağlamak, etik ve yasal uyumu teşvik etmek için bariyerler oluşturmaya yardımcı olur. sorumlu AI Özellikle finans, sağlık ve hukuk gibi hassas sektörlerdeki uygulamalar.
"E-ticaret alanındaki müşterilerimizden biri, müşteri desteği için chatbot olarak LLM'leri kullanıyordu ve chatbot yanlış yanıtlar veriyordu. RagaAI'den Gaurav Agarwal, RagaAI kullanılarak bu sorunun başarıyla tespit edildiğini ve çözüldüğünü söyledi. MPost. “Sağlık sigortasında hastanın kişisel bilgilerinin korunması önemlidir. Müşterilerimizden birinde önemli kişisel bilgilerin bir kısmı 3. tarafla paylaşıldı; bu büyük bir veri gizliliği sorunudur. RagaAI LLM Hub korkulukları kullanılarak bu ve benzeri diğer sorunlar gerçek zamanlı olarak tespit edildi ve gerçekleşmesi engellendi."
Ayrıca toplumsal norm ve değerlere bağlı kalarak itibar risklerini azaltmayı amaçlamaktadır.
"RagaAI, LLM yanıtında Kişisel Olarak Tanımlanabilir Bilgilerin (PII) tespiti gibi korkulukların kurulmasına yardımcı oluyor. Bu, dahili belgelerdeki hiçbir kişisel verinin LLM uygulaması tarafından sızdırılmamasını sağlar ve Sorumlu Yapay Zeka için kritik öneme sahiptir," diye açıkladı Gaurav Agarwal. "Bu ve tarafsız ve adil tepkilerin sağlanması, rakipler hakkında yorum yapılmaması ve Kamuya Açık Olmayan Önemli Bilgilerin (MNPI) kaldırılması gibi diğer önlemler, toplumsal ve itibar zararından kaçınmaya çalışan firmalar için çok önemlidir."
RagaAI LLM Hub'ın lansmanı başarılı bir süreci takip ediyor $ 4.7 milyon Ocak 2024'te pi Ventures liderliğindeki bir tohum finansman turunda, portföyünü genişletmek için yapay zeka araştırmasıABD ve Avrupa genelinde geliştirme ve müşteri tabanı.
“Amacımız, Yüksek Lisans'ı güvenilir ve güvenilir kılmak için en iyi teknolojiyi sunmaktır. LLM kalite güvence hususlarını ele alacak temel teknolojiler oluşturmak için önemli yatırımlar yapıyor. Bu teknolojiyi açık kaynak haline getirmek, geliştirici topluluğunun mümkün olan en iyi çözümü temel alarak bunu herkesin kullanımına sunma yönündeki çabamızdır" dedi Gaurav Agarwal.
Feragatname
Doğrultusunda Trust Project yönergeleri, lütfen bu sayfada sağlanan bilgilerin hukuki, vergi, yatırım, finansal veya başka herhangi bir tavsiye niteliğinde olmadığını ve bu şekilde yorumlanmaması gerektiğini unutmayın. Yalnızca kaybetmeyi göze alabileceğiniz kadar yatırım yapmak ve herhangi bir şüpheniz varsa bağımsız finansal tavsiye almak önemlidir. Daha fazla bilgi için şartlar ve koşulların yanı sıra kartı veren kuruluş veya reklamveren tarafından sağlanan yardım ve destek sayfalarına bakmanızı öneririz. MetaversePost doğru, tarafsız raporlamaya kendini adamıştır, ancak piyasa koşulları önceden haber verilmeksizin değiştirilebilir.
Yazar hakkında
Victor, şirketinde Yönetici Teknoloji Editörü/Yazarıdır. Metaverse Post ve kurumsal alanda yapay zeka, kripto, veri bilimi, metaveri ve siber güvenliği kapsar. VentureBeat, DatatechVibe ve Analytics India Magazine gibi tanınmış medya kuruluşlarında çalışarak yarım on yıllık medya ve yapay zeka deneyimine sahiptir. Oxford ve USC gibi prestijli üniversitelerde Medya Mentoru olarak görev yapan ve veri bilimi ve analitiği alanında yüksek lisans derecesine sahip olan Victor, ortaya çıkan trendleri yakından takip etmeye kendini adamıştır. Okuyuculara Teknolojiden en yeni ve en anlayışlı anlatıları sunuyor ve Web3 manzara.
Daha fazla haber
Victor, şirketinde Yönetici Teknoloji Editörü/Yazarıdır. Metaverse Post ve kurumsal alanda yapay zeka, kripto, veri bilimi, metaveri ve siber güvenliği kapsar. VentureBeat, DatatechVibe ve Analytics India Magazine gibi tanınmış medya kuruluşlarında çalışarak yarım on yıllık medya ve yapay zeka deneyimine sahiptir. Oxford ve USC gibi prestijli üniversitelerde Medya Mentoru olarak görev yapan ve veri bilimi ve analitiği alanında yüksek lisans derecesine sahip olan Victor, ortaya çıkan trendleri yakından takip etmeye kendini adamıştır. Okuyuculara Teknolojiden en yeni ve en anlayışlı anlatıları sunuyor ve Web3 manzara.
