RagaAI تطلق مركز LLM مفتوح المصدر لتسهيل تقييم نماذج اللغة وسلامتها
في سطور
أطلقت RagaAI "RagaAI LLM Hub"، وهي منصة مفتوحة المصدر لتقييم وإنشاء حواجز حماية لنماذج اللغات الخاصة بالذكاء الاصطناعي.
منصة اختبار الذكاء الاصطناعي RagaAI أعلنت مؤخراً عن إطلاق "مركز RagaAI LLM"، وهي منصة مفتوحة المصدر وجاهزة للمؤسسات مصممة لتقييم وإنشاء حواجز حماية لـ نماذج اللغات الكبيرة (ماجستير في القانون). مع أكثر من 100 مقياس تم إعداده بدقة، تهدف المنصة إلى منع حالات الفشل الكارثية في تطبيقات LLM وتطبيقات الجيل المعزز للاسترجاع (RAG).
يقدم RagaAI LLM Hub للمطورين والمنظمات مجموعة أدوات قوية لتقييم ومقارنة LLMs بشكل فعال، والتي تغطي الجوانب الهامة مثل الملاءمة والفهم، وجودة المحتوى، هلوسةوالسلامة والتحيز وملاءمة السياق والحواجز الأمنية وفحص الثغرات الأمنية. بالإضافة إلى ذلك، فإنه يوفر مجموعة من الاختبارات القائمة على القياسات للتحليل الكمي.
"يعد التقييم الشامل لبرامج LLM مطلبًا رئيسيًا في عالم بناء LLM في الوقت الحالي، حيث يكتشف علماء البيانات والمؤسسات التكنولوجيا والمكدس المناسب لهم. يتطلب تشخيص المشكلة تحديد المشكلة من مصدرها بدقة، ونظرًا لمئات الأسباب الجذرية المحتملة، يتطلب الأمر مئات المقاييس لتحديد السبب الجذري بدقة. غوراف أغاروالقال مؤسس RagaAI MPost.
"إن قدرة RagaAI LLM Hub على إجراء اختبار شامل تضيف قيمة كبيرة إلى سير عمل المطور، مما يوفر الوقت الحاسم من خلال القضاء على التحليل المخصص وتسريع تطوير LLM بمقدار 3x."
مصمم لمعالجة المشكلات طوال دورة حياة LLM، بدءًا من إثبات المفهوم وحتى تطبيقات الإنتاج، يحدد RagaAI LLM Hub المشكلات الأساسية داخل تطبيقات LLM ويسهل حلها من المصدر، مما يحدث ثورة في الأساليب لضمان الموثوقية والجدارة بالثقة.
تؤكد RagaAI أن مركز LLM الخاص بها يعمل على تمكين هذه القدرة من خلال مجموعة من الاختبارات التي تغطي مختلف جوانب صنع القرار:
- المطالبات: تقوم بتكرار وتحديد قوالب المطالبات المثالية أثناء إنشاء حواجز الحماية للتخفيف من الهجمات العدائية.
- إدارة السياق لـ RAGs: تساعد المستخدمين في إيجاد التوازن الأمثل بين أداء LLM والتكلفة/زمن الوصول عند التشغيل على نطاق واسع.
- توليد الاستجابة: يستخدم مقاييس لتحديد الهلوسة في استجابات LLM ويضع حواجز حماية لمنع التحيز وتسرب معلومات تحديد الهوية الشخصية والمشكلات المحتملة الأخرى.
التخفيف من هلوسة الذكاء الاصطناعي والتحيز من خلال تشخيص LLM
يجد RagaAI LLM Hub تطبيقات عبر مختلف الصناعات، بما في ذلك التجارة الإلكترونية والتمويل والتسويق والقانون والرعاية الصحية، ودعم المطورين والمؤسسات في مهام مثل chatbotsوإنشاء المحتوى وتلخيص النص وإنشاء التعليمات البرمجية المصدر.
بالإضافة إلى التقييم، يساعد RagaAI LLM Hub في وضع حواجز حماية لضمان خصوصية البيانات والامتثال القانوني، وتعزيز الأخلاقيات والأخلاقيات. منظمة العفو الدولية المسؤولة الممارسات، لا سيما في القطاعات الحساسة مثل المالية والرعاية الصحية والقانون.
"كان أحد عملائنا في مجال التجارة الإلكترونية يستخدم LLMs لبرنامج chatbot لدعم العملاء، وكان برنامج chatbot يقدم إجابات خاطئة. وقال غوراف أغاروال من RagaAI، إنه باستخدام RagaAI، تم اكتشاف هذه المشكلة وحلها بنجاح MPost. "في التأمين الصحي، من المهم حماية المعلومات الشخصية للمريض. في أحد عملائنا، تمت مشاركة بعض المعلومات الشخصية المهمة مع طرف ثالث - وهي مشكلة كبيرة تتعلق بخصوصية البيانات. باستخدام حواجز الحماية RagaAI LLM Hub، تم اكتشاف هذه المشكلة وغيرها من المشكلات المماثلة في الوقت الفعلي وتم منع حدوثها.
بالإضافة إلى ذلك، تهدف إلى التخفيف من مخاطر السمعة من خلال الالتزام بالأعراف والقيم المجتمعية.
"يساعد RagaAI في وضع حواجز الحماية مثل الكشف عن معلومات التعريف الشخصية (PII) في استجابة LLM. وأوضح غوراف أغاروال أن هذا يضمن عدم تسرب أي بيانات شخصية من المستندات الداخلية على الإطلاق من خلال تطبيق LLM وهو أمر بالغ الأهمية للذكاء الاصطناعي المسؤول. "إن هذا وغيره من حواجز الحماية مثل ضمان استجابات غير متحيزة وعادلة، وعدم التعليق على المنافسين وإزالة المعلومات غير العامة (MNPI) أمر بالغ الأهمية بالنسبة للشركات لأنها تتطلع إلى تجنب الضرر المجتمعي والإضرار بالسمعة."
يأتي إطلاق RagaAI LLM Hub بعد نجاح 4.7 مليون دولار في جولة تمويل أولية في يناير 2024 بقيادة pi Ventures، لتوسيع أعمالها أبحاث الذكاء الاصطناعيوالتطوير وقاعدة العملاء في جميع أنحاء الولايات المتحدة وأوروبا.
"هدفنا هو توفير أفضل التقنيات لجعل LLMs جديرة بالثقة ويمكن الاعتماد عليها. إنها تستثمر بشكل كبير لبناء تقنيات أساسية لمعالجة جوانب ضمان الجودة في LLM. وقال غوراف أغاروال: "إن جعل هذه التكنولوجيا مفتوحة المصدر هو جهدنا في الاتجاه لجعلها متاحة للجميع لمجتمع المطورين للبناء على أفضل الحلول المتاحة".
إخلاء مسؤولية
تتماشى مع المبادئ التوجيهية لمشروع الثقةيرجى ملاحظة أن المعلومات المقدمة في هذه الصفحة ليس المقصود منها ولا ينبغي تفسيرها على أنها نصيحة قانونية أو ضريبية أو استثمارية أو مالية أو أي شكل آخر من أشكال المشورة. من المهم أن تستثمر فقط ما يمكنك تحمل خسارته وأن تطلب مشورة مالية مستقلة إذا كانت لديك أي شكوك. لمزيد من المعلومات، نقترح الرجوع إلى الشروط والأحكام بالإضافة إلى صفحات المساعدة والدعم المقدمة من جهة الإصدار أو المعلن. MetaversePost تلتزم بتقارير دقيقة وغير متحيزة، ولكن ظروف السوق عرضة للتغيير دون إشعار.
نبذة عن الكاتب
فيكتور هو مدير التحرير/الكاتب التقني في Metaverse Post ويغطي الذكاء الاصطناعي والتشفير وعلوم البيانات والميتافيرس والأمن السيبراني داخل مجال المؤسسة. يتمتع بخبرة تمتد لنصف عقد في مجال الإعلام والذكاء الاصطناعي من خلال العمل في منافذ إعلامية معروفة مثل VentureBeat وDatatechVibe وAnalytics India Magazine. كونه مرشدًا إعلاميًا في جامعات مرموقة بما في ذلك جامعة أكسفورد وجامعة جنوب كاليفورنيا وحاصل على درجة الماجستير في علوم البيانات والتحليلات، فإن فيكتور ملتزم بشدة بمواكبة الاتجاهات الناشئة. إنه يقدم للقراء أحدث القصص وأكثرها ثاقبة من التكنولوجيا و Web3 المناظر الطبيعيه.
المزيد من المقالات
فيكتور هو مدير التحرير/الكاتب التقني في Metaverse Post ويغطي الذكاء الاصطناعي والتشفير وعلوم البيانات والميتافيرس والأمن السيبراني داخل مجال المؤسسة. يتمتع بخبرة تمتد لنصف عقد في مجال الإعلام والذكاء الاصطناعي من خلال العمل في منافذ إعلامية معروفة مثل VentureBeat وDatatechVibe وAnalytics India Magazine. كونه مرشدًا إعلاميًا في جامعات مرموقة بما في ذلك جامعة أكسفورد وجامعة جنوب كاليفورنيا وحاصل على درجة الماجستير في علوم البيانات والتحليلات، فإن فيكتور ملتزم بشدة بمواكبة الاتجاهات الناشئة. إنه يقدم للقراء أحدث القصص وأكثرها ثاقبة من التكنولوجيا و Web3 المناظر الطبيعيه.
