RagaAI משיקה קוד פתוח LLM Hub כדי להקל על הערכת ובטיחות מודלים של שפה
בקיצור
RagaAI השיקה את 'RagaAI LLM Hub', פלטפורמת קוד פתוח להערכת והקמת מעקות בטיחות עבור מודלים של שפה ספציפית בינה מלאכותית.
פלטפורמת בדיקות בינה מלאכותית RagaAI הודיעה לאחרונה על השקת "RagaAI LLM Hub," פלטפורמת קוד פתוח ומוכנה לארגונים המיועדת להערכת והקמת מעקות בטיחות עבור דגמי שפה גדולים (LLMs). עם למעלה מ-100 מדדים מעוצבים בקפידה, הפלטפורמה שואפת למנוע כשלים קטסטרופליים ביישומי LLMs ו-Retrieval Augmented Generation (RAG).
רכזת RagaAI LLM מציעה למפתחים ולארגונים ערכת כלים חזקה להערכת והשוואה של LLMs ביעילות, המכסה היבטים קריטיים כגון רלוונטיות והבנה, איכות תוכן, הֲזָיָה, בטיחות והטיה, רלוונטיות להקשר, מעקות בטיחות וסריקת פגיעות. בנוסף, הוא מספק חבילה של בדיקות מבוססות-מטריות לניתוח כמותי.
"הערכה הוליסטית של LLMs היא דרישת מפתח בעולם של בניית LLM כרגע, מכיוון שמדעני נתונים וארגונים מבינים איזו טכנולוגיה וערימה עובדת עבורם. אבחון בעיה מצריך זיהוי מדוקדק של הבעיה במקור, ובהתחשב במאות גורמי שורש אפשריים, זה דורש מאות מדדים כדי לאתר את הסיבה השורשית". גאורב אגרוואל, אמר מייסד ב-RagaAI MPost.
"היכולת של RagaAI LLM Hub לבדיקות מקיפות מוסיפה ערך משמעותי לזרימת העבודה של מפתחים, וחוסכת זמן מכריע על ידי ביטול ניתוח אד-הוק והאצת פיתוח LLM פי 3."
תוכנן לטפל בבעיות לאורך מחזור החיים של LLM, מהוכחת קונספט ועד ליישומי ייצור, RagaAI LLM Hub מזהה בעיות בסיסיות בתוך יישומי LLM ומקל על הפתרון שלהם במקור, מה שמשנה גישות להבטחת אמינות ואמינות.
RagaAI טוענת שה-LLM Hub שלה מעצימה את היכולת הזו באמצעות מגוון בדיקות המכסות היבטים שונים של קבלת החלטות:
- הנחיות: הוא חוזר ומזהה תבניות הנחיות אופטימליות תוך הקמת מעקות בטיחות כדי למתן התקפות יריבות.
- ניהול הקשר עבור RAGs: זה מסייע למשתמשים למצוא את האיזון האופטימלי בין ביצועי LLM לבין עלות/השהיה כאשר הם פועלים בקנה מידה.
- יצירת תגובות: הוא משתמש במדדים לזיהוי הזיות בתגובות LLM ומקים מעקות בטיחות כדי למנוע הטיה, דליפת PII ובעיות פוטנציאליות אחרות.
הפחתת הזיות AI והטיה באמצעות אבחון LLM
רכזת RagaAI LLM מוצאת יישומים בתעשיות שונות, כולל מסחר אלקטרוני, פיננסים, שיווק, משפטים ובריאות, תמיכה במפתחים וארגונים במשימות כגון chatbots, יצירת תוכן, סיכום טקסט ויצירת קוד מקור.
מעבר להערכה, רכזת RagaAI LLM מסייעת בהגדרת מעקות בטיחות כדי להבטיח פרטיות נתונים וציות לחוק, תוך קידום אתי ו AI אחראי שיטות עבודה, במיוחד במגזרים רגישים כמו פיננסים, שירותי בריאות ומשפטים.
"אחד הלקוחות שלנו בתחום המסחר האלקטרוני השתמש ב-LLMs לצ'אט בוט לתמיכה בלקוחות, והצ'אט בוט נתן תשובות שגויות. באמצעות RagaAI, בעיה זו זוהתה ונפתרה בהצלחה", אמר Gaurav Agarwal של RagaAI. MPost. "בביטוח בריאות, חשוב לשמור על המידע האישי של החולה. באחד מהלקוחות שלנו, חלק מהמידע האישי החשוב שותף לצד השלישי - בעיית פרטיות נתונים ענקית. באמצעות מעקות בטיחות של RagaAI LLM Hub, זו ותקלות דומות אחרות זוהו בזמן אמת ונמנעו מלהתרחש."
בנוסף, היא שואפת לצמצם סיכוני מוניטין על ידי הקפדה על נורמות וערכים חברתיים.
"RagaAI מסייעת בהגדרת מעקות בטיחות כמו זיהוי של מידע אישי מזהה (PII) בתגובת LLM. זה מבטיח שאפליקציית LLM לא דולפים נתונים אישיים ממסמכים פנימיים, והוא קריטי לבינה מלאכותית אחראית", הסביר גאורב אגרוול. "זה ומעקות בטיחות אחרים כגון הבטחת תגובות חסרות פניות והוגנות, אי הערות על מתחרים והסרת מידע לא ציבורי מהותי (MNPI) הם חיוניים עבור חברות שכן הן מחפשות להימנע מפגיעה חברתית ומוניטין".
ההשקה של RagaAI LLM Hub לאחר הצלחה $ 4.7 מיליון בסבב גיוס ראשוני בינואר 2024 בראשות pi Ventures, כדי להרחיב את זה מחקר בינה מלאכותית, פיתוח ובסיס לקוחות ברחבי ארה"ב ואירופה.
"המטרה שלנו היא לספק את הטכנולוגיה הטובה ביותר כדי להפוך את LLMs אמינים ואמינים. היא משקיעה משמעותית בבניית טכנולוגיות מפתח כדי לתת מענה להיבטי אבטחת איכות LLM. הפיכת הטכנולוגיה הזו לקוד פתוח היא המאמץ שלנו בכיוון להפוך אותה לזמינה לכולם כדי שקהילת המפתחים תתבסס על הפתרון הזמין הטוב ביותר", אמר Gaurav Agarwal.
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
ויקטור הוא עורך/כותב טכנולוגי מנהל ב Metaverse Post ומכסה בינה מלאכותית, קריפטו, מדע נתונים, metaverse ואבטחת סייבר בתחום הארגוני. הוא מתגאה בחצי עשור של ניסיון במדיה ובינה מלאכותית בעבודה בכלי תקשורת ידועים כמו VentureBeat, DatatechVibe ומגזין Analytics India. בהיותו מנטור מדיה באוניברסיטאות יוקרתיות כולל אוקספורד ו-USC ועם תואר שני במדעי נתונים ואנליטיקה, ויקטור מחויב עמוקות להישאר מעודכן במגמות המתפתחות. הוא מציע לקוראים את הנרטיבים העדכניים ביותר ומלאי התובנה מה-Tech and Web3 נוף.
מאמרים נוספים
ויקטור הוא עורך/כותב טכנולוגי מנהל ב Metaverse Post ומכסה בינה מלאכותית, קריפטו, מדע נתונים, metaverse ואבטחת סייבר בתחום הארגוני. הוא מתגאה בחצי עשור של ניסיון במדיה ובינה מלאכותית בעבודה בכלי תקשורת ידועים כמו VentureBeat, DatatechVibe ומגזין Analytics India. בהיותו מנטור מדיה באוניברסיטאות יוקרתיות כולל אוקספורד ו-USC ועם תואר שני במדעי נתונים ואנליטיקה, ויקטור מחויב עמוקות להישאר מעודכן במגמות המתפתחות. הוא מציע לקוראים את הנרטיבים העדכניים ביותר ומלאי התובנה מה-Tech and Web3 נוף.
