הגנה על AI מדווח על פגיעויות קריטיות במערכות AI ו-ML קיימות, דוחקת באבטחת פרויקטי קוד פתוח
בקיצור
דוח Protect AI מזהה נקודות תורפה בכלים המשמשים בשרשרת האספקה של AI/ML, לעתים קרובות בקוד פתוח, עם איומי אבטחה ייחודיים.
ישנן נקודות תורפה בכלים המשמשים בשרשרת האספקה של AI/ML, לעתים קרובות קוד פתוח, הנושאים איומי אבטחה ייחודיים ופגיעויות אלו מהוות סיכונים של ביצוע קוד מרחוק לא מאומת והכללת קבצים מקומיים, על פי הדו"ח של Protect AI - א. אבטחת סייבר חברה המתמקדת במערכות AI ו-ML.
זה יכול לגרום להשלכות החל מהשתלטות על שרתים ועד גניבת מידע רגיש, הוסיף הדו"ח.
הדו"ח מדגיש עוד יותר את הצורך בגישה פרואקטיבית בזיהוי וטיפול בפגיעויות אלה כדי להגן על נתונים, מודלים ואישורים.
בחזית המאמצים של Protect AI נמצאת huntr, תוכנית הבאונטי של AI/ML הראשונה בעולם, המעסיקה קהילה של למעלה מ-13,000 חברים בציד פעיל אחר נקודות תורפה. יוזמה זו נועדה לספק מידע חיוני על איומים פוטנציאליים ולאפשר תגובה מהירה למערכות AI מאובטחות.
באוגוסט 2023, החברה הודיעה על השקת huntr - פלטפורמת AI/ML באגי שפע המתמקדת בלעדית בהגנה על תוכנת AI/ML בקוד פתוח (OSS), מודלים בסיסיים, ו-ML Systems. ההשקה של פלטפורמת huntr AI/ML bug bounty מגיעה כתוצאה מרכישת huntr.dev על ידי Protect AI.
"עם למעלה מ-15,000 חברים כעת, ה-hutr של Protect AI הוא הקבוצה הגדולה והמרוכזת ביותר של חוקרי איומים והאקרים המתמקדים אך ורק באבטחת AI/ML", דריאן Dehghanpisheh, נשיא ומייסד שותף של Protect AI.
"מודל הפעולה של Huntr מתמקד בפשטות, שקיפות ותגמולים. התכונות האוטומטיות והמומחיות הטריאג'ית של Protect AI בהקשר של איומים לתחזוקה עוזרות לכל התורמים של תוכנת קוד פתוח ב-AI לבנות חבילות תוכנה מאובטחות יותר. זה בסופו של דבר מועיל לכל המשתמשים, מכיוון שמערכות בינה מלאכותית הופכות לאבטחות וגמישות יותר", הוסיף Dehghanpisheh.
דוח מזהה פגיעויות קריטיות
תוך הדגשת הממצאים של קהילת huntr בחודש האחרון, הדו"ח מזהה שלוש נקודות תורפה קריטיות הכוללות ביצוע קוד מרחוק של MLflow, החלפת קבצים שרירותיים של MLflow ו-MLflow Local File Include.
- ביצוע קוד מרחוק של MLflow: הפגם מביא להשתלטות על השרת ואובדן מידע רגיש. ל-MLflow, כלי לאחסון ומעקב אחר מודלים, הייתה פגיעות של ביצוע קוד מרחוק בקוד המשמש למשיכת אחסון נתונים מרחוק. משתמשים עלולים להיות שולל להשתמש במקורות נתונים מרוחקים זדוניים שעלולים לבצע פקודות בשמו של המשתמש.
- החלפת קבצים שרירותיים של MLflow: לפגם יש פוטנציאל להשתלטות על המערכת, מניעת שירות והרס של נתונים. נמצא מעקף בפונקציית MLflow אשר מאמת שנתיב קובץ בטוח, המאפשר למשתמש זדוני להחליף קבצים מרחוק בשרת MLflow. זה יכול להוביל לביצוע קוד מרחוק עם שלבים נוספים כגון החלפת מפתחות SSH במערכת או עריכת קובץ ה-bashrc כדי להפעיל פקודות שרירותיות בכניסה הבאה של המשתמש.
- קובץ מקומי של MLflow כולל: הפגם מביא לאובדן מידע רגיש ולפוטנציאל להשתלטות על המערכת. MLflow, כאשר הוא מתארח במערכות הפעלה ספציפיות, ניתן לתמרן כדי להציג את התוכן של קבצים רגישים, מה שמהווה דרך פוטנציאלית להשתלטות על המערכת אם אישורים חיוניים מאוחסנים בשרת.
אמר המייסד השותף של Protect AI, Daryan Dehghanpisheh Metaverse Post, "דחיפות בטיפול בפגיעויות של מערכת AI/ML תלויה בהשפעה העסקית שלהן. עם התפקיד הקריטי של AI/ML בעסקים עכשוויים והטבע החמור של ניצול פוטנציאלי, רוב הארגונים ימצאו את הדחיפות הזו גבוהה. האתגר העיקרי באבטחת מערכות AI/ML טמון בהבנת הסיכונים לאורך מחזור החיים של MLOps."
"כדי להפחית את הסיכונים הללו, חברות חייבות לבצע מודל איומים עבור מערכות ה-AI וה-ML שלהן, לזהות חלונות חשיפה וליישם בקרות מתאימות בתוך תוכנית MLSecOps משולבת ומקיפה", הוסיף.
בדו"ח שלה, Protect AI מדגישה את הדחיפות בטיפול באלו פגיעויות באופן מיידי ומספק רשימה של המלצות למשתמשים עם פרויקטים מושפעים בייצור, תוך הדגשת החשיבות של עמדה יזומה בהפחתת סיכונים פוטנציאליים. משתמשים העומדים בפני אתגרים בהפחתת הפגיעויות הללו, מעודדים לפנות לקהילה של Protect AI.
ככל שטכנולוגיית הבינה המלאכותית מתקדמת, Protect AI פועלת לאבטחת הרשת המורכבת של מערכות AI/ML כדי להבטיח ניצול אחראי ומאובטח של היתרונות של בינה מלאכותית.
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
קומאר הוא עיתונאי טכנולוגי מנוסה עם התמחות בצמתים דינמיים של AI/ML, טכנולוגיית שיווק ותחומים מתפתחים כמו קריפטו, בלוקצ'יין ו NFTס. עם ניסיון של למעלה מ-3 שנים בתעשייה, קומאר ביסס רקורד מוכח ביצירת נרטיבים מרתקים, ביצוע ראיונות מעוררי תובנות ומתן תובנות מקיפות. המומחיות של קומאר טמונה בהפקת תוכן בעל השפעה גבוהה, כולל מאמרים, דוחות ופרסומי מחקר עבור פלטפורמות בולטות בתעשייה. עם מערך מיומנויות ייחודי המשלב ידע טכני וסיפור סיפורים, קומאר מצטיין בהעברת מושגים טכנולוגיים מורכבים לקהלים מגוונים בצורה ברורה ומרתקת.
מאמרים נוספים
קומאר הוא עיתונאי טכנולוגי מנוסה עם התמחות בצמתים דינמיים של AI/ML, טכנולוגיית שיווק ותחומים מתפתחים כמו קריפטו, בלוקצ'יין ו NFTס. עם ניסיון של למעלה מ-3 שנים בתעשייה, קומאר ביסס רקורד מוכח ביצירת נרטיבים מרתקים, ביצוע ראיונות מעוררי תובנות ומתן תובנות מקיפות. המומחיות של קומאר טמונה בהפקת תוכן בעל השפעה גבוהה, כולל מאמרים, דוחות ופרסומי מחקר עבור פלטפורמות בולטות בתעשייה. עם מערך מיומנויות ייחודי המשלב ידע טכני וסיפור סיפורים, קומאר מצטיין בהעברת מושגים טכנולוגיים מורכבים לקהלים מגוונים בצורה ברורה ומרתקת.
