דגמי בינה מלאכותית ליצירת תמונות עוברות הכשרה על תמונות ילדים מפורשות, טוען סטנפורד
בקיצור
כלי AI פופולריים שיוצרים טקסט לתמונה כולל Stable Diffusion, עוברים הכשרה על אלפי תמונות של התעללות מינית בילדים.
פופולרי טקסט לתמונה AI ייצור כלים, כולל Stable Diffusion החל מ- Stability AI עוברים הכשרה על אלפי תמונות של התעללות מינית בילדים, לפי דוח המחקר ממצפה הכוכבים האינטרנטי של סטנפורד.
הדו"ח הוסיף כי התמונות הללו מקלות על יצירת תוכן מפורש ריאליסטי הכולל ילדים מזויפים והפיכתם של בני נוער לבושים לתמונות עירום, מה שקורא לפעולה מיידית מהחברות שעומדות מאחורי כלים כאלה.
החקירה של מצפה הכוכבים באינטרנט בסטנפורד התמקדה ב מסד נתונים של LAION, מאגר עצום של תמונות וכיתובים מקוונים בשימוש על ידי מוביל יצרני תמונות בינה מלאכותית כמו Stable Diffusion, להכשיר דגמי AI.
לפני שבדקו כלי בינה מלאכותית ליצירת תמונות, החוקרים סברו שכלי הבינה המלאכותית מייצרים תמונות פוגעניות של ילדים על ידי שילוב מידע מפורנוגרפיה של מבוגרים ותמונות שפירות של ילדים. עם זאת, הממצאים של מצפה הכוכבים מציגים טוויסט מטריד, עם למעלה מ-3,200 תמונות של חשד להתעללות מינית בילדים שזוהו בתוך מערך הנתונים של LAION.
בעוד LAION הגיבה במהירות לדוח על ידי הסרה זמנית של מערכי הנתונים שלה, ההשלכות של תמונות אלה הן מרחיקות לכת. למרות שהם מהווים חלק מהמדד העצום של LAION של 5.8 מיליארד תמונות, קבוצת סטנפורד טוענת שהם כנראה משפיעים על היכולת של כלים AI לייצר תפוקות מזיקות.
שחקן משמעותי בפיתוח מסד הנתונים LAION הוא Stability AI, סטארט-אפ מלונדון האחראי על עיצוב מערך הנתונים. הדו"ח מדגיש כי גרסה ישנה יותר שלהם Stable Diffusion המודל, שהוצג בשנה שעברה עדיין קיים ביישומים שונים, כמקור העיקרי ליצירת תמונות מפורשות.
למרות Stability AI טוען שהוא מארח רק גרסאות מסוננות ונקט בצעדים כדי להפחית שימוש לרעה, האתגר טמון בהתפשטות הדגם הישן יותר.
פריסת AI גנרטיבית דורשת אימות קפדני
ליבת הנושא נובעת מהפריסה המהירה של פרויקטים רבים של בינה מלאכותית לשוק, לפי דיוויד ת'יל, הטכנולוג הראשי במצפה האינטרנט של סטנפורד.
ת'יל מציינת כי פרויקטים אלו נעשו לרוב נגישות רחבה בשל תחרות עזה בתחום, ללא תשומת לב קפדנית הנדרשת בשלב הפיתוח.
חוקרי סטנפורד דוגלים בצעדים דרסטיים כדי לטפל בבעיה בצורה יעילה. ההמלצות כוללות מחיקה או ניקוי של ערכות אימון שמקורן ב-LAION-5B ויצירת גרסה ישנה יותר של Stable Diffusion פחות נגיש.
עם זאת, המורכבות של ניקוי הנתונים רטרואקטיבית מציבה אתגר לא מבוטל, מה שמביא קריאה לשיתוף פעולה עם מומחי בטיחות ילדים במהלך הפיתוח של מסדי נתונים של AI.
כאשר בתי ספר וסוכנויות אכיפת חוק ברחבי העולם מביעות דאגה על ההשלכות האפשריות של ממצאים אלה, הזרקור מופנה כעת ל תעשיית AI לטפל בדחיפות ולתקן את הפגמים המזיקים בטכנולוגיה שלהם.
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
קומאר הוא עיתונאי טכנולוגי מנוסה עם התמחות בצמתים דינמיים של AI/ML, טכנולוגיית שיווק ותחומים מתפתחים כמו קריפטו, בלוקצ'יין ו NFTס. עם ניסיון של למעלה מ-3 שנים בתעשייה, קומאר ביסס רקורד מוכח ביצירת נרטיבים מרתקים, ביצוע ראיונות מעוררי תובנות ומתן תובנות מקיפות. המומחיות של קומאר טמונה בהפקת תוכן בעל השפעה גבוהה, כולל מאמרים, דוחות ופרסומי מחקר עבור פלטפורמות בולטות בתעשייה. עם מערך מיומנויות ייחודי המשלב ידע טכני וסיפור סיפורים, קומאר מצטיין בהעברת מושגים טכנולוגיים מורכבים לקהלים מגוונים בצורה ברורה ומרתקת.
מאמרים נוספים
קומאר הוא עיתונאי טכנולוגי מנוסה עם התמחות בצמתים דינמיים של AI/ML, טכנולוגיית שיווק ותחומים מתפתחים כמו קריפטו, בלוקצ'יין ו NFTס. עם ניסיון של למעלה מ-3 שנים בתעשייה, קומאר ביסס רקורד מוכח ביצירת נרטיבים מרתקים, ביצוע ראיונות מעוררי תובנות ומתן תובנות מקיפות. המומחיות של קומאר טמונה בהפקת תוכן בעל השפעה גבוהה, כולל מאמרים, דוחות ופרסומי מחקר עבור פלטפורמות בולטות בתעשייה. עם מערך מיומנויות ייחודי המשלב ידע טכני וסיפור סיפורים, קומאר מצטיין בהעברת מושגים טכנולוגיים מורכבים לקהלים מגוונים בצורה ברורה ומרתקת.
