מגמות טכנולוגיות של 2024: מנהיגי התעשייה מאמצים בינה מלאכותית כדי להתמודד עם איומי Deepfake
בקיצור
במאבק נגד טכנולוגיית Deepfake, תעשיות משתמשות בכלים ופתרונות בינה מלאכותית כדי להילחם בהתפשטות התוכן שעבר מניפולציה.
במהלך מלחמת רוסיה-אוקראינה המתמשכת, הופיע סרטון של נשיא אוקראינה וולודימיר זלנסקי מבקש מחייליו להיכנע באמצע המלחמה. מאוחר יותר התברר שזה א וידאו מזויף עמוק.
בקרב ההולך ומתפתח נגד טכנולוגיה עמוקה, תעשיות פונות יותר ויותר לארסנל טכנולוגי מתוחכם כדי להילחם בהתפשטות התוכן שעבר מניפולציות. מיוזמות אותנטיות של תוכן ועד לטכניקות סימון מים בלתי נראים, כלי זיהוי אלגוריתמיים, פרויקטים שיתופיים ושינויים במדיניות הפלטפורמה - המאבק נגד זיופים עמוקים הופך לרב פנים ודינאמי.
אותנטיות התוכן ומקור התוכן
יוזמת אותנטיות התוכן, בהובלת שחקנים בתעשייה, שמה לה למטרה לאטום קריפטוגרפית מידע ייחוס על תוכן, המאפשר אימות מהיצירה לצריכה. במקביל, הקואליציה למקור ואימות תוכן (C2PA) פרסמה מפרט טכני סטנדרטי פתוח, המתמקד במתן נתונים על מקור התוכן, השינויים והתורמים.
מיקרוסופט לקחה צעד קדימה על ידי הכרזת "אישורי תוכן כשירות", תוך שימוש באישורי סימון מים דיגיטלי C2PA כדי לסייע למועמדים ולקמפיינים לבחירות בשמירה על השליטה על התוכן שלהם.
טכניקות סימון מים
Meta הציגה את Stable Signature, טכניקת סימון מים בלתי נראה שנועדה להבחין בין תוכן שנוצר על ידי קוד פתוח דגמי AI גנרטיביים. סימן מים בלתי נראה זה, שאינו ניתן לזיהוי בעין בלתי מזוינת אך ניתן למעקב באמצעות אלגוריתמים, עוזר לזהות תמונות שעברו מניפולציות. Google DeepMind גם נכנסה למאבק עם SynthID, המאפשרת למשתמשים להטמיע סימן מים דיגיטלי ישירות לתוך תמונות או אודיו שנוצרו על ידי AI.
הטכנולוגיה מאפשרת למשתמשים לסרוק תוכן לאיתור סימני מים, ולספק תובנות אם התוכן נוצר או שונה באמצעות מודלים של AI של גוגל.
זיהוי אלגוריתמי
התעשייה פורסת תוכנת זיהוי אוטומטית לזיופים עמוקים, תוך הסתמכות על אסטרטגיות שונות מבוססות בינה מלאכותית כגון זיהוי רמקולים, זיהוי חיוניות קול, זיהוי פנים, וניתוח זמני. אימות הווידאו של מיקרוסופט וה-FakeCatcher בגיבוי אינטל הם דוגמאות בולטות.
עם זאת, האתגר טמון באופיים החולף של כלי זיהוי, שכן טכניקות ייצור Deepfake המתפתחות מאתגרות ללא הרף את מהימנותם. א ללמוד מצאו רמות דיוק משתנות (30-97%) על פני מערכי נתונים, מה שמצביע על הצורך בחדשנות מתמשכת כדי לעמוד בקצב של טכנולוגיות Deepfake המתפתחות.
מקור הפרויקט
ארגוני מדיה, כולל ה-BBC ו מיקרוסופט, שיתף פעולה ב-Project Origin. יוזמה זו שואפת לבסס גישה הנדסית למדיה סינתטית, המספקת קישורים חתומים דיגיטלית למעקב ניתן לאימות של תוכן מדיה בחזרה אל המוציא לאור. הפרויקט גם נועד ליישם בדיקות אימות כדי להבטיח שהתוכן יישאר ללא שינוי במהלך ההפצה.
שינויים במדיניות הפלטפורמה
בתגובה להקשר בסיכון גבוה של פרסום פוליטי, פלטפורמות גדולות כמו meta וגוגל הכריזו על שינויים במדיניות כדי לשפר את השקיפות. מדיניות הגילוי של מודעות פוליטיות המעודכנת של Meta מחייבת מפרסמים לחשוף תוכן שהשתנה דיגיטלית במודעות הקשורות לבחירות או במודעות פוליטיות.
YouTube מחייב את היוצרים לחשוף את השימוש בתוכן מדיה סינתטית, ואי ציות עלול לגרום לקנסות, כולל הסרת תוכן או השעיה מתוכנית השותפים של YouTube. חנות Google Play הציגה גם מדיניות לתוכן שנוצר בינה מלאכותית, המתמקדת במניעת יצירה והפצה של תוכן מזיק או מטעה באמצעות יישומי בינה מלאכותית.
ככל שהמאבק נגד זיופים עמוקים הולך ומתעצם, התערבויות בתעשייה ופתרונות טכנולוגיים מתגלים חיוניים בשימור האותנטיות והאמינות של תוכן דיגיטלי. המאמצים המשותפים של שחקנים מרכזיים במגזרים שונים משקפים מחויבות להישאר לפני הנוף המתפתח של מדיה סינתטית.
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
קומאר הוא עיתונאי טכנולוגי מנוסה עם התמחות בצמתים דינמיים של AI/ML, טכנולוגיית שיווק ותחומים מתפתחים כמו קריפטו, בלוקצ'יין ו NFTס. עם ניסיון של למעלה מ-3 שנים בתעשייה, קומאר ביסס רקורד מוכח ביצירת נרטיבים מרתקים, ביצוע ראיונות מעוררי תובנות ומתן תובנות מקיפות. המומחיות של קומאר טמונה בהפקת תוכן בעל השפעה גבוהה, כולל מאמרים, דוחות ופרסומי מחקר עבור פלטפורמות בולטות בתעשייה. עם מערך מיומנויות ייחודי המשלב ידע טכני וסיפור סיפורים, קומאר מצטיין בהעברת מושגים טכנולוגיים מורכבים לקהלים מגוונים בצורה ברורה ומרתקת.
מאמרים נוספים
קומאר הוא עיתונאי טכנולוגי מנוסה עם התמחות בצמתים דינמיים של AI/ML, טכנולוגיית שיווק ותחומים מתפתחים כמו קריפטו, בלוקצ'יין ו NFTס. עם ניסיון של למעלה מ-3 שנים בתעשייה, קומאר ביסס רקורד מוכח ביצירת נרטיבים מרתקים, ביצוע ראיונות מעוררי תובנות ומתן תובנות מקיפות. המומחיות של קומאר טמונה בהפקת תוכן בעל השפעה גבוהה, כולל מאמרים, דוחות ופרסומי מחקר עבור פלטפורמות בולטות בתעשייה. עם מערך מיומנויות ייחודי המשלב ידע טכני וסיפור סיפורים, קומאר מצטיין בהעברת מושגים טכנולוגיים מורכבים לקהלים מגוונים בצורה ברורה ומרתקת.
