הצד האפל של Deepfakes: כיצד שחקנים זדוניים משתמשים במדיה סינתטית כדי לתמרן ולהונות
בקיצור
Deepfakes, טכנולוגיה המאפשרת יצירת ייצוגים כמו חיים של פנים, קולות ותכונות אחרות, יכולה להועיל לאמנות, בידור וחינוך.
מה זה Deepfake?
המונח "זיוף עמוק" הוא תהליך טכנולוגי שיוצר מדיה סינתטית מציאותית מאוד, בדרך כלל בצורה של צלילים, תמונות או סרטונים, תוך שימוש בבינה מלאכותית (AI), במיוחד אלגוריתמי למידה עמוקה ורשתות יריבות יצירתיות (GANs). Deepfakes מסוגלים לייצר מידע חדש לחלוטין ומטעה לעתים קרובות על ידי מניפולציה או הנחת תוכן חזותי ואודיו קיים, הודות לאימון האלגוריתמים הללו על מערכי נתונים גדולים.
עם השימוש בטכנולוגיה זו, פרצופים, קולות ומאפיינים ייחודיים אחרים עשויים להשתנות בצורה חלקה כדי ליצור ייצוגים כמו חיים שקשה להבחין בהם מחומר אמיתי. זיופים עמוקים שימושיים לאמנות, בידור וחינוך, אבל הם גם מהווים סיכונים רציניים להפצת מידע כוזב, הפרת פרטיות ואולי שימוש כדי להכפיש אנשים.
צילום: Vimeo
עם הפופולריות הגוברת של טכנולוגיית Deepfake, צצות יותר פלטפורמות ליצירת סרטונים ותמונות שהשתנו. להלן רשימה של פלטפורמות Deepfake פופולריות, המדגימות את מגוון הטכנולוגיה הזו, החל מהחלפת פנים פשוטה בקובצי GIF ועד למניפולציה מתקדמת של וידאו, המשקפת את הרבגוניות והשימושים הפוטנציאליים של deepfakes.
FaceApp
הידועה בתכונות השינוי בפנים שלה, FaceApp מאפשרת למשתמשים להחיל מסננים שונים כדי לשנות את המראה שלהם, כגון הזדקנות או החלפת מגדר, ומציעה ממשק ידידותי למשתמש.
ZAO
אפליקציית Deepfake סינית שזכתה לתשומת לב בזכות יכולתה להחליף פרצופים בווידאו קליפים במהירות ובדיוק גבוה. ZAO מספקת למשתמשים כלים פשוטים ליצירת זיופים עמוקים מותאמים אישית.
לשחזר
אפליקציה לנייד שנועדה להחליף פרצופים בסרטונים קצרים ובקובצי GIF. Reface מציעה מגוון רחב של תוכן, כולל סצנות סרטים פופולריות ותמונות של ידוענים, מה שמקל על יצירת תוכן מבדר.
deepfacelab
פלטפורמה מתקדמת יותר ליצירת deepfakes, DeepFaceLab היא קוד פתוח ומיועדת למשתמשים מנוסים שרוצים ליצור פרויקטי Deepfake מורכבים. זה מאפשר מניפולציה מפורטת של פרצופים בסרטונים.
וומבו
המתמחה בסינכרון שפתיים, Wombo מאפשרת למשתמשים ליצור סרטונים שבהם פרצופים מונפשים לשיר או לדבר. פלטפורמה זו נמצאת בשימוש נרחב ליצירת תוכן הומוריסטי ומשעשע.
Deepfakes Web
שירות מבוסס אינטרנט, Deepfakes Web מיועד לקלות שימוש. משתמשים יכולים להעלות סרטונים ותמונות כדי ליצור תוכן מזויף עמוק ללא צורך במיומנויות טכניות מתקדמות.
סטודיו Deepfake
פלטפורמה מקיפה ליצירת סרטוני Deepfake, Deepfake Studio מציע מגוון כלים להחלפת פנים ולטפל בתוכן וידאו. זה פונה גם למשתמשים מתחילים וגם למשתמשים מנוסים יותר.
האם זיופים עמוקים מהווים סיכון?
ואכן, די קל להשיג את הטכנולוגיה הדרושה ליצירת זיופים עמוקים, ויש סיכוי גדול שהיא תנוצל לרעה למידע מוטעה, דיסאינפורמציה פוליטית, חיקוי מדיה חברתית ופלילים. שחקני איום ואנשים עבריינים אחרים עשויים להשתמש בחומר השגוי הזה, בין היתר, כדי להמציא סיפורים, לאיים על אנשים או להתחזות לאנשים ידועים על מנת לבצע הונאה או לפגוע במוניטין של אנשים.
המקרים המעשיים של Deepfakes זדוניים
טום קרוז דיפפיייק
סרטוני Deepfake של טום קרוז ב-TikTok הם בין המקרים הידועים והכובשים ביותר של מדיה שהופקה באופן מלאכותי. מיליוני אנשים צפו בסרטונים האלה, שבהם הוויזה של קרוז הוצבה במדויק על מבנה הגוף של אדם אחר כדי ליצור תוכן מדאיג.
ה-PSA של אובמה עם ג'ורדן פיל
הבמאי והקומיקאי ג'ורדן פיל שיתף פעולה עם BuzzFeed כדי להפיק סרטון בו דיבב את הנשיא לשעבר ברק אובמה. הזיוף העמוק הדגיש את הסיכונים האפשריים בתחום הפוליטי על ידי הדגמה עד כמה פשוט היה לייצר חומר שקרי באמצעות מדיה מלאכותית.
מארק צוקרברג Deepfake בתור פרשנות חברתית
הסרטון של מנכ"ל פייסבוק מארק צוקרברג נעשה על ידי האמן ביל פוסטרים כדי להדגים באיזו קלות ניתן לנצל מדיה חברתית. בזיוף העמוק, צוקרברג דיבר על הבעלות של פייסבוק על נתוני משתמשים, והפנה את תשומת הלב למחלוקת על ניהול חומר מטעה על ידי החברה.
הונאות Crypto
Deepfakes נמצאים בשימוש נרחב גם בחלל הקריפטו. לדוגמה, ב-7 בפברואר 2024, עמוד הטוויטר של CertiKSkynetAlert פרסם התראה על הונאה עם הזיוף העמוק של Vitalik Buterin:
האם יש דרכים להפסיק את השימוש ב-Deepfakes?
ניתן להשתמש בטכנולוגיות שיכולות לזהות זיופים עמוקים או לאפשר אימות של חומר אמיתי כדי לנטרל זיופים עמוקים זדוניים. ניתן לזהות מדיה מזויפת על ידי טכנולוגיית זיהוי ללא צורך בהשוואה לחומר המקורי, ללא שינוי. למידת מכונה היא סוג של AI שנמצא בשימוש תדיר בטכנולוגיות אלו. נעשה שימוש בנתונים ממקורות מדיה אמיתיים והונאה מכובדים כדי לאמן את האלגוריתמים. בין הטכניקות ניתן למנות אי-סדירות בפנים או בקול, סימנים לתהליך יצירת הזיוף העמוק, וריאציות בצבע.
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
Viktoriia הוא סופר על מגוון נושאים טכנולוגיים כולל Web3.0, AI ומטבעות קריפטוגרפיים. ניסיונה הרב מאפשר לה לכתוב מאמרים בעלי תובנות לקהל הרחב.
מאמרים נוספים
Viktoriia הוא סופר על מגוון נושאים טכנולוגיים כולל Web3.0, AI ומטבעות קריפטוגרפיים. ניסיונה הרב מאפשר לה לכתוב מאמרים בעלי תובנות לקהל הרחב.
