נראה כי VALL-E של מיקרוסופט היא תוכנת ההונאה המסוכנת ביותר אי פעם
בקיצור
Vall-E הוא קול שנוצר באמצעות מחשב שניתן להשתמש בו כדי להתחזות לבני אדם אמיתיים.
הוא נוצר עם הקלטת קול של אדם אמיתי וקוד של Microsoft.
VALL-E קודמה ככלי לשיפור מוגבלות של אנשים באמצעות תרגום טקסט לדיבור.
כדי לאמן את ה-AI, המפתחים השתמשו בעד 60,000 שעות דיבור באנגלית.
זה עדיין לא פומבי, אבל אם כן, נוכלים יכולים להשתמש בו כדי להונות אחרים לשלוח כסף.
מאז הודעה בתחילת 2023, ה-VALL-E של מיקרוסופט הוכרז ככלי לשיפור מוגבלויות של אנשים על ידי תרגום טקסט לדיבור או החלפת שחקני קול כדי להפוך סרט או משחק למשתלם יותר. עם זאת, כעת נראה כי VALL-E עשויה להיות תוכנת ההונאה המסוכנת ביותר שיצאה אי פעם.
לפי ההערות, ניתן להשתמש ב-VALL-E כדי להונות אנשים מכסף על ידי חיקוי קולו של חבר או קולו של ידוען. זה קצת כמו מסכות ל-FaceApp, אבל לקול. מיקרוסופט עדיין לא הגיבה על הדיווחים על כך ש-VALL-E הוא הונאה.
מה זה Vall-E?
Vall-E הוא קול סינתטי שניתן להשתמש בו כדי לחקות אנשים אמיתיים. זה נעשה באמצעות הקלטה של קולו של אדם אמיתי וקוד של מיקרוסופט. הקוד הזה עדיין לא פומבי, אבל יתכן שהוא ידלוף.
חוקרים פעלו למצוא דרכים לשפר את הדרך שבה מערכות טקסט לדיבור (TTS) מייצרות דיבור מאז הצגת מודל ה-TTS הראשון. הדגם העדכני ביותר של מיקרוסופט, VALL-E, מייצג התקדמות ניכרת בתחום זה.
כיצד פועל Vall-E?
החלק הטוב ביותר הוא שזה רק דורש שלוש שניות של דיבור ללמידה, או ליתר דיוק, למיקרו-למידה. זה אומר שאם יש לך קטע שמע בן שלוש שניות של מישהו מדבר, אתה יכול לשים כל טקסט שתרצה בפה שלו.
ועכשיו, בקולו של צוקרברג, הבינה המלאכותית מזלזלת לשמצה בתחזית מזג האוויר במטא-וורס.
האזן לדוגמאות בקטע סינתזת גיוון על ידי גלילה מטה. AI זה יכול להוסיף צבע לקול ולהיכנע לרגשות בנוסף, למשל, לשמר את הטונים הרגשיים של הדוגמה.
דוגמה מס '1
דוגמה מס '2
דוגמה מס '3
אף אחד לא עשה את זה קודם לכן, וזו הסיבה שהם עשו את זה בזריזות כזו, אבל המפתחים השתמשו בעד 60,000 שעות של דיבור במהלך שלב האימון (שנראה שנקטע מאפליקציית Teams).
שים דמעות בקול שלך כדי שכולם יבכו
מנהל הקול מורה כעת לשמצה את הבינה המלאכותית
מה הופך את Vall-E למסוכן כל כך?
Vall-E מסוכן מכיוון שסוכנים מרושעים עלולים להשתמש בו כדי להערים על אנשים פגיעים להעביר כספים לכרטיס. רמאים יכולים להשתמש בו כדי להתחזות למישהו מוכר לקורבן, כמו בן משפחה או חבר. זה יכול לגרום לאנשים להפסיד הרבה כסף.
מיקרוסופט עדיין לא פרסמה את הקוד עבור Vall-E, כך שהוא אינו זמין לציבור הרחב. עם זאת, אם הוא דלף, זה יכול לשמש כל אחד ומכל סיבה. זה יעשה את זה כמעט בלתי אפשרי לדעת אם קולו של אדם אמיתי או לא.
אם אי פעם תתבקש להעביר כספים לכרטיס, הקפד לאמת את זהות האדם לפני שליחת כסף.
איך אתה יכול להגן על עצמך מפני Vall-E?
בימים אלה, חשוב להיות ערניים עם מי אתה מדבר בטלפון. עם כניסתה של טכנולוגיית שיבוט קול, כעת אפשר לרמאים ליצור הקלטות מזויפות של קולות של אנשים אמיתיים. זה יכול להקשות מאוד לדעת אם אתה מדבר עם אדם אמיתי או לא.
אם אי פעם יש לך ספק, יש כמה דברים שאתה יכול לעשות כדי להגן על עצמך. ראשית, נסו לאמת את זהותו של האדם על ידי שאילת שאלות שרק האדם האמיתי ידע את התשובה עליהן. אם אתה עדיין לא בטוח, אתה יכול להגיד להם שתתקשר אליהם בחזרה ותתקשר למספר שאתה יודע שייך להם. אם יש לך ספקות, אתה יכול לשאול את האדם את שמו ותפקידו. אם הם לא ששים לתת לך את המידע הזה או נראים מפוקפקים אחרת, אתה תמיד יכול לנתק ולהתקשר לחברה שהם מתיימרים לעבוד בה כדי לאמת את זהותם.
עליך להיות מודע גם לדגלים האדומים שעשויים לציין שאתה מדבר עם רמאי. תהיו חשדניים אם האדם מבקש מכם להעביר כספים לכרטיס משולם מראש או אם הוא משתמש בברכה כללית כמו "שלום, חבר". נתק מיד את הטלפון אם אתה מרגיש שמרימים אותך.
אם אתה מושפע מהונאת VALL-E, עליך לדווח על כך למחלקת המשטרה המקומית שלך. זה יהיה טוב ליצור קשר עם מיקרוסופט כדי לראות אם אתה יכול לקבל החזר כדי למנוע מיליארדי דולרים בתביעות משפטיות.
קרא עוד על AI:
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
מאמרים נוספים
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
