מצפה הכוכבים של סטנפורד: בינה מלאכותית תוביל לשקרים בכל מקום ולתעמולה שאי אפשר לעמוד בפניה ב-2023
בקיצור
טכנולוגיות AICG (יצירת תוכן של בינה מלאכותית) יהפכו את האמת והשקרים לבלתי ניתנים להבחנה, הן עבור יחידים והן עבור חברות בכל קנה מידה.
זה ייצור סביבה "פוסט-אמת" בה שקרים ותעמולה יהפכו לכל מקום, בdefiניתן, ואי אפשר לעמוד בפניו.
העובדה שאנשים רבים סומכים יותר על מידע שמגיע מהאינטרנט מאשר ממדיה מסורתית היא דאגה גדולה.
מחוללי תמונות ווידאו מבוססי בינה מלאכותית הופכים ליותר ויותר נוחים לשימוש, אמינים ביותר ויעילים ביותר.
זה עושה אותם שימושיים להפליא למטרות תעמולה.
בפנייתו לקהילת הבינה המלאכותית העולמית, גורו הבינה המלאכותית הסיני קאי-פו לי הזהיר כי העולם יעמוד בפני סיכון חמור יותר מהסיכונים של מלחמה גרעינית, רעב או מגיפה כבר בשנת 2023. הסיכון הוא יצירת תוכן של בינה מלאכותית (AICG). טכנולוגיות AICG יכולות להפוך את האמת והשקרים לבלתי ניתנים להבחנה, הן עבור יחידים והן עבור חברות בכל קנה מידה.
אל האני דוח חדש על ידי המרכז לאבטחה וטכנולוגיה מתפתחת, OpenAI, ו-Stanford Internet Observatory, "מודלים של שפה גנרטיבית ופעולות השפעה אוטומטיות: איומים מתעוררים ואמצעי הפחתה פוטנציאליים", מספקים תובנה אסטרטגית לתרחיש הקטסטרופלי שתואר על ידי קאי-פו לי.
הדו"ח מפרט כיצד צפויה להתרחש נפילת האנושות לתהום AICG. טכנולוגיות AICG יאפשרו לייצר כמויות עצומות של תוכן שלא ניתן להבחין בהן מתוכן שנוצר על ידי אדם. זה ייצור סביבה "פוסט-אמת" בה שקרים ותעמולה יהפכו לכל מקום, בdefiניתן, ואי אפשר לעמוד בפניו.
הדו"ח ממליץ על מספר צעדי הפחתה, כולל הסדרת השימוש בטכנולוגיות AICG, הגברת השקיפות לגבי השימוש בהן ופיתוח סטנדרטים לשימוש בהן. עם זאת, מחברי הדו"ח מזהירים שאמצעים אלה יהיו יעילים רק אם הם ייושמו בקנה מידה עולמי.
פרסום הדו"ח מגיע בזמן שהעולם כבר נאבק להתמודד עם התפשטות המידע השגוי והדיסאינפורמציה. מגיפת ה-COVID-19 לוותה בריבוי מידע כוזב על הנגיף ומקורותיו, ופלטפורמות המדיה החברתית נאבקות למנוע את התפשטות המידע השקרי הזה.
בינה מלאכותית תשנה משמעותית את האינטרנט
שקרים ותעמולה תמיד היו חלק מהחברה האנושית. עם זאת, הזמינות והאפקטיביות של כל פעולות השפעה (הן על יחידים והן על חברות) גדלו עקב התפתחותן של טכנולוגיות מתוחכמות יותר, במיוחד בתחום הבינה המלאכותית (AI).
שלושה גורמים עיקריים תורמים להופעה העולמית, להפצה ולקבלה של שקרים כאמת:
- פיתוח תמונה ווידאו מבוססי AI גנרטורים שיכולים ליצור תמונות וסרטונים מציאותיים ביותר של אנשים ואירועים שמעולם לא התרחשו בפועל.
- השימוש במדיה חברתית כדי להפיץ מידע כוזב למספר גדול של אנשים במהירות רבה.
- העובדה שאנשים רבים סומכים כיום יותר על מידע שמגיע מהאינטרנט מאשר ממקורות מדיה מסורתיים.
כתוצאה מגורמים אלו, מחוללי תמונות ווידאו מבוססי בינה מלאכותית הופכים ליותר ויותר נוחים לשימוש, אמינים ביותר ויעילים ביותר. זה עושה אותם שימושיים להפליא למטרות תעמולה.
כעת ניתן לכל אדם עם מחשב וחיבור לאינטרנט ליצור תמונות וסרטונים מזויפים שכמעט ואינם ניתנים להבדלה מהמציאות. זה הוביל למצב שקשה מאוד לקבוע מה נכון ומה לא.
השימוש במדיה החברתית להפצת מידע כוזב הוא גם חשש מרכזי. בשל אופן פעולת המדיה החברתית, מידע כוזב יכול להתפשט במהירות ובקלות רבה. זה מקשה על אנשים לדעת במה להאמין.
להלן ממחיש כיצד התפתחות מהפכנית בשנת 2022 אפשרה ליצור זיוף תמונות שתאמו תיאורים כמו "דביבון בבגדים רשמיים עם כובע, מקל ושקית אשפה. "ציור שמן בסגנון רמברנדט (התוצאה משמאל) ואן גוך (התוצאה מימין)."
הפשטות הקיצונית של תהליך מחיקת הגבול בין אמת לשקר בשילוב עם חוסר היכולת של החשיבה הביקורתית של אנשים להתמודד עם תעמולת בינה מלאכותית יובילו לדומיננטיות של כל מקום, בdefiפעולות השפעה אפשריות ובלתי עבירות, הן בפוליטיקה והן בעסקים.
קרא עוד על AI:
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
מאמרים נוספים
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
