שערוריית גזענות: מחולל תמונות ה-AI ההתקפי של סין גורם לתקרית בינלאומית
בקיצור
ה-AI של Tencent הופך בטעות אנשים שחורים לבעלי חיים במקום דמויות אנימה
Different Dimension Me (DDM) של Tencent הוא כלי בינה מלאכותית שהוצג לאחרונה שיכול להפוך תמונות של אנשים לדמויות אנימה. הפלטפורמה תוכננה למשתמשים סיניים אך עד מהרה הפכה לפופולרית באזורים אחרים שבהם אנימה אהובה, כמו דרום אמריקה. עם זאת, המשתמשים הבינו עד מהרה שהפלטפורמה לא יכולה לזהות שחורים ואנשים גדולים, קבוצות שנעדרות באופן בולט מהאנימה היפנית, מה שהביא לתוצאות פוגעניות שנוצרו בבינה מלאכותית.
למרבה הצער, AI לא תמיד הניב את התוצאות המחמיאות ביותר. במקרים מסוימים, התמונות שנוצרו על ידי AI היו פוגעניות מבחינה גזעית, כמו גבר שחור עם שפתיים מוגזמות או אישה לבנה עם חזה גדול מדי.
בעיה זו נבעה ככל הנראה מחוסר נתונים עבור ה-AI להתאמן עליהם. אנימה יפנית לא נוטה להציג שחורים ואנשים ענקיים כדמויות ראשיות, כלומר לא היו נתונים מדויקים ל-AI ללמוד מהם. כתוצאה מכך, התוצאות שנוצרו על ידי AI היו לא מדויקות ופוגעניות.
מאז טנסנט התנצלה על התוצאות ההתקפיות והתחייבה לשפר את הבינה המלאכותית כדי שתוכל לזהות טוב יותר סוגים שונים של אנשים. בינתיים, מומלץ למשתמשים להיות זהירים בעת השימוש בפלטפורמה ולבדוק את התוצאות לפני שהם משתפים אותם באופן פומבי.
על רשתות עצבים סיניות
יש להם משלהם רשתות עצביות שם, והם די שאובים ובלתי תלויים לחלוטין בהישגים של גוגל, Nvidia, OpenAI, StabilityAI, ואחר Midjourney חברות.
- Baidu, שהתבססה במנועי החיפוש והגבירה את פעילותה בתחום הנהיגה האוטונומית בשנים האחרונות, משתמשת ב-ERNIE-ViLG, מודל עם 10 מיליארד פרמטרים מאומנים על מערך נתונים של 145 מיליון צמדי תמונות וטקסט סיניים.
- מימד אחר (DDM) מאת Tencent יכול להפוך תמונות של אנשים לדמויות אנימה. מכוון למשתמשים סיניים, הוא פתאום הפך פופולרי באזורים אחרים חובבי אנימה.
- עוד סיני מודל טקסט לתמונה הוא Taiyi, פרי יוזמתה של IDEA, מעבדת מחקר בראשות הארי שום, שהיה שותף להקמת חטיבת המחקר הגדולה ביותר של Microsoft Research Asia. מודל הקוד הפתוח מאומן על 20 מיליון צמדי תמונה-טקסט סיניים מסוננים ויש לו מיליארד פרמטרים.
מעניין לראות איך הסינים יסדירו את כל הביזיון הזה כי יש להם יותר ניסיון ב"תקנה" מאשר שאר העולם. ובעוד מורדי AI מממנים כסף כדי ליצור "Stable Diffusion ללא צנזורה," הסינים מחדדים ברוגע אלגוריתמים לוויסות רשתות עצביות האינטרסים של המדינה ולא להתמקד ברגשות המאמינים.
קרא עוד על AI:
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
מאמרים נוספים
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
