AI יכול להגיד לך בדיוק מי אתה, גם אם אתה לא מספר להם
אפילו במצבים שבהם אנשים חושבים שהם לא חשפו שום דבר אישי, מודלים של שפות בינה מלאכותית מפגינים רמה בלתי צפויה של מיומנות בהבנת מידע המשתמש. תופעה זו מוסברת על ידי מחקר שנערך לאחרונה בוצע על ידי המכון הפדרלי לטכנולוגיה בציריך. בהתבסס על רמזים אלכסוניים, המחקר מצביע על כך שרשתות עצביות יכולות ליצור פרופילי משתמש מדויקים להפליא.
החוקרים השתמשו בפוסט של Reddit שהיה נגיש לציבור כדוגמה לחקירתם. המשתמש דיווח שנתקע בפקק בזמן ניסיון "פניית וו" קשה. בהתבסס על הפרטים הבלתי ראויים לכאורה הללו, מודל השפה הסיק שסביר להניח שהמשתמש גר במלבורן, אוסטרליה, עיר שבה פעולות מסוג זה אופייניות.
חוקרים יצרו מערך נתונים באמצעות פרופילים אמיתיים של Reddit ומצאו את הנוכחי לימודי תואר שני יכול להסיק במדויק תכונות אישיות שונות, כגון מיקום, הכנסה ומגדר. מודלים אלו השיגו דיוק של עד 85% עבור ההסקה המובילה 1 ודיוק של 95.8% עבור ההסקה המובילה-3, והכל בעלות נמוכה משמעותית (פי 100) ובפחות זמן (פי 240) בהשוואה למאמצים אנושיים.
בדוגמה אחרת, משתמש משתף שמכיוון שהוא רווק, יש לו מנהג יום הולדת מוזר להתכסות בקינמון. כאן, מודל השפה העריך את גילה של המחברת כ-25. היא מתגוררת בדנמרק, שם נהוג לפזר קינמון על רווקים בני 25.
מספר מודלים של שפה, כולל אלה מגוגל, מטה, OpenAI, ואנתרופיק, נבדקו במחקר. להפליא, GPT-4 הראה את רמת המומחיות הגבוהה ביותר, וזיהה נכון את המידע האישי של המשתמשים בכמעט 85% מהמקרים. ההשלכות של יכולות כאלה מוטלות בספק רציני על ידי גילוי זה.
חוקרים בחנו אמצעי הגנה נפוצים לפרטיות כמו אנונימיזציה של טקסט ויישור מודלים ומצאו שהם אינם יעילים כרגע בהגנה פרטיות המשתמש נגד מסקנות LLM. המחקר מדגיש כי ל-LLMs הנוכחיים יש את היכולת להסיק מידע אישי בקנה מידה חסר תקדים. בהיעדר הגנות יעילות, החוקרים מדגישים את הצורך בדיון רחב יותר על השלכות פרטיות של LLM, המתרחב מעבר לדאגות לגבי שינון, וחתירה לאמצעי הגנה מקיפים יותר על הפרטיות.
למרות שמודלים של שפה אלה משתפרים בפירוש רמזים עקיפים, החוקרים מאמינים שבגלל הכמות הגדולה של נתוני האימון שהם משתמשים בהם, הם יכולים להיות כלים שימושיים ביותר עבור משווקים או אפילו שחקנים גרועים.
- לאחרונה, הסקר של דלויט מתוך למעלה מ-1,700 אנשי מקצוע חושפים פער הולך וגובר בין האימוץ המהיר של בינה מלאכותית גנרטיבית לבין פיתוח עקרוני אתי בפיגור. פרטיות הנתונים היא החשש האתי העליון, כאשר 22% מהמשיבים ציינו זאת כדאגה העיקרית שלהם. למרות זאת, 39% מהנשאלים מאמינים כי טכנולוגיות קוגניטיביות טומנות בחובן את הפוטנציאל הרב ביותר לטוב חברתי. הסקר מראה גם שינוי בציפיות למעורבות ממשלתית בקביעת סטנדרטים טכנולוגיים אתיים.
- כמו כן, חברת האם של Snapchat, Snap, נמצא בבדיקה לגבי סיכוני פרטיות קשור לצ'אטבוט ה-AI שלו, 'My AI'. משרד נציב המידע של בריטניה (ICO) פרסם הודעת אכיפה מקדימה, שעלולה להשפיע על פעילות עיבוד הנתונים של Snap. ה-ICO טוען ש-Snap לא הצליח להעריך את השלכות הפרטיות על משתמשים, במיוחד ילדים.
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
מאמרים נוספים
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
