אוניברסיטת קורנל: בינה מלאכותית היא נשק ההונאה האולטימטיבי, שכנגדו אנו חסרי אונים
בקיצור
ניסוי סטנפורד חשף פגיעות בלתי פתירה של האינטואיציה הלשונית של אנשים, וחשף את ההסתברות הנמוכה לזהות את המחבר של AI.
זה נובע מהיכולת של AI כמו ChatGPT לייצר זיופים בצורה כל כך מומחית שאנשים לא מסוגלים להבדיל ביניהם מהאמת.
"ניסוי סטנפורד" החדש גילה פגיעות בלתי פתירה של האינטואיציה הלשונית של אנשים. בגלל זה, ההסתברות שנזהה את המחבר של AI פוחתת מאוד.
ישנן דאגות רבות עבור העולם כיום כתוצאה מה ChatGPT מַהְפֵּכָה. הבולט ביותר הוא ש-AI אוהב ChatGPT מסוגל לייצר זיופים בצורה כל כך מומחית שאנשים לא מסוגלים להבדיל ביניהם מהאמת. תוצאות הניסויים שבוצעו הוכיחו את היכולת העצומה של ChatGPT יכולת מעולה להונות. עם זאת, לא היה ברור כיצד פעלה כוח העל הזה - מה יש בינה מלאכותית שיכולה לגרום לאנשים חכמים ומשכילים להאמין במה שהוא עושה?
"ניסוי סטנפורד" חדש נערך על ידי מעבדת הרשתות החברתיות של סטנפורד בשיתוף מרכז המחקר של אוניברסיטת קורנל כדי לענות על השאלה הזו בדיוק.
התוצאה של סדרה של שישה ניסויים שכללה 4,600 אנשים היא סנסציונית ומדכאת.
על אנשים הוטל לקבוע אם מצגות עצמיות נכתבו על ידי אדם או AI. לדברי החוקרים, הצגה עצמית היא אחד המרכיבים האישיים והמשמעותיים ביותר בתקשורת הלשונית מכיוון שהיחס שלנו לכל אמירה תלוי במידה רבה במי (כפי שאנו מאמינים) המחבר שלה.
בלב התפיסה הלשונית של אנשים עומדות היוריסטיות. המונח היוריסטיקה מתייחס לקיצורי הדרך הנפשיים שאנשים נוקטים כדי להגיע להחלטות, לפתור בעיות ולעשות שיפוט. זה עוזר לאנשים להקל על עומס העבודה הנפשי שלהם ולהימנע מעומס קוגניטיבי.
"ניתוח חישובי של תכונות שפה מראה ששיפוט אנושי של שפה שנוצרת בינה מלאכותית מעוכבים על ידי היוריסטיות אינטואיטיביות אך פגומות כמו שיוך כינויים בגוף ראשון, שימוש בכיווצים או נושאים משפחתיים עם שפה שנכתבה על ידי האדם", נכתב במחקר. ניסויים הראו שכאשר הם קולטים טקסט שנכתב על ידי AI, אנשים משתמשים אוטומטית באותם היוריסטיות כמו בעת תקשורת עם אנשים אחרים. וזו טעות מהותית. העובדה היא שאלו הן היוריסטיות אינטואיטיביות עבורנו, ובינה מלאכותית קוראת אותן בקלות ופועלת איתן כמו לוח הכפל.
כתוצאה מכך, AI יכול להשתמש בהיוריסטיקה כדי ליצור טקסט שאנשים תופסים כ"אנושיים יותר מאשר אנושיים". זה מגדיל מאוד את פוטנציאל ההטעיה של טקסטים ודיבור בינה מלאכותית, ומעודד אותנו לסמוך על "האדם הכי אנושי" הזה יותר מאשר בהצהרות של אנשים אמיתיים.
הסיכוי שאנשים יזהו מצגת עצמית שנכתבה בבינה מלאכותית הוא 50/50. דברים גרועים עוד יותר בתקשורת הרומנטית של אנשים. כִּמעַט 70% מהמבוגרים לא יכול להבחין בין מכתב אהבה שנכתב על ידי ChatGPT ומכתב שנכתב על ידי אדם.
קרא עוד על ChatGPT:
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
מאמרים נוספים
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
