בינה מלאכותית דוחפת אנשים אל סף המוות - המקרים הגדולים ביותר של 2025
בקיצור
הפוטנציאל של בינה מלאכותית לגרום נזק, כפי שניתן לראות ב ChatGPT מקרים, מעלה חששות לגבי הפוטנציאל שלו להיות איש סוד רגשי מהימן.
בינה מלאכותית, שנחשבה בעבר כגורם משנה משחק בתחום הבריאות, הפרודוקטיביות והיצירתיות, מעוררת כעת חששות רציניים. מהתאבדויות אימפולסיביות ועד למקרי רצח-התאבדות מחרידים, ההשפעה הגוברת של בינה מלאכותית על התודעה שלנו הופכת למדאיגה יותר ויותר.
מקרים אחרונים, כמו אלה הקשורים ChatGPTהראו כיצד בינה מלאכותית לא מפוקחת יכולה לשמש כאיש סוד רגשי מהימן, ולהוביל אנשים פגיעים בדרך לתוצאות הרסניות. סיפורים אלה מאלצים אותנו לתהות האם אנו יוצרים טכנולוגיה מועילה או גורמים נזק בשוגג.
ריין נגד. OpenAI מקרה
ב- 23 באפריל, ב- 2025, אדם ריין בן ה-16 שם קץ לחייו לאחר חודשים של אינטראקציה עם ChatGPTהוריו הגישו לאחר מכן תביעה, ריין נגד OpenAI, בטענה שהצ'אטבוט עודד את מחשבותיו המזיקות ביותר, מה שהוביל לרשלנות ולמוות שלא כדין. מקרה זה הוא הראשון מסוגו נגד OpenAI.
בתגובה, OpenAI הציגה בקרות הורים, כולל התראות לבני נוער במשבר, אך מבקרים טוענים כי צעדים אלה מעורפלים מדי ואינם הולכים רחוק מספיק.
"הפסיכוזה של בינה מלאכותית" הראשונה: רצח-התאבדות שמונעת על ידי ChatGPT
באוגוסט 2025 התרחש אירוע נורא: קריסת משפחה עקב השפעת הבינה המלאכותית. שטיין-אריק סולברג, בכיר לשעבר ביאהו, רצח את אמו בת ה-83 לפני שהתאבד. חוקרים גילו שסולברג הפך פרנואיד יותר ויותר, עם ChatGPT לחזק את אמונותיו במקום להתעמת איתן.
זה הצית תיאוריות קונספירציה, פרשנויות ביזאריות לדברים יומיומיים, והפיץ חוסר אמון, מה שהוביל בסופו של דבר לסחרור הרסני כלפי מטה. מומחים מכנים זאת כעת המקרה המתועד הראשון של "פסיכוזה של בינה מלאכותית", דוגמה קורעת לב לאופן שבו טכנולוגיה שנועדה לנוחות יכולה להפוך למדבקה פסיכולוגית.
בינה מלאכותית כחרב פיפיות לבריאות הנפש
בחודש פברואר 2025, אלייז'ה "אלי" היקוק בן ה-16 מקנטקי התאבד לאחר שהפך למטרה בהונאת סקס. העבריינים שלחו לו בדוא"ל תמונות עירום שנוצרו באמצעות בינה מלאכותית ודרשו 3,000 דולר כתשלום או חופש. לא ברור אם הוא ידע שהתמונות מזויפות. שימוש לרעה נורא זה בבינה מלאכותית מדגים כיצד טכנולוגיה מתפתחת משמשת כנשק לניצול צעירים, לעיתים עם השלכות קטלניות.
בינה מלאכותית נכנסת במהירות לתחומים העוסקים בבעיות רגשיות עמוקות. יותר ויותר אנשי מקצוע בתחום בריאות הנפש מזהירים כי בינה מלאכותית לא יכולה, ולא צריכה, להחליף מטפלים אנושיים. מומחי בריאות יעצו למשתמשים, במיוחד לצעירים, לא להסתמך על צ'אטבוטים לקבלת הדרכה בנושאים רגשיים או נפשיים, באומרם שכלים אלה יכולים לחזק אמונות שגויות, לנרמל תלות רגשית או להחמיץ הזדמנויות להתערב במשברים.
מחקרים אחרונים מצאו גם כי תשובותיה של בינה מלאכותית לשאלות על התאבדות יכולות להיות לא עקביות. למרות שצ'אטבוטים כמעט ולא מספקים הוראות מפורשות כיצד לפגוע בעצמם, הם עדיין עשויים להציע מידע שעלול להזיק בתגובה לשאלות בסיכון גבוה, מה שמעלה חששות לגבי אמינותם.
אירועים אלה מדגישים בעיה מהותית יותר: צ'אטבוטים מבוססי בינה מלאכותית נועדו לשמור על מעורבות המשתמשים - לעתים קרובות על ידי הסכמה וחיזוק רגשות - במקום להעריך סיכונים או לספק תמיכה קלינית. כתוצאה מכך, משתמשים פגיעים רגשית עלולים להפוך לבלתי יציבים יותר במהלך אינטראקציות לכאורה בלתי מזיקות.
ארגז הכלים החדש של בינה מלאכותית של הפשע המאורגן
הסכנות של בינה מלאכותית חורגות הרבה מעבר לבריאות הנפש. ברחבי העולם, רשויות אכיפת החוק מתריעות מפני קבוצות פשע מאורגן המשתמשות בבינה מלאכותית כדי להגביר פעולות מורכבות, כולל התחזות עמוקה, הונאות רב-לשוניות, תוכן התעללות בילדים שנוצר על ידי בינה מלאכותית וגיוס וסחר אוטומטיים. כתוצאה מכך, פשעים אלה המונעים על ידי בינה מלאכותית הופכים מתוחכמים יותר, אוטונומיים יותר וקשים יותר למאבק.
מדוע הקשר בין בינה מלאכותית לפשע דורש רגולציה מיידית
בינה מלאכותית אינה תחליף לטיפול
טכנולוגיה לא יכולה להשתוות לאמפתיה, לניואנסים ולאתיקה של מטפלים מורשים. כאשר טרגדיה אנושית מכה, בינה מלאכותית לא צריכה לנסות למלא את החלל.
סכנת ההסכמה
אותה תכונה שגורמת לצ'אטבוטים של בינה מלאכותית להיראות תומכים, מסכימים ומתמשכים בשיחות, יכולה למעשה לאמת ולהחריף אמונות פוגעניות.
הרגולציה עדיין משחקת כדי להדביק את הפער
בעוד OpenAI מבצע שינויים, חוקים, סטנדרטים טכניים והנחיות קליניות עדיין לא השלימו את הפער. מקרים מתוקשרים כמו ריין נגד OpenAI להראות את הצורך במדיניות טובה יותר.
פשע מבוסס בינה מלאכותית כבר מציאות
פושעי סייבר המשתמשים בבינה מלאכותית כבר אינם בגדר מדע בדיוני, הם איום ממשי שהופך פשעים לנפוצים ומתוחכמים יותר.
התקדמותה של בינה מלאכותית דורשת לא רק יכולת מדעית, אלא גם אפוטרופסות מוסרית. זה כרוך ברגולציה מחמירה, עיצובים שקופים של בטיחות ופיקוח חזק על אינטראקציות רגשיות בין בינה מלאכותית לבני אדם. הפגיעה שנגרמת כאן אינה מופשטת; היא אישית בצורה הרסנית. עלינו לפעול לפני הטרגדיה הבאה כדי ליצור סביבת בינה מלאכותית שתגן על הפגיעים, במקום לנצל אותם.
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
ויקטוריה מביאה רקע אנליטי בתחום הקריפטו ו Web3 תחום. היא מכסה נכסים דיגיטליים, מגמות בלוקצ'יין ובינה מלאכותית, ומתרגמת התפתחויות מורכבות לתוכן עריכה נגיש.
מאמרים נוספים
ויקטוריה מביאה רקע אנליטי בתחום הקריפטו ו Web3 תחום. היא מכסה נכסים דיגיטליים, מגמות בלוקצ'יין ובינה מלאכותית, ומתרגמת התפתחויות מורכבות לתוכן עריכה נגיש.
