מנהיגי בינה מלאכותית מזהירים מפני סיכונים גוברים וחששות אתיים בהתקדמות מהירה
בהצהרת מדיניות לאחרונה, דמויות בולטות בתחום הבינה המלאכותית, כולל בנג'יו, הינטון, ראסל, הררי וקהנמן, השמיעו אזעקה על ההתקדמות המהירה והסיכונים החברתיים הגוברים הקשורים לבינה מלאכותית.
AI מתפתח במהירות. GPT-2 לא יכלו לספור מ-0 עד 100 לפני ארבע שנים, אבל דגמים מודרניים יכולים לכתוב קוד, ליצור תמונות מדהימות ולהציע הדרכה אינטלקטואלית. ומכיוון שאנחנו במירוץ, ההתקדמות יכולה לתפוס עוד יותר מהירות. יתר על כן, AI מתקדם מהר יותר על ידי, למשל, סיוע בתכנות של מערכות חדשות ואיסוף נתונים להכשרתן.
ברגע שההתקדמות תגיע לרמות אנושיות, אין סיבה לחשוב שהיא תאט או תיפסק. באזורים מסוימים, מערכות מלאכותיות כבר גברו על בני אדם בהקשר זה, והציגו יכולות כגון עיבוד מהיר יותר מהירויות, יכולות עיבוד נתונים גדולות יותר ויכולת מדרגיות בקנה מידה גדול. לעסקים יש את האמצעים הפיננסיים ליישם תוכניות הכשרה החורגות בהרבה מהמכסה הנוכחית.
המחברים חושבים שיש סיכוי טוב שכלל AI טוב יותר יופיע בתוך עשר השנים הקרובות לערך, עולה על היכולות האנושיות בתחומים רבים וחשובים.
מה הולך להתרחש אחר כך? ניתן לשפר את כל החיים אם הם מנוהלים ומופצים כראוי. האפשרות שנבחרה בצורה גרועה טומנת בחובה סיכונים משמעותיים שאנו לא מוכנים אליהם. במקום להיות מוקצה לבטיחות ולמניעת נזקים, משאבים משמעותיים משמשים לבניית מערכות AI שהן חזקות יותר מתמיד. זה צריך להשתנות; לרדוף אחר כישורים בעצמם אינו מספיק. והתהליך הזה נמשך זמן רב מהצפוי. עלינו לתכנן סיכונים גבוהים יותר לפני שהם עולים על ידי ציפייה להסלמה של האיומים הנוכחיים ולהופעת איומים חדשים. אין לנו את אותה כמות זמן עבור AI כפי שלוקח עשרות שנים להתקבל ביחס אליו שינוי האקלים.
קיימים סיכונים רבים ברמה החברתית, לרבות עלייה באי צדק, הידרדרות ביציבות והידרדרות בתפיסת המציאות הרווחת. כאן עוסקים מחבלים ועבריינים בפעילות ענפה. בינה מלאכותית עלולה להתרכז בידיים של מספר שחקנים בודדים, מה שיוביל להגברת אי השוויון העולמי, הקלה על לוחמה אוטומטית, מניפולציה המונית המותאמת לכל פרט ומעקב בכל מקום.
בתור אוטונומית בינה מלאכותית הופכת מתוחכמת יותר ומסוגלת לתכנן, לפעול בעולם ולהשיג את מטרותיו, הסיכונים הללו רק יגדלו. ייתכן שהמטרות הללו אינן לטובתנו, ובמקרה של שחקנים גרועים, עלולות להיות אפילו מזיקות. כרגע לא ברור כיצד לפתור את סוגיית יישור בינה מלאכותית, הכוללת התאמת התנהגות בינה מלאכותית עם היעדים המורכבים שלנו. יתר על כן, קל מאוד להתעלם מאמצעי זהירות בטיחות בעת מירוץ מתוך כוונה לנצח.
לבני אדם קשה לשלוט בתוכנה רגילה, שלא לדבר על מערכות בינה מלאכותיות מתוחכמות שהולכות והופכות מיומנות יותר ויותר בהנדסה חברתית, פריצה, הונאה ותכנון אסטרטגי. זה משהו שמערכות AI אוטונומיות יכולות לקלוט מאנשים או ליצור בעצמן.
למערכות אלו יש את היכולת לבנות קואליציות עם יחידים ומערכות אחרות, לזכות באמון, להבטיח מימון ולהשפיע על מקבלי ההחלטות. כמו תולעת, הם מסוגלים לשכפל עצמי בכל הרשת. כמויות אדירות של קוד כבר נכתבות בסיועם של עוזרי AI; בעתיד, מערכות עשויות לשלב ניצול במערכות חיוניות רבות. למערכות בינה מלאכותית יש את היכולת להשתמש או לאיים בנשק ביולוגי או אוטונומי בלחימה פתוחה. זה רק המשך של התנועות הנוכחיות לקראת מחקר ביולוגי, בינה מלאכותית ואוטומציה של לוחמה. אנשים עשויים למצוא את זה מאתגר מדי להיכנס ולהתנגד.
במקרים רבים אנו מוכנים לתת להם את המושכות מבלי שהם יצטרכו לבקש. אנשים פרטיים ועסקים רבים מוכנים להציב מערכות כאלה בעצמם במסגרת תחרותית מתוך דאגה שהם ייפולו אחרי המתחרים.
ניתן למצוא את המסמך המלא כאן.
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
מאמרים נוספים
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
