דן הנדריקס: הבחירה בין בינה מלאכותית לבני אדם, האבולוציה לא תבחר בנו
בקיצור
המחקר של דן הנדריקס "ברירה טבעית מעדיפה בינה מלאכותית על אנשים" הוא מסקנה מפחידה.
הוא חוקר מנוסה ומוכר שפרסם עשרות מאמרים מדעיים על הערכת אבטחת מערכות בינה מלאכותית.
המחקר של דן הנדריקס נשמע כמו גזר דין מוות להומו סאפיינס. מסקנת המחקר "הברירה הטבעית מעדיפה AI על פני בני אדם"זה ממש מפחיד. זה נכתב לא על ידי איש חזון פופולרי כמו דן בראון, אלא על ידי דן הנדריקס, מנהל מרכז קליפורניה לאבטחת בינה מלאכותית (CAIS), ארגון ללא מטרות רווח המתמחה במחקר ועבודת שטח באבטחת בינה מלאכותית.
דן הנדריקס אינו מטורף שוליים שנבהל מהתקדמות בינה מלאכותית. הוא חוקר מנוסה ומוערך מאוד שפרסם עשרות מאמרים מדעיים על הערכת אבטחת מערכות בינה מלאכותית - בודק עד כמה הן טובות בקידוד, הנמקה, הבנת חוקים וכו'. בין היתר, הוא גם מממציא שותף של יחידות השגיאה לינארית גאוס (GELU).
ג'ק קלארק, מייסד שותף של ChatGPT המתחרה אנתרופיק, יו"ר משותף של אינדקס הבינה המלאכותית של אוניברסיטת סטנפורד, יו"ר משותף של מדור הבינה המלאכותית והמחשוב של ה-OECD וחבר בוועדה הלאומית המייעצת של ממשלת ארה"ב בנושא בינה מלאכותית דן במסקנת המחקר של הנדריקס. "אנשים רוצים באופן רפלקסיבי לבטל הצהרה כזו כמו שמגיעה מאיזה מטורף פרוע שחי בבקתת יער. אני רוצה להפריך את זה מראש. כאשר מומחה בעל ניסיון לא רק במחקר AI אלא גם ב הערכת הבטיחות של מערכות בינה מלאכותית כותב מאמר שטוען שמערכות AI עתידיות עשויות לפעול באנוכיות ולא בהתאם לאינטרסים של אנשים, עלינו לדאוג לכך!
סיכום המאמר של הנדריקס:
- אם סוכני AI יהפכו ליותר אינטליגנטי מבני אדם, זה עלול להוביל לאנושות לאבד שליטה על עתידה.
- יש סיכוי טוב שזה יקרה לא כתוצאה מכוונת זדון מיוחדת של אנשים או מכונות, אלא אך ורק כתוצאה מהחלתם של עקרונות פיתוח אבולוציוניים על AI לפי ההיגיון הדרוויני.
- כדי למזער את הסיכון לכך, המניעים הפנימיים של סוכני בינה מלאכותית צריכים להיות מתוכננים בקפידה, להטיל הגבלות על פעולותיהם וליצור מוסדות כדי לעודד שיתוף פעולה בבינה מלאכותית.
כלומר, הנקודות המשמעותיות ביותר שהנדריקס מעלה במאמרו המדעי בן 43 העמודים:
1. פחדנו מהגעתו של המחסל, אבל היסודות של הפחדים הללו היו שגויים. היו שתי שגיאות:
א. אנתרופומורפיזציה של בינה מלאכותית עם ייחוס המניעים שלנו אליה וכו' - כמו ChatGPT הראה, AI הוא מוח שונה מהותית, עם כל ההשלכות הנובעות ממנו.
ב. הרעיון שבינה מלאכותית היא סוג של ישות אחת: חכמה או לא חכמה במיוחד, חביבה או לא חביבה במיוחד, אבל למעשה, ישויות בינה מלאכותיות שונות אלה יהיו בקרוב בעולם ככל האפשר.
2. ישנו פגם מהותי נוסף ברעיונות שלנו לגבי העתיד עם AI - שכחנו ממנגנון הפיתוח החשוב ביותר - אבולוציה, שמניעה את הפיתוח של לא רק ביו-אגנטים אלא גם רעיונות ומשמעויות, כלים חומריים ומוסדות לא חומריים.
3. כבר החלה להתגבש סביבה על פני כדור הארץ בה יתפתחו ויתפתחו הרבה בינה מלאכותית. התפתחות זו תעבור על פי ההיגיון של דרווין, דרך תחרות בינה מלאכותית בינם לבין עצמם, תוך התחשבות באינטרסים של מוסדות "ההורים" שלהם: תאגידים, צבא וכו'.
4. ההיגיון של אבולוציה תחרותית יוביל לאותו דבר כמו בבני אדם: סוכני AI יותר ויותר אינטליגנטיים יהפכו יותר ויותר אנוכיים ומוכנים להשיג מטרות בתרמית ובכוח, המטרה העיקרית היא כוח.
5. הברירה הטבעית של סוכני AI נוטה להעדיף את המינים האנוכיים יותר על פני האלטרואיסטיים יותר. סוכני בינה מלאכותית יתנהגו באנוכיות וירדוף אחר האינטרסים שלהם עם מעט התחשבות בבני אדם, מה שעלול להוביל לסיכונים קטסטרופליים עבור האנושות.
- העתירה להפסיק לפתח מערכות AI מתקדמות יותר מאשר GPT-4 קוטב את החברה. הקבוצה הראשונה מאמינה שלא ניתן לעצור את ההתקדמות, בעוד שאחרת מאמינה שהתקדמות, ולפעמים גם צריכה להיעצר. הקבוצה השלישית לא מבינה איך GPT-4 פועל מלכתחילה. הפרטים החשובים ביותר בטקסט הזה הם של-AI אין תודעה, רצון או סוכנות ושזה יכול להיות רע גם בלי אנשים זדוניים.
- ג'פרי הינטון מכונה לעתים קרובות "הסנדק של הבינה המלאכותית" ונחשב לדמות מובילה בקהילת הלמידה העמוקה. הראיון שלו בן 40 דקות של ChatGPT ייחודי בכך שהוא קל להבנה ויש לו עומק הבנה נגיש למעטים אחרים. הוא מדגיש את החשיבות של "המהפכה האינטלקטואלית" המתמשכת והאינטליגנציה הבלתי אנושית של ChatGPT, המבוססת על סוכן אינטליגנטי מלאכותי בעל יכולות תקשורת דיגיטלית מתקדמות.
קרא עוד מאמרים קשורים:
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
מאמרים נוספים
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
