Vitalik Buterin ומנהל MIRI נייט סוארס מתעמקים בסכנות של AI: האם בינה מלאכותית יכולה לגרום להכחדה של האדם?
בקיצור
מייסד Ethereum Vitalik Buterin ומנהל מכון המחקר של Machine Intelligence Nate Soares דנו היום בסיכונים של AI ב-Zuzalu.
זוזאלו היא קהילת עיר פופ-אפ במונטנגרו שיזמו בוטרין ועמיתיו בקהילת הקריפטו.
בדיון, סוארס שיתף את נקודת המבט שלו לגבי הסיבה שבינה מלאכותית צפויה לסיים את כל החיים על פני כדור הארץ.
מייסד Ethereum Vitalik Buterin ומנהל המכון לחקר מודיעין מכונה (MIRI) נייט סוארס דנו היום בסיכונים של AI ב-Zuzalu.
זוזאלו היא "קהילת ערים פופ-אפ" במונטנגרו שיזמו בוטרין ועמיתיו בקהילת הקריפטו החל מה-25 במרץ עד ה-25 במאי. האירוע מפגיש 200 תושבי ליבה עם רצון משותף ללמוד, ליצור, לחיות זמן רב יותר ובריאים יותר. חיים, ולבנות קהילות המקיימות את עצמם. במהלך חודשיים, הקהילה מארחת גם מספר אירועים בנושאים שונים כמו ביולוגיה סינתטית, טכנולוגיה לפרטיות, מוצרים ציבוריים, אריכות ימים, ממשל ועוד.
אל האני דיון נפתח בכך שסוארס הציג את עבודתו ב-MIRI, מלכ"ר מברקלי שקיים יותר ממה שהוא מנהל אותה. במשך 20 השנים האחרונות, MIRI מנסה להניח את הבסיס כדי להבטיח שפיתוח AI יעבור כשורה. עם הדיון, Vitalik קיווה להתייחס למה שהופך AI למסוכן באופן ייחודי בהשוואה לטכנולוגיות אחרות שפורסמו בהיסטוריה האנושית.
ההסתברות שבינה מלאכותית תגרום להכחדה של האדם
ויטליק אמר שהוא מתעניין בנושא סיכוני בינה מלאכותית מזה זמן רב וזכר שהוא משוכנע שיש סיכוי של 0.5%-1% שכל החיים על פני כדור הארץ יחדלו להתקיים אם בינה מלאכותית תשתבש - סיכון קיומי שיגרום הכחדת המין האנושי או קריסה בלתי הפיכה של הציוויליזציה האנושית.
מנקודת המבט של סוארס, הכחדה אנושית נראית כמו תוצאה של ברירת מחדל של פיתוח לא בטוח של טכנולוגיית AI. בהשוואה לאבולוציה, הוא אמר שנראה שההתפתחות של האנושות מתרחשת מהר יותר מאשר רק שינויים באבולוציה הולכים. הן בתהליכי האבולוציה של הבינה המלאכותית והן בתהליכי האבולוציה האנושיים, האופטימיזציה הדומיננטית - תהליך של מציאת הפתרון הטוב ביותר לבעיה כאשר יש מספר יעדים שיש לקחת בחשבון - השתנה. בני אדם הגיעו לנקודה שבה הם יכלו להעביר ידע מפה לאוזן במקום שהמידע יועבר לגנים באמצעות הברירה הטבעית.
"AI הוא בסופו של דבר מקרה שבו אתה יכול להחליף שוב את תהליך האופטימיזציה המקרוסקופית. אני חושב שאתה יכול לעשות הרבה יותר טוב מבני אדם מבחינת אופטימיזציה. אני חושב שאנחנו עדיין די מטומטמים כשזה מגיע לאופטימיזציה של הסביבה שלנו. עם AI, אנחנו עוברים סוג של מעבר פאזה שבו אופטימיזציה אוטומטית היא הכוח שקובע את התכונות המקרוסקופיות של היקום", הסביר סוארס.
הוא הוסיף כי מה שעתיד זה נראה הוא למה תהליך האופטימיזציה מייעל, וזה כנראה יפסיק להיות מועיל לאנושות מכיוון שלרוב יעדי האופטימיזציה אין מקום לבני אדם.
האם בני אדם יכולים לאמן בינה מלאכותית לעשות טוב?
בוטרין ציין שבני אדם הם אלו שמאמנים את ה-AI ואומרים לו כיצד לבצע אופטימיזציה. במידת הצורך, הם יכולים לשנות את האופן שבו המכונה עוברת אופטימיזציה. על כך, סוארס אמר שאפשר באופן עקרוני לאמן בינה מלאכותית לעשות טוב, אבל פשוט אימון בינה מלאכותית להשגת מטרה לא אומר שהוא יעשה או רוצה לעשות זאת, מסתכם ברצון.
בהתייחס ללמידה חיזוקית במודלים של שפה גדולים שמקבלים כמויות גדולות של נתונים לגבי מהן העדפות אנושיות, בוטרין שאל מדוע זה לא יעבוד, מכיוון שהאינטליגנציה הקיימת משתפרת בהבנת ההעדפות שלנו.
"יש פער גדול בין הבנת המניעים שלנו לבין התעסקות",
סוארס הגיב.
"הטענה שלי היא לא שמודל שפה גדול או בינה מלאכותית לא יבינו את הפרטים הקטנים של העדפות אנושיות. הטענה שלי היא שהבנת הפרטים בהעדפות אנושיות שונה מאוד מאופטימיזציה למען הטוב", הוסיף.
חבר בקהל ערך השוואה בין AI לבני אדם, ואמר שכמו בינה מלאכותית, בני אדם נוטים לא להבין מה הם עושים או מנבאים, מה שעלול להיות גם מסוכן. לאחר מכן הוא ביקש מסוארס להעמיד פנים שהוא חייזר ולהסביר מדוע לא צריכים להיות בני אדם.
"לא אתלהב מהענקת כוחות אלוהים ושליטה על העתיד לאדם בודד. בנפרד, הייתי נרגש הרבה יותר לתת כוח לאדם בודד מאשר ל-AI בתפקיד אקראי. אני בהחלט לא אומר שאסור לנו בינה מלאכותית. אני אומר שאנחנו צריכים לעשות את זה נכון. אנחנו צריכים לגרום להם לדאוג לעתיד שכולו כיף ואושר וציביליזציות פורחות שבהן טרנס-אנושיים עוסקים בעסקאות חיוביות בסכומים עם חייזרים וכן הלאה", הבהיר סוארס. "אם אתה בונה תהליך אופטימיזציה חזק שאכפת לו מדברים שונים, זה עלול להרוס את כל ערכי היקום."
הוא הוסיף שהדברים שבני אדם מעריכים אינם משכנעים באופן אוניברסלי וכי מוסר אינו משהו שכל מוח שחוקר אותו ימשיך לעסוק בו. במקום זאת, זוהי תוצאה של הדחפים המובנים בבני אדם, שבסביבת האבות, גרמו לנו להיות טובים בהתרבות והם ספציפיים לבני אדם.
בסופו של דבר, סוארס מאמין שאנחנו לא צריכים לבנות משהו שהוא אינטליגנטי באופן דומה או אפילו אינטליגנטי יותר שאינו עולה בקנה אחד עם כיף, אושר ועתיד פורח. מצד שני, הוא גם אמר שהאנושות לא צריכה לבנות אינטליגנציה-על ידידותית שמייעלת עתיד מהנה בניסיון הראשון שלה במהלך מירוץ חימוש. בטווח הקצר, AI צריך להיות מוקדש לעזור לאנושות לקנות זמן ומקום כדי להבין מה הם באמת רוצים.
ChatGPT לא יצרוך את כל הביוספרה
מכיוון שבינה מלאכותית נבנית כעת להשגת מטרות מסוימות, כולל חיזוי, שאל בוטרין, מה אם בינה מלאכותית לא הייתה מונעת מטרות? סוארס אמר שקל לבנות בינה מלאכותית שהם בטוחים ולא מסוגלים, וייתכן שבקרוב יהיו לנו בינה מלאכותית שמסוגלת אבל רודפת אחרי דברים אחרים. הוא לא חושב ChatGPT יצרוך את כל הביוספרה מכיוון שהיא לא ברמת היכולת הזו.
סוארס ציין כי רוב יישומי הבינה המלאכותית המעניינים, כמו אוטומציה של פיתוח ומחקר מדעיים וטכנולוגיים, דורשים כנראה חתירה מסוימת אחר יעדים.
"זו לא טעות שאתה יכול לקבל GPT לכתוב הייקו מסודר, אבל אתה לא יכול לגרום לו לכתוב רומן. המגבלות של המערכות הנוכחיות קשורות לעובדה שהן אינן חותרות למטרות העמוקות יותר הללו, לפחות בעיניי".
קרא עוד:
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
סינדי היא עיתונאית ב Metaverse Post, המכסה נושאים הקשורים ל web3, NFT, metaverse ו-AI, עם התמקדות בראיונות עם Web3 שחקני התעשייה. היא דיברה עם יותר מ-30 מנהלים ברמת C ומספרת, והביאה את התובנות החשובות שלהם לקוראים. במקור מסינגפור, סינדי מבוססת כעת בטביליסי, ג'ורג'יה. היא בעלת תואר ראשון בלימודי תקשורת ומדיה מאוניברסיטת דרום אוסטרליה ובעלת ניסיון של עשור בעיתונות ובכתיבה. צור איתה קשר דרך [מוגן בדוא"ל] עם הצעות לעיתונות, הודעות והזדמנויות לראיונות.
מאמרים נוספים
סינדי היא עיתונאית ב Metaverse Post, המכסה נושאים הקשורים ל web3, NFT, metaverse ו-AI, עם התמקדות בראיונות עם Web3 שחקני התעשייה. היא דיברה עם יותר מ-30 מנהלים ברמת C ומספרת, והביאה את התובנות החשובות שלהם לקוראים. במקור מסינגפור, סינדי מבוססת כעת בטביליסי, ג'ורג'יה. היא בעלת תואר ראשון בלימודי תקשורת ומדיה מאוניברסיטת דרום אוסטרליה ובעלת ניסיון של עשור בעיתונות ובכתיבה. צור איתה קשר דרך [מוגן בדוא"ל] עם הצעות לעיתונות, הודעות והזדמנויות לראיונות.
