בני אדם יכולים להרוס את עצמם על ידי פתיחת תיבת פנדורה של AI זה
בקיצור
המהפכה האינטלקטואלית בסימן ChatGPT הוא שלישייה של מהפכות נשגבות מבחינה סינרגטית: טכנולוגיות, טכנו-הומניטריות וסוציו-פוליטיות. כדי להסתכל מקיפה על המתרחש, מומלץ להקשיב לשלוש נקודות מבט רעננות של אנשי רוח מתחומי הפילוסופיה, ההיסטוריה והחדשנות.
זו לא המשימה של הומו סאפיינס, אבל אנחנו יכולים להשמיד את עצמנו כמין על ידי פתיחת תיבת הפנדורה של AI זה.
המהפכה האינטלקטואלית בסימן הניצחון של ChatGPT זה לא סתם עוד מהפכה טכנולוגית. זוהי שלישייה של מהפכות נשגבות מבחינה סינרגטית: מהפכות טכנולוגיות, טכנו-הומניטריות וסוציו-פוליטיות בבקבוק אחד.
לכן, עם כל הכבוד לגורואים הנכבדים של חקר הבינה המלאכותית (הן התומכים והמתנגדים להאטה), הערכותיהם לגבי סיכויי המהפכה האינטלקטואלית והשפעתה על החברה הן מצומצמות מדי, ולכן אינן מאפשרות לנו לראות תמונה סטריאוסקופית של מה שקורה.
כדי להסתכל מקיפה על המתרחש, כדאי להקשיב למה שנאמר על המתרחש לא רק על ידי מומחים ב-AI אלא גם על ידי אינטלקטואלים מתחומי הפילוסופיה, ההיסטוריה והחדשנות.
לדוגמה, הנה שלוש נקודות מבט טריות מאנשי רוח כאלה שהיינו ממליצים להקשיב להן.
- ניק בוסטרום, פרופסור באוניברסיטת אוקספורד ומנהל מכון העתיד של האנושות.
- ניל פרגוסון, היסטוריון, סופר ועיתונאי; פרופסור בהרווארד; ועמית בכיר באוניברסיטאות אוקספורד וסטנפורד.
- סטיב בלנק, יזם אמריקאי ידוע, איש הון סיכון ומומחה חדשנות שמכונה "הסנדק של עמק הסיליקון".
ניק בוסטרום רואה במה שקורה עדות להופעתו הקרובה על הפלנטה של הגנרל הראשון מודיעין זה יהיה חכם יותר מבני אדם. הוא רואה בכך משימתה של האנושות - הדבר החשוב ביותר בכל ההיסטוריה שלה. אבל המשמעות העצומה של משימה זו קשורה בעצומה אחריות וסיכון קיומי לאנושות.
ניל פרגוסון כותב שחייזרים נחתו, ואנחנו יצר אותם בעצמנו. ההשלכות הנוראיות ביותר של זה אינן נראות כלל בעובדה שה GPT-5 "מחליט" למחוק אותנו מעל פני האדמה. במקום זאת, הסיכון הוא שנקרע את עצמנו כמין על ידי שימוש מודלים גדולים לשפה למטרות נבזיות ומרושעות. "אנחנו כבר בדרך לסיוט של רסקולניקוב בסוף "פשע ועונש", שבו האנושות משתגעת ביחד וגולשת לטבח פנימי".
סטיב בלנק נקרא ChatGPT תיבת פנדורה. הוא מאמין שאנשים משחקים באש על ידי למידה חזקה יותר מודלים של שפה. שטעינו מאוד מאוד כשחשבנו שאנחנו מפתחים רק כלי אוטומציה חדשים. כעת אנו עדים כיצד ההקדמה המסיבית של ה GPT-4 ולמודלים המיוחל "תהיה אותה השפעה על החברה כמו ל השפעה משולבת שההופעה של חומרי נפץ, תקשורת המונים, מחשבים, עריכת גנום ונשק גרעיני השפיעה על האנושות כשהם ביחד.
קרא עוד מאמרים קשורים:
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
מאמרים נוספים
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
