מומחי טכנולוגיה חותמים על מכתב פתוח הקורא להפסקה זמנית בהכשרת מערכות בינה מלאכותיות מתקדמות יותר GPT-4
בקיצור
יותר מ-1100 חותמים חתמו על המכתב הפתוח הקורא להשהות בניסויי AI ענקיים.
בין החותמים ניתן למנות את אילון מאסק, סטיב ווזניאק ועמד מוסטק, בין היתר.
המכתב הפתוח העלה חששות לגבי הטיות מידע על ידי AI, אוטומציה של עבודה והסיכון של AI על הציוויליזציה האנושית.
יותר מ-1,100 חותמים, כולל מומחי טכנולוגיה מובילים, חתמו על חוזה מכתב פתוח קורא להפסקה של שישה חודשים באימון מערכות AI מתקדמות יותר GPT-4.
המכתב נכתב על ידי Future of Life Institute, ארגון ללא מטרות רווח הפועל לצמצום סיכונים קטסטרופליים וקיומיים גלובליים העומדים בפני האנושות, במיוחד הסיכון הקיומי מבינה מלאכותית מתקדמת.
תוך ציטוט של עקרונות הבינה המלאכותית של Asilomar, שאומרים כי "בינה מלאכותית מתקדמת יכולה לייצג שינוי עמוק בהיסטוריה של החיים על פני כדור הארץ, ויש לתכנן ולנהל אותה בזהירות ובמשאבים המתאימים", נכתב במכתב כי רמת התכנון וה ניהול לא קורה.
המכתב ממשיך ואומר כי מעבדות בינה מלאכותית נמצאות במרוץ "יצא משליטה" לפיתוח בינה מלאכותית חזקה יותר ויותר שאף אחד לא יכול להבין, לחזות או לשלוט בה באופן מהימן. כמו שמערכות AI עכשוויות אוהבות GPT-4 יכול להתחרות בבני אדם לגבי משימות כלליות, המכתב מעלה חששות לגבי הטיות מידע על ידי AI, אוטומציה של עבודה, והסיכון לאובדן שליטה על הציוויליזציה האנושית.
"אנו קוראים לכל מעבדות הבינה המלאכותית להשהות מיידית למשך 6 חודשים לפחות את האימון של מערכות בינה מלאכותיות חזקות יותר מאשר GPT-4. הפסקה זו צריכה להיות ציבורית וניתנת לאימות, ולכלול את כל השחקנים המרכזיים. אם לא ניתן לבצע הפסקה כזו במהירות, על הממשלות להתערב ולהפעיל מורטוריום".
נכתב במכתב.
המכתב מפציר במעבדות בינה מלאכותית ומומחי טכנולוגיה לנצל את תקופת ההשהיה כדי לפתח ולהטמיע פרוטוקולי בטיחות לתכנון ופיתוח מתקדמים של בינה מלאכותית, שנבדקים בקפדנות ומפוקחים על ידי מומחים חיצוניים בלתי תלויים.
עם זאת, העיתונאי האמריקאי ג'ף ג'רוויס מתח ביקורת על המכתב, אמר שזהו "דגימה ראשונית של פאניקה מוסרית".
כמה מהמוחות המובילים בטכנולוגיה ולמידת מכונה שחתמו על המכתב לצד מדעני מחקר של DeepMind וכמה פרופסורים באוניברסיטאות מרחבי העולם כוללים:
- יושע בנג'יו, אוניברסיטת מונטריאול, חתן פרס טיורינג לפיתוח למידה עמוקה, ראש מכון מונטריאול לאלגוריתמים ללמידה
- סטיוארט ראסל, ברקלי, פרופסור למדעי המחשב, מנהל המרכז למערכות חכמות, ומחבר שותף של ספר הלימוד הסטנדרטי "אינטליגנציה מלאכותית: גישה מודרנית"
- אילון מאסק, מנכ"ל SpaceX, טסלה וטוויטר
- עמאד מוסטק, מנכ"ל, Stability AI
- ג'אן טאלין, מייסד שותף של סקייפ, המרכז לחקר סיכון קיומי, מכון עתיד החיים
- גארי מרקוס, אוניברסיטת ניו יורק, חוקר בינה מלאכותית, פרופסור אמריטוס
- מארק רוטנברג, המרכז לבינה מלאכותית ומדיניות דיגיטלית (CAIDP), נשיא
ב מכתב האחרון, כתב רוטנברג שה-CAIDP יגיש תלונה לוועדת הסחר הפדרלית, ויקרא לחקור את ה-Open AI ו ChatGPT, כמו גם איסור על שחרור מסחרי נוסף של המוצר עד להקמת אמצעי הגנה.
OpenAI למנכ"ל סם אלטמן יש הודה ש"אנחנו גם צריכים מספיק זמן בשביל שהמוסדות שלנו יבינו מה לעשות" ושהחברה לא רחוקה מכלי בינה מלאכותית "שעשויים להפחיד".
"אנחנו מבקשים מה-FTC "ללחוץ על כפתור ההשהיה" כדי שתהיה הזדמנות למוסדות שלנו, לחוקים שלנו ולחברה שלנו להתעדכן. אנחנו צריכים לעמוד בתוקף על הטכנולוגיות שאנו יוצרים לפני שנאבד שליטה", נכתב במכתב ה-CAIDP.
בְּמָקוֹם אַחֵר, המחוקקים של האיחוד האירופי שואפים לחתום על הסכם עם מדינות האיחוד האירופי עד סוף השנה ליישום כללי בינה מלאכותית, אם כי היא עשויה לפגוע בצוואר בקבוק ככל שהוויכוחים על האופן שבו יש לשלוט בבינה מלאכותית יתגברו.
קרא עוד:
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
סינדי היא עיתונאית ב Metaverse Post, המכסה נושאים הקשורים ל web3, NFT, metaverse ו-AI, עם התמקדות בראיונות עם Web3 שחקני התעשייה. היא דיברה עם יותר מ-30 מנהלים ברמת C ומספרת, והביאה את התובנות החשובות שלהם לקוראים. במקור מסינגפור, סינדי מבוססת כעת בטביליסי, ג'ורג'יה. היא בעלת תואר ראשון בלימודי תקשורת ומדיה מאוניברסיטת דרום אוסטרליה ובעלת ניסיון של עשור בעיתונות ובכתיבה. צור איתה קשר דרך [מוגן בדוא"ל] עם הצעות לעיתונות, הודעות והזדמנויות לראיונות.
מאמרים נוספים
סינדי היא עיתונאית ב Metaverse Post, המכסה נושאים הקשורים ל web3, NFT, metaverse ו-AI, עם התמקדות בראיונות עם Web3 שחקני התעשייה. היא דיברה עם יותר מ-30 מנהלים ברמת C ומספרת, והביאה את התובנות החשובות שלהם לקוראים. במקור מסינגפור, סינדי מבוססת כעת בטביליסי, ג'ורג'יה. היא בעלת תואר ראשון בלימודי תקשורת ומדיה מאוניברסיטת דרום אוסטרליה ובעלת ניסיון של עשור בעיתונות ובכתיבה. צור איתה קשר דרך [מוגן בדוא"ל] עם הצעות לעיתונות, הודעות והזדמנויות לראיונות.
