מומחי בינה מלאכותית ואישי ציבור מעוררים אזעקה על סכנת הכחדה של בינה מלאכותית
בקיצור
מומחי AI בולטים ודמויות משפיעות מבטאים את המשותף שלהם דאגות בנוגע לסיכונים הקשורים לבינה מלאכותית.
למרות התקדמות משמעותית בתחום הבינה המלאכותית, אתגרים רבים הקשורים לסיכון בינה מלאכותית נותרו לא פתורים.
מומחי בינה מלאכותית ואנשי ציבור בולטים פרסמו הצהרה המזהירה כי בינה מלאכותית עלולה להוות איום על הישרדות האנושות, דומה או אפילו גדול יותר מהסיכונים של מגיפות ומלחמה גרעינית. 350 החותמים טוענים כי לבינה מלאכותית עשויות להיות השלכות בלתי צפויות וקטסטרופליות, כמו שחרור נשק אוטונומי, שיבוש מערכות חברתיות וכלכליות או יצירת סוכנים סופר-חכמים שיכולים להערים על בני אדם ולהכריע אותם.
הם קוראים לקובעי המדיניות לקחת את הסיכונים הללו ברצינות ולאמץ אמצעים כדי להבטיח פיתוח AI בטוח ומועיל. ה הצהרה חתום על ידי כמה מהדמויות המובילות במחקר ופיתוח בינה מלאכותית, כגון OpenAI המנכ"ל סם אלטמן, המייסד השותף של סקייפ ג'אן טאלין, מנכ"ל DeepMind Demis Hassabis, ומדען המחשבים הבינה המלאכותית ג'פרי הינטון, כמו גם אישים ציבוריים משפיעים, כמו המוזיקאי גריימס והפודקאסט סם האריס.
בין החותמים היו הזוכים בפרס טיורינג לשנת 2018 על תרומתם ללמידה עמוקה: ג'פרי הינטון ויושע בנג'יו. אליהם הצטרפו פרופסורים מאוניברסיטאות יוקרתיות כמו הרווארד ואוניברסיטת Tsinghua בסין, כמו גם מקס טגמרק מ-MIT.
"הפחתת סכנת ההכחדה מ-AI צריכה להיות בראש סדר העדיפויות העולמי לצד סיכונים אחרים בקנה מידה חברתי כמו מגפות ומלחמה גרעינית."
המכתב שפורסם על ידי מדינות CAIS.
המרכז לבטיחות בינה מלאכותית (CAIS), ארגון ללא מטרות רווח שבסיסו בסן פרנסיסקו, שואף לתת מענה לדאגות הבטיחות הקשורות לבינה מלאכותית. תוך זיהוי היתרונות הפוטנציאליים של AI, CAIS מדגיש את הצורך לפתח ולהשתמש בו בצורה בטוחה. למרות התקדמות משמעותית בתחום הבינה המלאכותית, אתגרים בסיסיים רבים בבטיחות בינה מלאכותית נותרו בלתי פתורים, מאמינה החברה. על פי אתר האינטרנט שלה, המשימה של CAIS היא להפחית סיכונים על ידי ביצוע מחקר בטיחות, טיפוח קהילה של חוקרי בטיחות בינה מלאכותית ותמיכה בתקני בטיחות.
"יש הרבה "סיכונים חשובים ודחופים מ-AI", לא רק סכנת הכחדה; למשל, הטיה מערכתית, מידע שגוי, שימוש זדוני, התקפות סייבר והפעלת נשק. כל אלה הם סיכונים חשובים שיש לטפל בהם. חברות יכולות לנהל סיכונים מרובים בבת אחת; זה לא "או/או" אלא "כן/ו". מנקודת מבט של ניהול סיכונים, כשם שזה יהיה פזיז לתעדף בלעדי את הנזקים הנוכחיים, זה יהיה פזיז גם להתעלם מהם".
דן הנדריקס, מנהל CAIS כתב בטוויטר.
במרץ, למעלה מ-1,100 מומחי טכנולוגיה חָתוּם מכתב פתוח בדרישה להפסיק לחצי שנה את ההכשרה של מערכות בינה מלאכותית GPT-4. גם מחוקקים באירופה לאחרונה מאושר טיוטת חקיקה מחמירה יותר, המכונה חוק AI, המסדירה כלי AI כמו ChatGPT. החוק כולל דרישות לבדיקות בטיחות, ניהול נתונים והפחתת סיכונים עבור מודלים בסיסיים של בינה מלאכותית ואוסר על שיטות עבודה כמו טכניקות מניפולטיביות ושימושים מסוימים בביומטריה.
קרא עוד:
- OpenAI חושפת את הגישה האחרונה שלה להבטחת בטיחות בינה מלאכותית
- האם גוגל הולכת להכריז על מחולל טקסט לאוואטר לגיימרים?
- CodeWhisperer של אמזון נותן למפתחים את היתרונות שהם צריכים בזירת הבינה המלאכותית
- Vitalik Buterin ומנהל MIRI Nate Soares מתעמקים בסכנות של AI
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
אגנה היא עיתונאית שמסקרת את המגמות וההתפתחויות האחרונות ב-metaverse, AI, ו Web3 תעשיות עבור Metaverse Post. התשוקה שלה לספר סיפורים הובילה אותה לערוך ראיונות רבים עם מומחים בתחומים אלה, כשהם מחפשים תמיד לחשוף סיפורים מרגשים ומרתקים. אגנה היא בעלת תואר ראשון בספרות ובעלת רקע נרחב בכתיבה על מגוון רחב של נושאים לרבות נסיעות, אמנות ותרבות. היא גם התנדבה כעורכת בארגון לזכויות בעלי חיים, שם סייעה להעלות את המודעות לנושאים של רווחת בעלי חיים. צור איתה קשר [מוגן בדוא"ל].
מאמרים נוספים
אגנה היא עיתונאית שמסקרת את המגמות וההתפתחויות האחרונות ב-metaverse, AI, ו Web3 תעשיות עבור Metaverse Post. התשוקה שלה לספר סיפורים הובילה אותה לערוך ראיונות רבים עם מומחים בתחומים אלה, כשהם מחפשים תמיד לחשוף סיפורים מרגשים ומרתקים. אגנה היא בעלת תואר ראשון בספרות ובעלת רקע נרחב בכתיבה על מגוון רחב של נושאים לרבות נסיעות, אמנות ותרבות. היא גם התנדבה כעורכת בארגון לזכויות בעלי חיים, שם סייעה להעלות את המודעות לנושאים של רווחת בעלי חיים. צור איתה קשר [מוגן בדוא"ל].
