דריו אמודיי מזהיר מפני פער בממשל כאשר בינה מלאכותית מקדמת את המדיניות, ודוחק ברפורמות בטיחות וכלכליות מחייבות.
בקיצור
מנכ"ל אנתרופיק, דריו אמודי, מתאר את הסיכונים בתחום הבינה המלאכותית ומציע רגולציה מחמירה יותר, אמצעי הגנה כלכליים ותיאום עולמי כדי לנהל את ההתקדמות המהירה של הבינה המלאכותית.
דריו אמודי, מנכ"ל אנתרופי, אמר במאמר חדש כי הבינה המלאכותית מתקדמת הרבה יותר מהר ממה שמערכות פוליטיות יכולות להגיב, וטען כי קובעי מדיניות חייבים להסתגל במהירות ככל שמודלים של חזית מתחילים לעצב מחדש את הביטחון, הכלכלה ומוסדות ציבור. הוא השווה את פער הקצב בין פיתוח בינה מלאכותית לחקיקה לניגוד בין ההוביטים המהירים לבין זקן-העץ האיטי, ואמר כי חוסר ההתאמה הפך דחוף יותר ויותר ככל שהמודלים משתפרים בקידוד, במדע ובעבודות ידע אחרות.
היזם הדגיש כי מאמצי המדיניות הקודמים הוגבלו במידה רבה לאמצעי שקיפות, בקרות יצוא ואיסוף נתונים, משום שהסיכונים עדיין מתהווים ולא ברורים. הוא אמר שהתמונה השתנתה כעת, והצביע על יכולות מודלים קדמיים שחשפו חששות חמורים בתחום אבטחת הסייבר והראו שמערכות בינה מלאכותית מתקדמות יכולות להשפיע על היציבות הפיננסית, תשתיות קריטיות וביטחון לאומי. הוא טען כי השלב הבא של המדיניות צריך להתקדם מעבר לגילוי בלבד ולעבור כללים מחייבים עבור מודלים בסיכון גבוה.
רגולציה, שיבוש כלכלי וסדרי עדיפויות מדיניות מתפתחים בעידן הבינה המלאכותית
בנושא רגולציה ובטיחות הציבור, דריו אמודיי הציע מסגרת דומה לפיקוח על התעופה, עם בדיקות חובה של צד שלישי עבור מודלים מתקדמים לפני הפריסה. הוא אמר כי יש להעריך מודלים מעל סף חישוב מסוים עבור סיכונים בתחום אבטחת הסייבר, שימוש לרעה ביולוגי, אובדן שליטה ומחקר אוטומטי שעלול להגביר את האיומים הללו. הוא גם אמר שממשלות צריכות להיות מסוגלות לעכב או לחסום פריסה אם סיכונים אלה נחשבים בלתי מקובלים, תוך דרישה לנהלי אבטחה חזקים, צוותים אדומים קבועים, בדיקות חדירה ודיווח מהיר על אירועים מצד מפתחי בינה מלאכותית.
המאמר התמקד גם בשיבוש כלכלי. אמודי אמר כי בינה מלאכותית עוצמתית יכולה להאיץ את הצמיחה תוך כדי עקירת מספר רב של עובדים על ידי החלפת עבודה קוגניטיבית אנושית מהר יותר מטכנולוגיות קודמות. הוא הזהיר כי הדבר עלול ליצור עולם של צמיחה מהירה מאוד לצד אי שוויון מתמשך, מה שיקשה על הבטחת חלוקה רחבה של התועלות. הוא אמר כי המדיניות צריכה להתמקד במדידה, תמיכה בכוח אדם, ביטוח שכר, הסבה מקצועית ואולי גם תמיכה בהכנסה לטווח ארוך אם הביקוש לעבודה יירד משמעותית.
בסעיף אחר, אמר מנכ"ל אנתרופיק כי בינה מלאכותית יכולה להאיץ את ההתקדמות המדעית, במיוחד בביו-רפואה, אך ייתכן שמערכות רגולטוריות קיימות איטיות מדי מכדי להתמודד עם גל של חדשנות בסיוע בינה מלאכותית. הוא הציע להכין סוכנויות אישור כמו ה-FDA וה-EMA לקבל סימולציות מבוססות בינה מלאכותית, זרועות בקרה סינתטיות ושיטות אחרות שיכולות לקצר את פיתוח התרופות מבלי לפגוע בבטיחות.
דריו אמודי הזהיר גם כי בינה מלאכותית עלולה להגביר את כוחה של המדינה וליצור סיכונים חדשים לזכויות האזרח, כולל כלי נשק אוטונומיים, מעקב המוני ושימוש לא הוגן ממשלתי בבינה מלאכותית. הוא קרא לכללי אחריות מחמירים יותר, להגבלות על השימוש המקומי בנשק אוטונומי לחלוטין ולהגנות מחמירות יותר על הפרטיות.
לבסוף, הוא אמר שדמוקרטיות צריכות לעבוד יחד בנושא שרשראות אספקה של בינה מלאכותית, תקני בטיחות ותיאום כלכלי, וטען כי בינה מלאכותית הופכת לטכנולוגיה אסטרטגית דומה לאנרגיה גרעינית בחשיבותה הגיאופוליטית.
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
אליסה, עיתונאית מסורה ב- MPost, מתמחה בקריפטו, בינה מלאכותית, השקעות והתחום הנרחב של Web3. עם עין חדה לטרנדים וטכנולוגיות מתפתחות, היא מספקת סיקור מקיף כדי ליידע ולערב את הקוראים בנוף ההולך ומתפתח של מימון דיגיטלי.
מאמרים נוספים
אליסה, עיתונאית מסורה ב- MPost, מתמחה בקריפטו, בינה מלאכותית, השקעות והתחום הנרחב של Web3. עם עין חדה לטרנדים וטכנולוגיות מתפתחות, היא מספקת סיקור מקיף כדי ליידע ולערב את הקוראים בנוף ההולך ומתפתח של מימון דיגיטלי.
