חברות בינה מלאכותית צריכות להוציא 30% מהמימון שלהן על מו"פ בבטיחות ובאתיקה
הנזק שנגרם על ידי דעות קדומות ומידע כוזב כבר ברור. ישנן אינדיקציות לכך שגם סכנות אחרות עלולות לצוץ. זה קריטי להפחית את הסיכונים הנוכחיים ולחזות את הסיכונים המתעוררים.
לא היינו יודעים איך להבטיח שמערכות אוטונומיות מתקדמות או AGI בטוחות או איך לבדוק אותן אם הן היו זמינות עכשיו. יתר על כן, לממשלות אין את המוסדות הדרושים כדי לעצור את ההתעללות ולהפעיל שיטות בטוחות, גם אם כן. המחברים תומכים בפיתוח פיקוח ממשלתי יעיל והפניית מאמצי מו"פ לכיוון בטיחות ואתיקה.
שליטה וכנות (מערכות מתוחכמות יותר יכולות להערים על בדיקות על ידי הפקת תשובות שגויות אך משכנעות), חוסן (בתנאים חדשים עם העברת הפצה או תשומות יריבות), פרשנות (הבנת עבודה), הערכת סיכונים (צצות יכולות חדשות שקשה לחזות אותן), והופעת אתגרים חדשים (מצבי כשל חסרי תקדים) הם חלק מאתגרי המו"פ שלא ייפתרו על ידי פיתוח מערכות AI חזקות יותר.
המחברים מציעים שבטיחות ואתיקה צריכים לקבל לפחות שליש מהמימון עבור מחקר ופיתוח בינה מלאכותית.
יש לאכוף סטנדרטים הן ביחס למוסדות הלאומיים והן ביחס לממשל העולמי. בינה מלאכותית חסרה את אלה, אבל תעשיות התרופות, הפיננסיות והגרעיניות כן. יש כיום תמריצים למדינות ועסקים לחסוך על חשבון הביטחון. חברות יכולות להרוויח מהתקדמות בינה מלאכותית תוך שהיא משאירה את החברה לשאת בתוצאות, בדומה לתעשיות שמזרימות פסולת לנהרות.
ידע טכני חזק ויכולת תנועה מהירה הם דרישות למוסדות לאומיים. בזירה הגלובלית, שותפויות והסכמים חיוניים. יש להימנע ממכשולים ביורוקרטיים בפני מודלים קטנים וניתנים לחיזוי על מנת להגן על מחקר אקדמי ויישומים בסיכון נמוך. דגמי Frontier - קבוצה נבחרת של המערכות העוצמתיות ביותר שאומנו על מחשבי-על בשווי מיליארד דולר - צריכים לקבל את המיקוד הרב ביותר.
ממשלות חייבות להיות פתוחות יותר לגבי התפתחויות כדי שהתקנות יהיו אפקטיביות. הרגולטורים צריכים לחייב רישום מודלים, להגן על מודיעים פנימיים, לחייב דיווח על תקריות ולפקח עין על התפתחות המודלים והשימוש במחשבי-על.
לרגולטורים חייבת להיות גם גישה למערכות אלו לפני שחרורן לייצור על מנת להעריך עלול להזיק תכונות כמו יצירת פתוגנים, שכפול עצמי וחדירה למערכת.
מערכות בעלות פוטנציאל להיות מסוכן זקוקות למגוון שיטות בקרה. דגם Frontier יוצרים חייבים גם להיות אחראים משפטית לכל נזק למערכות שלהם שהיה יכול להימנע. זה אמור לעודד השקעה באבטחה. תכונות נוספות, כגון רישוי ממשלתי, היכולת לעצור את הפיתוח בתגובה סכנה אפשרית יכולות, בקרות גישה ואמצעי אבטחת מידע אטומים בפני האקרים ברמת המדינה, עשויים להידרש למערכות בעלות יכולת גבוהה במיוחד.
למרות שאין כללים, עסקים צריכים להבהיר במהירות את אחריותם אם-אז על ידי תיאור הצעדים המדויקים שהם ינקטו אם יכולות מודל מסוימות חוצות קו אדום. אמצעים אלה צריכים להיות מוסברים ביסודיות ולאשר באופן עצמאי. לפיכך, זהו. נפרד תוספת לפוליסה מרכיב סיכום של תזות.
- באוקטובר, פורום Frontier Model הציגה קרן בטיחות בינה מלאכותית של למעלה מ-10 מיליון דולר, במטרה להניע התקדמות במחקר בטיחות בינה מלאכותית. הקרן, שיתוף פעולה בין Frontier Model Forum ושותפים פילנתרופיים, תספק תמיכה לחוקרים עצמאיים ברחבי העולם הקשורים למוסדות אקדמיים, ארגוני מחקר וסטארטאפים. התורמים העיקריים ליוזמה הם Anthropic, Google, Microsoft, OpenAI, יחד עם ארגונים פילנתרופיים כמו קרן פטריק ג'יי מקגוורן, קרן דייוויד ולוסייל פקארד, אריק שמידט וג'אן טאלין. הקרן לבטיחות בינה מלאכותית מתמקדת בעיקר בחיזוק הפיתוח של טכניקות הערכה חדשות וגישות צוות אדומות עבור מודלים של AI, במטרה לחשוף סכנות פוטנציאליות. הפורום מתכנן להקים ועדה מייעצת בחודשים הקרובים, וזמן קצר לאחר מכן יפרסם קול קורא ראשון להצעות ופרסי מענקים.
| מוצרים מקושרים: רשות התחרות והשווקים הבריטית משיקה סקירה של מודלים של בינה מלאכותית עם הסלמה של מאמצי הרגולציה הממשלתית |
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
מאמרים נוספים
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
