אנתרופיק, גוגל, מיקרוסופט ו OpenAI מנה מנהל בכיר לפורום Frontier Models וחשוף 10 מיליון דולר לבטיחות בינה מלאכותית
בקיצור
אנתרופיק, גוגל, מיקרוסופט ו OpenAI הציגו את כריס Meserole כמנהל המבצע הראשון של פורום Frontier Model.
במקביל, הם הכריזו על קרן בטיחות בינה מלאכותית משמעותית, עם מימון של למעלה מ-10 מיליון דולר.
אנתרופיק, גוגל, מיקרוסופט ו OpenAI יש מונה כריס מסרול כמנהל המנכ"ל הראשון של פורום Frontier Model. קונסורציום התעשייה מוקדש לקידום התקדמות בטוחה ואתית של מודלים חדשניים של AI ברחבי העולם. במקביל, הציג פורום קרן בטיחות בינה מלאכותית של יותר מ-10 מיליון דולר. מטרת הקרן היא לקדם התקדמות במחקר בטיחות בינה מלאכותית.
מנכ"ל כריס מסרול מביא רקע נרחב במדיניות טכנולוגית ובממשל של טכנולוגיות מתפתחות. לפני מינויו, שימש כמנהל יוזמת הבינה המלאכותית והטכנולוגיה המתעוררת במכון ברוקינגס. בתפקידו החדש, Meserole יוביל מאמצים לקידום מחקר בטיחות בינה מלאכותית, יזהה שיטות עבודה מומלצות לפיתוח מודל AI מאובטח, יפיץ ידע לבעלי עניין ויתמוך ביוזמות הרותמות בינה מלאכותית להתמודדות עם אתגרים חברתיים.
"למודלים הבינה המלאכותית החזקים ביותר יש הבטחה עצומה לחברה, אבל כדי לממש את הפוטנציאל שלהם, עלינו להבין טוב יותר כיצד לפתח ולהעריך אותם בבטחה. אני נרגש לקחת על עצמי את האתגר הזה עם פורום Frontier Model,”
אמר מסרול.
הקרן לבטיחות בינה מלאכותית הופיעה בתגובה להתקדמות המהירה של יכולות בינה מלאכותית בשנה האחרונה, מה שהצריך מחקר אקדמי נוסף בנושא בטיחות בינה מלאכותית. קרן זו, שיתוף פעולה בין Frontier Model Forum ושותפים פילנתרופיים, תספק תמיכה לחוקרים עצמאיים ברחבי העולם המזוהים עם מוסדות אקדמיים, ארגוני מחקר וסטארטאפים.
התורמים העיקריים ליוזמה זו הם Anthropic, Google, Microsoft ו OpenAI, יחד עם ארגונים פילנתרופיים כמו קרן פטריק ג'יי מקגוורן, קרן דייוויד ולוסייל פקארד, אריק שמידט וג'אן טאלין. התרומות המשולבות שלהם עולה על 10 מיליון דולר, בציפייה לתרומות נוספות משותפים אחרים.
מוקדם יותר השנה, חברי הפורום התחייבו בבית הלבן להתחייבויות וולונטריות, כולל לאפשר גילוי ודיווח של צד שלישי על פגיעויות במערכות ה-AI שלהם. קרן בטיחות בינה מלאכותית מיישרת קו עם מחויבות זו בכך שהיא מציעה לקהילות חיצוניות מימון לבדיקת מערכות AI חזיתיות. מגוון של קולות ונקודות מבט יעשיר את השיח העולמי על בטיחות AI וירחיב את בסיס הידע הכללי של AI.
חיזוק בטיחות ושיתוף פעולה בינה מלאכותית
הקרן לבטיחות בינה מלאכותית מתרכזת בעיקר בחיזוק הפיתוח של טכניקות הערכה חדשות וגישות צוות אדומות עבור מודלים של AI, במטרה לחשוף סיכונים פוטנציאליים. צוות אדום הוא תהליך מובנה לבחינה מדוקדקת של מערכות בינה מלאכותית כדי לזהות יכולות, תפוקות או איומים תשתיתיים מזיקים. מימון מוגבר בתחום זה יכול להעלות את תקני הבטיחות והאבטחה ולספק תובנות חשובות לגבי הפחתה באתגרים שמציבות מערכות בינה מלאכותית.
יתרה מכך, הקרן תחפש בקרוב הצעות מחקר ותנוהל על ידי מכון מרידיאן בייעוץ מוועדה מייעצת, הכוללת מומחים בלתי תלויים, אנשי מקצוע בתחום הבינה המלאכותית ומומחי הענקת מענקים.
תהליך גילוי אחראי בעיצומו, המאפשר למעבדות בינה מלאכותית של Frontier לשתף מידע על נקודות תורפה ויכולות מסוכנות בדגמי AI frontier, יחד עם הפתרונות שלהן. חלק מחברות הפורום כבר זיהו בעיות כאלה בהקשר של ביטחון לאומי, והן משמשות כתיאורי מקרה להנחיית מעבדות אחרות ביישום נהלי גילוי אחראי.
במבט קדימה, פורום מודל Frontier מתכנן להקים בחודשים הקרובים ועדה מייעצת, שתפקידה לכוון את סדר העדיפויות האסטרטגי שלו ולייצג מומחיות ונקודות מבט מגוונות. הפורום ישחרר באופן קבוע עדכונים, כולל הוספת חברים חדשים. במקביל, קרן הבטיחות של AI תפרסם את הקול הראשון שלה להגשת הצעות, עם מענקים שיוענקו זמן קצר לאחר מכן. בנוסף, הפורום ימשיך לפרסם ממצאים טכניים ככל שיהיו זמינים.
מטרת העל של הפורום היא לשתף פעולה עם Chris Meserole ולהרחיב את המעורבות עם קהילת המחקר הרחבה יותר. זה כולל שותפויות עם ארגונים כגון Partnership on AI, MLCommons וארגונים לא ממשלתיים מובילים אחרים, גופים ממשלתיים וארגונים רב לאומיים. יחד, הם שואפים לרתום את הפוטנציאל של AI תוך הבטחת הפיתוח והניצול המאובטחים והאתיים שלו.
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
אגנה היא עיתונאית שמסקרת את המגמות וההתפתחויות האחרונות ב-metaverse, AI, ו Web3 תעשיות עבור Metaverse Post. התשוקה שלה לספר סיפורים הובילה אותה לערוך ראיונות רבים עם מומחים בתחומים אלה, כשהם מחפשים תמיד לחשוף סיפורים מרגשים ומרתקים. אגנה היא בעלת תואר ראשון בספרות ובעלת רקע נרחב בכתיבה על מגוון רחב של נושאים לרבות נסיעות, אמנות ותרבות. היא גם התנדבה כעורכת בארגון לזכויות בעלי חיים, שם סייעה להעלות את המודעות לנושאים של רווחת בעלי חיים. צור איתה קשר [מוגן בדוא"ל].
מאמרים נוספים
אגנה היא עיתונאית שמסקרת את המגמות וההתפתחויות האחרונות ב-metaverse, AI, ו Web3 תעשיות עבור Metaverse Post. התשוקה שלה לספר סיפורים הובילה אותה לערוך ראיונות רבים עם מומחים בתחומים אלה, כשהם מחפשים תמיד לחשוף סיפורים מרגשים ומרתקים. אגנה היא בעלת תואר ראשון בספרות ובעלת רקע נרחב בכתיבה על מגוון רחב של נושאים לרבות נסיעות, אמנות ותרבות. היא גם התנדבה כעורכת בארגון לזכויות בעלי חיים, שם סייעה להעלות את המודעות לנושאים של רווחת בעלי חיים. צור איתה קשר [מוגן בדוא"ל].
