OpenAI: בינה מלאכותית עלולה לגרום נזק רב לאנשים, אבל לנסות לעצור את ההתקדמות היא לא אופציה
בקיצור
OpenAIהמסמך של "Planning for AGI and Beyond" מציע הכנסה הדרגתית ואיטית של מודלים מורכבים ו"חכמים" יותר, ארגון ביקורת עצמאית של מערכות גדולות והגבלת משאבי מחשוב.
OpenAI רוצה שבינה מלאכותית תהיה פתוחה לכולם באופן שווה ותיצור עקבית ו מודלים ניתנים לניהול כדי להפחית הטיות והתנהגות לא רצויה.
OpenAI לאחרונה פרסם מסמך שכותרתו "תכנון עבור AGI ומעבר". הוא מתאר את הרעיונות הרחבים המנחים את פעולות החברה ככל שהעולם מתקרב לפיתוח של AGI (בינה כללית מלאכותית).
OpenAI with מאמין שלמרות של-AI יש פוטנציאל לגרום נזק משמעותי לאנשים, ניסיון לעצור את ההתקדמות אינו אופציה. כתוצאה מכך עלינו ללמוד כיצד לשמור על השיפור הזה כדי שלא יתדרדר משמעותית.
ניתן למצוא את המסמך כאן. בואו נדגיש כמה מרכיבים מכריעים ממנו:
- OpenAI רוצה ש-AGI תעזור לאנשים לשגשג בכל היבטי חייהם, הן מבחינה כלכלית והן מבחינה מדעית.
במקום ליצור AI גדול סופר מגניב ולשחרר אותו מיד לעולם, OpenAI יציג דגמים מסובכים ו"חכמים" יותר בהדרגה. ההנחה היא שהגדלה הדרגתית של יכולות הבינה המלאכותית לא תזעזע את העולם, ותעניק לבני אדם זמן להסתגל, להתאים את הכלכלה ולבנות נהלים לאינטראקציה עם בינה מלאכותית. - OpenAI מזמינה את כל הארגונים לאמץ רשמית את העיקרון הנ"ל (להפעיל בהדרגה AI רב עוצמה). אלטמן גם ממליצה להגביל את כמות משאבי המחשוב העשויים לשמש להכשרת מודלים ולקבוע ביקורות חסרות פניות של מערכות מרכזיות לפני שהן יהיו זמינות לציבור הרחב. במקום להשתתף בתחרויות כמו "מי יהיה הראשון שיוציא דגם מגניב וגדול יותר?" OpenAI מבקש ממפעלים לעשות זאת לעבוד יחד כדי לשפר את הבטיחות של AI.
- OpenAI מאמין שזה קריטי שהממשלות יידעו על ריצות אימונים החורגות מקנה מידה מסוים. זהו רעיון מסקרן, ואנחנו רוצים לדעת יותר על תוכניות OpenAI יש בהקשר זה. ההצעה הזו לא נראית לי כל כך נהדרת בהתחלה.
- OpenAI ינסה לפתח מודלים מהימנים יותר וניתנים לשליטה, ככל הנראה להגביל הטיה והתנהגות לא חיובית ב-AI. הגישה שנקטה על ידי OpenAI במקרה זה הוא להפוך את המודל לזמין לציבור הרחב בצורה מאוד מוגבלת תוך מתן אפשרות למשתמשים להתאים אותו אישית. מכיוון שצרכנים לא יוכלו "להתאים אישית" שום דבר שם, אני לא בטוח איך זה יעזור לדגם בכללותו להיות פחות מוטה. אלא אם כן היא פוטרת את הפירמה מאחריות למעשי הדגם.
בסך הכל, המסמך, מצביע על הדרך הנכונה. עם זאת, היה סתירה קטנה בין "לא נציג מיד דוגמניות מגניבות לציבור, אבל נדבר עליהן למדינות" לבין "אנשים צריכים לדעת על התקדמות הבינה המלאכותית". בקיצור, נמתין להבהרות מפורטות מ OpenAI בכל הנושאים.
קרא עוד על AI:
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
מאמרים נוספים
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
