OpenAI מעורר אזעקה לגבי מודיעין-על והפוטנציאל של AI להתעלות על היכולות האנושיות בעשור הבא
בקיצור
OpenAI מפרסם קריאה לרגולציה של מודיעין-על, המדגיש את הצורך בממשל לאור ההתקדמות המהירה של AI.
מערכות AI צפויות לעלות על המומחיות האנושית ו פרודוקטיביות ארגונית בתוך עשור, על פי OpenAI.
OpenAI מדגיש את החשיבות של פיקוח ציבורי ושליטה דמוקרטית עבור מערכות בינה מלאכותית חזקות.
OpenAI, היוצר של ChatGPT, עשה קריאה מעוררת מחשבה עבור ה תקנה של מודיעין-על, תוך הקבלה לתקנת האנרגיה הגרעינית. באחרונה בלוג, OpenAI הדגיש את ההשלכות הפוטנציאליות של ההתקדמות המהירה של AI והדגיש את הצורך הדחוף בממשל בנוף המתפתח הזה. החברה הצהירה כי מערכות בינה מלאכותית יעלו על המומחים והתאגידים הגדולים ביותר בפריון ובמיומנויות תוך עשר שנים.
"אנחנו חייבים לצמצם את הסיכונים של טכנולוגיית הבינה המלאכותית של היום, אבל מודיעין-על ידרוש טיפול ותיאום מיוחדים", סם אלטמן, גרג ברוקמן ואיליה סוצבר מ- OpenAI הדגיש.
מודיעין על מתאר ישות החורגת מהאינטליגנציה האנושית הכוללת או כמה היבטים ספציפיים של המודיעין. לדברי המחברים, לבינה-על בינה מלאכותית תהיה רמת כוח שאין שני לה, הכוללת היבטים חיוביים ושליליים כאחד.
ההתפתחות והסיכונים של מודיעין העל הבלתי נמנע
OpenAI זיהה שלושה רעיונות חשובים הממלאים תפקיד מרכזי בניווט הפיתוח המוצלח של מודיעין העל. אלה כוללים תיאום בין מאמצי פיתוח מובילים, הקמת רשות בינלאומית הדומה לסוכנות הבינלאומית לאנרגיה אטומית (IAEA), ופיתוח יכולות טכניות לבטיחות.
בעוד OpenAI מכירה בכך שמערכות AI מגיעות עם סיכונים, סיכונים אלה דומים לאלו הקשורים לטכנולוגיות אחרות הקשורות לאינטרנט. גם אלטמן, ברוקמן וסוצקבר מביעים ביטחון שהגישות הנוכחיות של החברה לניהול סיכונים אלו מתאימות. עם זאת, החשש העיקרי הוא ממערכות עתידיות שתהיה להן כוח חסר תקדים.
"לעומת זאת, למערכות שאנו מודאגים מהן תהיה כוח מעבר לכל טכנולוגיה שעדיין נוצרה, ועלינו להיזהר לא להפחית את המיקוד בהן על ידי יישום סטנדרטים דומים לטכנולוגיה הרחק מתחת לרף הזה", נכתב בפוסט בבלוג.
המחברים טוענים שמערכות AI חזקות זקוקות לפיקוח ציבורי ולשליטה דמוקרטית. הם גם מסבירים מדוע הם בונים את הטכנולוגיה הזו OpenAI: ליצור עולם טוב יותר ולהימנע מהסיכונים של עצירתו. בינה מלאכותית מסייעת בתחומים שונים, כולל חינוך, יצירתיות ופרודוקטיביות, כמו גם צמיחה כלכלית כללית.
OpenAI חושב שזה קשה ומסוכן להפסיק את מודיעין העל מליצור. למודיעין העל יש יתרונות לא מבוטלים, היא זולה מדי שנה, יותר אנשים עובדים על זה, וזה חלק מהדרך הטכנולוגית של החברה.
אילמן שז'ייב, techpreneur ב-AI והמייסד השותף של מעבדות פארקנה, שיתף כמה הערות בנוגע לחדשות. תחזיות מצביעות על כך שאם לא מנוהל כראוי, מודיעין-על עשוי להיות אחת ההמצאות ההרסניות ביותר של האדם בכל הזמנים. עם זאת, השיחות על פריסת הטכנולוגיה נותרו חלוקות, מכיוון שהיא טרם פותחה. דחיפה לעצירה בפיתוח המבוססת על הפחד מפני תחזיות עשויה לשלול מהאנושות את ההזדמנויות שהטכנולוגיה החדשה עשויה להציע.
"OpenAIגישת הממשל המבוזר של החברה יכולה לסייע בשמירה על הבטיחות הרחבה שלה. עם התקנות הנכונות, התוכנית יכולה להיסגר במקרה שזה יקרה מהווה איום. אם אמצעי ההגנה הללו יהיו במקום, אז מודיעין-על עשוי להיות חידוש ששווה לחקור", אמר Shazhaev.
על ידי דיון גלוי בדעותיה על מודיעין-על בינה מלאכותית וצעדים רגולטוריים מוצעים, OpenAI נראה שהוא מטפח דיונים מושכלים ומזמין נקודות מבט מגוונות.
סם אלטמן מאמין מאוד בזמינות AI נרחבת לציבור. מתוך הכרה בכך שאי אפשר לצפות את כל הבעיות מראש, הוא דוגל בטיפול בבעיות בשלב מוקדם ככל האפשר. עם זאת, אלטמן גם מדגישה את החשיבות של ביקורת עצמאית עבור מערכות כמו ChatGPT לפני השחרור. הוא גם מכיר באפשרות של יישום צעדים כגון הגבלת קצב יצירת המודלים החדשים או הקמת ועדה להעריך את הבטיחות של דגמי AI לפני שחרור השוק. יש לציין כי אלטמן צופה שכמות האינטליגנציה ביקום תוכפל כל 18 חודשים.
קרא עוד:
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
אגנה היא עיתונאית שמסקרת את המגמות וההתפתחויות האחרונות ב-metaverse, AI, ו Web3 תעשיות עבור Metaverse Post. התשוקה שלה לספר סיפורים הובילה אותה לערוך ראיונות רבים עם מומחים בתחומים אלה, כשהם מחפשים תמיד לחשוף סיפורים מרגשים ומרתקים. אגנה היא בעלת תואר ראשון בספרות ובעלת רקע נרחב בכתיבה על מגוון רחב של נושאים לרבות נסיעות, אמנות ותרבות. היא גם התנדבה כעורכת בארגון לזכויות בעלי חיים, שם סייעה להעלות את המודעות לנושאים של רווחת בעלי חיים. צור איתה קשר [מוגן בדוא"ל].
מאמרים נוספים
אגנה היא עיתונאית שמסקרת את המגמות וההתפתחויות האחרונות ב-metaverse, AI, ו Web3 תעשיות עבור Metaverse Post. התשוקה שלה לספר סיפורים הובילה אותה לערוך ראיונות רבים עם מומחים בתחומים אלה, כשהם מחפשים תמיד לחשוף סיפורים מרגשים ומרתקים. אגנה היא בעלת תואר ראשון בספרות ובעלת רקע נרחב בכתיבה על מגוון רחב של נושאים לרבות נסיעות, אמנות ותרבות. היא גם התנדבה כעורכת בארגון לזכויות בעלי חיים, שם סייעה להעלות את המודעות לנושאים של רווחת בעלי חיים. צור איתה קשר [מוגן בדוא"ל].
