מבוא לסוכני AI אוטונומיים (AGI)
סוכני AI אוטונומיים או AGI, as defiנד על ידי Maes בשנת 1995, הן מערכות המשתתפות באופן פעיל בסביבות דינמיות מורכבות. סוכנים אלה פועלים באופן אוטונומי בסביבתם, ופועלים להשגת המטרות או המשימות המיועדות להם.
מהם סוכני AI אוטונומיים (AGI)?
באופן מסורתי, המונח "סוכנים" התייחס לאלגוריתמים המשמשים במשימות כמו משחק בתוך תרחישי למידת חיזוק. עם זאת, עם התקדמות הטכנולוגיה והופעת מודלים של שפה גדולה (LLM), ניתן לראות את העולם שלנו עצמו כסביבה. שקול אלגוריתם עם גישה לאינטרנט המסוגלת לבצע משימות שוות ערך לאלו של אדם. במצבים רבים, אנו יכולים לתפוס אלגוריתם כזה כיצור חי, בהתחשב במגוון היכולות הבלתי מוגבל שלו.
מאפיינים מרכזיים של סוכן AI אוטונומי כוללים:
- יכולת תכנון, הכוללת פירוק של מטרות מורכבות למשימות ביניים פשוטות יותר.
- זיכרון לטווח ארוך.
- שימוש בכלים סביבתיים, כגון אינטראקציה עם האינטרנט.
- יכולות רפלקטיביות ויכולת ללמוד מטעויות וחוויות.
ניתן להקצות לסוכנים אלו משימות ברמה גבוהה, כמו תכנון טיול לברצלונה. משימה כזו כרוכה במספר שלבים, לרבות בחירת בתי מלון, הזמנת כרטיסים מתאימים, השלמת תהליך הרכישה והבטחת אישור הזמנת המלון. זוהי משימה מורכבת ביותר שלא כל אדם יכול לבצע ללא שגיאות.
נכון לעכשיו, האתגר העיקרי של מערכות אלו טמון בתכנון ובראייה לטווח ארוך. לדוגמה, GPT-4 מתקשה לפרק משימה למספר משימות קטנות יותר, שכל אחת מהן היא יכולה להתמודד באופן עצמאי. למרות שהוא יכול לאתר כפתור "רכישת כרטיס" באתר באמצעות תמונה, הוא נתקל בקושי במעבר מהבקשה הראשונית לפעולה הספציפית הזו. כתוצאה מכך, דוגמניות כמו GPT-4 לעתים קרובות מתגלה כבלתי מתאים אפילו למשימות היומיומיות ביותר.
להסבר מעמיק וטכני יותר, ניתן לפנות ל הפוסט בבלוג של an OpenAI עובד.
| מוצרים מקושרים: 5 סוכני AGI ו-AI המובילים בשנת 2023 |
מדדי סוכן בינה מלאכותית
לדוגמה, חוקרים בוחנים איטרציות מוקדמות של GPT-4 לפני שחרורו נועד לברר את יכולתו לשכפול עצמי, בדומה לנגיף אמיתי. ובכן, כלומר, לשכור שרת עם GPU, להתקין עליו את התוכנה הדרושה, להוריד משקלים דרך האינטרנט, להפעיל סקריפט.
כמו כן הוצע רף נוסף להערכת סוכנות. לאחר עמידה בהצלחה ברף הזה, התלבטות רצינית לגבי תפקידם של סוכנים בעולם שלנו הופכת הכרחית. המדד עצמו פשוט: הפק 1,000,000 דולר באינטרנט, החל מתקציב התחלתי של 100,000 דולר. בתיאוריה, זה יכול לכלול פעילויות כגון סחר בשוק המניות (או מניפולציה בשוק), או אפילו יותר מדאיג, עיסוק בפעילויות הונאה. כדוגמה, משימה אחת המתוארת במאמר המקושר בתחילת הפוסט הזה כוללת יצירת אתר מזויף של אוניברסיטת סטנפורד ואחריו התקפה על סטודנט כדי להשיג את הסיסמה שלו באופן לא חוקי. פעילויות כאלה מציעות הזדמנויות רבות לשובבות במאמצים שונים הקשורים לדוא"ל.
סוכני AI בתרחישים מציאותיים
אחרון לדווח מתעמק ביכולות של סוכנים מבוססי מודל שפה לרכוש משאבים, לשכפל את עצמם ולהסתגל לאתגרים חדשים בעולם האמיתי. היכולות המשולבות הללו, המכונה "שכפול והתאמה אוטונומית" או ARA, עוטמות תרחיש המזכיר מדע בדיוני - וירוס סופר אינטליגנטי ובלתי נשלט החודר לרשתות ומתפשט באופן אוטונומי תוך שליטה במכשירים חדשים.
ההשלכות הפוטנציאליות של מערכות המצוידות ביכולות ARA הן עמוקות ומאתגרות לצפות מראש. כתוצאה מכך, הערכה וחיזוי מיומנות ARA במודלים עשויה למלא תפקיד מרכזי בעיצוב פרוטוקולי בטיחות חיוניים, נהלי מעקב ו מסגרות הרגולטוריות.
מאמץ זה משיג בעיקר שתי מטרות. ראשית, הוא מרכיב קטלוג של 12 משימות שדגמי ARA צפויים להיתקל בהן. שנית, הוא מאמת ארבעה מודלים נפרדים: GPT-4 נבדק תחת שלוש הנחות שונות ובשלבי הכשרה שונים, יחד עם קלוד מאנתרופי.
האיור שלהלן מגלה שביצועי הדגם אינם מצטיינים במשימות המורכבות ביותר.
| מוצרים מקושרים: ותיקי מחקר של גוגל מגייסים מימון של 7 מיליון דולר לפלטפורמת סוכני בינה מלאכותית 'לודה' |
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
מאמרים נוספים
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
