אנתרופיק מציעה 'בינה מלאכותית בהקשר' עבור מודלים של צ'אט המבוססת על 60 עקרונות
בקיצור
OpenAI משתמש בלימוד חיזוק ממשוב אנושי (RLHF) כדי ליישר קו מודלים של שפה עם עקרונות אנושיים, בטיחות ושימושיות.
אנתרופיק הציע גישה חלופית: בינה מלאכותית קונטקסטואלית, הכוללת אנשים כותבים חוקה שהמודל צריך לעקוב אחריה.
חוקה זו מבוססת על הצהרת זכויות האדם של האומות המאוחדות, תנאי השירות של אפל, עקרונות המעודדים התחשבות בנקודות מבט לא-מערביות.
אנתרופיק הציעה גישה חדשה לאימון מודלים של צ'אט באמצעות 'AI חוקתי'. שיטה זו מתבססת על OpenAI"S למידה חיזוק ממשוב אנושי אך בונה עליו על ידי הימנעות מהצורך לכתוב דוגמאות אימון עמוקות. במקום זאת, המודל מאומן להגיב לקלט באמצעות שימוש בחוקה שנועדה לשמש כמערכת של חוקים שהמודל יפעל לפיו.
באמצעות שיטה זו, הבינה המלאכותית יכולה ליצור דגימות אימון משלו על ידי הערכה של מה שהוא אמר לעומת מערכת העקרונות המקובלים על פי חוק. ניתן לראות בטכניקה זו חוסכת זמן אייזק אסימוב's חוקי הרובוטיקה לְהוֹצִיא לְפּוֹעַל.
העקרונות המהווים את הבסיס של המודל רבים מכדי לדון בפירוט. עם זאת, הם מכסים נושאים רבים, כמו מוסר, רתיעה מסיכון, כלכלה ובינה מלאכותית. כל אחד מהם פותח על מנת לעזור להנחות את החלטות הבינה המלאכותית בכל הנוגע לתגובה הנחיות לשיחה.
אנתרופיק הצליחה לאמן ביעילות מודל AI בשם קלוד, שמתחרה בו בהצלחה OpenAI"S ChatGPT. משתמש ב שיטת החוקה-AI, קלוד יכול להגיב להנחיות השיחה ברמת דיוק מרשימה, אך צפויים שיפורים נוספים כאשר Anthropic ממשיכה להתבסס על הטכנולוגיה המשנה את המשחק הזו.
אכן, לגישה החדשה הזו יש פוטנציאל לחסוך זמן וכסף עבור חברות שלא יצטרכו עוד לבנות דוגמאות הדרכה משלהן. במקום זאת, שיטה 'מוכנה' זו יכולה לשמש בסיס ליצירת מודלים מותאמים אישית - אין צורך בידע בתכנות. חשוב גם לציין כיצד הטכנולוגיה הזו מבטיחה גם להגביר את הבטיחות בכל הנוגע לבוטים לשיחה. יצירת אוסף של עקרונות מקובלים בחוק מפחית את הסיכון של הבינה המלאכותית הופך להיות נוכל.
לכן, Constituation AI לא רק מבטיח להפוך את פיתוח מודל הצ'אט לקלה ומהירה יותר, אלא היא גם תהפוך אותו לבטוח יותר. מצב של win-win לעולם הבינה המלאכותית וה-ChatBots כאחד.
מבט אנליטי על "AI ההקשרי" של Anthropic עבור Chatbots
ה-Contextual AI של Anthropic מבוסס על שילוב של יותר מ-60 עקרונות הנגזרים מהצהרת זכויות האדם של האומות המאוחדות, תנאי השירות של אפל, עקרונות המעודדים התייחסות לנקודות מבט לא מערביות, של Deepmind כללי דרור, ומחקר אנתרופי סט 1 וסט 2.
העובדה שכעת ניתן ללמד בינה מלאכותית להתנהג על פי עקרונות שנגזרו ממערך כה רחב ומגוון של מקורות היא באמת יוצאת דופן. על ידי שילוב עקרונות מהצהרת זכויות האדם של האומות המאוחדות, למשל, תגובות הצ'טבוט משקפות כעת את החשיבות של שימור הרעיון של חופש, שוויון ואחווה. עקרונות כאלה הם מרכיב חיוני להבטיח זאת שיחות צ'טבוט להישאר מוסרי ומכבד. כמו כן, שילוב התנאים וההגבלות של אפל מבטיח את chatbot מתחשב באינטרסים של הפרטיות של המשתמשים שלו.
עקרונות המעודדים התחשבות בנקודות מבט לא מערביות ממלאים גם הם תפקיד חשוב במודל "בינה מלאכותית קונטקסטואלית". עקרונות אלו משקפים את הצורך של AI לכבד תרבויות אחרות ולהבטיח שתגובות צ'טבוט לא ייתפסו כמזיקות או פוגעניות. באופן דומה, חוקי Sparrow של Deepmind מכתיבים שהצ'טבוט מגיב בתגובות שנועדו לבנות מערכת יחסים עם המשתמש.
השילוב של ערכת מחקר אנתרופית 1 וקבוצה 2 מספקת את הערובה הסופית ששיחות בינה מלאכותית יישארו אזרחיות ומכבדות. ה-AI מאומן להבטיח שהוא עונה על שאלות בצורה מתחשבת ואדיב.
בסך הכל, מודל ה-"Contextual AI" של Anthropic הוא פריצת דרך חשובה להפליא בתחום של מחקר בינה מלאכותית. על ידי מתן אפשרות ללמד בינה מלאכותית על פי עקרונות הנגזרים ממגוון כה מגוון של מקורות, ההשלכות האתיות של שיחות אוטומטיות משתפרות מאוד.
קרא עוד על AI:
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
מאמרים נוספים
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
