GPT-4 יורש עובדות "הזויות" ושגיאות הנמקה מקודם GPT מודלים
בקיצור
OpenAI אומר GPT-4 יש מגבלות דומות כמו קודם GPT מודלים.
GPT-4 עדיין הוזה עובדות ועושה טעויות נימוקים.
עם זאת, GPT-4 ציונים גבוהים ב-40% מ OpenAIהאחרונה GPT-3.5 על הערכות עובדות יריבות פנימיות של החברה.
OpenAI הזהירה את המשתמשים שמודל השפה האחרון שלה, GPT-4, עדיין לא אמין לחלוטין ויכול "להזות" עובדות ולעשות טעויות נימוקים. החברה קוראת למשתמשים לנקוט משנה זהירות בעת שימוש בפלטים של מודל שפה, במיוחד ב"הקשרים בעלי סיכון גבוה".
עם זאת, החדשות הטובות הן GPT-4 מפחית משמעותית הזיות ביחס לדגמים קודמים. OpenAI טוען ש GPT-4 ציון גבוה ב-40% מהאחרון GPT-3.5 על הערכות עובדות יריבות פנימיות.
"התקדמנו באמות מידה חיצוניות כמו TruthfulQA, שבודקת את יכולתו של המודל להפריד בין עובדות לבין קבוצה של הצהרות שגויות שנבחרו באופן יריב. שאלות אלו משולבות עם תשובות שגויות עובדתיות שמושכות סטטיסטית." OpenAI כתב בא בלוג.
למרות השיפור הזה, המודל עדיין חסר ידע על אירועים שהתרחשו לאחר ספטמבר 2021 ולפעמים עושה טעויות נימוק פשוטות, בדיוק כמו שעושים מודלים קודמים. בנוסף, זה יכול להיות פתי יתר על המידה בקבלת הצהרות שגויות ברורות ממשתמשים ולהיכשל בבעיות קשות, כגון הכנסת פרצות אבטחה לקוד שלה. הוא גם לא בודק את המידע שהוא מספק.
כמו קודמיו, GPT-4 יכול ליצור עצות מזיקות, קוד באגי או מידע לא מדויק. עם זאת, היכולות הנוספות של הדגם מובילות למשטחי סיכון חדשים שיש להבין. כדי להעריך את היקף הסיכונים הללו, מעל 50 מומחים מתחומים שונים, כולל סיכוני יישור בינה מלאכותית, אבטחת סייבר, סיכונים ביולוגיים, אמון ובטיחות ואבטחה בינלאומית, היו מעורבים כדי לבדוק את המודל באופן יריב. המשוב והנתונים שלהם שימשו לאחר מכן לשיפור המודל, כגון איסוף נתונים נוספים לשיפור GPT-4היכולת של לסרב לבקשות כיצד לסנתז כימיקלים מסוכנים.
אחת הדרכים העיקריות OpenAI הפחתת תפוקות מזיקות היא על ידי שילוב אות תגמול בטיחותי נוסף במהלך אימון RLHF (למידת חיזוק ממשוב אנושי). האות מאמן את הדגם לסרב לבקשות לתוכן מזיק, כמו defiלפי הנחיות השימוש של הדגם. התגמול ניתן על ידי א GPT-4 מסווג זריקת אפס, השופט את גבולות הבטיחות וסגנון ההשלמה על פי הנחיות הקשורות לבטיחות.
OpenAI כמו כן, הוא הפחית את נטיית המודל להגיב לבקשות לתוכן אסור ב-82% לעומת GPT-3.5, ו- GPT-4 נענה לבקשות רגישות כמו ייעוץ רפואי ופגיעה עצמית בהתאם למדיניות החברה בתדירות של 29% יותר.
בעוד OpenAIההתערבויות של החברה הגבירו את הקושי לעורר התנהגות רעה GPT-4, זה עדיין אפשרי, ועדיין יש פריצות לכלא שיכולות ליצור תוכן שמפר את הנחיות השימוש.
"ככל שמערכות בינה מלאכותית הופכות נפוצות יותר, השגת דרגות אמינות גבוהות בהתערבויות אלו תהפוך יותר ויותר קריטית. לעת עתה, חיוני להשלים את המגבלות הללו עם טכניקות בטיחות בזמן הפריסה כמו מעקב אחר התעללות", הוסיפה החברה.
OpenAI משתפת פעולה עם חוקרים חיצוניים כדי להבין ולהעריך טוב יותר את ההשפעות הפוטנציאליות של GPT-4 והדגמים היורשים שלה. הצוות גם מפתח הערכות ליכולות מסוכנות שעלולות להופיע במערכות AI עתידיות. ככל שהם ממשיכים ללמוד את הפוטנציאל החברתי ו השפעות כלכליות of GPT-4 ומערכות AI אחרות, OpenAI ישתפו את הציבור בממצאים ובתובנות שלהם בבוא העת.
קרא עוד:
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
סינדי היא עיתונאית ב Metaverse Post, המכסה נושאים הקשורים ל web3, NFT, metaverse ו-AI, עם התמקדות בראיונות עם Web3 שחקני התעשייה. היא דיברה עם יותר מ-30 מנהלים ברמת C ומספרת, והביאה את התובנות החשובות שלהם לקוראים. במקור מסינגפור, סינדי מבוססת כעת בטביליסי, ג'ורג'יה. היא בעלת תואר ראשון בלימודי תקשורת ומדיה מאוניברסיטת דרום אוסטרליה ובעלת ניסיון של עשור בעיתונות ובכתיבה. צור איתה קשר דרך [מוגן בדוא"ל] עם הצעות לעיתונות, הודעות והזדמנויות לראיונות.
מאמרים נוספים
סינדי היא עיתונאית ב Metaverse Post, המכסה נושאים הקשורים ל web3, NFT, metaverse ו-AI, עם התמקדות בראיונות עם Web3 שחקני התעשייה. היא דיברה עם יותר מ-30 מנהלים ברמת C ומספרת, והביאה את התובנות החשובות שלהם לקוראים. במקור מסינגפור, סינדי מבוססת כעת בטביליסי, ג'ורג'יה. היא בעלת תואר ראשון בלימודי תקשורת ומדיה מאוניברסיטת דרום אוסטרליה ובעלת ניסיון של עשור בעיתונות ובכתיבה. צור איתה קשר דרך [מוגן בדוא"ל] עם הצעות לעיתונות, הודעות והזדמנויות לראיונות.
