OpenAI חושפת את הגישה האחרונה שלה להבטחת בטיחות בינה מלאכותית
בקיצור
OpenAI פרסמה פוסט בבלוג המתאר את הגישה המשופרת שלה לבטיחות בעקבות חששות אחרונים לגבי בטיחות ופרטיות וחקירות.
החברה מתחייבת לבצע בדיקות קפדניות, לערב מומחים חיצוניים לקבלת משוב ולעבוד עם ממשלות כדי לקבוע את הטוב ביותר גישה לתקנות AI.
לאחר התמודדות עם חששות לגבי בטיחות ופרטיות ומעקב חקירות אחרונות בחלק ממדינות אירופה, OpenAI יש ל שוחרר פוסט בבלוג המתאר את הגישה המשופרת של החברה לבטיחות.
OpenAI מתחייב לערוך בדיקות קפדניות, לערב מומחים חיצוניים למשוב לפני שחרור כל מערכת חדשה ולעבוד עם ממשלות כדי לקבוע את הגישה הטובה ביותר לתקנות AI.
בעבר, החברה בילתה למעלה מחצי שנה בעבודה על הבטיחות וההתאמת הדגם האחרון שלה, GPT-4, לפני שחרורו לציבור. כדי להבטיח את הבטיחות של דגם השפה החדש ביותר שלה, GPT-4, OpenAI נשכר צוות של למעלה מ-50 מומחים: מומחי בטיחות, אתיקה ומדיניות בינה מלאכותית, כולל חוקרים ומהנדסים.
"באופן מכריע, אנחנו מאמינים שהחברה חייבת לקבל זמן להתעדכן ולהסתגל לבינה מלאכותית יותר ויותר, ושכל מי שמושפע מהטכנולוגיה הזו צריך להיות בעל השפעה משמעותית על האופן שבו AI מתפתח עוד יותר."
OpenAI כתבתי.
OpenAIהתמקדות בבטיחות הילדים ובפרטיותם
איטליה אסורה ChatGPT, מצטט OpenAIכישלון של אימות גיל המשתמשים שלה, למרות היותו מיועד לאנשים בני 13 ומעלה, כאחת הסיבות. מוקד קריטי במאמצי הבטיחות של החברה עבר להגנה על ילדים על ידי יישום אפשרויות אימות גיל, אשר OpenAI כעת בוחן, במיוחד מכיוון שכלי הבינה המלאכותית מיועדים לאנשים בני 18 ומעלה או 13 ומעלה עם אישור הורים.
החברה אוסרת בהחלט על יצירת תוכן שנאה, מטריד, אלים או למבוגרים בלבד, וכן GPT-4 כבר יש סבירות נמוכה ב-82% להגיב לבקשות לתוכן אסור בהשוואה ל GPT-3. 5.
OpenAI הקימה מערכת חזקה למעקב אחר התעללות ומקווה לעשות GPT-4 זמין ליותר אנשים לאורך זמן. החברה עובדת עם מפתחים בנושאי בטיחות מותאמים אישית, כמו האקדמיה Khan ללא מטרות רווח, ועובדת על תכונות שיאפשרו תקנים מחמירים יותר לתפוקות הדגמים.
שיפור הפרטיות הוא היבט בטיחותי נוסף OpenAI מתמקדת, במיוחד לאחר האחרונה הפרות נתונים. דגמי השפה הגדולים של חברת AI מאומנים על כמות עצומה של טקסט הכוללת תוכן זמין לציבור, תוכן מורשה ותוכן שנוצר על ידי סוקרים אנושיים; הוא משתמש בנתונים כדי להפוך מודלים של AI למועילים יותר לאנשים.
OpenAI נוקטת בצעדים להגנת הפרטיות של אנשים על ידי הסרת מידע אישי מנתוני ההדרכה שלה, כוונון עדין של מודלים לדחיית בקשות למידע אישי ומחיקת מידע אישי מהמערכות שלה לפי בקשה. זה מקטין את הסיכוי שמודלים של AI ייצרו תגובות הכוללות מידע אישי.
OpenAIהגישה של התמודדות עם דאגות בטיחות בינה מלאכותית היא לחקור אמצעים יעילים וטכניקות יישור ובדקו אותן נגד התעללות בעולם האמיתי. היא גם מתחייבת להיות זהירה יותר ויותר ביצירת ופריסה של דגמים בעלי יכולת גבוהה יותר ולשפר את אמצעי הזהירות. ממשל אפקטיבי של פיתוח ופריסה של בינה מלאכותית חיוני כדי להבטיח בטיחות, מה שדורש חדשנות טכנית ומוסדית.
קרא עוד:
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
אגנה היא עיתונאית שמסקרת את המגמות וההתפתחויות האחרונות ב-metaverse, AI, ו Web3 תעשיות עבור Metaverse Post. התשוקה שלה לספר סיפורים הובילה אותה לערוך ראיונות רבים עם מומחים בתחומים אלה, כשהם מחפשים תמיד לחשוף סיפורים מרגשים ומרתקים. אגנה היא בעלת תואר ראשון בספרות ובעלת רקע נרחב בכתיבה על מגוון רחב של נושאים לרבות נסיעות, אמנות ותרבות. היא גם התנדבה כעורכת בארגון לזכויות בעלי חיים, שם סייעה להעלות את המודעות לנושאים של רווחת בעלי חיים. צור איתה קשר [מוגן בדוא"ל].
מאמרים נוספים
אגנה היא עיתונאית שמסקרת את המגמות וההתפתחויות האחרונות ב-metaverse, AI, ו Web3 תעשיות עבור Metaverse Post. התשוקה שלה לספר סיפורים הובילה אותה לערוך ראיונות רבים עם מומחים בתחומים אלה, כשהם מחפשים תמיד לחשוף סיפורים מרגשים ומרתקים. אגנה היא בעלת תואר ראשון בספרות ובעלת רקע נרחב בכתיבה על מגוון רחב של נושאים לרבות נסיעות, אמנות ותרבות. היא גם התנדבה כעורכת בארגון לזכויות בעלי חיים, שם סייעה להעלות את המודעות לנושאים של רווחת בעלי חיים. צור איתה קשר [מוגן בדוא"ל].
