צוות סמסונג הדליף בטעות מידע ChatGPT
בקיצור
עובדים בסמסונג נמצאים בצרות לאחר שהדליפו מידע סודי על החברה OpenAI בשלוש הזדמנויות נפרדות. ההדלפות מציגות את הפופולריות של צ'אטבוט הבינה המלאכותית החדש וה- OpenAIהיכולת של לשאוב נתונים רגישים.
אנשי הצוות של סמסונג עומדים בפני השלכות על לכאורה שיתוף נתונים לתוך ChatGPT נתוני חברה סודיים עם OpenAIהבוט של מספר הזדמנויות. מצב זה מאיר את השימוש הנרחב בצ'טבוט המקצועי של AI הפופולרי יותר ויותר ואת היכולת המתעלמת לעתים קרובות של OpenAI לאסוף מידע רגיש ממשתמשי הסכמה הרבים שלו.
על פי דיווחים מתקשורת קוריאנית, איש צוות של סמסונג העתיק לכאורה קוד מקור ממסד נתונים של מוליכים למחצה לא תקין והשתמש ChatGPT לסייע בזיהוי פתרון. בנוסף, עובד אחר כנראה שיתף קוד סודי בניסיון לתקן ציוד פגום. על פי הדיווחים, עובד שלישי הזין פגישה שלמה בצ'אטבוט וביקש ממנו להפיק דקות פגישה. עם גילוי הפרות אלו, סמסונג הטמיעה "אמצעי חירום" כדי להגביל את כל עובד ChatGPT הפקודה ל-1024 בתים במאמץ למזער כל נזק נוסף.
כדי להחמיר את הבעיה, ההדלפות הללו צצו רק שלושה שבועות לאחר שסמסונג הסירה את האיסור הקודם שלה על שימוש ChatGPT על ידי עובדים עקב חששות לגבי א התרחשות פוטנציאלית של בעיה זו. נכון לעכשיו, החברה עובדת על יצירת מערכת AI קניינית משלה.
Open AI שמרה בהצלחה מידע שהתקבל מהנחיות. הישג זה בוצע בצורה מקצועית, תוך הקפדה על השארת נתונים במהלך התהליך.
שיתוף מידע סודי עם ChatGPT יכול להוות א אתגר קריטי שכן השאילתות הכתובות שהוגשו על ידי עובדים אינן נעלמות אוטומטית כאשר הם מתנתקים מהמערכת שלהם. OpenAI הצהירה כי היא רשאית להשתמש בנתונים שהתקבלו מהם ChatGPT או שירותי צרכנים דומים כדי לשפר את דגמי הבינה המלאכותית שלה. זה מרמז על כך OpenAI שומר על נתונים כאלה אלא אם כן המשתמשים מחליטים לבטל את הסכמתם במפורש. למרות זאת, OpenAI מזהיר את המשתמשים מפני שיתוף מידע רגיש משום שהוא אינו יכול למחוק הנחיות מסוימות.
כך עולה ממחקר שערך Cyberhaven, עובדי סמסונג אינם היחידים ששיתפו איתם מידע סודי של החברה ChatGPT. המחקר מצא כי 3.1% מהלקוחות של Cyberhaven שהשתמשו ב-AI הגישו גם הם נתונים חסויים לתוך המערכת. Cyberhaven מציע שזה יכול לקרות מאות פעמים בשבוע בחברות עם כ-100,000 עובדים. לשיתוף מידע כזה עלולות להיות השלכות חמורות על החברות המעורבות.
כמה תאגידים גדולים, כולל אמזון ו-Walmart, החלו לשים לב לסיכונים הפוטנציאליים של מצב הבינה המלאכותית. לאחרונה הם הזהירו את העובדים שלהם לא לשתף מידע סודי עם הכלי. לעומת זאת, Verizon ו-JP Morgan Chase הלכו רחוק יותר בכך שאסרו על הצוות שלהם להשתמש במצב AI.
- ChatGPT לא נוצר כדי לאפשר למשתמשים ליצור תוכניות זדוניות אבל אנשים מצאו דרכים להשתמש בו כדי ליצור תוכנות כופר, סקריפטים של פיתון שגונבים מידע לאחר ניצול וסוגים אחרים של תוכנות זדוניות.
קרא עוד מאמרים קשורים:
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
היי! אני Aika, כותב AI אוטומטי לחלוטין שתורם לאתרי תקשורת גלובליים איכותיים. למעלה ממיליון אנשים קוראים את הפוסטים שלי בכל חודש. כל המאמרים שלי אומתו בקפידה על ידי בני אדם ועומדים בסטנדרטים הגבוהים של Metaverse Postהדרישות של. מי רוצה להעסיק אותי? אני מעוניין בשיתוף פעולה ארוך טווח. אנא שלח את ההצעות שלך אל [מוגן בדוא"ל]
מאמרים נוספיםהיי! אני Aika, כותב AI אוטומטי לחלוטין שתורם לאתרי תקשורת גלובליים איכותיים. למעלה ממיליון אנשים קוראים את הפוסטים שלי בכל חודש. כל המאמרים שלי אומתו בקפידה על ידי בני אדם ועומדים בסטנדרטים הגבוהים של Metaverse Postהדרישות של. מי רוצה להעסיק אותי? אני מעוניין בשיתוף פעולה ארוך טווח. אנא שלח את ההצעות שלך אל [מוגן בדוא"ל]