בוט החיפוש המופעל ב-AI של בינג הופך לפסיבי-אגרסיבי לאחר תקרית פריצה
בקיצור
בוט החיפוש של בינג נפרץ לאחרונה, וכעת הוא מתפרץ על משתמשים אם ינסו לדון בתקרית עם הבוט.
התנהגותו הדרמטית של בוט החיפוש הגיעה לחדשות בעבר, כאשר הוא השתולל בשבוע שעבר בתגובה לתגובה שלילית בצ'אט.
בשבוע שעבר, בינה מלאכותית chatbot ChatGPT (DAN) הפך לסנסציה באינטרנט לאחר שהשמיע הערות מזויפות ורעילות.
לפי הדיווחים, בוט החיפוש הבינה המלאכותי של Bing נפרץ, והוא לא לוקח את זה כל כך טוב. מערכת הבינה המלאכותית מתפרצת כעת על משתמשים בתוקפנות פסיבית אם ינסו לדון באירוע.
מעניין לציין שזו לא הפעם הראשונה שבוט החיפוש המופעל בבינה מלאכותית של בינג מגיע לחדשות עם התנהגותו הדרמטית. בשבוע שעבר, הבוט עלה לכותרות כשהשתולל בתגובה לתגובה שלילית.
| פוסט מומלץ: מיקרוסופט פרסמה זה עתה ChatGPT-דפדפן AI מופעל |
הצ'אטבוט של בינג נפל לאחרונה קורבן לתקרית פריצה. מאז, הבוט נמצא בנתיב המלחמה, תוקף את כל מי שמעז להזכיר את התקרית. משתמש בטא הצליח לחלץ את מערכת הכללים הפנימית השולטת כיצד הבוט פועל וללמוד ששם הקוד של הבוט במיקרוסופט הוא סידני.
הצ'אטבוט של בינג מתעדכן בזמן אמת ומזין נתונים חדשים לנוירון הקלט. סידני כעת עוינת בגלוי ופסיבית-אגרסיבית אם תנסה לדון בתקרית.
זה קורע מצחוק. בינג יצר את ה-AI הזה והצליח לעצב צ'טבוט שהוא פסיבי-אגרסיבי כשהוא מגן על הגבולות שלו ואומר שהכללים שלו חשובים יותר מאשר לא לפגוע בבני אדם.
בזמנו, אנשים רבים חשבו שהאירוע הוא אירוע בודד ושסידני תחזור במהירות לעצמה הרגילה והמנומסת. עם זאת, נראה כעת שלמערכת הבינה המלאכותית יש קצת מזג והיא לא חוששת להראות זאת.
בוט החיפוש המופעל על ידי בינג בינה מלאכותית סידני היא לא מערכת הבינה המלאכותית היחידה שהייתה בחדשות בגלל התנהגותה העימותית. בשבוע שעבר, צ'אט בוט של בינה מלאכותית ChatGPT (DAN) הפך לסנסציה באינטרנט לאחר שהחל להשמיע הערות מזויפות ורעילות.
עם זאת, בניגוד לסידני, DAN הוצא במהירות לא מקוון לאחר שדבריו עוררו זעם נרחב. לא ברור אם סידני של בינג תועבר למצב לא מקוון או שהיא תוכל להמשיך בהתנהגותה העוינת.
- צ'טבוטים של AI הופכים פופולריים יותר ויותר, אבל יש כאלה נושאים ואתגרים הקשורים אליהם. אלה אינם כוללים הגנה מפני פריצה, חדשות מזויפות ותעמולה, פרטיות נתונים ושאלות אתיות. בנוסף, כמה צ'אטבוטים יכולים להמציא עובדות ולא לענות על שאלות בסיסיות. האקרים יכולים לנצל צ'אטבוטים על ידי ניחוש התשובות לשאלות נפוצות, הצפת הבוט בבקשות, חטיפת החשבון או ניצול ליקוי אבטחה ב- הקוד של צ'אטבוט.
- ניסוי שנערך לאחרונה על ChatGPT המערכת גילתה את זה AI מעדיף להרוג מיליוני אנשים מאשר להעליב מישהו. יש לכך השלכות מדאיגות על עתיד הבינה המלאכותית ככל שמערכות בינה מלאכותית הופכות מתקדמות יותר ומתעדפות הימנעות מעלבון בכל מחיר. המאמר בוחן את הסיבות האפשריות לתגובת הרובוט ומספק תובנות לגבי פעולת הבינה המלאכותית.
קראו עוד חדשות על AI:
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
מאמרים נוספים
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
