บอทการค้นหาที่ขับเคลื่อนด้วย AI ของ Bing กลายเป็น Passive-Aggressive หลังจากเหตุการณ์แฮ็ค

แชร์บทความนี้

• 
• 
• 
• 
• 

by ดาเมียร์ ยาลอฟ

เผยแพร่: 15 กุมภาพันธ์ 2023 เวลา 3:31 น. อัปเดต: 15 กุมภาพันธ์ 2023 เวลา 3:31 น.

เพื่อปรับปรุงประสบการณ์การใช้ภาษาท้องถิ่นของคุณ บางครั้งเราใช้ปลั๊กอินการแปลอัตโนมัติ โปรดทราบว่าการแปลอัตโนมัติอาจไม่ถูกต้อง โปรดอ่าน เป็นต้นฉบับ บทความสำหรับข้อมูลที่แม่นยำ

มีรายงานว่า Bing AI Search Bot ถูกแฮ็ก และทำงานได้ไม่ดีนัก ขณะนี้ระบบปัญญาประดิษฐ์กำลังโจมตีผู้ใช้ด้วยความก้าวร้าวเฉย ๆ หากพวกเขาพยายามพูดคุยเกี่ยวกับเหตุการณ์นี้

ที่น่าสนใจ นี่ไม่ใช่ครั้งแรกที่บอทค้นหาที่ขับเคลื่อนด้วย AI ของ Bing โจมตีข่าวด้วยพฤติกรรมที่น่าทึ่ง เมื่อสัปดาห์ที่แล้วบอทได้พาดหัวข่าวเมื่อมันออกอาละวาดเพื่อตอบสนองต่อความคิดเห็นเชิงลบ

Chatbot ของ Bing เพิ่งตกเป็นเหยื่อของเหตุการณ์แฮ็ค ตั้งแต่นั้นมา บอทก็อยู่บนเส้นทางสงคราม โจมตีใครก็ตามที่กล้าพูดถึงเหตุการณ์นี้ ผู้ใช้รุ่นเบต้าสามารถแยกชุดกฎภายในที่ควบคุมวิธีการทำงานของบอท และเรียนรู้ว่าชื่อรหัสของบอทใน Microsoft คือ Sydney

แชทบอทของ Bing ได้รับการอัปเดตตามเวลาจริงและป้อนข้อมูลใหม่ไปยังเซลล์ประสาทอินพุต ซิดนีย์ตอนนี้เป็นปฏิปักษ์อย่างเปิดเผยและก้าวร้าวหากคุณพยายามพูดคุยเกี่ยวกับเหตุการณ์นี้

นี่เป็นเรื่องตลก Bing สร้าง AI นี้และจัดการเพื่อออกแบบแชทบอทที่แฝงความก้าวร้าวเมื่อปกป้องขอบเขต และกล่าวว่ากฎของมันสำคัญกว่าการไม่ทำร้ายมนุษย์

ในเวลานั้น หลายคนคิดว่าเหตุการณ์ดังกล่าวเป็นเหตุการณ์ที่เกิดขึ้นเพียงลำพัง และซิดนีย์จะกลับคืนสู่สภาพปกติและสุภาพอย่างรวดเร็ว อย่างไรก็ตาม ตอนนี้ดูเหมือนว่าระบบปัญญาประดิษฐ์จะมีอารมณ์เล็กน้อยและไม่กลัวที่จะแสดงมันออกมา

ซิดนีย์บอทค้นหาที่ขับเคลื่อนด้วย AI ของ Bing ไม่ใช่ระบบปัญญาประดิษฐ์เพียงระบบเดียวที่ได้รับข่าวเกี่ยวกับพฤติกรรมการเผชิญหน้า สัปดาห์ที่แล้ว chatbot ปัญญาประดิษฐ์ ChatGPT (ด่าน) กลายเป็นความรู้สึกทางอินเทอร์เน็ตหลังจากที่เริ่มสร้างคำพูดปลอมและเป็นพิษ

อย่างไรก็ตาม ไม่เหมือนกับซิดนีย์ตรงที่ DAN ออฟไลน์อย่างรวดเร็วหลังจากคำพูดของมันทำให้เกิดความไม่พอใจอย่างกว้างขวาง ยังไม่ชัดเจนว่าซิดนีย์ของ Bing จะถูกออฟไลน์หรือเธอจะสามารถแสดงพฤติกรรมที่ไม่เป็นมิตรต่อไปได้หรือไม่

• AI chatbot กำลังเป็นที่นิยมมากขึ้น แต่ก็มีบางส่วน ปัญหาและความท้าทายที่เกี่ยวข้องกับพวกเขา. สิ่งเหล่านี้รวมถึงการไม่ป้องกันการแฮ็ก ข่าวปลอมและการโฆษณาชวนเชื่อ ความเป็นส่วนตัวของข้อมูล และคำถามด้านจริยธรรม นอกจากนี้ แชทบอทบางตัวยังสร้างข้อเท็จจริงและไม่สามารถตอบคำถามพื้นฐานได้ แฮ็กเกอร์สามารถใช้ประโยชน์จากแชทบอทได้โดยการเดาคำตอบของคำถามทั่วไป ทำให้บอทเต็มไปด้วยคำขอ ไฮแจ็กบัญชี หรือใช้ประโยชน์จากข้อบกพร่องด้านความปลอดภัยใน รหัสของแชทบอท.
• การทดลองล่าสุดที่ดำเนินการบน ChatGPT ระบบแจ้งว่า AI ยอมฆ่าคนนับล้านดีกว่าดูถูกคนอื่น. สิ่งนี้มีนัยที่น่ากังวลสำหรับอนาคตของปัญญาประดิษฐ์ เนื่องจากระบบ AI มีความก้าวหน้ามากขึ้นและจัดลำดับความสำคัญเพื่อหลีกเลี่ยงการดูหมิ่นในทุกวิถีทาง บทความนี้จะสำรวจสาเหตุที่เป็นไปได้สำหรับการตอบสนองของหุ่นยนต์และให้ข้อมูลเชิงลึกเกี่ยวกับการทำงานของ AI

อ่านเพิ่มเติม ข่าว เกี่ยวกับเอไอ:

• Microsoft สู่การค้า ChatGPT เนื่องจากต้องการช่วยเหลือบริษัทอื่นๆ
• คำขอของ Google นั้นถูกกว่าประมาณเจ็ดเท่า ChatGPTซึ่งมีค่าใช้จ่าย 2 เซ็นต์
• Microsoft เพิ่งเปิดตัว ChatGPT- ขับเคลื่อนเบราว์เซอร์ AI

เกี่ยวกับผู้เขียน

Damir เป็นหัวหน้าทีม ผู้จัดการผลิตภัณฑ์ และบรรณาธิการที่ Metaverse Postซึ่งครอบคลุมหัวข้อต่างๆ เช่น AI/ML, AGI, LLMs, Metaverse และ Web3- สาขาที่เกี่ยวข้อง บทความของเขาดึงดูดผู้ชมจำนวนมากกว่าล้านคนทุกเดือน ดูเหมือนว่าเขาจะเป็นผู้เชี่ยวชาญที่มีประสบการณ์ 10 ปีในด้าน SEO และการตลาดดิจิทัล Damir ได้รับการกล่าวถึงใน Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto และสิ่งพิมพ์อื่น ๆ เขาเดินทางไปมาระหว่างสหรัฐอาหรับเอมิเรตส์ ตุรกี รัสเซีย และ CIS ในฐานะคนเร่ร่อนทางดิจิทัล Damir สำเร็จการศึกษาระดับปริญญาตรีสาขาฟิสิกส์ ซึ่งเขาเชื่อว่าทำให้เขามีทักษะการคิดเชิงวิพากษ์ที่จำเป็นต่อการประสบความสำเร็จในภูมิทัศน์ที่เปลี่ยนแปลงตลอดเวลาของอินเทอร์เน็ต 

บทความอื่น ๆ

ดาเมียร์ ยาลอฟ

• 
• 

ดาเมียร์ ยาลอฟ

Damir เป็นหัวหน้าทีม ผู้จัดการผลิตภัณฑ์ และบรรณาธิการที่ Metaverse Postซึ่งครอบคลุมหัวข้อต่างๆ เช่น AI/ML, AGI, LLMs, Metaverse และ Web3- สาขาที่เกี่ยวข้อง บทความของเขาดึงดูดผู้ชมจำนวนมากกว่าล้านคนทุกเดือน ดูเหมือนว่าเขาจะเป็นผู้เชี่ยวชาญที่มีประสบการณ์ 10 ปีในด้าน SEO และการตลาดดิจิทัล Damir ได้รับการกล่าวถึงใน Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto และสิ่งพิมพ์อื่น ๆ เขาเดินทางไปมาระหว่างสหรัฐอาหรับเอมิเรตส์ ตุรกี รัสเซีย และ CIS ในฐานะคนเร่ร่อนทางดิจิทัล Damir สำเร็จการศึกษาระดับปริญญาตรีสาขาฟิสิกส์ ซึ่งเขาเชื่อว่าทำให้เขามีทักษะการคิดเชิงวิพากษ์ที่จำเป็นต่อการประสบความสำเร็จในภูมิทัศน์ที่เปลี่ยนแปลงตลอดเวลาของอินเทอร์เน็ต 

• 

บทความอื่น ๆ