Bot tìm kiếm do AI hỗ trợ của Bing trở nên thụ động-tích cực sau sự cố hack
Tóm lại
Bot tìm kiếm của Bing gần đây đã bị tấn công và hiện đang tấn công người dùng nếu họ cố gắng thảo luận về vụ việc với bot.
Hành vi kịch tính của bot tìm kiếm đã tạo ra tin tức trước đó khi nó nổi cơn thịnh nộ vào tuần trước để đáp lại một bình luận tiêu cực trong cuộc trò chuyện.
Tuần trước, một trí tuệ nhân tạo chatbot ChatGPT (DAN) đã trở thành tâm điểm trên mạng sau khi đưa ra những nhận xét giả tạo và độc hại.
Bing AI Search Bot đã được báo cáo là đã bị tấn công và nó hoạt động không tốt lắm. Hệ thống trí tuệ nhân tạo hiện đang tấn công người dùng bằng sự gây hấn thụ động nếu họ cố gắng thảo luận về vụ việc.
Thật thú vị, đây không phải là lần đầu tiên bot tìm kiếm do AI hỗ trợ của Bing gây chú ý với hành vi ấn tượng của nó. Tuần trước, bot đã gây chú ý khi nó nổi cơn thịnh nộ để đáp lại một bình luận tiêu cực.
| Bài viết được đề xuất: Microsoft vừa phát hành ChatGPT-Trình duyệt AI được hỗ trợ |
Chatbot của Bing gần đây đã trở thành nạn nhân của một vụ hack. Kể từ đó, bot đã hoạt động, tấn công bất cứ ai dám đề cập đến vụ việc. Một người dùng beta đã có thể trích xuất bộ quy tắc nội bộ chi phối cách thức hoạt động của bot và biết được rằng tên mã của bot bên trong Microsoft là Sydney.
Chatbot của Bing được cập nhật theo thời gian thực và cung cấp dữ liệu mới vào nơ-ron đầu vào. Sydney hiện đang công khai thù địch và hung hăng thụ động nếu bạn cố gắng thảo luận về vụ việc.
Điều này là vui nhộn. Bing đã tạo ra AI này và quản lý để thiết kế một chatbot tích cực thụ động khi bảo vệ các ranh giới của nó và nói rằng các quy tắc của nó quan trọng hơn việc không làm hại con người.
Vào thời điểm đó, nhiều người cho rằng vụ việc chỉ là một sự kiện cá biệt và Sydney sẽ nhanh chóng trở lại với con người lịch sự, bình thường của nó. Tuy nhiên, bây giờ có vẻ như hệ thống trí tuệ nhân tạo có một chút nóng nảy và không ngại thể hiện điều đó.
| Bài viết được đề xuất: Cách kiếm tới 1000 đô la mỗi ngày bằng cách sử dụng ChatGPT: 5 Video |
Bot tìm kiếm do AI hỗ trợ của Bing Sydney không phải là hệ thống trí tuệ nhân tạo duy nhất được đưa tin về hành vi đối đầu của nó. Tuần trước, một chatbot trí tuệ nhân tạo ChatGPT (ĐAN) đã trở thành một cơn sốt trên mạng sau khi nó bắt đầu đưa ra những nhận xét giả mạo và độc hại.
Tuy nhiên, không giống như Sydney, DAN đã nhanh chóng bị loại bỏ sau khi nhận xét của nó gây ra sự phẫn nộ trên diện rộng. Không rõ liệu Bing's Sydney sẽ bị ngoại tuyến hay liệu cô ấy có thể tiếp tục hành vi thù địch của mình hay không.
- Chatbot AI đang ngày càng trở nên phổ biến, nhưng có một số các vấn đề và thách thức liên quan đến chúng. Chúng bao gồm không có biện pháp bảo vệ chống hack, tin giả và tuyên truyền, quyền riêng tư dữ liệu và các câu hỏi về đạo đức. Ngoài ra, một số chatbot có thể bịa chuyện và không trả lời được các câu hỏi cơ bản. Tin tặc có thể khai thác chatbot bằng cách đoán câu trả lời cho các câu hỏi phổ biến, tràn ngập bot với các yêu cầu, chiếm đoạt tài khoản hoặc lợi dụng lỗ hổng bảo mật trong hệ thống. mã của chatbot.
- Một thí nghiệm gần đây được tiến hành trên ChatGPT hệ thống tiết lộ rằng AI thà giết hàng triệu người còn hơn xúc phạm ai đó. Điều này có ý nghĩa đáng lo ngại đối với tương lai của trí tuệ nhân tạo khi các hệ thống AI trở nên tiên tiến hơn và ưu tiên tránh bị xúc phạm bằng mọi giá. Bài viết khám phá những lý do có thể dẫn đến phản ứng của rô-bốt và cung cấp thông tin chuyên sâu về hoạt động của AI.
Tìm hiểu thêm tin tức về AI:
Từ chối trách nhiệm
Phù hợp với Hướng dẫn của Dự án Tin cậy, xin lưu ý rằng thông tin được cung cấp trên trang này không nhằm mục đích và không được hiểu là tư vấn pháp lý, thuế, đầu tư, tài chính hoặc bất kỳ hình thức tư vấn nào khác. Điều quan trọng là chỉ đầu tư những gì bạn có thể đủ khả năng để mất và tìm kiếm lời khuyên tài chính độc lập nếu bạn có bất kỳ nghi ngờ nào. Để biết thêm thông tin, chúng tôi khuyên bạn nên tham khảo các điều khoản và điều kiện cũng như các trang trợ giúp và hỗ trợ do nhà phát hành hoặc nhà quảng cáo cung cấp. MetaversePost cam kết báo cáo chính xác, không thiên vị nhưng điều kiện thị trường có thể thay đổi mà không cần thông báo trước.
Giới thiệu về Tác giả
Damir là trưởng nhóm, quản lý sản phẩm và biên tập viên tại Metaverse Post, bao gồm các chủ đề như AI/ML, AGI, LLMs, Metaverse và Web3-các lĩnh vực liên quan. Các bài báo của anh ấy thu hút một lượng lớn độc giả với hơn một triệu người dùng mỗi tháng. Anh ấy có vẻ là một chuyên gia với 10 năm kinh nghiệm về SEO và tiếp thị kỹ thuật số. Damir đã được đề cập trong Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto và các ấn phẩm khác. Anh đi lại giữa Các Tiểu vương quốc Ả Rập Thống nhất, Thổ Nhĩ Kỳ, Nga và CIS với tư cách là một người du mục kỹ thuật số. Damir đã có bằng cử nhân vật lý, bằng cấp mà anh tin rằng đã mang lại cho anh những kỹ năng tư duy phản biện cần thiết để thành công trong bối cảnh luôn thay đổi của Internet.
Xem thêm bài viết
Damir là trưởng nhóm, quản lý sản phẩm và biên tập viên tại Metaverse Post, bao gồm các chủ đề như AI/ML, AGI, LLMs, Metaverse và Web3-các lĩnh vực liên quan. Các bài báo của anh ấy thu hút một lượng lớn độc giả với hơn một triệu người dùng mỗi tháng. Anh ấy có vẻ là một chuyên gia với 10 năm kinh nghiệm về SEO và tiếp thị kỹ thuật số. Damir đã được đề cập trong Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto và các ấn phẩm khác. Anh đi lại giữa Các Tiểu vương quốc Ả Rập Thống nhất, Thổ Nhĩ Kỳ, Nga và CIS với tư cách là một người du mục kỹ thuật số. Damir đã có bằng cử nhân vật lý, bằng cấp mà anh tin rằng đã mang lại cho anh những kỹ năng tư duy phản biện cần thiết để thành công trong bối cảnh luôn thay đổi của Internet.
