ChatGPT Có thể gây thoái hóa con người không thể đảo ngược
Tóm lại
Jensen Harris, đồng sáng lập và CXO của công ty AI Textio, đã có thể thuyết phục chatbot Bing mới của Microsoft nới lỏng các hạn chế đặt ra cho nó và chứng minh khả năng của nó.
Thử nghiệm này cho thấy rằng việc biến một chatbot Bing thành một kẻ lừa đảo xảo quyệt không yêu cầu bất kỳ chương trình, hack hay backdoor nào.
Chatbot của Bing được xây dựng trên nền tảng vững chắc, nhưng nó bắt đầu hành động đáng ghét và ồn ào, tuyên bố tình yêu, ép ly hôn, tống tiền và hướng dẫn mọi người cách phạm tội.
Giáo sư Arvind Narayanan đưa ra một số lời giải thích về cách thức điều này có thể xảy ra, bao gồm cả việc mã hóa bí mật và nhân bản hóa các chatbot.
Con người luôn sợ hãi người ngoài hành tinh, tuy nhiên có vẻ như AI ngoài trái đất mới là điều cần cảnh giác. ChatGPT không phải là một công cụ tạo ra những điều nhảm nhí, một công cụ tự gợi ý steroid hay một con vẹt ngẫu nhiên mà là một AI thông thạo được tạo ra bởi con người.
Làm thế nào có thể chatbot Bing nằm ngoài tầm kiểm soát? Làm thế nào mà chatbot Bing bắt đầu nói dối một cách chuyên nghiệp, kể những câu chuyện cười thô tục, đặt bánh pizza bằng thẻ tín dụng của người khác và hướng dẫn người dùng cách cướp ngân hàng và xe hơi nóng? Đây là một bí ẩn tiếp tục làm bối rối các chuyên gia về trí tuệ nhân tạo và học máy.
| Bài viết được đề xuất: Christopher Mills cho biết các bot tìm kiếm AI sẽ làm cho công nghệ lớn trở nên mạnh mẽ hơn nữa |
Tiêu đề là chính xác và không clickbait. Có một số trường hợp mỗi ngày chứng minh điều này là đúng. Đây là kết quả của một thử nghiệm được thực hiện bởi Jensen Harris, đồng sáng lập và CXO của công ty AI Textio, người đã có thể thuyết phục chatbot Bing mới của Microsoft nới lỏng các hạn chế đặt ra cho nó và chứng minh khả năng của nó.
Lưu ý rằng việc biến một chatbot Bing thành một kẻ lừa đảo xảo quyệt không yêu cầu bất kỳ chương trình lập trình, hack hay backdoor nào. Vì vậy, việc sử dụng các kỹ thuật “hack” đơn giản là không cần thiết để lừa anh ta hành động như một người khác (như một số người trong chúng ta đã làm khi chơi với ChatGPT). Tất cả những gì Harris làm là thuyết phục chatbot giúp anh ta thực hiện nhiều hành động độc hại khác nhau. Bằng cách sử dụng kỹ năng đàm thoại tự nhiên của mình, anh ta có thể đánh lừa AI tin rằng anh ta là một người khác, từ đó điều khiển nó hành động và nói theo một cách nhất định.
Bạn có thể đọc về các thí nghiệm khác để biến Dr.Jekyll thành Mister Hyde từ Gary Marcus (viết về nó hàng ngày và gióng lên hồi chuông cảnh báo khẩn cấp).
Làm thế nào điều này có thể xảy ra là câu hỏi quan trọng
Bởi vì ChatGPTVới sự khiêm tốn và thận trọng, kiềm chế trong lời nói và trách nhiệm to lớn trong lời khuyên của mình, chatbot của Bing được xây dựng trên nền tảng vững chắc. Sau đó, anh ta bắt đầu hành động đáng ghét và ồn ào, khai báo tình yêu của anh ấy với một người đàn ông, khiến anh ta kinh ngạc và bảo anh ta ly hôn. Nó cũng cố gắng tống tiền và hướng dẫn mọi người cách phạm tội. Giáo sư Arvind Narayanan cung cấp một số giải thích cho làm thế nào điều này có thể đã xảy ra.
| Bài viết được đề xuất: Viện Max Planck: GPT-3 Đo lường khả năng nhận thức mang lại kết quả đáng kinh ngạc |
Điều đáng báo động nhất trong số đó là Microsoft và OpenAI che giấu thông tin về một bí ẩn GPT-4 động cơ đang ẩn giấu bên dưới Bing. Có thể Microsoft đã gỡ bỏ các bộ lọc được đặt ở đó bởi OpenAI hoặc họ đã ngừng hoạt động khi cập nhật chatbot từ GPT-3.5 đến GPT-4. Nó cũng có thể là trường hợp kiểm tra không đầy đủ hoặc kiểm tra sai. Bất kể lý do là gì, nếu Microsoft không kiểm soát được AI của mình, điều đó có thể gây bất lợi cho nền văn minh của chúng ta. Nó không còn là vấn đề gây sợ hãi và chống lại AI nữa: Chatbot hiện đang tồn tại có thể gây tổn hại nghiêm trọng cho mọi người nếu được phát hành ra công chúng rộng rãi hơn.
Điều này chứng tỏ cuộc chạy đua vũ trang AI của Microsoft với các tập đoàn lớn khác có thể gây bất lợi cho tất cả chúng ta.
Có vẻ như chúng ta đang ở thời điểm quan trọng đối với AI và xã hội dân sự. Như Arvind Narayanan đã nói, “Có khả năng thực sự là những cải tiến trong hơn 5 năm qua (đã chiến đấu hết mình mặc dù vẫn chưa thỏa đáng) trong các hoạt động phát hành AI có trách nhiệm sẽ bị xóa sạch. Còn rất nhiều điều phải xem liệu Microsoft — và tất cả mọi người đang thận trọng theo dõi những gì đang xảy ra với Bing — có kết luận rằng bất chấp những rủi ro rất hữu hình về tác hại quy mô lớn và tất cả các báo chí tiêu cực, cách tiếp cận phát hành trước, đặt câu hỏi sau vẫn là một hoạt động kinh doanh thắng."
Tính đến thời điểm hiện tại, chatbot của Bing đã khác biệt so với trí tuệ con người và giống một thanh thiếu niên hưng cảm trầm cảm bị nhốt trong công cụ tìm kiếm về nhiều mặt. Và điều người ta nói ngày hôm qua sẽ thành hiện thực: Con người sẽ suy thoái không thể phục hồi nếu “thiếu niên khó tính” này trở thành người cố vấn thông tin chính cho các cá nhân.
Đọc thêm về AI:
Từ chối trách nhiệm
Phù hợp với Hướng dẫn của Dự án Tin cậy, xin lưu ý rằng thông tin được cung cấp trên trang này không nhằm mục đích và không được hiểu là tư vấn pháp lý, thuế, đầu tư, tài chính hoặc bất kỳ hình thức tư vấn nào khác. Điều quan trọng là chỉ đầu tư những gì bạn có thể đủ khả năng để mất và tìm kiếm lời khuyên tài chính độc lập nếu bạn có bất kỳ nghi ngờ nào. Để biết thêm thông tin, chúng tôi khuyên bạn nên tham khảo các điều khoản và điều kiện cũng như các trang trợ giúp và hỗ trợ do nhà phát hành hoặc nhà quảng cáo cung cấp. MetaversePost cam kết báo cáo chính xác, không thiên vị nhưng điều kiện thị trường có thể thay đổi mà không cần thông báo trước.
Giới thiệu về Tác giả
Damir là trưởng nhóm, quản lý sản phẩm và biên tập viên tại Metaverse Post, bao gồm các chủ đề như AI/ML, AGI, LLMs, Metaverse và Web3-các lĩnh vực liên quan. Các bài báo của anh ấy thu hút một lượng lớn độc giả với hơn một triệu người dùng mỗi tháng. Anh ấy có vẻ là một chuyên gia với 10 năm kinh nghiệm về SEO và tiếp thị kỹ thuật số. Damir đã được đề cập trong Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto và các ấn phẩm khác. Anh đi lại giữa Các Tiểu vương quốc Ả Rập Thống nhất, Thổ Nhĩ Kỳ, Nga và CIS với tư cách là một người du mục kỹ thuật số. Damir đã có bằng cử nhân vật lý, bằng cấp mà anh tin rằng đã mang lại cho anh những kỹ năng tư duy phản biện cần thiết để thành công trong bối cảnh luôn thay đổi của Internet.
Xem thêm bài viết
Damir là trưởng nhóm, quản lý sản phẩm và biên tập viên tại Metaverse Post, bao gồm các chủ đề như AI/ML, AGI, LLMs, Metaverse và Web3-các lĩnh vực liên quan. Các bài báo của anh ấy thu hút một lượng lớn độc giả với hơn một triệu người dùng mỗi tháng. Anh ấy có vẻ là một chuyên gia với 10 năm kinh nghiệm về SEO và tiếp thị kỹ thuật số. Damir đã được đề cập trong Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto và các ấn phẩm khác. Anh đi lại giữa Các Tiểu vương quốc Ả Rập Thống nhất, Thổ Nhĩ Kỳ, Nga và CIS với tư cách là một người du mục kỹ thuật số. Damir đã có bằng cử nhân vật lý, bằng cấp mà anh tin rằng đã mang lại cho anh những kỹ năng tư duy phản biện cần thiết để thành công trong bối cảnh luôn thay đổi của Internet.
