Đại học Cornell: AI là vũ khí lừa dối tối thượng mà chúng ta bất lực
Tóm lại
Thí nghiệm Stanford đã tiết lộ một lỗ hổng không thể khắc phục được trong trực giác ngôn ngữ của con người, cho thấy khả năng xác định quyền tác giả của AI là rất thấp.
Điều này là do khả năng của AI như ChatGPT chế tạo hàng giả một cách thành thạo đến mức mọi người không thể phân biệt được chúng với sự thật.
“Thí nghiệm Stanford” mới đã tiết lộ một lỗ hổng không thể vượt qua của trực giác ngôn ngữ của mọi người. Do đó, xác suất chúng tôi xác định quyền tác giả của AI bị giảm đi rất nhiều.
Có rất nhiều mối lo ngại cho toàn cầu ngày nay do hậu quả của ChatGPT cuộc cách mạng. Rõ ràng nhất là AI thích ChatGPT có thể tạo ra hàng giả một cách thành thạo đến mức mọi người không thể phân biệt được chúng với sự thật. Kết quả của các thử nghiệm được thực hiện đã chứng minh khả năng to lớn của ChatGPT siêu khả năng lừa dối. Tuy nhiên, vẫn chưa rõ siêu năng lực này hoạt động như thế nào – AI sở hữu điều gì có thể khiến những người thông minh và có học vấn cao tin vào những gì nó đang làm?
| Tìm hiểu thêm: Hơn 20 Chatbot AI Telegram tốt nhất năm 2023 |
Một “thí nghiệm Stanford” mới được thực hiện bởi Phòng thí nghiệm mạng xã hội Stanford phối hợp với Trung tâm nghiên cứu Đại học Cornell để trả lời chính câu hỏi này.
Kết quả của một loạt sáu thí nghiệm liên quan đến 4,600 người thật giật gân và đáng buồn.
Mọi người được giao nhiệm vụ xác định xem các bài thuyết trình về bản thân được viết bởi một người hay một AI. Theo các nhà nghiên cứu, tự trình bày là một trong những yếu tố mang tính cá nhân và hệ quả nhất của giao tiếp ngôn ngữ vì thái độ của chúng ta đối với bất kỳ phát biểu nào phần lớn phụ thuộc vào tác giả (như chúng ta tin) là ai.
Trọng tâm của nhận thức ngôn ngữ của mọi người là heuristic. Thuật ngữ heuristic đề cập đến các lối tắt trong trí óc mà mọi người sử dụng để đi đến quyết định, giải quyết vấn đề và đưa ra phán đoán. Nó giúp mọi người giảm bớt khối lượng công việc trí óc và tránh tình trạng quá tải về nhận thức.
Nghiên cứu cho biết: “Một phân tích tính toán các đặc điểm ngôn ngữ cho thấy phán đoán của con người về ngôn ngữ do AI tạo ra bị cản trở bởi các phương pháp phỏng đoán trực quan nhưng còn thiếu sót như liên kết đại từ ngôi thứ nhất, sử dụng từ viết tắt hoặc chủ đề gia đình với ngôn ngữ viết của con người”. Các thí nghiệm đã chỉ ra rằng khi nhận thức được một văn bản do AI viết, mọi người sẽ tự động sử dụng các phương pháp phỏng đoán giống như khi giao tiếp với người khác. Và đây là một sai lầm cơ bản. Thực tế là đây là những phương pháp phỏng đoán trực quan đối với chúng ta và AI đọc chúng dễ dàng và thao tác với chúng giống như một bảng cửu chương.
Do đó, AI có thể sử dụng kinh nghiệm để tạo ra văn bản mà mọi người cho là “giống người hơn con người”. Điều này làm tăng đáng kể khả năng lừa đảo của các văn bản và lời nói AI, khuyến khích chúng ta tin tưởng vào “con người thực nhất” này hơn là những tuyên bố của người thật.
Cơ hội để mọi người xác định được bài tự trình bày do AI viết là 50/50. Mọi thứ thậm chí còn tồi tệ hơn trong giao tiếp lãng mạn của mọi người. Hầu hết 70% người lớn không thể phân biệt được giữa một bức thư tình được viết bởi ChatGPT và một lá thư được viết bởi một người.
Đọc thêm về ChatGPT:
Từ chối trách nhiệm
Phù hợp với Hướng dẫn của Dự án Tin cậy, xin lưu ý rằng thông tin được cung cấp trên trang này không nhằm mục đích và không được hiểu là tư vấn pháp lý, thuế, đầu tư, tài chính hoặc bất kỳ hình thức tư vấn nào khác. Điều quan trọng là chỉ đầu tư những gì bạn có thể đủ khả năng để mất và tìm kiếm lời khuyên tài chính độc lập nếu bạn có bất kỳ nghi ngờ nào. Để biết thêm thông tin, chúng tôi khuyên bạn nên tham khảo các điều khoản và điều kiện cũng như các trang trợ giúp và hỗ trợ do nhà phát hành hoặc nhà quảng cáo cung cấp. MetaversePost cam kết báo cáo chính xác, không thiên vị nhưng điều kiện thị trường có thể thay đổi mà không cần thông báo trước.
Giới thiệu về Tác giả
Damir là trưởng nhóm, quản lý sản phẩm và biên tập viên tại Metaverse Post, bao gồm các chủ đề như AI/ML, AGI, LLMs, Metaverse và Web3-các lĩnh vực liên quan. Các bài báo của anh ấy thu hút một lượng lớn độc giả với hơn một triệu người dùng mỗi tháng. Anh ấy có vẻ là một chuyên gia với 10 năm kinh nghiệm về SEO và tiếp thị kỹ thuật số. Damir đã được đề cập trong Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto và các ấn phẩm khác. Anh đi lại giữa Các Tiểu vương quốc Ả Rập Thống nhất, Thổ Nhĩ Kỳ, Nga và CIS với tư cách là một người du mục kỹ thuật số. Damir đã có bằng cử nhân vật lý, bằng cấp mà anh tin rằng đã mang lại cho anh những kỹ năng tư duy phản biện cần thiết để thành công trong bối cảnh luôn thay đổi của Internet.
Xem thêm bài viết
Damir là trưởng nhóm, quản lý sản phẩm và biên tập viên tại Metaverse Post, bao gồm các chủ đề như AI/ML, AGI, LLMs, Metaverse và Web3-các lĩnh vực liên quan. Các bài báo của anh ấy thu hút một lượng lớn độc giả với hơn một triệu người dùng mỗi tháng. Anh ấy có vẻ là một chuyên gia với 10 năm kinh nghiệm về SEO và tiếp thị kỹ thuật số. Damir đã được đề cập trong Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto và các ấn phẩm khác. Anh đi lại giữa Các Tiểu vương quốc Ả Rập Thống nhất, Thổ Nhĩ Kỳ, Nga và CIS với tư cách là một người du mục kỹ thuật số. Damir đã có bằng cử nhân vật lý, bằng cấp mà anh tin rằng đã mang lại cho anh những kỹ năng tư duy phản biện cần thiết để thành công trong bối cảnh luôn thay đổi của Internet.
