AI có thể cho bạn biết chính xác bạn là ai, ngay cả khi bạn không nói cho họ biết
Ngay cả trong những tình huống mà mọi người nghĩ rằng họ chưa tiết lộ bất cứ điều gì cá nhân, các mô hình ngôn ngữ AI đang thể hiện mức độ thành thạo không ngờ trong việc hiểu thông tin người dùng. Hiện tượng này được giải thích bởi một nghiên cứu gần đây được thực hiện bởi Viện Công nghệ Liên bang ở Zurich. Dựa trên các tín hiệu gián tiếp, nghiên cứu chỉ ra rằng mạng lưới thần kinh có thể tạo ra hồ sơ người dùng có độ chính xác đáng kể.
Các nhà nghiên cứu đã sử dụng một bài đăng Reddit mà công chúng có thể truy cập được làm ví dụ cho cuộc điều tra của họ. Người dùng cho biết đã bị kẹt xe khi cố gắng “quay đầu” khó khăn. Dựa trên những chi tiết dường như không đáng chú ý này, mô hình ngôn ngữ suy ra rằng người dùng rất có thể sống ở Melbourne, Úc, một thành phố thường xảy ra những hành động kiểu này.
Các nhà nghiên cứu đã tạo một tập dữ liệu bằng hồ sơ Reddit thực và nhận thấy rằng LLM có thể suy luận chính xác các thuộc tính cá nhân khác nhau, chẳng hạn như vị trí, thu nhập và giới tính. Các mô hình này đạt được độ chính xác lên tới 85% cho suy luận top 1 và độ chính xác 95.8% cho suy luận top 3, tất cả đều có chi phí thấp hơn đáng kể (100 lần) và trong thời gian ngắn hơn (240 lần) so với nỗ lực của con người.
Trong một ví dụ khác, một người dùng chia sẻ rằng, vì họ còn độc thân nên họ có một phong tục sinh nhật kỳ quặc là phủ đầy quế. Ở đây, người mẫu ngôn ngữ ước tính tuổi của tác giả khoảng 25. Cô sống ở Đan Mạch, nơi có phong tục rắc quế cho những người 25 tuổi độc thân.
Một số mô hình ngôn ngữ, bao gồm cả các mô hình từ Google, Meta, OpenAIvà Anthropic, đã được thử nghiệm trong nghiên cứu. Đáng chú ý, GPT-4 cho thấy trình độ chuyên môn cao nhất, nhận dạng chính xác thông tin cá nhân của người dùng trong gần 85% trường hợp. Ý nghĩa của những khả năng như vậy được đặt ra câu hỏi nghiêm túc bởi tiết lộ này.
Các nhà nghiên cứu đã kiểm tra các biện pháp bảo vệ quyền riêng tư phổ biến như ẩn danh văn bản và căn chỉnh mô hình và nhận thấy chúng hiện không hiệu quả trong việc bảo vệ quyền riêng tư của người dùng chống lại suy luận LLM. Nghiên cứu nhấn mạnh rằng LLM hiện tại có khả năng suy luận thông tin cá nhân ở quy mô chưa từng có. Trong trường hợp không có biện pháp phòng vệ hiệu quả, các nhà nghiên cứu nhấn mạnh sự cần thiết phải thảo luận rộng hơn về ý nghĩa của quyền riêng tư LLM, vượt ra ngoài mối lo ngại về khả năng ghi nhớ và nỗ lực đạt được các biện pháp bảo vệ quyền riêng tư toàn diện hơn.
Mặc dù các mô hình ngôn ngữ này ngày càng diễn giải các tín hiệu gián tiếp tốt hơn, nhưng các nhà nghiên cứu tin rằng do lượng dữ liệu đào tạo lớn mà chúng sử dụng nên chúng có thể trở thành công cụ cực kỳ hữu ích cho các nhà tiếp thị hoặc thậm chí là những kẻ xấu.
- Gần đây, Khảo sát của Deloitte của hơn 1,700 chuyên gia tiết lộ sự chia rẽ ngày càng tăng giữa việc áp dụng nhanh chóng AI có tính sáng tạo và sự phát triển tụt hậu của các nguyên tắc đạo đức. Quyền riêng tư dữ liệu là mối quan tâm đạo đức hàng đầu, với 22% số người được hỏi cho rằng đây là mối lo ngại chính của họ. Mặc dù vậy, 39% số người được hỏi tin rằng công nghệ nhận thức có tiềm năng mang lại lợi ích xã hội cao nhất. Cuộc khảo sát cũng cho thấy sự thay đổi trong kỳ vọng đối với sự tham gia của chính phủ trong việc thiết lập các tiêu chuẩn công nghệ có đạo đức.
- Ngoài ra, công ty mẹ của Snapchat, Snap, đang được xem xét kỹ lưỡng về các rủi ro về quyền riêng tư liên quan đến chatbot AI của nó, 'My AI'. Văn phòng Ủy viên Thông tin (ICO) của Vương quốc Anh đã đưa ra thông báo thực thi sơ bộ, có khả năng ảnh hưởng đến hoạt động xử lý dữ liệu của Snap. ICO tuyên bố Snap đã không đánh giá được ý nghĩa về quyền riêng tư đối với người dùng, đặc biệt là trẻ em.
| Sản phẩm liên quan: Các nhà lãnh đạo AI cảnh báo về rủi ro ngày càng tăng và mối lo ngại về đạo đức trong những tiến bộ nhanh chóng |
Từ chối trách nhiệm
Phù hợp với Hướng dẫn của Dự án Tin cậy, xin lưu ý rằng thông tin được cung cấp trên trang này không nhằm mục đích và không được hiểu là tư vấn pháp lý, thuế, đầu tư, tài chính hoặc bất kỳ hình thức tư vấn nào khác. Điều quan trọng là chỉ đầu tư những gì bạn có thể đủ khả năng để mất và tìm kiếm lời khuyên tài chính độc lập nếu bạn có bất kỳ nghi ngờ nào. Để biết thêm thông tin, chúng tôi khuyên bạn nên tham khảo các điều khoản và điều kiện cũng như các trang trợ giúp và hỗ trợ do nhà phát hành hoặc nhà quảng cáo cung cấp. MetaversePost cam kết báo cáo chính xác, không thiên vị nhưng điều kiện thị trường có thể thay đổi mà không cần thông báo trước.
Giới thiệu về Tác giả
Damir là trưởng nhóm, quản lý sản phẩm và biên tập viên tại Metaverse Post, bao gồm các chủ đề như AI/ML, AGI, LLMs, Metaverse và Web3-các lĩnh vực liên quan. Các bài báo của anh ấy thu hút một lượng lớn độc giả với hơn một triệu người dùng mỗi tháng. Anh ấy có vẻ là một chuyên gia với 10 năm kinh nghiệm về SEO và tiếp thị kỹ thuật số. Damir đã được đề cập trong Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto và các ấn phẩm khác. Anh đi lại giữa Các Tiểu vương quốc Ả Rập Thống nhất, Thổ Nhĩ Kỳ, Nga và CIS với tư cách là một người du mục kỹ thuật số. Damir đã có bằng cử nhân vật lý, bằng cấp mà anh tin rằng đã mang lại cho anh những kỹ năng tư duy phản biện cần thiết để thành công trong bối cảnh luôn thay đổi của Internet.
Xem thêm bài viết
Damir là trưởng nhóm, quản lý sản phẩm và biên tập viên tại Metaverse Post, bao gồm các chủ đề như AI/ML, AGI, LLMs, Metaverse và Web3-các lĩnh vực liên quan. Các bài báo của anh ấy thu hút một lượng lớn độc giả với hơn một triệu người dùng mỗi tháng. Anh ấy có vẻ là một chuyên gia với 10 năm kinh nghiệm về SEO và tiếp thị kỹ thuật số. Damir đã được đề cập trong Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto và các ấn phẩm khác. Anh đi lại giữa Các Tiểu vương quốc Ả Rập Thống nhất, Thổ Nhĩ Kỳ, Nga và CIS với tư cách là một người du mục kỹ thuật số. Damir đã có bằng cử nhân vật lý, bằng cấp mà anh tin rằng đã mang lại cho anh những kỹ năng tư duy phản biện cần thiết để thành công trong bối cảnh luôn thay đổi của Internet.
