Mặt tối của Deepfakes: Cách các tác nhân độc hại sử dụng phương tiện tổng hợp để thao túng và lừa dối
Tóm lại
Deepfakes, một công nghệ cho phép tạo ra các biểu tượng sống động như thật về khuôn mặt, giọng nói và các tính năng khác, có thể mang lại lợi ích cho nghệ thuật, giải trí và giáo dục.
Deepfake là gì?
Thuật ngữ “deepfake” là một quy trình công nghệ tạo ra phương tiện tổng hợp rất thực tế, thường ở dạng âm thanh, hình ảnh hoặc video, sử dụng trí tuệ nhân tạo (AI), cụ thể là thuật toán học sâu và mạng đối thủ tổng hợp (GAN). Deepfakes có thể tạo ra thông tin hoàn toàn mới và thường xuyên gây hiểu lầm bằng cách thao túng hoặc áp đặt nội dung hình ảnh và âm thanh có sẵn nhờ vào việc đào tạo các thuật toán này trên các tập dữ liệu lớn.
Với việc sử dụng công nghệ này, khuôn mặt, giọng nói và các đặc điểm đặc biệt khác có thể được thay đổi liền mạch để tạo ra các hình ảnh thể hiện sống động như thật mà khó có thể phân biệt được với vật liệu thật. Deepfakes rất hữu ích cho nghệ thuật, giải trí và giáo dục, nhưng chúng cũng gây ra rủi ro nghiêm trọng khi phổ biến thông tin sai lệch, vi phạm quyền riêng tư và có thể được sử dụng để làm mất uy tín của mọi người.
Ảnh: Vimeo
Với sự phổ biến ngày càng tăng của công nghệ deepfake, ngày càng có nhiều nền tảng để tạo ra những video và hình ảnh bị thay đổi này. Dưới đây là danh sách các nền tảng deepfake phổ biến, thể hiện phạm vi của công nghệ này, từ hoán đổi khuôn mặt đơn giản trong GIF đến thao tác video nâng cao, phản ánh tính linh hoạt và tiềm năng sử dụng của deepfake.
FaceApp
Được biết đến với các tính năng chuyển đổi khuôn mặt, FaceApp cho phép người dùng áp dụng nhiều bộ lọc khác nhau để thay đổi diện mạo của họ, chẳng hạn như lão hóa hoặc chuyển đổi giới tính, mang đến giao diện thân thiện với người dùng.
ZAO
Một ứng dụng deepfake của Trung Quốc gây chú ý nhờ khả năng thay thế khuôn mặt trong video clip một cách nhanh chóng và có độ chính xác cao. ZAO cung cấp cho người dùng các công cụ đơn giản để tạo các tác phẩm deepfake được cá nhân hóa.
làm lại
Một ứng dụng di động được thiết kế để hoán đổi khuôn mặt trong các video clip ngắn và ảnh GIF. Reface cung cấp nhiều loại nội dung, bao gồm các cảnh phim nổi tiếng và hình ảnh người nổi tiếng, giúp bạn dễ dàng tạo nội dung giải trí.
DeepFaceLab
Là một nền tảng tiên tiến hơn để tạo các tác phẩm deepfake, DeepFaceLab là nguồn mở và được thiết kế cho những người dùng có kinh nghiệm muốn tạo các dự án deepfake phức tạp. Nó cho phép thao tác chi tiết các khuôn mặt trong video.
wombo
Chuyên về hát nhép, Wombo cho phép người dùng tạo video có khuôn mặt hoạt hình để hát hoặc nói. Nền tảng này được sử dụng rộng rãi để tạo nội dung hài hước và giải trí.
Web giả mạo sâu
Một dịch vụ dựa trên web, Deepfakes Web được thiết kế để dễ sử dụng. Người dùng có thể tải lên video và hình ảnh để tạo nội dung deepfake mà không cần kỹ năng kỹ thuật nâng cao.
Phòng thu Deepfake
Là một nền tảng toàn diện để tạo video deepfake, Deepfake Studio cung cấp nhiều công cụ để hoán đổi khuôn mặt và thao tác nội dung video. Nó phục vụ cho cả người mới bắt đầu và người dùng có kinh nghiệm hơn.
Deepfakes có gây rủi ro không?
Thật vậy, khá dễ dàng để có được công nghệ cần thiết để tạo ra các tác phẩm sâu và rất có thể nó sẽ bị lạm dụng vì thông tin sai lệch, thông tin sai lệch về chính trị, bắt chước trên mạng xã hội và tội phạm. Những kẻ đe dọa và những kẻ tội phạm khác có thể sử dụng tài liệu sai sự thật này, cùng với những thứ khác, để bịa đặt câu chuyện, đe dọa mọi người hoặc đóng giả là những người nổi tiếng nhằm thực hiện hành vi lừa đảo hoặc gây tổn hại đến danh tiếng của mọi người.
Các trường hợp thực tế của Deepfake độc hại
Tom Cruise Deepfake
Các video deepfake của Tom Cruise trên TikTok là một trong những trường hợp nổi tiếng và hấp dẫn nhất của phương tiện truyền thông được sản xuất nhân tạo. Hàng triệu người đã xem những video này, trong đó khuôn mặt của Cruise được đặt chính xác trên cơ thể của người khác để tạo ra nội dung sống động đến mức đáng lo ngại.
PSA của Obama với Jordan Peele
Đạo diễn kiêm diễn viên hài Jordan Peele đã hợp tác với BuzzFeed để sản xuất một video trong đó ông lồng tiếng cho cựu Tổng thống Barack Obama. Deepfake nêu bật những rủi ro có thể xảy ra trong lĩnh vực chính trị bằng cách chứng minh việc tạo ra tài liệu sai lệch bằng phương tiện nhân tạo đơn giản như thế nào.
Mark Zuckerberg Deepfake làm bình luận xã hội
Đoạn video của CEO Facebook Mark Zuckerberg được nghệ sĩ Bill Posters thực hiện để chứng minh mạng xã hội có thể bị khai thác dễ dàng như thế nào. Trong deepfake, Zuckerberg đã nói về quyền sở hữu dữ liệu người dùng của Facebook, thu hút sự chú ý đến tranh chấp về việc quản lý tài liệu gây hiểu lầm của công ty.
Lừa đảo tiền điện tử
Deepfakes cũng đang được sử dụng rộng rãi trong không gian tiền điện tử. Ví dụ: vào ngày 7 tháng 2024 năm XNUMX, trang Twitter CertiKSkynetAlert đã đăng cảnh báo về một vụ lừa đảo bằng deepfake của Vitalik Buterin:
Có cách nào để ngăn chặn việc sử dụng Deepfakes không?
Các công nghệ có thể xác định các tác phẩm sâu hoặc cho phép xác minh tài liệu thực có thể được sử dụng để chống lại các tác phẩm sâu độc hại. Phương tiện giả có thể được nhận dạng bằng công nghệ phát hiện mà không cần so sánh với tài liệu gốc, không bị thay đổi. Học máy là một loại AI thường được sử dụng bởi các công nghệ này. Dữ liệu từ các nguồn truyền thông thực tế và lừa đảo có uy tín được sử dụng để đào tạo các thuật toán. Trong số các kỹ thuật này có sự bất thường về khuôn mặt hoặc giọng nói, các dấu hiệu của quá trình tạo deepfake và các biến thể về màu sắc.
Từ chối trách nhiệm
Phù hợp với Hướng dẫn của Dự án Tin cậy, xin lưu ý rằng thông tin được cung cấp trên trang này không nhằm mục đích và không được hiểu là tư vấn pháp lý, thuế, đầu tư, tài chính hoặc bất kỳ hình thức tư vấn nào khác. Điều quan trọng là chỉ đầu tư những gì bạn có thể đủ khả năng để mất và tìm kiếm lời khuyên tài chính độc lập nếu bạn có bất kỳ nghi ngờ nào. Để biết thêm thông tin, chúng tôi khuyên bạn nên tham khảo các điều khoản và điều kiện cũng như các trang trợ giúp và hỗ trợ do nhà phát hành hoặc nhà quảng cáo cung cấp. MetaversePost cam kết báo cáo chính xác, không thiên vị nhưng điều kiện thị trường có thể thay đổi mà không cần thông báo trước.
Giới thiệu về Tác giả
Viktoriia là tác giả viết về nhiều chủ đề công nghệ khác nhau, bao gồm Web3.0, AI và tiền điện tử. Kinh nghiệm sâu rộng của cô cho phép cô viết những bài báo sâu sắc cho nhiều đối tượng hơn.
Xem thêm bài viết
Viktoriia là tác giả viết về nhiều chủ đề công nghệ khác nhau, bao gồm Web3.0, AI và tiền điện tử. Kinh nghiệm sâu rộng của cô cho phép cô viết những bài báo sâu sắc cho nhiều đối tượng hơn.
