Stanford tuyên bố: Các mô hình AI tạo hình ảnh đang được đào tạo về hình ảnh rõ ràng của trẻ em
Tóm lại
Các công cụ AI tạo văn bản thành hình ảnh phổ biến bao gồm Stable Diffusion, đang được đào tạo về hàng nghìn hình ảnh lạm dụng tình dục trẻ em.
Chuyển văn bản thành hình ảnh phổ biến trí tuệ nhân tạo công cụ, bao gồm Stable Diffusion từ Stability AI đang được đào tạo về hàng nghìn hình ảnh lạm dụng tình dục trẻ em, theo báo cáo nghiên cứu từ Đài quan sát Internet Stanford.
Báo cáo nói thêm rằng những hình ảnh này tạo điều kiện thuận lợi cho việc tạo ra nội dung tục tĩu thực tế liên quan đến trẻ em giả mạo và biến thanh thiếu niên mặc quần áo thành hình ảnh khỏa thân, thúc giục hành động ngay lập tức từ các công ty đằng sau những công cụ như vậy.
Cuộc điều tra của Đài quan sát Internet Stanford tập trung vào Cơ sở dữ liệu LAION, một kho lưu trữ khổng lồ các hình ảnh và chú thích trực tuyến được sử dụng bởi các nhà lãnh đạo Người tạo hình ảnh AI Lượt thích Stable Diffusion, để đào tạo các mô hình AI.
Trước khi kiểm tra các công cụ AI tạo hình ảnh, các nhà nghiên cứu cho rằng các công cụ AI tạo ra hình ảnh lạm dụng trẻ em bằng cách kết hợp thông tin từ nội dung khiêu dâm người lớn và những bức ảnh lành tính của trẻ em. Tuy nhiên, phát hiện của Đài quan sát cho thấy một bước ngoặt đáng lo ngại, với hơn 3,200 hình ảnh nghi ngờ lạm dụng tình dục trẻ em được xác định trong bộ dữ liệu LAION.
Mặc dù LAION đã nhanh chóng phản hồi báo cáo bằng cách tạm thời xóa các tập dữ liệu của mình, nhưng ý nghĩa của những hình ảnh này là rất sâu rộng. Mặc dù chúng chỉ chiếm một phần nhỏ trong chỉ số khổng lồ 5.8 tỷ hình ảnh của LAION nhưng nhóm Stanford khẳng định rằng chúng có thể ảnh hưởng đến khả năng của Công cụ AI để tạo ra những kết quả có hại.
Một nhân tố quan trọng trong sự phát triển của cơ sở dữ liệu LAION là Stability AI, một công ty khởi nghiệp có trụ sở tại London chịu trách nhiệm định hình tập dữ liệu. Báo cáo nhấn mạnh rằng phiên bản cũ hơn của Stable Diffusion mô hình được giới thiệu năm ngoái vẫn hiện diện trong nhiều ứng dụng khác nhau và đóng vai trò là nguồn chính để tạo ra hình ảnh rõ ràng.
Mặc dù Stability AI tuyên bố chỉ lưu trữ các phiên bản đã được lọc và đã thực hiện các bước để giảm thiểu việc sử dụng sai mục đích, thách thức nằm ở tính phổ biến của mô hình cũ.
Việc triển khai AI sáng tạo yêu cầu xác thực nghiêm ngặt
Theo David Thiel, kỹ thuật viên trưởng tại Đài quan sát Internet Stanford, cốt lõi của vấn đề bắt nguồn từ việc triển khai nhanh chóng nhiều dự án AI tổng quát vào thị trường.
Thiel chỉ ra rằng những dự án này thường được tiếp cận rộng rãi do sự cạnh tranh gay gắt trong lĩnh vực này mà không có sự quan tâm nghiêm ngặt cần thiết trong giai đoạn phát triển.
Các nhà nghiên cứu của Stanford ủng hộ các biện pháp quyết liệt để giải quyết vấn đề một cách hiệu quả. Các khuyến nghị bao gồm xóa hoặc dọn dẹp các bộ huấn luyện có nguồn gốc từ LAION-5B và tạo một phiên bản cũ hơn của Stable Diffusion ít tiếp cận hơn.
Tuy nhiên, sự phức tạp của việc làm sạch dữ liệu trở về trước đặt ra một thách thức đáng kể, dẫn đến lời kêu gọi hợp tác với các chuyên gia về an toàn trẻ em trong quá trình phát triển Cơ sở dữ liệu AI.
Khi các trường học và cơ quan thực thi pháp luật trên toàn thế giới bày tỏ sự cảnh báo về những hậu quả tiềm tàng của những phát hiện này, thì tâm điểm chú ý hiện đang tập trung vào Ngành công nghiệp AI khẩn trương khắc phục, khắc phục những khuyết điểm có hại trong công nghệ của mình.
Từ chối trách nhiệm
Phù hợp với Hướng dẫn của Dự án Tin cậy, xin lưu ý rằng thông tin được cung cấp trên trang này không nhằm mục đích và không được hiểu là tư vấn pháp lý, thuế, đầu tư, tài chính hoặc bất kỳ hình thức tư vấn nào khác. Điều quan trọng là chỉ đầu tư những gì bạn có thể đủ khả năng để mất và tìm kiếm lời khuyên tài chính độc lập nếu bạn có bất kỳ nghi ngờ nào. Để biết thêm thông tin, chúng tôi khuyên bạn nên tham khảo các điều khoản và điều kiện cũng như các trang trợ giúp và hỗ trợ do nhà phát hành hoặc nhà quảng cáo cung cấp. MetaversePost cam kết báo cáo chính xác, không thiên vị nhưng điều kiện thị trường có thể thay đổi mà không cần thông báo trước.
Giới thiệu về Tác giả
Kumar là một Nhà báo Công nghệ giàu kinh nghiệm với chuyên môn về các lĩnh vực giao thoa năng động giữa AI/ML, công nghệ tiếp thị và các lĩnh vực mới nổi như tiền điện tử, chuỗi khối và NFTS. Với hơn 3 năm kinh nghiệm trong ngành, Kumar đã lập được thành tích đã được chứng minh trong việc tạo ra những câu chuyện hấp dẫn, thực hiện các cuộc phỏng vấn sâu sắc và đưa ra những hiểu biết toàn diện. Chuyên môn của Kumar nằm ở việc sản xuất nội dung có tác động cao, bao gồm các bài báo, báo cáo và ấn phẩm nghiên cứu cho các nền tảng công nghiệp nổi bật. Với bộ kỹ năng độc đáo kết hợp giữa kiến thức kỹ thuật và cách kể chuyện, Kumar vượt trội trong việc truyền đạt các khái niệm công nghệ phức tạp tới nhiều đối tượng khác nhau một cách rõ ràng và hấp dẫn.
Xem thêm bài viết
Kumar là một Nhà báo Công nghệ giàu kinh nghiệm với chuyên môn về các lĩnh vực giao thoa năng động giữa AI/ML, công nghệ tiếp thị và các lĩnh vực mới nổi như tiền điện tử, chuỗi khối và NFTS. Với hơn 3 năm kinh nghiệm trong ngành, Kumar đã lập được thành tích đã được chứng minh trong việc tạo ra những câu chuyện hấp dẫn, thực hiện các cuộc phỏng vấn sâu sắc và đưa ra những hiểu biết toàn diện. Chuyên môn của Kumar nằm ở việc sản xuất nội dung có tác động cao, bao gồm các bài báo, báo cáo và ấn phẩm nghiên cứu cho các nền tảng công nghiệp nổi bật. Với bộ kỹ năng độc đáo kết hợp giữa kiến thức kỹ thuật và cách kể chuyện, Kumar vượt trội trong việc truyền đạt các khái niệm công nghệ phức tạp tới nhiều đối tượng khác nhau một cách rõ ràng và hấp dẫn.
