Mặt tối của TikTok: Cách AI của ứng dụng hiển thị cho người dùng nội dung có thể gây hại
Tóm lại
Thuật toán TikTok 'thúc đẩy' tự tử, rối loạn ăn uống sau khi người dùng đăng ký
TikTok đã đề xuất nội dung về tự làm hại bản thân và rối loạn ăn uống cho một số người dùng vài phút sau khi họ tham gia nền tảng, theo một báo cáo mới được công bố vào thứ Tư bởi Trung tâm chống ghét kỹ thuật số của Hoa Kỳ. Trong một thử nghiệm, các nhà nghiên cứu đã mạo danh người dùng 13 tuổi quan tâm đến hình ảnh cơ thể và nội dung về sức khỏe tâm thần bằng cách tạo tài khoản TikTok.
Họ dừng lại ở các video về các chủ đề này, giả vờ quan tâm. Tài khoản đã được mở ở các quốc gia trên thế giới, bao gồm Hoa Kỳ, Vương quốc Anh, Canada và Úc. Người ta phát hiện ra rằng thuật toán TikTok đã đề xuất nội dung liên quan đến tự tử nhanh nhất trong 2 phút 6 giây sau khi tham gia ứng dụng. Nội dung rối loạn ăn uống được đề xuất chỉ trong 8 phút.
Các nhà nghiên cứu đã phát hiện ra 56 thẻ bắt đầu bằng # TikTok liên quan đến các video về chứng rối loạn ăn uống đã nhận được hơn 13.2 tỷ lượt xem trong nghiên cứu này.
TikTok có khả năng phát hiện lỗ hổng của người dùng và cố gắng khai thác chúng
Phương tiện truyền thông xã hội có thể gây hại cho sức khỏe tinh thần của người dùng. Tuy nhiên, điều đáng lo ngại hơn nữa là một số nền tảng, như TikTok, dường như được thiết kế đặc biệt để khai thác lỗ hổng của người dùng. Các thuật toán của TikTok được thiết kế để giữ người dùng tương tác càng lâu càng tốt. Và một cách họ làm điều này là liên tục cung cấp cho người dùng nội dung mà họ thấy hấp dẫn, ngay cả khi nội dung đó có hại.
Ví dụ: TikTok được biết đến là nguyên nhân thúc đẩy hành vi tự tử, rối loạn ăn uống và các vấn đề về hình ảnh cơ thể. Điều này đặc biệt có hại cho thanh thiếu niên, những người dễ bị tổn thương hơn với các vấn đề sức khỏe tâm thần. Điều đáng báo động hơn nữa là TikTok dường như đang nhắm mục tiêu cụ thể đến thanh thiếu niên với nội dung này. Điều này rất nguy hiểm, vì nó có thể làm trầm trọng thêm tình trạng khủng hoảng sức khỏe tâm thần của họ.
TikTok, được công ty Trung Quốc ByteDance ra mắt toàn cầu vào năm 2017 và sử dụng thuật toán dựa trên dữ liệu cá nhân, bao gồm lượt thích, đăng ký, thời gian xem và sở thích của người dùng—đã trở thành ứng dụng truyền thông xã hội phát triển nhanh nhất thế giới, với một tỷ người dùng hoạt động hàng tháng dự kiến vào năm 2021.
Đọc thêm về TikTok:
Từ chối trách nhiệm
Phù hợp với Hướng dẫn của Dự án Tin cậy, xin lưu ý rằng thông tin được cung cấp trên trang này không nhằm mục đích và không được hiểu là tư vấn pháp lý, thuế, đầu tư, tài chính hoặc bất kỳ hình thức tư vấn nào khác. Điều quan trọng là chỉ đầu tư những gì bạn có thể đủ khả năng để mất và tìm kiếm lời khuyên tài chính độc lập nếu bạn có bất kỳ nghi ngờ nào. Để biết thêm thông tin, chúng tôi khuyên bạn nên tham khảo các điều khoản và điều kiện cũng như các trang trợ giúp và hỗ trợ do nhà phát hành hoặc nhà quảng cáo cung cấp. MetaversePost cam kết báo cáo chính xác, không thiên vị nhưng điều kiện thị trường có thể thay đổi mà không cần thông báo trước.
Giới thiệu về Tác giả
Damir là trưởng nhóm, quản lý sản phẩm và biên tập viên tại Metaverse Post, bao gồm các chủ đề như AI/ML, AGI, LLMs, Metaverse và Web3-các lĩnh vực liên quan. Các bài báo của anh ấy thu hút một lượng lớn độc giả với hơn một triệu người dùng mỗi tháng. Anh ấy có vẻ là một chuyên gia với 10 năm kinh nghiệm về SEO và tiếp thị kỹ thuật số. Damir đã được đề cập trong Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto và các ấn phẩm khác. Anh đi lại giữa Các Tiểu vương quốc Ả Rập Thống nhất, Thổ Nhĩ Kỳ, Nga và CIS với tư cách là một người du mục kỹ thuật số. Damir đã có bằng cử nhân vật lý, bằng cấp mà anh tin rằng đã mang lại cho anh những kỹ năng tư duy phản biện cần thiết để thành công trong bối cảnh luôn thay đổi của Internet.
Xem thêm bài viếtDamir là trưởng nhóm, quản lý sản phẩm và biên tập viên tại Metaverse Post, bao gồm các chủ đề như AI/ML, AGI, LLMs, Metaverse và Web3-các lĩnh vực liên quan. Các bài báo của anh ấy thu hút một lượng lớn độc giả với hơn một triệu người dùng mỗi tháng. Anh ấy có vẻ là một chuyên gia với 10 năm kinh nghiệm về SEO và tiếp thị kỹ thuật số. Damir đã được đề cập trong Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto và các ấn phẩm khác. Anh đi lại giữa Các Tiểu vương quốc Ả Rập Thống nhất, Thổ Nhĩ Kỳ, Nga và CIS với tư cách là một người du mục kỹ thuật số. Damir đã có bằng cử nhân vật lý, bằng cấp mà anh tin rằng đã mang lại cho anh những kỹ năng tư duy phản biện cần thiết để thành công trong bối cảnh luôn thay đổi của Internet.