Le côté obscur de TikTok : comment l'IA de l'application montre aux utilisateurs du contenu potentiellement dangereux
En bref
L'algorithme TikTok "favorise" les troubles alimentaires suicidaires après l'inscription des utilisateurs
TikTok a recommandé des contenus sur l'automutilation et les troubles de l'alimentation à certains utilisateurs plusieurs minutes après avoir rejoint la plateforme, selon un nouveau rapport publié mercredi par le Centre américain de lutte contre la haine numérique. Dans une expérience, des chercheurs se sont fait passer pour des utilisateurs de 13 ans intéressés par l'image corporelle et le contenu sur la santé mentale en créant des comptes TikTok.
Ils se sont arrêtés devant des vidéos sur ces sujets, feignant l'intérêt. Des comptes ont été ouverts dans des pays du monde entier, notamment aux États-Unis, au Royaume-Uni, au Canada et en Australie. Il a été découvert que l'algorithme TikTok recommandait du contenu lié au suicide aussi rapidement que 2 minutes et 6 secondes après avoir rejoint l'application. Le contenu des troubles de l'alimentation a été recommandé en seulement 8 minutes.
Les chercheurs ont découvert que 56 hashtags TikTok associés à des vidéos sur les troubles de l'alimentation ont reçu plus de 13.2 milliards de vues dans cette étude.
TikTok est capable de détecter les vulnérabilités des utilisateurs et de tenter de les exploiter
Les médias sociaux peuvent nuire à la santé mentale des utilisateurs. Cependant, ce qui est encore plus inquiétant, c'est que certaines plateformes, comme TikTok, semblent être spécifiquement conçues pour exploiter les vulnérabilités des utilisateurs. Les algorithmes de TikTok sont conçus pour garder les utilisateurs engagés aussi longtemps que possible. Et une façon d'y parvenir est de fournir constamment aux utilisateurs le contenu qu'ils trouvent attrayant, même s'il est nuisible.
Par exemple, TikTok est connu pour favoriser le suicide, les troubles de l'alimentation et les problèmes d'image corporelle. Cela est particulièrement nocif pour les adolescents, qui sont déjà plus vulnérables aux problèmes de santé mentale. Ce qui est encore plus alarmant, c'est que TikTok semble cibler spécifiquement les adolescents avec ce contenu. C'est très dangereux, car cela peut encore aggraver leur crise de santé mentale.
TikTok, qui a été lancé à l'échelle mondiale en 2017 par la société chinoise ByteDance et utilise des algorithmes basés sur des données personnelles, y compris les goûts, les abonnements, la durée de visionnage et les intérêts des utilisateurs, est devenu l'application de médias sociaux à la croissance la plus rapide au monde, avec un milliard d'utilisateurs actifs par mois. attendu d'ici 2021.
En savoir plus sur TikTok :
Clause de non-responsabilité
En ligne avec la Lignes directrices du projet de confiance, veuillez noter que les informations fournies sur cette page ne sont pas destinées à être et ne doivent pas être interprétées comme des conseils juridiques, fiscaux, d'investissement, financiers ou toute autre forme de conseil. Il est important d’investir uniquement ce que vous pouvez vous permettre de perdre et de demander des conseils financiers indépendants en cas de doute. Pour plus d'informations, nous vous suggérons de vous référer aux conditions générales ainsi qu'aux pages d'aide et de support mises à disposition par l'émetteur ou l'annonceur. MetaversePost s'engage à fournir des rapports précis et impartiaux, mais les conditions du marché sont susceptibles de changer sans préavis.
A propos de l'auteur
Damir est chef d'équipe, chef de produit et rédacteur en chef chez Metaverse Post, couvrant des sujets tels que l'IA/ML, l'AGI, les LLM, le métaverse et Web3-domaines connexes. Ses articles attirent une audience massive de plus d'un million d'utilisateurs chaque mois. Il semble être un expert avec 10 ans d'expérience dans le référencement et le marketing numérique. Damir a été mentionné dans Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto et d'autres publications. Il voyage entre les Émirats arabes unis, la Turquie, la Russie et la CEI en tant que nomade numérique. Damir a obtenu un baccalauréat en physique, ce qui, selon lui, lui a donné les compétences de pensée critique nécessaires pour réussir dans le paysage en constante évolution d'Internet.
Plus d'articlesDamir est chef d'équipe, chef de produit et rédacteur en chef chez Metaverse Post, couvrant des sujets tels que l'IA/ML, l'AGI, les LLM, le métaverse et Web3-domaines connexes. Ses articles attirent une audience massive de plus d'un million d'utilisateurs chaque mois. Il semble être un expert avec 10 ans d'expérience dans le référencement et le marketing numérique. Damir a été mentionné dans Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto et d'autres publications. Il voyage entre les Émirats arabes unis, la Turquie, la Russie et la CEI en tant que nomade numérique. Damir a obtenu un baccalauréat en physique, ce qui, selon lui, lui a donné les compétences de pensée critique nécessaires pour réussir dans le paysage en constante évolution d'Internet.