Den mörka sidan av TikTok: Hur appens AI visar användarnas potentiellt skadligt innehåll
I korthet
TikTok-algoritmen "främjar" självmordsstörningar, ätstörningar efter att användare registrerat sig
TikTok har rekommenderat innehåll om självskador och ätstörningar till vissa användare flera minuter efter att de gått med på plattformen, enligt en ny rapport som publicerades på onsdagen av TikTok US Center for Countering Digital Hate. I ett experiment efterliknade forskare 13-åriga användare som var intresserade av kroppsuppfattning och mental hälsa genom att skapa TikTok-konton.
De pausade vid videor om dessa ämnen och låtsades vara intresserade. Konton öppnades i länder runt om i världen, inklusive USA, Storbritannien, Kanada och Australien. Det upptäcktes att TikTok-algoritmen rekommenderade självmordsrelaterat innehåll så snabbt som inom 2 minuter och 6 sekunder efter att ha gått med i appen. Ätstörningsinnehåll rekommenderades på bara 8 minuter.
Forskare upptäckte att 56 TikTok-hashtags associerade med ätstörningsvideor fick över 13.2 miljarder visningar i denna studie.
TikTok kan upptäcka användarsårbarheter och försöka utnyttja dem
Sociala medier kan vara skadliga för användarnas psykiska hälsa. Det som dock är ännu mer oroande är att vissa plattformar, som TikTok, verkar vara specifikt utformade för att utnyttja användarnas sårbarheter. TikToks algoritmer är designade för att hålla användarna engagerade så länge som möjligt. Och ett sätt de gör detta på är att ständigt mata användarna med det innehåll de tycker är tilltalande, även om det är skadligt.
Till exempel har TikTok varit känt för att främja självmord, ätstörningar och kroppsuppfattningsproblem. Detta är särskilt skadligt för tonåringar, som redan är mer sårbara för psykiska problem. Vad som är ännu mer alarmerande är att TikTok verkar rikta sig specifikt mot tonåringar med detta innehåll. Detta är mycket farligt, eftersom det ytterligare kan förvärra deras psykiska hälsokris.
TikTok, som lanserades globalt 2017 av det kinesiska företaget ByteDance och använder algoritmer baserade på personlig data, inklusive likes, prenumerationer, visningstid och användarintressen – har blivit världens snabbast växande sociala medieapplikation, med en miljard aktiva användare varje månad förväntas senast 2021.
Läs mer om TikTok:
Villkor
I linje med den Riktlinjer för Trust Project, vänligen notera att informationen på den här sidan inte är avsedd att vara och inte ska tolkas som juridisk, skattemässig, investerings-, finansiell eller någon annan form av rådgivning. Det är viktigt att bara investera det du har råd att förlora och att söka oberoende finansiell rådgivning om du har några tvivel. För ytterligare information föreslår vi att du hänvisar till villkoren samt hjälp- och supportsidorna som tillhandahålls av utfärdaren eller annonsören. MetaversePost är engagerad i korrekt, opartisk rapportering, men marknadsförhållandena kan ändras utan föregående meddelande.
Om författaren
Damir är teamledare, produktchef och redaktör på Metaverse Post, som täcker ämnen som AI/ML, AGI, LLMs, Metaverse och Web3-relaterade områden. Hans artiklar lockar en massiv publik på över en miljon användare varje månad. Han verkar vara en expert med 10 års erfarenhet av SEO och digital marknadsföring. Damir har nämnts i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto och andra publikationer. Han reser mellan Förenade Arabemiraten, Turkiet, Ryssland och OSS som en digital nomad. Damir tog en kandidatexamen i fysik, som han tror har gett honom de kritiska tänkande färdigheter som behövs för att bli framgångsrik i det ständigt föränderliga landskapet på internet.
fler artiklarDamir är teamledare, produktchef och redaktör på Metaverse Post, som täcker ämnen som AI/ML, AGI, LLMs, Metaverse och Web3-relaterade områden. Hans artiklar lockar en massiv publik på över en miljon användare varje månad. Han verkar vara en expert med 10 års erfarenhet av SEO och digital marknadsföring. Damir har nämnts i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto och andra publikationer. Han reser mellan Förenade Arabemiraten, Turkiet, Ryssland och OSS som en digital nomad. Damir tog en kandidatexamen i fysik, som han tror har gett honom de kritiska tänkande färdigheter som behövs för att bli framgångsrik i det ständigt föränderliga landskapet på internet.