Temná stránka TikTok: Jak AI aplikace ukazuje uživatelům potenciálně škodlivý obsah
Stručně
Algoritmus TikTok „propaguje“ sebevražedné a stravovací poruchy poté, co se uživatelé zaregistrují
TikTok doporučoval obsah o sebepoškozování a poruchách příjmu potravy některým uživatelům několik minut poté, co se připojili k platformě, podle nové zprávy zveřejněné ve středu Americké centrum pro boj proti digitální nenávisti. V jednom experimentu vědci vytvořili účty TikTok a vydávali se za 13leté uživatele se zájmem o obsah těla a duševního zdraví.
Pozastavili se u videí na tato témata a předstírali zájem. Účty byly otevřeny v zemích po celém světě, včetně Spojených států, Spojeného království, Kanady a Austrálie. Bylo zjištěno, že algoritmus TikTok doporučoval obsah související se sebevraždou již za 2 minuty a 6 sekund po připojení k aplikaci. Obsah poruch příjmu potravy byl doporučen za pouhých 8 minut.
Vědci objevili 56 hashtagů TikTok spojených s videi s poruchami příjmu potravy, které v této studii získalo více než 13.2 miliardy zhlédnutí.
Video platforma si pamatuje, že spouštěný obsah je pro každého jedinečný a sociální platforma zůstává zaměřena na vytvoření bezpečného a pohodlného prostoru pro všechny,
podle mluvčího TikTok.
TikTok je schopen detekovat zranitelnosti uživatelů a pokusit se je zneužít
Sociální sítě mohou být škodlivé pro duševní zdraví uživatelů. Co je však ještě znepokojivější, je, že některé platformy, jako je TikTok, se zdají být speciálně navrženy tak, aby zneužívaly zranitelnosti uživatelů. Algoritmy TikTok jsou navrženy tak, aby udržely uživatele v zapojení co nejdéle. A jedním ze způsobů, jak toho dosáhnout, je neustálé krmení uživatelů obsahem, který považují za přitažlivý, i když je škodlivý.
Například je známo, že TikTok podporuje sebevraždy, poruchy příjmu potravy a problémy s obrazem těla. To je zvláště škodlivé pro teenagery, kteří jsou již více zranitelní vůči problémům duševního zdraví. Ještě alarmující je, že se zdá, že TikTok tímto obsahem cílí konkrétně na teenagery. To je vysoce nebezpečné, protože to může dále zhoršit jejich duševní krizi.
TikTok, který byl celosvětově spuštěn v roce 2017 čínskou společností ByteDance a používá algoritmy založené na osobních údajích, včetně hodnocení Líbí se, odběrů, doby sledování a zájmů uživatelů, se stal nejrychleji rostoucí aplikací sociálních médií na světě s miliardou aktivních uživatelů měsíčně. očekáváno do roku 2021.
Přečtěte si více o TikTok:
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Damir je vedoucí týmu, produktový manažer a editor ve společnosti Metaverse Post, pokrývající témata jako AI/ML, AGI, LLM, Metaverse a Web3- související obory. Jeho články přitahují každý měsíc masivní publikum čítající více než milion uživatelů. Jeví se jako odborník s 10 lety zkušeností v oblasti SEO a digitálního marketingu. Damir byl zmíněn v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a další publikace. Jako digitální nomád cestuje mezi SAE, Tureckem, Ruskem a SNS. Damir získal bakalářský titul z fyziky, o kterém se domnívá, že mu dal dovednosti kritického myšlení potřebné k úspěchu v neustále se měnícím prostředí internetu.
Další články
Damir je vedoucí týmu, produktový manažer a editor ve společnosti Metaverse Post, pokrývající témata jako AI/ML, AGI, LLM, Metaverse a Web3- související obory. Jeho články přitahují každý měsíc masivní publikum čítající více než milion uživatelů. Jeví se jako odborník s 10 lety zkušeností v oblasti SEO a digitálního marketingu. Damir byl zmíněn v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a další publikace. Jako digitální nomád cestuje mezi SAE, Tureckem, Ruskem a SNS. Damir získal bakalářský titul z fyziky, o kterém se domnívá, že mu dal dovednosti kritického myšlení potřebné k úspěchu v neustále se měnícím prostředí internetu.
