Temna stran TikToka: Kako AI aplikacije uporabnikom prikaže potencialno škodljivo vsebino
Na kratko
Algoritem TikTok 'spodbuja' samomorilne motnje hranjenja, potem ko se uporabniki prijavijo
TikTok nekaterim uporabnikom že nekaj minut po tem, ko so se pridružili platformi, priporoča vsebino o samopoškodovanju in motnjah hranjenja, kaže novo poročilo, ki ga je v sredo objavil Ameriški center za boj proti digitalnemu sovraštvu. V enem poskusu so raziskovalci z ustvarjanjem računov TikTok posnemali 13-letne uporabnike, ki jih zanima podoba telesa in vsebina o duševnem zdravju.
Ustavili so se ob videoposnetkih o teh temah in se pretvarjali, da jih zanima. Računi so bili odprti v državah po vsem svetu, vključno z Združenimi državami, Združenim kraljestvom, Kanado in Avstralijo. Ugotovljeno je bilo, da je algoritem TikTok priporočil vsebino, povezano s samomorom, že v 2 minutah in 6 sekundah po pridružitvi aplikaciji. Vsebina o motnjah hranjenja je bila priporočena v samo 8 minutah.
Raziskovalci so odkrili, da je 56 oznak TikTok, povezanih z videoposnetki motenj hranjenja, v tej študiji prejelo več kot 13.2 milijarde ogledov.
Video platforma se spominja, da je predstavljena vsebina edinstvena za vsako osebo, socialna platforma pa ostaja osredotočena na ustvarjanje varnega in udobnega prostora za vse,
po besedah tiskovnega predstavnika TikToka.
TikTok je sposoben zaznati ranljivosti uporabnikov in jih poskušati izkoristiti
Družbeni mediji so lahko škodljivi za duševno zdravje uporabnikov. Vendar pa je še bolj zaskrbljujoče to, da se zdi, da so nekatere platforme, kot je TikTok, posebej zasnovane za izkoriščanje ranljivosti uporabnikov. TikTok-ovi algoritmi so zasnovani tako, da uporabnike čim dlje zadržijo. Eden od načinov, kako to počnejo, je, da uporabnikom nenehno posredujejo vsebino, ki se jim zdi privlačna, tudi če je škodljiva.
Znano je na primer, da TikTok spodbuja samomor, motnje hranjenja in težave s telesno podobo. To je še posebej škodljivo za najstnike, ki so že tako bolj ranljivi za duševne težave. Še bolj zaskrbljujoče je, da se zdi, da TikTok s to vsebino cilja posebej na najstnike. To je zelo nevarno, saj lahko še poslabša njihovo duševno krizo.
TikTok, ki ga je leta 2017 globalno lansiralo kitajsko podjetje ByteDance in uporablja algoritme, ki temeljijo na osebnih podatkih, vključno z všečki, naročninami, časom gledanja in interesi uporabnikov, je postal najhitreje rastoča aplikacija družbenih medijev na svetu z milijardo mesečnih aktivnih uporabnikov predvidoma do leta 2021.
Preberite več o TikToku:
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
več člankov
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
