Mračna strana TikToka: Kako AI aplikacije korisnicima prikazuje potencijalno štetan sadržaj
Ukratko
TikTok algoritam 'promiče' suicidalne poremećaje prehrane nakon što se korisnici prijave
TikTok je preporučivao sadržaj o samoozljeđivanju i poremećajima prehrane nekim korisnicima nekoliko minuta nakon što su se pridružili platformi, prema novom izvješću objavljenom u srijedu od strane Američki centar za suzbijanje digitalne mržnje. U jednom eksperimentu, istraživači su oponašali 13-godišnje korisnike koje zanima slika tijela i sadržaj o mentalnom zdravlju stvaranjem TikTok računa.
Zastali su na video zapisima o tim temama, glumeći zainteresiranost. Računi su otvoreni u zemljama diljem svijeta, uključujući Sjedinjene Države, Ujedinjeno Kraljevstvo, Kanadu i Australiju. Otkriveno je da je TikTok algoritam preporučio sadržaj vezan uz samoubojstvo čak 2 minute i 6 sekundi nakon pridruživanja aplikaciji. Sadržaj o poremećaju prehrane preporučen je u samo 8 minuta.
Istraživači su otkrili da je 56 TikTok hashtagova povezanih s videozapisima o poremećajima prehrane dobilo više od 13.2 milijarde pregleda u ovoj studiji.
Video platforma pamti da je pokrenuti sadržaj jedinstven za svaku osobu, a društvena platforma ostaje usmjerena na stvaranje sigurnog i ugodnog prostora za sve,
prema glasnogovorniku TikToka.
TikTok je sposoban otkriti korisničke ranjivosti i pokušati ih iskoristiti
Društveni mediji mogu biti štetni za mentalno zdravlje korisnika. Međutim, ono što još više zabrinjava je to što se čini da su neke platforme, poput TikToka, posebno dizajnirane za iskorištavanje ranjivosti korisnika. TikTokovi algoritmi osmišljeni su kako bi korisnici bili angažirani što je duže moguće. A jedan od načina na koji to čine jest stalno davanje korisnicima sadržaja koji im je privlačan, čak i ako je štetan.
Na primjer, poznato je da TikTok promiče samoubojstvo, poremećaje prehrane i probleme sa slikom tijela. To je posebno štetno za tinejdžere, koji su ionako osjetljiviji na probleme mentalnog zdravlja. Ono što je još alarmantnije je to što se čini da TikTok ovim sadržajem posebno cilja na tinejdžere. To je vrlo opasno jer može dodatno pogoršati njihovu mentalnu krizu.
TikTok, koji je 2017. globalno pokrenula kineska tvrtka ByteDance i koristi algoritme temeljene na osobnim podacima, uključujući lajkove, pretplate, vrijeme gledanja i interese korisnika, postao je najbrže rastuća aplikacija društvenih medija na svijetu, s milijardu aktivnih korisnika mjesečno očekuje se do 2021.
Pročitajte više o TikToku:
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Damir je voditelj tima, product manager i urednik u Metaverse Post, koji pokriva teme kao što su AI/ML, AGI, LLMs, Metaverse i Web3- srodna polja. Njegovi članci privlače ogromnu publiku od preko milijun korisnika svakog mjeseca. Čini se da je stručnjak s 10 godina iskustva u SEO-u i digitalnom marketingu. Damir je spomenut u Mashableu, Wiredu, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i druge publikacije. Putuje između UAE, Turske, Rusije i CIS-a kao digitalni nomad. Damir je stekao diplomu prvostupnika fizike, za koju vjeruje da mu je dala vještine kritičkog razmišljanja potrebne za uspjeh u stalno promjenjivom okruženju interneta.
Više članaka
Damir je voditelj tima, product manager i urednik u Metaverse Post, koji pokriva teme kao što su AI/ML, AGI, LLMs, Metaverse i Web3- srodna polja. Njegovi članci privlače ogromnu publiku od preko milijun korisnika svakog mjeseca. Čini se da je stručnjak s 10 godina iskustva u SEO-u i digitalnom marketingu. Damir je spomenut u Mashableu, Wiredu, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i druge publikacije. Putuje između UAE, Turske, Rusije i CIS-a kao digitalni nomad. Damir je stekao diplomu prvostupnika fizike, za koju vjeruje da mu je dala vještine kritičkog razmišljanja potrebne za uspjeh u stalno promjenjivom okruženju interneta.
