Sisi gelap TikTok: Bagaimana AI aplikasi menunjukkan kepada pengguna konten yang berpotensi berbahaya
Singkatnya
Algoritme TikTok 'mempromosikan' bunuh diri, gangguan makan setelah pengguna mendaftar
TikTok telah merekomendasikan konten tentang menyakiti diri sendiri dan gangguan makan kepada beberapa pengguna beberapa menit setelah mereka bergabung dengan platform tersebut, menurut laporan baru yang diterbitkan pada hari Rabu oleh Pusat AS untuk Melawan Kebencian Digital. Dalam satu percobaan, peneliti meniru pengguna berusia 13 tahun yang tertarik dengan citra tubuh dan konten kesehatan mental dengan membuat akun TikTok.
Mereka menjeda video tentang topik ini, berpura-pura tertarik. Akun dibuka di negara-negara di seluruh dunia, termasuk Amerika Serikat, Inggris Raya, Kanada, dan Australia. Ditemukan bahwa algoritma TikTok merekomendasikan konten terkait bunuh diri secepat dalam 2 menit dan 6 detik setelah bergabung dengan aplikasi. Konten gangguan makan direkomendasikan hanya dalam 8 menit.
Para peneliti menemukan 56 tagar TikTok yang terkait dengan video gangguan makan menerima lebih dari 13.2 miliar penayangan dalam penelitian ini.
Platform video mengingat bahwa konten yang diluncurkan adalah unik untuk setiap orang, dan platform sosial tetap fokus untuk menciptakan ruang yang aman dan nyaman bagi semua orang,
menurut juru bicara TikTok.
TikTok mampu mendeteksi kerentanan pengguna dan mencoba mengeksploitasinya
Media sosial bisa berbahaya bagi kesehatan mental penggunanya. Namun, yang lebih mengkhawatirkan adalah beberapa platform, seperti TikTok, tampaknya dirancang khusus untuk mengeksploitasi kerentanan pengguna. Algoritme TikTok dirancang untuk membuat pengguna tetap terlibat selama mungkin. Dan salah satu cara mereka melakukannya adalah dengan terus-menerus memberi pengguna konten yang menurut mereka menarik, meskipun itu berbahaya.
Misalnya, TikTok dikenal mempromosikan bunuh diri, gangguan makan, dan masalah citra tubuh. Ini sangat berbahaya bagi remaja, yang sudah lebih rentan terhadap masalah kesehatan mental. Yang lebih memprihatinkan lagi, TikTok sepertinya secara khusus menyasar remaja dengan konten ini. Ini sangat berbahaya, karena dapat semakin memperburuk krisis kesehatan mental mereka.
TikTok, yang diluncurkan secara global pada tahun 2017 oleh perusahaan China ByteDance dan menggunakan algoritme berdasarkan data pribadi, termasuk suka, langganan, waktu menonton, dan minat pengguna—telah menjadi aplikasi media sosial dengan pertumbuhan tercepat di dunia, dengan satu miliar pengguna aktif bulanan diharapkan pada tahun 2021.
Baca lebih lanjut tentang TikTok:
Penolakan tanggung jawab
Sejalan dengan Percayai pedoman Proyek, harap dicatat bahwa informasi yang diberikan pada halaman ini tidak dimaksudkan untuk dan tidak boleh ditafsirkan sebagai nasihat hukum, pajak, investasi, keuangan, atau bentuk nasihat lainnya. Penting untuk hanya menginvestasikan jumlah yang mampu Anda tanggung kerugiannya dan mencari nasihat keuangan independen jika Anda ragu. Untuk informasi lebih lanjut, kami menyarankan untuk merujuk pada syarat dan ketentuan serta halaman bantuan dan dukungan yang disediakan oleh penerbit atau pengiklan. MetaversePost berkomitmen terhadap pelaporan yang akurat dan tidak memihak, namun kondisi pasar dapat berubah tanpa pemberitahuan.
Tentang Penulis
Damir adalah pemimpin tim, manajer produk, dan editor di Metaverse Post, mencakup topik seperti AI/ML, AGI, LLM, Metaverse, dan Web3-bidang terkait. Artikelnya menarik lebih dari satu juta pengguna setiap bulan. Dia tampaknya ahli dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebutkan dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, dan publikasi lainnya. Dia melakukan perjalanan antara UEA, Turki, Rusia, dan CIS sebagai pengembara digital. Damir memperoleh gelar sarjana dalam bidang fisika, yang menurutnya telah memberinya keterampilan berpikir kritis yang diperlukan untuk berhasil dalam lanskap internet yang selalu berubah.
lebih artikel
Damir adalah pemimpin tim, manajer produk, dan editor di Metaverse Post, mencakup topik seperti AI/ML, AGI, LLM, Metaverse, dan Web3-bidang terkait. Artikelnya menarik lebih dari satu juta pengguna setiap bulan. Dia tampaknya ahli dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebutkan dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, dan publikasi lainnya. Dia melakukan perjalanan antara UEA, Turki, Rusia, dan CIS sebagai pengembara digital. Damir memperoleh gelar sarjana dalam bidang fisika, yang menurutnya telah memberinya keterampilan berpikir kritis yang diperlukan untuk berhasil dalam lanskap internet yang selalu berubah.
