Skandal Rasisme: Pembuat gambar AI ofensif China menyebabkan insiden internasional
Singkatnya
AI Tencent secara tidak sengaja mengubah orang kulit hitam menjadi hewan, bukan karakter anime
Tencent's Different Dimension Me (DDM) adalah alat AI baru-baru ini yang dapat mengubah foto orang menjadi karakter anime. Platform ini dirancang untuk pengguna China tetapi segera menjadi populer di wilayah lain yang menyukai anime, seperti Amerika Selatan. Namun, pengguna segera menyadari bahwa platform tersebut tidak dapat mengidentifikasi orang kulit hitam dan orang berukuran besar, kelompok yang secara mencolok absen dari anime Jepang, sehingga menghasilkan hasil AI yang ofensif.
Sayangnya, AI tidak selalu menghasilkan hasil yang paling bagus. Dalam beberapa kasus, gambar yang dihasilkan AI bersifat ofensif secara rasial, seperti pria kulit hitam dengan bibir berlebihan atau wanita kulit putih dengan payudara terlalu besar.
Masalah ini kemungkinan besar karena kurangnya data untuk pelatihan AI. Anime Jepang cenderung tidak menampilkan orang kulit hitam dan orang besar sebagai karakter utama, artinya tidak ada data akurat untuk dipelajari AI. Akibatnya, hasil yang dihasilkan AI tidak akurat dan ofensif.
Tencent sejak itu meminta maaf atas hasil ofensif dan telah berjanji untuk meningkatkan AI sehingga dapat mengidentifikasi berbagai jenis orang dengan lebih baik. Sementara itu, pengguna disarankan untuk berhati-hati saat menggunakan platform dan memeriksa hasilnya sebelum membagikannya secara publik.
Tentang jaringan saraf Cina
Mereka memilikinya sendiri jaringan saraf di sana, dan mereka cukup bersemangat dan sepenuhnya independen dari pencapaian Google, Nvidia, OpenAI, StabilityAI, Dan lainnya Midjourney perusahaan.
- Baidu, yang telah memantapkan dirinya di mesin pencari dan telah meningkatkan aktivitasnya di bidang mengemudi otonom dalam beberapa tahun terakhir, menggunakan ERNIE-ViLG, model dengan 10 miliar parameter yang dilatih pada kumpulan data dari 145 juta pasangan gambar dan teks China.
- Dimensi yang Berbeda Saya (DDM) oleh Tencent dapat mengubah foto orang menjadi karakter anime. Ditujukan untuk pengguna Cina, tiba-tiba menjadi populer di daerah pecinta anime lainnya.
- Cina lain model teks-ke-gambar adalah Taiyi, gagasan dari IDEA, sebuah laboratorium penelitian yang dipimpin oleh Harry Shum, yang ikut mendirikan divisi penelitian terbesar di Microsoft Research Asia. Model open-source dilatih pada 20 juta pasangan gambar-teks China yang difilter dan memiliki satu miliar parameter.
Sangat ingin tahu bagaimana orang Cina akan mengatur semua aib ini karena mereka lebih berpengalaman dalam “peraturan” dari seluruh dunia. Dan sementara pemberontak AI mengumpulkan uang untuk menciptakan "Stable Diffusion tanpa Sensor,” orang China dengan tenang mengasah algoritme untuk mengatur jaringan saraf di kepentingan negara dan tidak berfokus pada perasaan orang percaya.
Baca lebih lanjut tentang AI:
Penolakan tanggung jawab
Sejalan dengan Percayai pedoman Proyek, harap dicatat bahwa informasi yang diberikan pada halaman ini tidak dimaksudkan untuk dan tidak boleh ditafsirkan sebagai nasihat hukum, pajak, investasi, keuangan, atau bentuk nasihat lainnya. Penting untuk hanya menginvestasikan jumlah yang mampu Anda tanggung kerugiannya dan mencari nasihat keuangan independen jika Anda ragu. Untuk informasi lebih lanjut, kami menyarankan untuk merujuk pada syarat dan ketentuan serta halaman bantuan dan dukungan yang disediakan oleh penerbit atau pengiklan. MetaversePost berkomitmen terhadap pelaporan yang akurat dan tidak memihak, namun kondisi pasar dapat berubah tanpa pemberitahuan.
Tentang Penulis
Damir adalah pemimpin tim, manajer produk, dan editor di Metaverse Post, mencakup topik seperti AI/ML, AGI, LLM, Metaverse, dan Web3-bidang terkait. Artikelnya menarik lebih dari satu juta pengguna setiap bulan. Dia tampaknya ahli dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebutkan dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, dan publikasi lainnya. Dia melakukan perjalanan antara UEA, Turki, Rusia, dan CIS sebagai pengembara digital. Damir memperoleh gelar sarjana dalam bidang fisika, yang menurutnya telah memberinya keterampilan berpikir kritis yang diperlukan untuk berhasil dalam lanskap internet yang selalu berubah.
lebih artikel
Damir adalah pemimpin tim, manajer produk, dan editor di Metaverse Post, mencakup topik seperti AI/ML, AGI, LLM, Metaverse, dan Web3-bidang terkait. Artikelnya menarik lebih dari satu juta pengguna setiap bulan. Dia tampaknya ahli dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebutkan dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, dan publikasi lainnya. Dia melakukan perjalanan antara UEA, Turki, Rusia, dan CIS sebagai pengembara digital. Damir memperoleh gelar sarjana dalam bidang fisika, yang menurutnya telah memberinya keterampilan berpikir kritis yang diperlukan untuk berhasil dalam lanskap internet yang selalu berubah.
