Skandal Perkauman: Penjana imej AI yang menyinggung perasaan China menyebabkan insiden antarabangsa
Secara ringkas
AI Tencent secara tidak sengaja mengubah orang kulit hitam menjadi haiwan dan bukannya watak anime
Tencent's Different Dimension Me (DDM) ialah alat AI yang diperkenalkan baru-baru ini yang boleh putar foto orang menjadi watak anime. Platform ini direka untuk pengguna China tetapi tidak lama kemudian menjadi popular di kawasan lain di mana anime digemari, seperti Amerika Selatan. Walau bagaimanapun, pengguna tidak lama lagi menyedari bahawa platform itu tidak dapat mengenal pasti orang kulit hitam dan orang bersaiz tambah, kumpulan yang jelas tidak hadir dalam anime Jepun, mengakibatkan hasil yang dijana AI yang menyinggung.
Malangnya, AI tidak selalu menghasilkan hasil yang paling memuaskan. Dalam sesetengah kes, imej yang dijana oleh AI adalah menyinggung perkauman, seperti lelaki kulit hitam dengan bibir keterlaluan atau wanita kulit putih dengan payudara yang terlalu besar.
Isu ini mungkin disebabkan oleh kekurangan data untuk dilatih oleh AI. Anime Jepun tidak cenderung menampilkan orang kulit hitam dan orang besar sebagai watak utama, bermakna tiada data yang tepat untuk AI untuk belajar daripadanya. Akibatnya, hasil yang dijana AI adalah tidak tepat dan menyinggung perasaan.
Tencent telah meminta maaf atas keputusan yang menyinggung perasaan dan telah berjanji untuk meningkatkan AI supaya ia dapat mengenal pasti pelbagai jenis orang dengan lebih baik. Sementara itu, pengguna dinasihatkan supaya berhati-hati semasa menggunakan platform dan menyemak keputusan sebelum berkongsinya secara terbuka.
Mengenai rangkaian saraf Cina
Mereka ada sendiri rangkaian saraf di sana, dan mereka agak bersemangat dan bebas sepenuhnya daripada pencapaian Google, Nvidia, OpenAI, StabilityAI, Dan lain-lain Midjourney syarikat-syarikat.
- Baidu, yang telah bertapak dalam enjin carian dan telah meningkatkan aktivitinya dalam bidang pemanduan autonomi sejak beberapa tahun kebelakangan ini, menggunakan ERNIE-ViLG, model dengan 10 bilion parameter yang dilatih pada set data 145 juta pasangan imej dan teks Cina.
- Dimensi Berbeza Saya (DDM) oleh Tencent boleh menukar foto orang menjadi watak anime. Ditujukan kepada pengguna Cina, ia tiba-tiba menjadi popular di kawasan lain yang menyukai anime.
- Cina lagi model teks ke imej ialah Taiyi, cetusan idea IDEA, makmal penyelidikan yang diketuai oleh Harry Shum, yang mengasaskan bersama bahagian penyelidikan terbesar Microsoft Research Asia. Model sumber terbuka dilatih pada 20 juta pasangan teks imej Cina yang ditapis dan mempunyai satu bilion parameter.
Sungguh pelik melihat bagaimana orang Cina akan mengawal semua aib ini kerana mereka mempunyai lebih banyak pengalaman dalam "peraturan” daripada seluruh dunia. Dan sementara pemberontak AI sedang mengumpulkan wang untuk mencipta “Stable Diffusion tanpa Penapisan,” orang Cina dengan tenang mengasah algoritma untuk mengawal selia rangkaian saraf dalam kepentingan negara dan tidak mementingkan perasaan orang beriman.
Baca lebih lanjut mengenai AI:
Penafian
Selaras dengan Garis panduan Projek Amanah, sila ambil perhatian bahawa maklumat yang diberikan pada halaman ini tidak bertujuan untuk menjadi dan tidak seharusnya ditafsirkan sebagai nasihat undang-undang, cukai, pelaburan, kewangan atau sebarang bentuk nasihat lain. Adalah penting untuk hanya melabur apa yang anda mampu kehilangan dan mendapatkan nasihat kewangan bebas jika anda mempunyai sebarang keraguan. Untuk maklumat lanjut, kami mencadangkan merujuk kepada terma dan syarat serta halaman bantuan dan sokongan yang disediakan oleh pengeluar atau pengiklan. MetaversePost komited kepada laporan yang tepat dan tidak berat sebelah, tetapi keadaan pasaran tertakluk kepada perubahan tanpa notis.
Tentang Pengarang
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
lebih banyak artikel
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
