Scandale raciste : le générateur d'images d'IA offensive de la Chine provoque un incident international
En bref
L'IA de Tencent transforme accidentellement des Noirs en animaux au lieu de personnages d'anime
Different Dimension Me (DDM) de Tencent est un outil d'IA récemment introduit qui peut transformer des photos de personnes en personnages d'anime. La plate-forme a été conçue pour les utilisateurs chinois, mais est rapidement devenue populaire dans d'autres régions où l'anime est apprécié, comme l'Amérique du Sud. Cependant, les utilisateurs ont rapidement réalisé que la plate-forme ne pouvait pas identifier les Noirs et les personnes de grande taille, des groupes qui sont manifestement absents des anime japonais, ce qui entraîne des résultats offensants générés par l'IA.
Malheureusement, l'IA n'a pas toujours produit les résultats les plus flatteurs. Dans certains cas, les images générées par l'IA étaient racialement offensantes, comme un homme noir avec des lèvres exagérées ou une femme blanche avec des seins excessivement gros.
Ce problème était probablement dû à un manque de données sur lesquelles l'IA pouvait s'entraîner. L'anime japonais n'a pas tendance à présenter des Noirs et des personnes énormes comme personnages principaux, ce qui signifie qu'il n'y avait pas de données précises sur lesquelles l'IA pouvait apprendre. En conséquence, les résultats générés par l'IA étaient inexacts et offensants.
Tencent s'est depuis excusé pour les résultats offensants et s'est engagé à améliorer l'IA afin qu'elle puisse mieux identifier les différents types de personnes. En attendant, il est conseillé aux utilisateurs d'être prudents lors de l'utilisation de la plateforme et de vérifier les résultats avant de les partager publiquement.
À propos des réseaux de neurones chinois
Ils ont leur propre les réseaux de neurones là, et ils sont assez pompés et complètement indépendants des réalisations de Google, Nvidia, OpenAI, StabilityAI, Et d'autres Midjourney entreprises.
- Baidu, qui s'est imposé dans les moteurs de recherche et a intensifié son activité dans le domaine de la conduite autonome ces dernières années, utilise ERNIE-ViLG, un modèle de 10 milliards de paramètres entraînés sur un jeu de données de 145 millions de couples image et texte chinois.
- Dimension différente moi (DDM) de Tencent peut transformer des photos de personnes en personnages d'anime. Destiné aux utilisateurs chinois, il est soudainement devenu populaire dans d'autres régions aimant l'anime.
- Un autre chinois modèle texte-image est Taiyi, une idée originale d'IDEA, un laboratoire de recherche dirigé par Harry Shum, qui a cofondé la plus grande division de recherche de Microsoft Research Asia. Le modèle open source est formé sur 20 millions de paires image-texte chinoises filtrées et comporte un milliard de paramètres.
C'est curieux de voir comment les chinois vont régler toute cette disgrâce car ils ont plus d'expérience dans "réglementation” que le reste du monde. Et tandis que les rebelles de l'IA font du crowdfunding pour créer "Stable Diffusion sans censure », les Chinois peaufinent calmement des algorithmes pour réguler les réseaux de neurones dans le intérêts de l'état et ne pas se concentrer sur les sentiments des croyants.
En savoir plus sur l'IA :
Clause de non-responsabilité
En ligne avec la Lignes directrices du projet de confiance, veuillez noter que les informations fournies sur cette page ne sont pas destinées à être et ne doivent pas être interprétées comme des conseils juridiques, fiscaux, d'investissement, financiers ou toute autre forme de conseil. Il est important d’investir uniquement ce que vous pouvez vous permettre de perdre et de demander des conseils financiers indépendants en cas de doute. Pour plus d'informations, nous vous suggérons de vous référer aux conditions générales ainsi qu'aux pages d'aide et de support mises à disposition par l'émetteur ou l'annonceur. MetaversePost s'engage à fournir des rapports précis et impartiaux, mais les conditions du marché sont susceptibles de changer sans préavis.
A propos de l'auteur
Damir est chef d'équipe, chef de produit et rédacteur en chef chez Metaverse Post, couvrant des sujets tels que l'IA/ML, l'AGI, les LLM, le métaverse et Web3-domaines connexes. Ses articles attirent une audience massive de plus d'un million d'utilisateurs chaque mois. Il semble être un expert avec 10 ans d'expérience dans le référencement et le marketing numérique. Damir a été mentionné dans Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto et d'autres publications. Il voyage entre les Émirats arabes unis, la Turquie, la Russie et la CEI en tant que nomade numérique. Damir a obtenu un baccalauréat en physique, ce qui, selon lui, lui a donné les compétences de pensée critique nécessaires pour réussir dans le paysage en constante évolution d'Internet.
Plus d'articles
Damir est chef d'équipe, chef de produit et rédacteur en chef chez Metaverse Post, couvrant des sujets tels que l'IA/ML, l'AGI, les LLM, le métaverse et Web3-domaines connexes. Ses articles attirent une audience massive de plus d'un million d'utilisateurs chaque mois. Il semble être un expert avec 10 ans d'expérience dans le référencement et le marketing numérique. Damir a été mentionné dans Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto et d'autres publications. Il voyage entre les Émirats arabes unis, la Turquie, la Russie et la CEI en tant que nomade numérique. Damir a obtenu un baccalauréat en physique, ce qui, selon lui, lui a donné les compétences de pensée critique nécessaires pour réussir dans le paysage en constante évolution d'Internet.
