Escándalo de racismo: el generador de imágenes de inteligencia artificial ofensivo de China provoca un incidente internacional
En Resumen
La IA de Tencent transforma accidentalmente a personas negras en animales en lugar de personajes de anime
Different Dimension Me (DDM) de Tencent es una herramienta de inteligencia artificial introducida recientemente que puede convertir fotos de personas en personajes de anime. La plataforma fue diseñada para usuarios chinos, pero pronto se hizo popular en otras regiones donde se ama el anime, como América del Sur. Sin embargo, los usuarios pronto se dieron cuenta de que la plataforma no podía identificar a las personas negras y de talla grande, grupos que brillan por su ausencia en el anime japonés, lo que generaba resultados ofensivos generados por IA.
Desafortunadamente, la IA no siempre produjo los resultados más halagadores. En algunos casos, las imágenes generadas por IA eran racialmente ofensivas, como un hombre negro con labios exagerados o una mujer blanca con senos excesivamente grandes.
Este problema probablemente se debió a la falta de datos para que la IA pudiera entrenar. El anime japonés no tiende a presentar negros y personas grandes como personajes principales, lo que significa que no había datos precisos de los que la IA pudiera aprender. Como resultado, los resultados generados por la IA fueron inexactos y ofensivos.
Desde entonces, Tencent se disculpó por los resultados ofensivos y se comprometió a mejorar la IA para que pueda identificar mejor a los diferentes tipos de personas. Mientras tanto, se recomienda a los usuarios que tengan cuidado al usar la plataforma y verifiquen los resultados antes de compartirlos públicamente.
Acerca de las redes neuronales chinas
Tienen su propio redes neuronales allí, y están bastante entusiasmados y son completamente independientes de los logros de Google, Nvidia, OpenAI, StabilityAI, y otros Midjourney .empresas.
- Baidu, que se ha consolidado en los buscadores y ha intensificado su actividad en el campo de la conducción autónoma en los últimos años, utiliza ERNIE-ViLG, un modelo con 10 millones de parámetros entrenados en un conjunto de datos de 145 millones de pares de imágenes y textos chinos.
- Mi Dimensión Diferente (DDM) de Tencent puede convertir fotos de personas en personajes de anime. Dirigido a usuarios chinos, de repente se hizo popular en otras regiones amantes del anime.
- Otro chino modelo de texto a imagen es Taiyi, la creación de IDEA, un laboratorio de investigación dirigido por Harry Shum, cofundador de la división de investigación más grande de Microsoft Research Asia. El modelo de código abierto se entrena en 20 millones de pares de imagen-texto chinos filtrados y tiene mil millones de parámetros.
Es curioso ver cómo los chinos regularán toda esta vergüenza porque tienen más experiencia en “regulación” que el resto del mundo. Y mientras los rebeldes de AI están financiando crowdfunding para crear "Stable Diffusion sin censura”, los chinos están perfeccionando tranquilamente algoritmos para regular las redes neuronales en el intereses del estado y no centrarse en los sentimientos de los creyentes.
Lea más sobre la IA:
Observación
En línea con la Directrices del Proyecto Confianza, tenga en cuenta que la información proporcionada en esta página no pretende ser ni debe interpretarse como asesoramiento legal, fiscal, de inversión, financiero o de cualquier otro tipo. Es importante invertir sólo lo que pueda permitirse perder y buscar asesoramiento financiero independiente si tiene alguna duda. Para mayor información sugerimos consultar los términos y condiciones así como las páginas de ayuda y soporte proporcionadas por el emisor o anunciante. MetaversePost se compromete a brindar informes precisos e imparciales, pero las condiciones del mercado están sujetas a cambios sin previo aviso.
Sobre el Autor
Damir es el líder del equipo, gerente de producto y editor en Metaverse Post, que cubre temas como AI/ML, AGI, LLM, Metaverse y Web3-campos relacionados. Sus artículos atraen una audiencia masiva de más de un millón de usuarios cada mes. Parece ser un experto con 10 años de experiencia en SEO y marketing digital. Damir ha sido mencionado en Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto y otras publicaciones. Viaja entre los Emiratos Árabes Unidos, Turquía, Rusia y la CEI como nómada digital. Damir obtuvo una licenciatura en física, que él cree que le ha dado las habilidades de pensamiento crítico necesarias para tener éxito en el panorama siempre cambiante de Internet.
Más artículos
Damir es el líder del equipo, gerente de producto y editor en Metaverse Post, que cubre temas como AI/ML, AGI, LLM, Metaverse y Web3-campos relacionados. Sus artículos atraen una audiencia masiva de más de un millón de usuarios cada mes. Parece ser un experto con 10 años de experiencia en SEO y marketing digital. Damir ha sido mencionado en Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto y otras publicaciones. Viaja entre los Emiratos Árabes Unidos, Turquía, Rusia y la CEI como nómada digital. Damir obtuvo una licenciatura en física, que él cree que le ha dado las habilidades de pensamiento crítico necesarias para tener éxito en el panorama siempre cambiante de Internet.
