Escàndol de racisme: el generador d'imatges ofensius d'IA de la Xina provoca un incident internacional
En breu
L'IA de Tencent transforma accidentalment els negres en animals en lloc de personatges d'anime
Tencent's Different Dimension Me (DDM) és una eina d'IA introduïda recentment que pot gira fotos de persones en personatges d'anime. La plataforma va ser dissenyada per a usuaris xinesos, però aviat es va fer popular a altres regions on s'estima l'anime, com ara Amèrica del Sud. No obstant això, els usuaris aviat es van adonar que la plataforma no podia identificar els negres i les persones grans, grups que estan clarament absents de l'anime japonès, donant lloc a resultats ofensius generats per IA.
Malauradament, la IA no sempre va produir els resultats més afavoridors. En alguns casos, les imatges generades per IA eren ofensives racialment, com ara un home negre amb llavis exagerats o una dona blanca amb pits excessivament grans.
Aquest problema es va deure probablement a la manca de dades per entrenar-hi l'IA. L'anime japonès no acostuma a comptar amb negres i persones enormes com a personatges principals, el que significa que no hi havia dades precises de les quals l'IA aprèn. Com a resultat, els resultats generats per la IA eren inexactes i ofensius.
Des de llavors, Tencent s'ha disculpat pels resultats ofensius i s'ha compromès a millorar la IA perquè pugui identificar millor els diferents tipus de persones. Mentrestant, es recomana als usuaris que tinguin cura quan utilitzin la plataforma i que comprovin els resultats abans de compartir-los públicament.
Sobre les xarxes neuronals xineses
Tenen els seus xarxes neuronals allà, i estan força engrescats i completament independents dels assoliments de Google, Nvidia, OpenAI, StabilityAI, I altres Midjourney empreses.
- Baidu, que s'ha consolidat en els cercadors i ha intensificat la seva activitat en l'àmbit de la conducció autònoma en els darrers anys, utilitza ERNIE-ViLG, un model amb 10 milions de paràmetres entrenats sobre un conjunt de dades de 145 milions de parells d'imatges i textos xinesos.
- Diferent Dimension Me (DDM) de Tencent pot convertir les fotos de persones en personatges d'anime. Dirigit als usuaris xinesos, de sobte es va fer popular a altres regions amants de l'anime.
- Un altre xinès model text a imatge és Taiyi, la creació d'IDEA, un laboratori de recerca dirigit per Harry Shum, que va cofundar la divisió de recerca més gran de Microsoft Research Asia. El model de codi obert està entrenat en 20 milions de parells d'imatge-text xinesos filtrats i té mil milions de paràmetres.
És curiós veure com els xinesos regularan tota aquesta desgràcia perquè tenen més experiència en “regulació” que la resta del món. I mentre els rebels de la IA estan finançant diners per crear "Stable Diffusion sense censura", els xinesos estan perfeccionant amb calma algorismes per regular les xarxes neuronals a la interessos de l'estat i no centrar-se en els sentiments dels creients.
Llegeix més sobre AI:
renúncia
En línia amb la Directrius del projecte Trust, si us plau, tingueu en compte que la informació proporcionada en aquesta pàgina no pretén ni s'ha d'interpretar com a assessorament legal, fiscal, d'inversió, financer o de cap altra forma. És important invertir només el que et pots permetre perdre i buscar assessorament financer independent si tens dubtes. Per obtenir més informació, us suggerim que feu referència als termes i condicions, així com a les pàgines d'ajuda i assistència proporcionades per l'emissor o l'anunciant. MetaversePost es compromet a fer informes precisos i imparcials, però les condicions del mercat estan subjectes a canvis sense previ avís.
About The Autor
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
més articles
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
