Rasismskandal: Kinas offensiva AI-bildgenerator orsakar en internationell incident
I korthet
Tencents AI förvandlar av misstag svarta människor till djur istället för animekaraktärer
Tencents Different Dimension Me (DDM) är ett nyligen introducerat AI-verktyg som kan vänd foton av människor till anime karaktärer. Plattformen designades för kinesiska användare men blev snart populär i andra regioner där anime är älskad, som Sydamerika. Användare insåg dock snart att plattformen inte kunde identifiera svarta och stora personer, grupper som är påfallande frånvarande från japansk anime, vilket resulterade i stötande AI-genererade resultat.
Tyvärr gav AI inte alltid de mest smickrande resultaten. I vissa fall var de AI-genererade bilderna rasistiskt kränkande, som en svart man med överdrivna läppar eller en vit kvinna med alltför stora bröst.
Det här problemet berodde troligen på brist på data för AI att träna på. Japansk anime tenderar inte att presentera svarta och stora människor som huvudkaraktärer, vilket betyder att det inte fanns några korrekta data för AI att lära sig av. Som ett resultat var de AI-genererade resultaten felaktiga och stötande.
Tencent har sedan dess bett om ursäkt för de offensiva resultaten och har lovat att förbättra AI så att den bättre kan identifiera olika typer av människor. Under tiden rekommenderas användare att vara försiktiga när de använder plattformen och att kontrollera resultaten innan de delar dem offentligt.
Om kinesiska neurala nätverk
De har sina egna neurala nätverk där, och de är ganska pumpade och helt oberoende av prestationerna från Google, Nvidia, OpenAI, StabilityAI, Och andra Midjourney företag.
- Baidu, som har etablerat sig inom sökmotorer och ökat sin aktivitet inom området autonom körning de senaste åren, använder ERNIE-ViLG, en modell med 10 miljarder parametrar tränade på ett dataset med 145 miljoner kinesiska bild- och textpar.
- Annan dimension mig (DDM) av Tencent kan förvandla foton av människor till animekaraktärer. Den riktar sig till kinesiska användare och blev plötsligt populär i andra animeälskande regioner.
- En annan kines text-till-bild-modell är Taiyi, idén till IDEA, ett forskningslabb som leds av Harry Shum, som var med och grundade den största forskningsavdelningen inom Microsoft Research Asia. Modellen med öppen källkod är tränad på 20 miljoner filtrerade kinesiska bild-text-par och har en miljard parametrar.
Det är nyfiket att se hur kineserna kommer att reglera all denna skam eftersom de har mer erfarenhet av "reglering” än resten av världen. Och medan AI-rebeller crowdfundar pengar för att skapa "Stable Diffusion utan censur”, finslipar kineserna lugnt algoritmer för att reglera neurala nätverk i statens intressen och inte fokusera på de troendes känslor.
Läs mer om AI:
Villkor
I linje med den Riktlinjer för Trust Project, vänligen notera att informationen på den här sidan inte är avsedd att vara och inte ska tolkas som juridisk, skattemässig, investerings-, finansiell eller någon annan form av rådgivning. Det är viktigt att bara investera det du har råd att förlora och att söka oberoende finansiell rådgivning om du har några tvivel. För ytterligare information föreslår vi att du hänvisar till villkoren samt hjälp- och supportsidorna som tillhandahålls av utfärdaren eller annonsören. MetaversePost är engagerad i korrekt, opartisk rapportering, men marknadsförhållandena kan ändras utan föregående meddelande.
Om författaren
Damir är teamledare, produktchef och redaktör på Metaverse Post, som täcker ämnen som AI/ML, AGI, LLMs, Metaverse och Web3-relaterade områden. Hans artiklar lockar en massiv publik på över en miljon användare varje månad. Han verkar vara en expert med 10 års erfarenhet av SEO och digital marknadsföring. Damir har nämnts i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto och andra publikationer. Han reser mellan Förenade Arabemiraten, Turkiet, Ryssland och OSS som en digital nomad. Damir tog en kandidatexamen i fysik, som han tror har gett honom de kritiska tänkande färdigheter som behövs för att bli framgångsrik i det ständigt föränderliga landskapet på internet.
fler artiklar
Damir är teamledare, produktchef och redaktör på Metaverse Post, som täcker ämnen som AI/ML, AGI, LLMs, Metaverse och Web3-relaterade områden. Hans artiklar lockar en massiv publik på över en miljon användare varje månad. Han verkar vara en expert med 10 års erfarenhet av SEO och digital marknadsföring. Damir har nämnts i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto och andra publikationer. Han reser mellan Förenade Arabemiraten, Turkiet, Ryssland och OSS som en digital nomad. Damir tog en kandidatexamen i fysik, som han tror har gett honom de kritiska tänkande färdigheter som behövs för att bli framgångsrik i det ständigt föränderliga landskapet på internet.
