Racismeskandale: Kinas offensive AI-billedgenerator forårsager en international hændelse
Kort sagt
Tencents AI forvandler ved et uheld sorte mennesker til dyr i stedet for anime-figurer
Tencents Different Dimension Me (DDM) er et nyligt introduceret AI-værktøj, der kan vende billeder af mennesker til anime-karakterer. Platformen blev designet til kinesiske brugere, men blev hurtigt populær i andre regioner, hvor anime er elsket, såsom Sydamerika. Brugere indså dog hurtigt, at platformen ikke kunne identificere sorte og plus-size mennesker, grupper, der er iøjnefaldende fraværende i japansk anime, hvilket resulterer i stødende AI-genererede resultater.
Desværre gav AI ikke altid de mest flatterende resultater. I nogle tilfælde var de AI-genererede billeder racistisk stødende, såsom en sort mand med overdrevne læber eller en hvid kvinde med alt for store bryster.
Dette problem skyldtes sandsynligvis en mangel på data for AI at træne på. Japansk anime har ikke en tendens til at have sorte og store mennesker som hovedpersoner, hvilket betyder, at der ikke var nogen nøjagtige data for AI at lære af. Som et resultat var de AI-genererede resultater unøjagtige og stødende.
Tencent har siden undskyldt de offensive resultater og har lovet at forbedre AI, så det bedre kan identificere forskellige typer mennesker. I mellemtiden rådes brugere til at være forsigtige, når de bruger platformen og kontrollere resultaterne, før de deler dem offentligt.
Om kinesiske neurale netværk
De har deres egne neurale netværk der, og de er ret pumpede og fuldstændig uafhængige af resultaterne af Google, Nvidia, OpenAI, StabilityAI, og andet Midjourney virksomheder.
- Baidu, som har etableret sig i søgemaskiner og har optrappet sin aktivitet inden for autonom kørsel i de senere år, bruger ERNIE-ViLG, en model med 10 milliarder parametre trænet på et datasæt med 145 millioner kinesiske billed- og tekstpar.
- Forskellige dimensioner mig (DDM) af Tencent kan forvandle billeder af mennesker til anime-figurer. Henvendt til kinesiske brugere blev den pludselig populær i andre anime-elskende regioner.
- Endnu en kineser tekst-til-billede model er Taiyi, udtænkt af IDEA, et forskningslaboratorium ledet af Harry Shum, som var med til at grundlægge den største forskningsafdeling af Microsoft Research Asia. Open source-modellen er trænet på 20 millioner filtrerede kinesiske billed-tekst-par og har en milliard parametre.
Det er nysgerrigt at se, hvordan kineserne vil regulere al denne skændsel, fordi de har mere erfaring i "regulering” end resten af verden. Og mens AI-oprørere crowdfunder penge for at skabe "Stable Diffusion uden censur," finpudser kineserne roligt algoritmer til regulering af neurale netværk i statens interesser og ikke fokusere på de troendes følelser.
Læs mere om AI:
Ansvarsfraskrivelse
I tråd med den Trust Project retningslinjer, bemærk venligst, at oplysningerne på denne side ikke er beregnet til at være og ikke skal fortolkes som juridiske, skattemæssige, investeringsmæssige, finansielle eller nogen anden form for rådgivning. Det er vigtigt kun at investere, hvad du har råd til at tabe, og at søge uafhængig finansiel rådgivning, hvis du er i tvivl. For yderligere information foreslår vi at henvise til vilkårene og betingelserne samt hjælpe- og supportsiderne fra udstederen eller annoncøren. MetaversePost er forpligtet til nøjagtig, objektiv rapportering, men markedsforholdene kan ændres uden varsel.
Om forfatteren
Damir er teamleder, produktchef og redaktør på Metaverse Post, der dækker emner som AI/ML, AGI, LLM'er, Metaverse og Web3-relaterede felter. Hans artikler tiltrækker et massivt publikum på over en million brugere hver måned. Han ser ud til at være en ekspert med 10 års erfaring i SEO og digital markedsføring. Damir er blevet nævnt i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto og andre publikationer. Han rejser mellem UAE, Tyrkiet, Rusland og SNG som en digital nomade. Damir tog en bachelorgrad i fysik, som han mener har givet ham de kritiske tænkningskompetencer, der er nødvendige for at få succes i internettets evigt skiftende landskab.
Flere artikler
Damir er teamleder, produktchef og redaktør på Metaverse Post, der dækker emner som AI/ML, AGI, LLM'er, Metaverse og Web3-relaterede felter. Hans artikler tiltrækker et massivt publikum på over en million brugere hver måned. Han ser ud til at være en ekspert med 10 års erfaring i SEO og digital markedsføring. Damir er blevet nævnt i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto og andre publikationer. Han rejser mellem UAE, Tyrkiet, Rusland og SNG som en digital nomade. Damir tog en bachelorgrad i fysik, som han mener har givet ham de kritiske tænkningskompetencer, der er nødvendige for at få succes i internettets evigt skiftende landskab.
