Racismeschandaal: de aanstootgevende AI-beeldgenerator van China veroorzaakt een internationaal incident
In het kort
De AI van Tencent transformeert zwarte mensen per ongeluk in dieren in plaats van anime-personages
Different Dimension Me (DDM) van Tencent is een onlangs geïntroduceerde AI-tool die dat wel kan draai foto's van mensen in anime karakters. Het platform is ontworpen voor Chinese gebruikers, maar werd al snel populair in andere regio's waar anime geliefd is, zoals Zuid-Amerika. Gebruikers realiseerden zich echter al snel dat het platform geen zwarten en mensen met een grotere maat kon identificeren, groepen die opvallend afwezig zijn in Japanse anime, wat resulteerde in aanstootgevende, door AI gegenereerde resultaten.
Helaas leverde AI niet altijd de meest vleiende resultaten op. In sommige gevallen waren de door AI gegenereerde afbeeldingen racistisch beledigend, zoals een zwarte man met overdreven lippen of een blanke vrouw met te grote borsten.
Dit probleem was waarschijnlijk te wijten aan een gebrek aan gegevens waarop de AI kon trainen. Japanse anime heeft niet de neiging om zwarten en enorme mensen als hoofdpersonages te hebben, wat betekent dat er geen nauwkeurige gegevens waren waar de AI van kon leren. Als gevolg hiervan waren de door AI gegenereerde resultaten onnauwkeurig en aanstootgevend.
Tencent heeft zich sindsdien verontschuldigd voor de aanstootgevende resultaten en heeft toegezegd de AI te verbeteren, zodat het verschillende soorten mensen beter kan identificeren. In de tussentijd wordt gebruikers geadviseerd voorzichtig te zijn bij het gebruik van het platform en de resultaten te controleren voordat ze openbaar worden gedeeld.
Over Chinese neurale netwerken
Ze hebben hun eigen neurale netwerken daar, en ze zijn behoorlijk gepompt en volledig onafhankelijk van de prestaties van Google, Nvidia, OpenAI, StabilityAI, En andere Midjourney bedrijven.
- Baidu, dat zich heeft gevestigd in zoekmachines en zijn activiteiten op het gebied van autonoom rijden de afgelopen jaren heeft opgevoerd, gebruikt ERNIE-ViLG, een model met 10 miljard parameters dat is getraind op een dataset van 145 miljoen Chinese beeld- en tekstparen.
- Andere dimensie mij (DDM) van Tencent kan foto's van mensen omzetten in anime-personages. Gericht op Chinese gebruikers, werd het plotseling populair in andere anime-liefhebbende regio's.
- Nog een Chinees tekst-naar-beeld-model is Taiyi, het geesteskind van IDEA, een onderzoekslaboratorium onder leiding van Harry Shum, medeoprichter van de grootste onderzoeksafdeling van Microsoft Research Asia. Het open-sourcemodel is getraind op 20 miljoen gefilterde Chinese beeld-tekstparen en heeft een miljard parameters.
Het is benieuwd hoe de Chinezen al deze schande gaan reguleren want ze hebben meer ervaring in “regulatie' dan de rest van de wereld. En terwijl AI-rebellen geld crowdfunden om “Stable Diffusion zonder censuur”, scherpen de Chinezen rustig algoritmen aan voor het reguleren van neurale netwerken in de wereld belangen van de staat en niet focussen op de gevoelens van gelovigen.
Lees meer over AI:
Disclaimer
In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.
Over de auteur
Damir is de teamleider, productmanager en redacteur bij Metaverse Post, met onderwerpen als AI/ML, AGI, LLM's, Metaverse en Web3-gerelateerde velden. Zijn artikelen trekken maandelijks een enorm publiek van meer dan een miljoen gebruikers. Hij blijkt een expert te zijn met 10 jaar ervaring in SEO en digitale marketing. Damir is genoemd in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto en andere publicaties. Hij reist als digitale nomade tussen de VAE, Turkije, Rusland en het GOS. Damir behaalde een bachelordiploma in natuurkunde, wat hem volgens hem de kritische denkvaardigheden heeft gegeven die nodig zijn om succesvol te zijn in het steeds veranderende landschap van internet.
Meer artikelen
Damir is de teamleider, productmanager en redacteur bij Metaverse Post, met onderwerpen als AI/ML, AGI, LLM's, Metaverse en Web3-gerelateerde velden. Zijn artikelen trekken maandelijks een enorm publiek van meer dan een miljoen gebruikers. Hij blijkt een expert te zijn met 10 jaar ervaring in SEO en digitale marketing. Damir is genoemd in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto en andere publicaties. Hij reist als digitale nomade tussen de VAE, Turkije, Rusland en het GOS. Damir behaalde een bachelordiploma in natuurkunde, wat hem volgens hem de kritische denkvaardigheden heeft gegeven die nodig zijn om succesvol te zijn in het steeds veranderende landschap van internet.
