Rassismus-Skandal: Chinas offensiver KI-Bildgenerator sorgt für internationalen Zwischenfall
In Kürze
Die KI von Tencent verwandelt schwarze Menschen versehentlich in Tiere statt in Anime-Charaktere
Tencents Different Dimension Me (DDM) ist ein kürzlich eingeführtes KI-Tool, das dies kann Fotos drehen von Menschen in Anime-Charaktere. Die Plattform wurde für chinesische Benutzer entwickelt, wurde aber bald in anderen Regionen beliebt, in denen Anime geliebt wird, wie z. B. in Südamerika. Die Benutzer stellten jedoch bald fest, dass die Plattform Schwarze und Menschen in Übergröße nicht identifizieren konnte, Gruppen, die in japanischen Anime auffallend fehlen, was zu anstößigen KI-generierten Ergebnissen führte.
Leider lieferte KI nicht immer die schmeichelhaftesten Ergebnisse. In einigen Fällen waren die von der KI generierten Bilder rassistisch anstößig, wie z. B. ein schwarzer Mann mit übertriebenen Lippen oder eine weiße Frau mit übermäßig großen Brüsten.
Dieses Problem war wahrscheinlich auf einen Mangel an Daten zurückzuführen, mit denen die KI trainieren konnte. Japanische Anime neigen nicht dazu, Schwarze und riesige Menschen als Hauptfiguren zu zeigen, was bedeutet, dass es keine genauen Daten gab, aus denen die KI lernen konnte. Infolgedessen waren die von der KI generierten Ergebnisse ungenau und anstößig.
Tencent hat sich seitdem für die anstößigen Ergebnisse entschuldigt und zugesagt, die KI zu verbessern, damit sie verschiedene Arten von Menschen besser identifizieren kann. In der Zwischenzeit wird den Benutzern empfohlen, bei der Nutzung der Plattform vorsichtig zu sein und die Ergebnisse zu überprüfen, bevor sie öffentlich geteilt werden.
Über chinesische neuronale Netze
Sie haben ihre eigenen Neuronale Netze dort, und sie sind ziemlich aufgepumpt und völlig unabhängig von den Errungenschaften von Google, Nvidia, OpenAI, StabilityAIUnd andere Midjourney Firmen.
- Baidu, das sich in Suchmaschinen etabliert und in den letzten Jahren verstärkt im Bereich des autonomen Fahrens aktiv geworden ist, nutzt ERNIE-ViLG, ein Modell mit 10 Milliarden Parametern, trainiert auf einem Datensatz von 145 Millionen chinesischen Bild- und Textpaaren.
- Andere Dimension Ich (DDM) von Tencent kann Fotos von Menschen in Anime-Charaktere verwandeln. Es richtete sich an chinesische Benutzer und wurde plötzlich in anderen Anime-liebenden Regionen populär.
- Ein weiterer Chinese Text-zu-Bild-Modell ist Taiyi, die Idee von IDEA, einem Forschungslabor unter der Leitung von Harry Shum, der die größte Forschungsabteilung von Microsoft Research Asia mitbegründet hat. Das Open-Source-Modell wird mit 20 Millionen gefilterten chinesischen Bild-Text-Paaren trainiert und hat eine Milliarde Parameter.
Es ist gespannt, wie die Chinesen all diese Schande regulieren werden, weil sie mehr Erfahrung in „Regulierung” als der Rest der Welt. Und während KI-Rebellen Crowdfunding betreiben, um „Stable Diffusion ohne Zensur“, feilen die Chinesen in aller Ruhe an Algorithmen zur Regulierung neuronaler Netze in der Welt Interessen des Staates und sich nicht auf die Gefühle der Gläubigen zu konzentrieren.
Lesen Sie mehr über KI:
Haftungsausschluss
Im Einklang mit der Richtlinien des Trust-ProjektsBitte beachten Sie, dass die auf dieser Seite bereitgestellten Informationen nicht als Rechts-, Steuer-, Anlage-, Finanz- oder sonstige Beratung gedacht sind und nicht als solche interpretiert werden sollten. Es ist wichtig, nur so viel zu investieren, wie Sie sich leisten können, zu verlieren, und im Zweifelsfall eine unabhängige Finanzberatung einzuholen. Für weitere Informationen empfehlen wir einen Blick auf die Allgemeinen Geschäftsbedingungen sowie die Hilfe- und Supportseiten des Herausgebers oder Werbetreibenden. MetaversePost ist einer genauen, unvoreingenommenen Berichterstattung verpflichtet, die Marktbedingungen können sich jedoch ohne Vorankündigung ändern.
Über den Autor
Damir ist Teamleiter, Produktmanager und Redakteur bei Metaverse Post, behandelt Themen wie KI/ML, AGI, LLMs, Metaverse und Web3-bezogene Felder. Seine Artikel ziehen jeden Monat ein riesiges Publikum von über einer Million Nutzern an. Er scheint ein Experte mit 10 Jahren Erfahrung in SEO und digitalem Marketing zu sein. Damir wurde in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto und andere Publikationen. Als digitaler Nomade reist er zwischen den Vereinigten Arabischen Emiraten, der Türkei, Russland und der GUS. Damir hat einen Bachelor-Abschluss in Physik, der ihm seiner Meinung nach die Fähigkeiten zum kritischen Denken vermittelt hat, die er braucht, um in der sich ständig verändernden Landschaft des Internets erfolgreich zu sein.
Weitere Artikel
Damir ist Teamleiter, Produktmanager und Redakteur bei Metaverse Post, behandelt Themen wie KI/ML, AGI, LLMs, Metaverse und Web3-bezogene Felder. Seine Artikel ziehen jeden Monat ein riesiges Publikum von über einer Million Nutzern an. Er scheint ein Experte mit 10 Jahren Erfahrung in SEO und digitalem Marketing zu sein. Damir wurde in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto und andere Publikationen. Als digitaler Nomade reist er zwischen den Vereinigten Arabischen Emiraten, der Türkei, Russland und der GUS. Damir hat einen Bachelor-Abschluss in Physik, der ihm seiner Meinung nach die Fähigkeiten zum kritischen Denken vermittelt hat, die er braucht, um in der sich ständig verändernden Landschaft des Internets erfolgreich zu sein.
