Rasism Scandal: Čínský útočný generátor obrázků AI způsobuje mezinárodní incident
Stručně
Tencentova umělá inteligence náhodně proměňuje černé lidi ve zvířata místo anime postav
Tencent's Different Dimension Me (DDM) je nedávno představený nástroj umělé inteligence, který umí obracet fotky lidí do anime postav. Platforma byla navržena pro čínské uživatele, ale brzy se stala populární v jiných regionech, kde je anime milováno, jako je Jižní Amerika. Uživatelé si však brzy uvědomili, že platforma nedokáže identifikovat černochy a velké lidi, skupiny, které v japonském anime viditelně chybí, což vede k urážlivým výsledkům generovaným umělou inteligencí.
Bohužel ne vždy umělá inteligence přinesla ty nejlichotivější výsledky. V některých případech byly obrázky vytvořené umělou inteligencí rasově urážlivé, jako je například černoch s přehnanými rty nebo bílá žena s nadměrně velkými prsy.
Tento problém byl pravděpodobně způsoben nedostatkem dat, na kterých by AI mohla trénovat. Japonské anime nemá tendenci představovat černochy a obrovské lidi jako hlavní postavy, což znamená, že neexistovala přesná data, ze kterých by se AI mohla učit. V důsledku toho byly výsledky generované AI nepřesné a urážlivé.
Tencent se od té doby omluvil za urážlivé výsledky a zavázal se zlepšit AI, aby mohla lépe identifikovat různé typy lidí. Mezitím se uživatelům doporučuje, aby byli při používání platformy opatrní a před veřejným sdílením si výsledky zkontrolovali.
O čínských neuronových sítích
Mají své vlastní neuronové sítě a jsou docela napumpované a zcela nezávislé na úspěších Googlu, Nvidie, OpenAI, StabilityAI, a další Midjourney společnosti.
- Společnost Baidu, která se prosadila ve vyhledávačích a v posledních letech zesílila svou aktivitu na poli autonomního řízení, využívá ERNIE-ViLG, model s 10 miliardami parametrů natrénovaný na datovém souboru 145 milionů čínských párů obrázků a textu.
- Jiná dimenze já (DDM) od Tencent dokáže proměnit fotky lidí na anime postavy. Zacílený na čínské uživatele se rázem stal populární i v jiných regionech milujících anime.
- Další Číňan model text-to-image je Taiyi, duchovní dítě IDEA, výzkumné laboratoře vedené Harrym Shumem, který spoluzaložil největší výzkumnou divizi společnosti Microsoft Research Asia. Open-source model je trénován na 20 milionech filtrovaných čínských párů obrázek-text a má jednu miliardu parametrů.
Je zvědavé, jak Číňané budou regulovat celou tuto ostudu, protože mají více zkušeností v „regulace“ než zbytek světa. A zatímco rebelové AI financují peníze, aby vytvořili „Stable Diffusion bez cenzury,“ Číňané klidně zdokonalují algoritmy pro regulaci neuronových sítí v zájmy státu a nezaměřovat se na pocity věřících.
Přečtěte si více o AI:
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Damir je vedoucí týmu, produktový manažer a editor ve společnosti Metaverse Post, pokrývající témata jako AI/ML, AGI, LLM, Metaverse a Web3- související obory. Jeho články přitahují každý měsíc masivní publikum čítající více než milion uživatelů. Jeví se jako odborník s 10 lety zkušeností v oblasti SEO a digitálního marketingu. Damir byl zmíněn v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a další publikace. Jako digitální nomád cestuje mezi SAE, Tureckem, Ruskem a SNS. Damir získal bakalářský titul z fyziky, o kterém se domnívá, že mu dal dovednosti kritického myšlení potřebné k úspěchu v neustále se měnícím prostředí internetu.
Další články
Damir je vedoucí týmu, produktový manažer a editor ve společnosti Metaverse Post, pokrývající témata jako AI/ML, AGI, LLM, Metaverse a Web3- související obory. Jeho články přitahují každý měsíc masivní publikum čítající více než milion uživatelů. Jeví se jako odborník s 10 lety zkušeností v oblasti SEO a digitálního marketingu. Damir byl zmíněn v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a další publikace. Jako digitální nomád cestuje mezi SAE, Tureckem, Ruskem a SNS. Damir získal bakalářský titul z fyziky, o kterém se domnívá, že mu dal dovednosti kritického myšlení potřebné k úspěchu v neustále se měnícím prostředí internetu.
