Rasistický škandál: Čínsky útočný generátor obrázkov AI spôsobuje medzinárodný incident
Stručne
Tencentova AI náhodou premení černochov na zvieratá namiesto anime postáv
Tencent's Different Dimension Me (DDM) je nedávno predstavený nástroj AI, ktorý to dokáže otáčať fotografie ľudí do anime postáv. Platforma bola navrhnutá pre čínskych používateľov, ale čoskoro sa stala populárnou v iných regiónoch, kde je anime milované, napríklad v Južnej Amerike. Používatelia si však čoskoro uvedomili, že platforma nedokáže identifikovať černochov a väčších ľudí, teda skupiny, ktoré v japonskom anime zjavne chýbajú, čo vedie k urážlivým výsledkom generovaným AI.
Bohužiaľ, AI nie vždy prinášala tie najlichotivejšie výsledky. V niektorých prípadoch boli obrázky vygenerované AI rasovo urážlivé, ako napríklad černoch s prehnanými perami alebo beloška s nadmerne veľkými prsiami.
Tento problém bol pravdepodobne spôsobený nedostatkom údajov, na ktorých by AI mohla trénovať. Japonské anime nezvyknú predstavovať černochov a obrovských ľudí ako hlavné postavy, čo znamená, že neexistovali žiadne presné údaje, z ktorých by sa AI mohla učiť. Výsledkom bolo, že výsledky generované AI boli nepresné a urážlivé.
Tencent sa odvtedy ospravedlnil za urážlivé výsledky a zaviazal sa zlepšiť AI, aby mohla lepšie identifikovať rôzne typy ľudí. Medzitým sa používateľom odporúča, aby boli pri používaní platformy opatrní a pred verejným zdieľaním si výsledky skontrolovali.
O čínskych neurónových sieťach
Majú svoje vlastné neurálne siete a sú dosť napumpované a úplne nezávislé od úspechov Google, Nvidie, OpenAI, StabilityAI, a ďalšie Midjourney spoločnosti.
- Spoločnosť Baidu, ktorá sa presadila vo vyhľadávačoch a v posledných rokoch zintenzívnila svoju činnosť v oblasti autonómneho riadenia, využíva ERNIE-ViLG, model s 10 miliardami parametrov natrénovaný na dátovom súbore 145 miliónov čínskych párov obrázkov a textu.
- Iná dimenzia ja (DDM) od spoločnosti Tencent dokáže zmeniť fotografie ľudí na anime postavy. Zameraný na čínskych používateľov sa zrazu stal populárnym v iných regiónoch, ktoré milujú anime.
- Ďalší Číňan model textu na obrázok je Taiyi, duchovným dieťaťom IDEA, výskumného laboratória vedeného Harrym Shumom, ktorý spoluzakladal najväčšiu výskumnú divíziu Microsoft Research Asia. Open-source model je trénovaný na 20 miliónoch filtrovaných čínskych párov obrázok-text a má jednu miliardu parametrov.
Je zvedavé, ako budú Číňania regulovať celú túto hanbu, pretože majú viac skúseností v „regulácia“ než zvyšok sveta. A zatiaľ čo rebeli AI financujú peniaze, aby vytvorili „Stable Diffusion bez cenzúry,“ Číňania pokojne zdokonaľujú algoritmy na reguláciu neurónových sietí v záujmy štátu a nezameriava sa na pocity veriacich.
Prečítajte si viac o AI:
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
Ďalšie články
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
