Scandal de rasism: generatorul de imagini AI ofensiv al Chinei provoacă un incident internațional
Pe scurt
AI lui Tencent transformă accidental oamenii de culoare în animale în loc de personaje anime
Tencent's Different Dimension Me (DDM) este un instrument AI introdus recent care poate întoarce fotografiile de oameni în personaje anime. Platforma a fost concepută pentru utilizatorii chinezi, dar a devenit curând populară în alte regiuni în care anime-ul este iubit, cum ar fi America de Sud. Cu toate acestea, utilizatorii și-au dat seama curând că platforma nu a putut identifica negrii și oamenii de talie mare, grupuri care sunt vizibil absente din anime-ul japonez, rezultând rezultate ofensive generate de AI.
Din păcate, AI nu a produs întotdeauna cele mai măgulitoare rezultate. În unele cazuri, imaginile generate de AI au fost ofensatoare rasial, cum ar fi un bărbat de culoare cu buzele exagerate sau o femeie albă cu sânii excesiv de mari.
Această problemă a fost probabil din cauza lipsei de date pentru care AI să se antreneze. Animeul japonez nu tinde să prezinte negri și oameni uriași ca personaje principale, ceea ce înseamnă că nu existau date exacte de la care AI să învețe. Drept urmare, rezultatele generate de AI au fost inexacte și ofensatoare.
De atunci, Tencent și-a cerut scuze pentru rezultatele ofensive și s-a angajat să îmbunătățească AI, astfel încât să poată identifica mai bine diferite tipuri de oameni. Între timp, utilizatorii sunt sfătuiți să fie atenți atunci când folosesc platforma și să verifice rezultatele înainte de a le distribui public.
Despre rețelele neuronale chineze
Au propriile lor rețele neuronale acolo, și sunt destul de pompați și complet independenți de realizările Google, Nvidia, OpenAI, StabilityAI, si altul Midjourney companii.
- Baidu, care s-a impus în motoarele de căutare și și-a intensificat activitatea în domeniul condusului autonom în ultimii ani, folosește ERNIE-ViLG, un model cu 10 miliarde de parametri antrenați pe un set de date de 145 de milioane de perechi de imagini și text chinezești.
- Different Dimension Me (DDM) de Tencent poate transforma fotografiile oamenilor în personaje anime. Destinat utilizatorilor chinezi, a devenit brusc popular în alte regiuni iubitoare de anime.
- Un alt chinez model text-to-image este Taiyi, creația IDEA, un laborator de cercetare condus de Harry Shum, care a co-fondat cea mai mare divizie de cercetare a Microsoft Research Asia. Modelul open-source este antrenat pe 20 de milioane de perechi imagini-text chinezești filtrate și are un miliard de parametri.
Este curios să vedem cum vor reglementa chinezii toată această rușine pentru că au mai multă experiență în „regulament” decât restul lumii. Și în timp ce rebelii AI fac fonduri de crowdfunding pentru a crea „Stable Diffusion fără cenzură”, chinezii perfecţionează calm algoritmi pentru reglarea reţelelor neuronale din interesele statului și nu concentrarea asupra sentimentelor credincioșilor.
Citiți mai multe despre AI:
Declinare a responsabilităţii
În conformitate cu Ghidurile proiectului Trust, vă rugăm să rețineți că informațiile furnizate pe această pagină nu sunt destinate și nu trebuie interpretate ca fiind consiliere juridică, fiscală, investițională, financiară sau orice altă formă de consiliere. Este important să investești doar ceea ce îți poți permite să pierzi și să cauți sfaturi financiare independente dacă ai îndoieli. Pentru informații suplimentare, vă sugerăm să consultați termenii și condițiile, precum și paginile de ajutor și asistență furnizate de emitent sau agent de publicitate. MetaversePost se angajează să raporteze corecte, imparțial, dar condițiile de piață pot fi modificate fără notificare.
Despre autor
Damir este liderul echipei, manager de produs și editor la Metaverse Post, care acoperă subiecte precum AI/ML, AGI, LLM-uri, Metaverse și Web3-domenii conexe. Articolele sale atrag o audiență masivă de peste un milion de utilizatori în fiecare lună. El pare a fi un expert cu 10 ani de experiență în SEO și marketing digital. Damir a fost menționat în Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto și alte publicații. Călătorește între Emiratele Arabe Unite, Turcia, Rusia și CSI ca nomad digital. Damir a obținut o diplomă de licență în fizică, despre care crede că i-a oferit abilitățile de gândire critică necesare pentru a avea succes în peisajul în continuă schimbare al internetului.
Mai multe articole
Damir este liderul echipei, manager de produs și editor la Metaverse Post, care acoperă subiecte precum AI/ML, AGI, LLM-uri, Metaverse și Web3-domenii conexe. Articolele sale atrag o audiență masivă de peste un milion de utilizatori în fiecare lună. El pare a fi un expert cu 10 ani de experiență în SEO și marketing digital. Damir a fost menționat în Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto și alte publicații. Călătorește între Emiratele Arabe Unite, Turcia, Rusia și CSI ca nomad digital. Damir a obținut o diplomă de licență în fizică, despre care crede că i-a oferit abilitățile de gândire critică necesare pentru a avea succes în peisajul în continuă schimbare al internetului.
