Scandalo razzismo: il generatore di immagini AI offensivo della Cina provoca un incidente internazionale
In Breve
L'intelligenza artificiale di Tencent trasforma accidentalmente i neri in animali invece che in personaggi di anime
Different Dimension Me (DDM) di Tencent è uno strumento di intelligenza artificiale introdotto di recente in grado di farlo girare le foto di persone in personaggi degli anime. La piattaforma è stata progettata per gli utenti cinesi, ma presto è diventata popolare in altre regioni in cui gli anime sono amati, come il Sud America. Tuttavia, gli utenti si sono presto resi conto che la piattaforma non era in grado di identificare i neri e le persone taglie forti, gruppi che sono vistosamente assenti dagli anime giapponesi, con conseguenti risultati offensivi generati dall'IA.
Sfortunatamente, l'intelligenza artificiale non ha sempre prodotto i risultati più lusinghieri. In alcuni casi, le immagini generate dall'intelligenza artificiale erano offensive dal punto di vista razziale, come un uomo di colore con labbra esagerate o una donna bianca con seni eccessivamente grandi.
Questo problema era probabilmente dovuto alla mancanza di dati su cui l'IA potesse addestrarsi. Gli anime giapponesi non tendono a presentare neri e persone enormi come personaggi principali, il che significa che non c'erano dati precisi da cui l'IA potesse imparare. Di conseguenza, i risultati generati dall'IA erano imprecisi e offensivi.
Da allora Tencent si è scusato per i risultati offensivi e si è impegnato a migliorare l'intelligenza artificiale in modo che possa identificare meglio diversi tipi di persone. Nel frattempo, si consiglia agli utenti di prestare attenzione durante l'utilizzo della piattaforma e di controllare i risultati prima di condividerli pubblicamente.
Informazioni sulle reti neurali cinesi
Hanno il loro reti neurali lì, e sono abbastanza pompati e completamente indipendenti dai risultati di Google, Nvidia, OpenAI, StabilityAI, E altri Midjourney aziende.
- Baidu, che si è affermata nei motori di ricerca e ha intensificato la sua attività nel campo della guida autonoma negli ultimi anni, utilizza ERNIE-ViLG, un modello con 10 miliardi di parametri addestrati su un set di dati di 145 milioni di coppie di immagini e testo cinesi.
- Dimensione diversa Me (DDM) di Tencent può trasformare le foto di persone in personaggi di anime. Rivolto agli utenti cinesi, è diventato improvvisamente popolare in altre regioni amanti degli anime.
- Un altro cinese modello testo-immagine è Taiyi, nato da un'idea di IDEA, un laboratorio di ricerca guidato da Harry Shum, che ha co-fondato la più grande divisione di ricerca di Microsoft Research Asia. Il modello open-source è addestrato su 20 milioni di coppie di immagini-testo cinesi filtrate e ha un miliardo di parametri.
È curioso vedere come i cinesi regoleranno tutta questa disgrazia perché hanno più esperienza in”regolamento"rispetto al resto del mondo. E mentre i ribelli dell’IA stanno raccogliendo fondi in crowdfunding per creare “Stable Diffusion senza censura", i cinesi stanno affinando con calma gli algoritmi per regolare le reti neurali nel interessi dello Stato e non concentrarsi sui sentimenti dei credenti.
Per saperne di più sull'intelligenza artificiale:
Negazione di responsabilità
In linea con la Linee guida del progetto Trust, si prega di notare che le informazioni fornite in questa pagina non intendono essere e non devono essere interpretate come consulenza legale, fiscale, di investimento, finanziaria o di qualsiasi altra forma. È importante investire solo ciò che puoi permetterti di perdere e chiedere una consulenza finanziaria indipendente in caso di dubbi. Per ulteriori informazioni, suggeriamo di fare riferimento ai termini e alle condizioni nonché alle pagine di aiuto e supporto fornite dall'emittente o dall'inserzionista. MetaversePost si impegna a fornire report accurati e imparziali, ma le condizioni di mercato sono soggette a modifiche senza preavviso.
Circa l'autore
Damir è il team leader, il product manager e l'editore di Metaverse Post, che copre argomenti come AI/ML, AGI, LLM, Metaverse e Web3campi correlati. I suoi articoli attirano un vasto pubblico di oltre un milione di utenti ogni mese. Sembra essere un esperto con 10 anni di esperienza in SEO e marketing digitale. Damir è stato menzionato in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e altre pubblicazioni. Viaggia tra Emirati Arabi Uniti, Turchia, Russia e CSI come nomade digitale. Damir ha conseguito una laurea in fisica, che secondo lui gli ha fornito le capacità di pensiero critico necessarie per avere successo nel panorama in continua evoluzione di Internet.
Altri articoli
Damir è il team leader, il product manager e l'editore di Metaverse Post, che copre argomenti come AI/ML, AGI, LLM, Metaverse e Web3campi correlati. I suoi articoli attirano un vasto pubblico di oltre un milione di utenti ogni mese. Sembra essere un esperto con 10 anni di esperienza in SEO e marketing digitale. Damir è stato menzionato in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e altre pubblicazioni. Viaggia tra Emirati Arabi Uniti, Turchia, Russia e CSI come nomade digitale. Damir ha conseguito una laurea in fisica, che secondo lui gli ha fornito le capacità di pensiero critico necessarie per avere successo nel panorama in continua evoluzione di Internet.
