Skandal rasistowski: ofensywny generator obrazów sztucznej inteligencji w Chinach powoduje międzynarodowy incydent
W skrócie
Sztuczna inteligencja Tencenta przypadkowo przekształca czarnych ludzi w zwierzęta zamiast postaci z anime
Tencent's Different Dimension Me (DDM) to niedawno wprowadzone narzędzie AI, które może obróć zdjęcia ludzi w postaci z anime. Platforma została zaprojektowana dla chińskich użytkowników, ale szybko stała się popularna w innych regionach, w których anime jest uwielbiane, takich jak Ameryka Południowa. Jednak użytkownicy szybko zdali sobie sprawę, że platforma nie może zidentyfikować czarnych i osób o dużych rozmiarach, grup, które są wyraźnie nieobecne w japońskim anime, co skutkuje obraźliwymi wynikami generowanymi przez sztuczną inteligencję.
Niestety sztuczna inteligencja nie zawsze dawała najbardziej pochlebne wyniki. W niektórych przypadkach obrazy generowane przez sztuczną inteligencję były obraźliwe na tle rasowym, na przykład czarny mężczyzna z przesadnymi ustami lub biała kobieta z nadmiernie dużymi piersiami.
Ten problem był prawdopodobnie spowodowany brakiem danych, na których sztuczna inteligencja mogłaby trenować. Japońskie anime zwykle nie przedstawia czarnych i wielkich ludzi jako głównych bohaterów, co oznacza, że nie było dokładnych danych, z których sztuczna inteligencja mogłaby się uczyć. W rezultacie wyniki generowane przez sztuczną inteligencję były niedokładne i obraźliwe.
Od tego czasu Tencent przeprosił za obraźliwe wyniki i zobowiązał się do ulepszenia sztucznej inteligencji, aby mogła lepiej identyfikować różne typy ludzi. W międzyczasie użytkownicy powinni zachować ostrożność podczas korzystania z platformy i sprawdzić wyniki przed udostępnieniem ich publicznie.
O chińskich sieciach neuronowych
Mają swoje sieci neuronowe tam i są dość napompowane i zupełnie niezależne od dokonań Google, Nvidii, OpenAI, StabilityAI, I inne Midjourney firm.
- Baidu, które ugruntowało swoją pozycję w wyszukiwarkach i zintensyfikowało swoją aktywność w dziedzinie autonomicznej jazdy w ostatnich latach, wykorzystuje ERNIE-ViLG, model z 10 miliardami parametrów wytrenowanych na zbiorze danych 145 milionów par chińskich obrazów i tekstów.
- Inny wymiar ja (DDM) firmy Tencent może zamienić zdjęcia ludzi w postacie z anime. Skierowany do chińskich użytkowników, nagle stał się popularny w innych regionach kochających anime.
- Kolejny Chińczyk model zamiany tekstu na obraz to Taiyi, pomysłodawca IDEA, laboratorium badawczego kierowanego przez Harry'ego Shuma, który był współzałożycielem największego oddziału badawczego Microsoft Research Asia. Model open source jest szkolony na 20 milionach przefiltrowanych chińskich par obraz-tekst i ma miliard parametrów.
Ciekawe, jak Chińczycy uporządkują całą tę hańbę, ponieważ mają większe doświadczenie w „regulacja” niż reszta świata. I podczas gdy rebelianci AI gromadzą pieniądze, aby stworzyć „Stable Diffusion bez cenzury”, Chińczycy spokojnie dopracowują algorytmy regulujące sieci neuronowe w interesy państwa i nie skupiać się na uczuciach wierzących.
Przeczytaj więcej o sztucznej inteligencji:
Odpowiedzialność
Zgodnie z Zaufaj wytycznym projektu, należy pamiętać, że informacje zawarte na tej stronie nie mają na celu i nie powinny być interpretowane jako porady prawne, podatkowe, inwestycyjne, finansowe lub jakiekolwiek inne formy porad. Ważne jest, aby inwestować tylko tyle, na utratę czego możesz sobie pozwolić, a w przypadku jakichkolwiek wątpliwości zasięgnąć niezależnej porady finansowej. Aby uzyskać więcej informacji, sugerujemy zapoznać się z warunkami oraz stronami pomocy i wsparcia udostępnianymi przez wydawcę lub reklamodawcę. MetaversePost zobowiązuje się do sporządzania dokładnych i bezstronnych raportów, jednakże warunki rynkowe mogą ulec zmianie bez powiadomienia.
O autorze
Damir jest liderem zespołu, menedżerem produktu i redaktorem w Metaverse Post, obejmujący takie tematy, jak AI/ML, AGI, LLM, Metaverse i Web3-pokrewne pola. Jego artykuły przyciągają każdego miesiąca ogromną publiczność, liczącą ponad milion użytkowników. Wydaje się być ekspertem z 10-letnim doświadczeniem w SEO i marketingu cyfrowym. Damir został wspomniany w Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i inne publikacje. Jako cyfrowy koczownik podróżuje między ZEA, Turcją, Rosją i WNP. Damir uzyskał tytuł licencjata z fizyki, co jego zdaniem dało mu umiejętności krytycznego myślenia potrzebne do odniesienia sukcesu w ciągle zmieniającym się środowisku internetowym.
Więcej artykułów
Damir jest liderem zespołu, menedżerem produktu i redaktorem w Metaverse Post, obejmujący takie tematy, jak AI/ML, AGI, LLM, Metaverse i Web3-pokrewne pola. Jego artykuły przyciągają każdego miesiąca ogromną publiczność, liczącą ponad milion użytkowników. Wydaje się być ekspertem z 10-letnim doświadczeniem w SEO i marketingu cyfrowym. Damir został wspomniany w Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i inne publikacje. Jako cyfrowy koczownik podróżuje między ZEA, Turcją, Rosją i WNP. Damir uzyskał tytuł licencjata z fizyki, co jego zdaniem dało mu umiejętności krytycznego myślenia potrzebne do odniesienia sukcesu w ciągle zmieniającym się środowisku internetowym.
