Escândalo de Racismo: Gerador de imagem de IA ofensivo da China causa um incidente internacional
Em Breve
IA da Tencent acidentalmente transforma pessoas negras em animais em vez de personagens de anime
O Different Dimension Me (DDM) da Tencent é uma ferramenta de IA recentemente introduzida que pode virar fotos de pessoas em personagens de anime. A plataforma foi projetada para usuários chineses, mas logo se tornou popular em outras regiões onde o anime é amado, como a América do Sul. No entanto, os usuários logo perceberam que a plataforma não conseguia identificar negros e pessoas de tamanho grande, grupos que estão notavelmente ausentes do anime japonês, resultando em resultados ofensivos gerados por IA.
Infelizmente, a IA nem sempre produziu os resultados mais lisonjeiros. Em alguns casos, as imagens geradas pela IA eram racialmente ofensivas, como um homem negro com lábios exagerados ou uma mulher branca com seios excessivamente grandes.
Esse problema provavelmente ocorreu devido à falta de dados para o treinamento da IA. O anime japonês não costuma apresentar negros e pessoas enormes como personagens principais, o que significa que não havia dados precisos para a IA aprender. Como resultado, os resultados gerados pela IA eram imprecisos e ofensivos.
Desde então, a Tencent pediu desculpas pelos resultados ofensivos e prometeu melhorar a IA para que possa identificar melhor os diferentes tipos de pessoas. Enquanto isso, os usuários são aconselhados a ter cuidado ao usar a plataforma e verificar os resultados antes de compartilhá-los publicamente.
Sobre redes neurais chinesas
Eles têm seus próprios redes neurais lá, e eles estão bastante entusiasmados e completamente independentes das conquistas do Google, Nvidia, OpenAI, StabilityAI, E outros Midjourney empresas.
- O Baidu, que se estabeleceu nos mecanismos de busca e intensificou sua atividade no campo da direção autônoma nos últimos anos, usa o ERNIE-ViLG, um modelo com 10 bilhões de parâmetros treinados em um conjunto de dados de 145 milhões de pares de imagens e textos chineses.
- Dimensão Diferente Eu (DDM) da Tencent pode transformar fotos de pessoas em personagens de anime. Destinado a usuários chineses, de repente se tornou popular em outras regiões que amam anime.
- outro chinês modelo de texto para imagem é Taiyi, uma criação do IDEA, um laboratório de pesquisa liderado por Harry Shum, co-fundador da maior divisão de pesquisa da Microsoft Research Asia. O modelo de código aberto é treinado em 20 milhões de pares de imagem e texto chineses filtrados e possui um bilhão de parâmetros.
É curioso ver como os chineses vão regular toda esta desgraça porque têm mais experiência em “regulamento”Do que o resto do mundo. E enquanto os rebeldes da IA estão financiando dinheiro para criar “Stable Diffusion sem censura”, os chineses estão aprimorando calmamente algoritmos para regular redes neurais no interesses do estado e não focando nos sentimentos dos crentes.
Leia mais sobre IA:
Aviso Legal
Em linha com a Diretrizes do Projeto Trust, observe que as informações fornecidas nesta página não se destinam e não devem ser interpretadas como aconselhamento jurídico, tributário, de investimento, financeiro ou qualquer outra forma. É importante investir apenas o que você pode perder e procurar aconselhamento financeiro independente se tiver alguma dúvida. Para mais informações, sugerimos consultar os termos e condições, bem como as páginas de ajuda e suporte fornecidas pelo emissor ou anunciante. MetaversePost está comprometida com relatórios precisos e imparciais, mas as condições de mercado estão sujeitas a alterações sem aviso prévio.
Sobre o autor
Damir é o líder de equipe, gerente de produto e editor da Metaverse Post, abordando tópicos como AI/ML, AGI, LLMs, Metaverse e Web3-Campos relacionados. Seus artigos atraem um grande público de mais de um milhão de usuários todos os meses. Ele parece ser um especialista com 10 anos de experiência em SEO e marketing digital. Damir foi mencionado em Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e outras publicações. Ele viaja entre os Emirados Árabes Unidos, Turquia, Rússia e CEI como um nômade digital. Damir formou-se em física, o que ele acredita ter lhe dado as habilidades de pensamento crítico necessárias para ter sucesso no cenário em constante mudança da internet.
Mais artigos
Damir é o líder de equipe, gerente de produto e editor da Metaverse Post, abordando tópicos como AI/ML, AGI, LLMs, Metaverse e Web3-Campos relacionados. Seus artigos atraem um grande público de mais de um milhão de usuários todos os meses. Ele parece ser um especialista com 10 anos de experiência em SEO e marketing digital. Damir foi mencionado em Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e outras publicações. Ele viaja entre os Emirados Árabes Unidos, Turquia, Rússia e CEI como um nômade digital. Damir formou-se em física, o que ele acredita ter lhe dado as habilidades de pensamento crítico necessárias para ter sucesso no cenário em constante mudança da internet.
