Modelos de IA de geração de imagens estão sendo treinados em imagens explícitas de crianças, afirma Stanford
Em Breve
Ferramentas populares de IA geradora de texto para imagem, incluindo Stable Diffusion, estão sendo treinados em milhares de imagens de abuso sexual infantil.
Texto para imagem popular IA generativa ferramentas, incluindo Stable Diffusion da Stability AI estão sendo treinados em milhares de imagens de abuso sexual infantil, de acordo com o relatório de pesquisa do Stanford Internet Observatory.
O relatório acrescenta que estas imagens facilitam a geração de conteúdos explícitos realistas envolvendo crianças falsas e a transformação de adolescentes vestidos em imagens nuas, apelando a uma ação imediata por parte das empresas por detrás de tais ferramentas.
A investigação do Stanford Internet Observatory concentrou-se no Banco de dados LAION, um enorme repositório de imagens e legendas online utilizadas pelos principais Criadores de imagens de IA como Stable Diffusion, para treinar modelos de IA.
Antes de verificar as ferramentas de IA de geração de imagens, os pesquisadores consideraram que as ferramentas de IA produziam imagens abusivas de crianças, combinando informações de pornografia adulta e fotos benignas de crianças. No entanto, as conclusões do Observatório apresentam uma reviravolta perturbadora, com mais de 3,200 imagens de suspeitas de abuso sexual infantil identificadas no conjunto de dados LAION.
Embora o LAION tenha respondido rapidamente ao relatório removendo temporariamente os seus conjuntos de dados, as implicações destas imagens são de longo alcance. Embora constituam uma fração do vasto índice de 5.8 bilhões de imagens do LAION, o grupo de Stanford afirma que provavelmente influenciam a capacidade de Ferramentas AI para gerar resultados prejudiciais.
Um ator significativo no desenvolvimento do banco de dados LAION é Stability AI, uma startup com sede em Londres responsável por moldar o conjunto de dados. O relatório destaca que uma versão mais antiga do seu Stable Diffusion O modelo, introduzido no ano passado, ainda está presente em diversas aplicações, como fonte primária de geração de imagens explícitas.
Apesar Stability AI afirma hospedar apenas versões filtradas e tomou medidas para mitigar o uso indevido, o desafio reside na difusão do modelo mais antigo.
A implantação de IA generativa requer validação rigorosa
O cerne da questão remonta à rápida implantação de muitos projetos generativos de IA no mercado, de acordo com David Thiel, tecnólogo-chefe do Stanford Internet Observatory.
Thiel ressalta que muitas vezes esses projetos se tornaram amplamente acessíveis devido à intensa concorrência na área, sem a necessária atenção rigorosa durante a fase de desenvolvimento.
Os pesquisadores de Stanford defendem medidas drásticas para resolver o problema de forma eficaz. As recomendações incluem a exclusão ou limpeza de conjuntos de treinamento derivados do LAION-5B e a criação de uma versão mais antiga do Stable Diffusion menos acessível.
No entanto, a complexidade da limpeza retroactiva dos dados representa um desafio considerável, motivando um apelo à colaboração com especialistas em segurança infantil durante o desenvolvimento de Bancos de dados de IA.
À medida que as escolas e as agências responsáveis pela aplicação da lei em todo o mundo expressam alarme sobre as potenciais consequências destas descobertas, as atenções estão agora voltadas para o indústria de IA para resolver e corrigir urgentemente as falhas prejudiciais em sua tecnologia.
Aviso Legal
Em linha com a Diretrizes do Projeto Trust, observe que as informações fornecidas nesta página não se destinam e não devem ser interpretadas como aconselhamento jurídico, tributário, de investimento, financeiro ou qualquer outra forma. É importante investir apenas o que você pode perder e procurar aconselhamento financeiro independente se tiver alguma dúvida. Para mais informações, sugerimos consultar os termos e condições, bem como as páginas de ajuda e suporte fornecidas pelo emissor ou anunciante. MetaversePost está comprometida com relatórios precisos e imparciais, mas as condições de mercado estão sujeitas a alterações sem aviso prévio.
Sobre o autor
Kumar é um jornalista de tecnologia experiente com especialização nas interseções dinâmicas de IA/ML, tecnologia de marketing e campos emergentes como criptografia, blockchain e NFTS. Com mais de 3 anos de experiência no setor, Kumar estabeleceu um histórico comprovado na elaboração de narrativas convincentes, na condução de entrevistas perspicazes e no fornecimento de insights abrangentes. A experiência de Kumar reside na produção de conteúdo de alto impacto, incluindo artigos, relatórios e publicações de pesquisa para plataformas importantes do setor. Com um conjunto único de habilidades que combina conhecimento técnico e narrativa, Kumar se destaca na comunicação de conceitos tecnológicos complexos para diversos públicos de maneira clara e envolvente.
Mais artigos
Kumar é um jornalista de tecnologia experiente com especialização nas interseções dinâmicas de IA/ML, tecnologia de marketing e campos emergentes como criptografia, blockchain e NFTS. Com mais de 3 anos de experiência no setor, Kumar estabeleceu um histórico comprovado na elaboração de narrativas convincentes, na condução de entrevistas perspicazes e no fornecimento de insights abrangentes. A experiência de Kumar reside na produção de conteúdo de alto impacto, incluindo artigos, relatórios e publicações de pesquisa para plataformas importantes do setor. Com um conjunto único de habilidades que combina conhecimento técnico e narrativa, Kumar se destaca na comunicação de conceitos tecnológicos complexos para diversos públicos de maneira clara e envolvente.
