AI pode extrair imagens sensíveis e expor nossas vidas privadas
Em Breve
Os modelos de IA podem aprender e lembrar de certos dados e imagens específicas, o que é uma preocupação.
Isso pode levar a novas disputas legais.
Existem inúmeras tecnologias de ponta que inspiram admiração e alguém está processando-as. Neste caso, o desenvolvedor do modelo StableDiffusion é sendo processado. O StableDiffusion é uma IA totalmente de código aberto e de uso gratuito que pode produzir gráficos com base em uma solicitação de texto. Você pode usá-lo para criar imagens fotorrealistas ou inspiradas nos estilos de outros artistas.
No entanto, é óbvio que os artistas não apreciam essa posição; A ArtStation, uma espécie de Instagram para artistas, até organizou um Ataque “Sem IA”. O principal argumento que eles trazem é que o modelo treina no imagens não são StabilityAIpropriedade. Imagine que alguém tirou uma foto sua em um encontro com amigos e a carregou no Instagram. Em seguida, uma IA colocaria as mãos nela e a foto seria analisada pelo modelo e utilizada no treinamento.
Os modelos podem aprender e lembrar de certos dados e imagens específicas, o que é uma preocupação. Em outras palavras, um chantagista pode fazer uma pergunta sobre uma reunião com amigos e sintetizar sua imagem carregada a partir disso. Isso já é um pouco preocupante, principalmente porque Difusão estável'O conjunto de treinamento contém mais de 5 bilhões de fotos da Internet, incluindo imagens privadas que antes eram públicas. O uso indevido de imagens privadas acontece, infelizmente. Em 2013, um médico tirou uma foto de um paciente, e a foto apareceu no site da clínica.
Aqui está um artigo que demonstrou como as imagens foram adquiridas usando vários modelos de IA e como elas correspondem às imagens de treinamento (spoiler: há algum ruído, mas geralmente é muito semelhante). Essas defesas são aplicáveis à ação acima mencionada, e o júri verá esses modelos de maneira diferente neste caso, pois podemos alegar que eles lembram e replicam coisas (sem o direito de fazê-lo).
No entanto, é muito cedo para afirmar que “os modelos aprendem e não inventam nada” porque, como mencionei anteriormente, apenas 100 imagens foram produzidas nas 5 bilhões de sessões de treinamento (os autores marcaram com as mãos as 1,000 imagens mais semelhantes gerações para os prompts mais comuns, mas não houve duplicatas).
Leia mais sobre IA:
Aviso Legal
Em linha com a Diretrizes do Projeto Trust, observe que as informações fornecidas nesta página não se destinam e não devem ser interpretadas como aconselhamento jurídico, tributário, de investimento, financeiro ou qualquer outra forma. É importante investir apenas o que você pode perder e procurar aconselhamento financeiro independente se tiver alguma dúvida. Para mais informações, sugerimos consultar os termos e condições, bem como as páginas de ajuda e suporte fornecidas pelo emissor ou anunciante. MetaversePost está comprometida com relatórios precisos e imparciais, mas as condições de mercado estão sujeitas a alterações sem aviso prévio.
Sobre o autor
Damir é o líder de equipe, gerente de produto e editor da Metaverse Post, abordando tópicos como AI/ML, AGI, LLMs, Metaverse e Web3-Campos relacionados. Seus artigos atraem um grande público de mais de um milhão de usuários todos os meses. Ele parece ser um especialista com 10 anos de experiência em SEO e marketing digital. Damir foi mencionado em Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e outras publicações. Ele viaja entre os Emirados Árabes Unidos, Turquia, Rússia e CEI como um nômade digital. Damir formou-se em física, o que ele acredita ter lhe dado as habilidades de pensamento crítico necessárias para ter sucesso no cenário em constante mudança da internet.
Mais artigos
Damir é o líder de equipe, gerente de produto e editor da Metaverse Post, abordando tópicos como AI/ML, AGI, LLMs, Metaverse e Web3-Campos relacionados. Seus artigos atraem um grande público de mais de um milhão de usuários todos os meses. Ele parece ser um especialista com 10 anos de experiência em SEO e marketing digital. Damir foi mencionado em Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e outras publicações. Ele viaja entre os Emirados Árabes Unidos, Turquia, Rússia e CEI como um nômade digital. Damir formou-se em física, o que ele acredita ter lhe dado as habilidades de pensamento crítico necessárias para ter sucesso no cenário em constante mudança da internet.
