Tendências tecnológicas para 2024: líderes do setor adotam IA para combater ameaças deepfake
Em Breve
Na batalha contra a tecnologia deepfake, as indústrias estão a utilizar ferramentas e soluções de IA para combater a proliferação de conteúdos manipulados.
Durante a guerra Rússia-Ucrânia, surgiu um vídeo do presidente ucraniano Volodymyr Zelenskyy pedindo às suas tropas que se rendessem no meio da guerra. Isto mais tarde revelou-se um vídeo deepfake.
Na batalha em constante evolução contra tecnologia deepfake, as indústrias recorrem cada vez mais a um arsenal tecnológico sofisticado para combater a proliferação de conteúdos manipulados. Desde iniciativas de autenticidade de conteúdo até técnicas de marcas d’água invisíveis, ferramentas de detecção algorítmica, projetos colaborativos e mudanças nas políticas de plataforma — a luta contra deepfakes está se tornando multifacetada e dinâmica.
Autenticidade e proveniência do conteúdo
A Iniciativa de Autenticidade de Conteúdo, liderada por players do setor, visa selar criptograficamente as informações de atribuição sobre o conteúdo, permitindo a verificação desde a criação até o consumo. Simultaneamente, a Coalizão para Proveniência e Autenticação de Conteúdo (C2PA) lançou uma especificação técnica de padrão aberto, com foco no fornecimento de dados sobre a origem, alterações e contribuidores do conteúdo.
A Microsoft deu um passo adiante ao anunciar “Credenciais de Conteúdo como Serviço”, utilizando credenciais de marca d'água digital C2PA para ajudar candidatos eleitorais e campanhas a manter o controle sobre seu conteúdo.
Técnicas de marca d’água
Meta introduziu Stable Signature, uma técnica de marca d'água invisível projetada para distinguir conteúdo criado por código aberto modelos de IA generativos. Esta marca d'água invisível, indetectável a olho nu, mas rastreável por algoritmos, ajuda a identificar imagens manipuladas. O Google DeepMind também entrou na briga com o SynthID, permitindo aos usuários incorporar uma marca d'água digital diretamente em imagens ou áudio gerados por IA.
A tecnologia permite que os usuários procurem marcas d'água no conteúdo, fornecendo informações sobre se o conteúdo foi criado ou alterado usando os modelos de IA do Google.
Detecção Algorítmica
A indústria está implantando software de detecção automática para deepfakes, contando com várias estratégias baseadas em IA, como reconhecimento de alto-falante, detecção de vivacidade de voz, reconhecimento faciale análise temporal. O Video Authenticator da Microsoft e o FakeCatcher apoiado pela Intel são exemplos notáveis.
No entanto, o desafio reside na natureza transitória das ferramentas de detecção, uma vez que as técnicas de produção de deepfakes em evolução desafiam continuamente a sua fiabilidade. A estudo encontraram níveis variados de precisão (30-97%) em conjuntos de dados, indicando a necessidade de inovação contínua para acompanhar as tecnologias emergentes de deepfake.
Origem do Projeto
Organizações de mídia, incluindo a BBC e Microsoft, colaborou no Projeto Origem. Esta iniciativa procura estabelecer uma abordagem de engenharia para a mídia sintética, fornecendo links assinados digitalmente para rastreamento verificável do conteúdo da mídia até o editor. O projeto também visa implementar verificações de validação para garantir que o conteúdo permaneça inalterado durante a distribuição.
Mudanças na política da plataforma
Em resposta ao contexto de alto risco da publicidade política, grandes plataformas como Meta e o Google anunciaram mudanças nas políticas para aumentar a transparência. A política atualizada de divulgação de anúncios políticos da Meta exige que os anunciantes revelem conteúdo alterado digitalmente em anúncios políticos ou relacionados a eleições.
YouTube exige que os criadores divulguem o uso de conteúdo de mídia sintética, e o não cumprimento pode resultar em penalidades, incluindo a remoção do conteúdo ou suspensão do Programa de Parcerias do YouTube. A Google Play Store também introduziu uma política para conteúdo gerado por IA, com foco na prevenção da criação e distribuição de conteúdo prejudicial ou enganoso por meio de aplicativos generativos de IA.
À medida que a batalha contra os deepfakes se intensifica, as intervenções da indústria e as soluções tecnológicas revelam-se essenciais para preservar a autenticidade e a fiabilidade do conteúdo digital. Os esforços de colaboração dos principais intervenientes em vários setores refletem o compromisso de se manterem à frente do cenário em evolução dos meios de comunicação sintéticos.
Aviso Legal
Em linha com a Diretrizes do Projeto Trust, observe que as informações fornecidas nesta página não se destinam e não devem ser interpretadas como aconselhamento jurídico, tributário, de investimento, financeiro ou qualquer outra forma. É importante investir apenas o que você pode perder e procurar aconselhamento financeiro independente se tiver alguma dúvida. Para mais informações, sugerimos consultar os termos e condições, bem como as páginas de ajuda e suporte fornecidas pelo emissor ou anunciante. MetaversePost está comprometida com relatórios precisos e imparciais, mas as condições de mercado estão sujeitas a alterações sem aviso prévio.
Sobre o autor
Kumar é um jornalista de tecnologia experiente com especialização nas interseções dinâmicas de IA/ML, tecnologia de marketing e campos emergentes como criptografia, blockchain e NFTS. Com mais de 3 anos de experiência no setor, Kumar estabeleceu um histórico comprovado na elaboração de narrativas convincentes, na condução de entrevistas perspicazes e no fornecimento de insights abrangentes. A experiência de Kumar reside na produção de conteúdo de alto impacto, incluindo artigos, relatórios e publicações de pesquisa para plataformas importantes do setor. Com um conjunto único de habilidades que combina conhecimento técnico e narrativa, Kumar se destaca na comunicação de conceitos tecnológicos complexos para diversos públicos de maneira clara e envolvente.
Mais artigos
Kumar é um jornalista de tecnologia experiente com especialização nas interseções dinâmicas de IA/ML, tecnologia de marketing e campos emergentes como criptografia, blockchain e NFTS. Com mais de 3 anos de experiência no setor, Kumar estabeleceu um histórico comprovado na elaboração de narrativas convincentes, na condução de entrevistas perspicazes e no fornecimento de insights abrangentes. A experiência de Kumar reside na produção de conteúdo de alto impacto, incluindo artigos, relatórios e publicações de pesquisa para plataformas importantes do setor. Com um conjunto único de habilidades que combina conhecimento técnico e narrativa, Kumar se destaca na comunicação de conceitos tecnológicos complexos para diversos públicos de maneira clara e envolvente.
