Observatório de Stanford: IA levará a mentiras onipresentes e propaganda irresistível em 2023
Em Breve
As tecnologias AICG (geração de conteúdo de inteligência artificial) tornarão a verdade e a mentira indistinguíveis, tanto para indivíduos quanto para sociedades de qualquer escala.
Isto criará um ambiente de “pós-verdade” em que mentiras e propaganda se tornarão onipresentes, emdefinobre e irresistível.
O fato de muitas pessoas confiarem mais nas informações que vêm da Internet do que na mídia tradicional é uma grande preocupação.
Os geradores de imagem e vídeo baseados em IA estão se tornando cada vez mais convenientes de usar, altamente confiáveis e altamente eficientes.
Isso os torna incrivelmente úteis para fins de propaganda.
Em seu discurso à comunidade global de IA, o guru chinês de IA Kai-Fu Lee alertou que o mundo enfrentaria um risco mais sério do que os riscos de guerra nuclear, fome ou pandemia já em 2023. O risco é a geração de conteúdo de inteligência artificial (AICG). As tecnologias AICG podem tornar a verdade e a mentira indistinguíveis, tanto para indivíduos quanto para sociedades de qualquer escala.
A novo relatório pelo Centro de Segurança e Tecnologia Emergente, OpenAI, e o Observatório da Internet de Stanford, “Modelos de linguagem generativa e operações automatizadas de influência: ameaças emergentes e medidas potenciais de mitigação”, fornece uma visão estratégica do cenário catastrófico descrito por Kai-Fu Lee.
| Artigo relacionado: O Congresso dos EUA quer criar uma agência federal para regular a inteligência artificial |
O relatório detalha como é provável que ocorra a queda da humanidade no abismo do AICG. As tecnologias AICG tornarão possível gerar grandes quantidades de conteúdo indistinguível do conteúdo gerado por humanos. Isto criará um ambiente de “pós-verdade” em que mentiras e propaganda se tornarão onipresentes, emdefinobre e irresistível.
O relatório recomenda uma série de medidas de mitigação, incluindo regulamentar o uso de tecnologias AICG, aumentar a transparência sobre seu uso e desenvolver padrões para seu uso. No entanto, os autores do relatório alertam que essas medidas só serão eficazes se forem implementadas em escala global.
A divulgação do relatório ocorre em um momento em que o mundo já está lutando para lidar com a disseminação de desinformação e desinformação. A pandemia do COVID-19 foi acompanhada por uma proliferação de informações falsas sobre o vírus e suas origens, e as plataformas de mídia social têm lutado para impedir a disseminação dessas informações falsas.
A IA alterará significativamente a web
Mentiras e propaganda sempre fizeram parte da sociedade humana. No entanto, a disponibilidade e eficácia de quaisquer operações de influência (tanto sobre indivíduos como sobre sociedades) têm vindo a aumentar devido ao desenvolvimento de tecnologias mais sofisticadas, nomeadamente no domínio da inteligência artificial (IA).
| Artigo relacionado: OpenAICEO da empresa afirma que o sistema educacional deve se adequar ChatGPT, não proibir |
Três fatores principais contribuem para o surgimento global, disseminação e aceitação de mentiras como verdade:
- O desenvolvimento de imagem e vídeo baseados em IA geradores que pode criar imagens e vídeos altamente realistas de pessoas e eventos que nunca aconteceram de fato.
- O uso da mídia social para disseminar informações falsas para um grande número de pessoas muito rapidamente.
- O fato de muitas pessoas agora confiarem mais nas informações que vêm da Internet do que nas fontes de mídia tradicionais.
Como resultado desses fatores, os geradores de imagem e vídeo baseados em IA estão se tornando cada vez mais convenientes de usar, altamente confiáveis e altamente eficientes. Isso os torna incrivelmente úteis para fins de propaganda.
Agora é possível para qualquer pessoa com um computador e uma conexão com a internet criar imagens e vídeos falsos que são virtualmente indistinguíveis da realidade. Isso levou a uma situação em que é muito difícil determinar o que é verdade e o que não é.
O uso das mídias sociais para disseminar informações falsas também é uma grande preocupação. Devido à forma como as mídias sociais funcionam, informações falsas podem se espalhar com muita rapidez e facilidade. Isso torna difícil para as pessoas saberem no que acreditar.
O seguinte ilustra como um desenvolvimento revolucionário em 2022 possibilitou a criação de falsos imagens que combinava com descrições como “Um guaxinim em roupas formais com cartola, bengala e saco de lixo. “Pintura a óleo no estilo de Rembrandt (o resultado está à esquerda) e Van Gogh (o resultado está à direita).”
A extrema simplificação do processo de eliminação da linha entre a verdade e a falsidade, combinada com a incapacidade do pensamento crítico das pessoas para combater a propaganda da IA, levará ao domínio da omnipresente, emdefioperações de influência viáveis e intransponíveis, tanto na política como nos negócios.
Leia mais sobre IA:
Aviso Legal
Em linha com a Diretrizes do Projeto Trust, observe que as informações fornecidas nesta página não se destinam e não devem ser interpretadas como aconselhamento jurídico, tributário, de investimento, financeiro ou qualquer outra forma. É importante investir apenas o que você pode perder e procurar aconselhamento financeiro independente se tiver alguma dúvida. Para mais informações, sugerimos consultar os termos e condições, bem como as páginas de ajuda e suporte fornecidas pelo emissor ou anunciante. MetaversePost está comprometida com relatórios precisos e imparciais, mas as condições de mercado estão sujeitas a alterações sem aviso prévio.
Sobre o autor
Damir é o líder de equipe, gerente de produto e editor da Metaverse Post, abordando tópicos como AI/ML, AGI, LLMs, Metaverse e Web3-Campos relacionados. Seus artigos atraem um grande público de mais de um milhão de usuários todos os meses. Ele parece ser um especialista com 10 anos de experiência em SEO e marketing digital. Damir foi mencionado em Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e outras publicações. Ele viaja entre os Emirados Árabes Unidos, Turquia, Rússia e CEI como um nômade digital. Damir formou-se em física, o que ele acredita ter lhe dado as habilidades de pensamento crítico necessárias para ter sucesso no cenário em constante mudança da internet.
Mais artigos
Damir é o líder de equipe, gerente de produto e editor da Metaverse Post, abordando tópicos como AI/ML, AGI, LLMs, Metaverse e Web3-Campos relacionados. Seus artigos atraem um grande público de mais de um milhão de usuários todos os meses. Ele parece ser um especialista com 10 anos de experiência em SEO e marketing digital. Damir foi mencionado em Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e outras publicações. Ele viaja entre os Emirados Árabes Unidos, Turquia, Rússia e CEI como um nômade digital. Damir formou-se em física, o que ele acredita ter lhe dado as habilidades de pensamento crítico necessárias para ter sucesso no cenário em constante mudança da internet.
