Ataques cibernéticos generativos baseados em IA estão ganhando força entre os cibercriminosos: relatório
Em Breve
A plataforma britânica de segurança cibernética Sophos divulgou dois relatórios que esclarecem a integração de IA generativa para crimes cibernéticos maliciosos.
Fornecedor britânico de soluções de cibersegurança Sophos revelou dois relatórios que esclarecem a integração da IA em cibercrime. No primeiro relatório, intitulado “O lado negro da IA: campanhas fraudulentas em grande escala tornadas possíveis pela IA generativa”, a Sophos revela como os golpistas podem explorar tecnologias como ChatGPT perpetrar fraudes generalizadas no futuro, ao mesmo tempo que exige conhecimentos técnicos mínimos.
Ele ressalta o potencial de atores mal-intencionados aproveitarem a IA generativa para golpes em grande escala.
Da mesma forma, o segundo relatório intitulado “Os cibercriminosos não conseguem concordar GPTs”, expõe uma divergência na comunidade cibercriminosa em relação à adoção de grandes modelos de linguagem (LLMs) gostar ChatGPT. Apesar do vasto potencial da IA, alguns criminosos cibernéticos demonstram cepticismo e apreensão relativamente à incorporação da IA, especialmente modelos de linguagem de grande dimensão, nas suas estratégias de ataque.
Isto destaca as perspectivas contrastantes no cenário do crime cibernético, onde nem todos os atores estão igualmente entusiasmados em aproveitar o poder da IA por suas atividades ilícitas.
Tecnologias generativas de IA, exemplificadas por OpenAI'S ChatGPT e DALL-E, estão atualmente causando mudanças significativas em vários aspectos do nosso cenário digital.
Decodificando a ameaça da IA generativa no espaço cibernético
De acordo com o relatório, a prevalência de ferramentas generativas de IA – proficientes na elaboração de textos, imagens e até áudio credíveis, exercem o potencial para aplicações positivas e nefastas, estendendo a sua influência ao domínio da segurança cibernética.
Em uma demonstração recente, o Sophos X-Ops utilizou um modelo simples de comércio eletrônico junto com grandes modelos de linguagem (LLMs), como GPT-4 para construir um site totalmente operacional. Este site possui imagens, áudio e descrições de produtos gerados por IA, além de elementos enganosos, como uma página falsa de login e checkout do Facebook, estrategicamente projetada para roubar credenciais de login e detalhes de cartão de crédito dos usuários.
A construção e operação do website fraudulento exigiu conhecimentos técnicos mínimos, demonstrando a acessibilidade destas ferramentas de IA para fins maliciosos.
Usando a mesma tecnologia, o Sophos X-Ops replicou esse processo, gerando facilmente centenas de sites enganosos semelhantes em poucos minutos por meio de um único comando.
Além disso, a complexidade desses golpes torna-os mais difíceis de identificar. A integração da automação e diversas IA generativa técnicas perturba o equilíbrio entre esforço e sofisticação, permitindo que a campanha atinja usuários mais avançados tecnologicamente.
Em sua investigação sobre as atitudes dos invasores em relação à IA, o Sophos X-Ops examina atualmente quatro grandes fóruns da dark web dedicados a discussões relacionadas a grandes modelos de linguagem (LLMs). Embora a utilização da IA pelos cibercriminosos pareça estar nas suas fases iniciais, os agentes de ameaças na dark web estão ativamente envolvidos em conversas sobre as suas potenciais aplicações em engenharia social.
Já foram observados casos de IA sendo empregada em golpes, especificamente aqueles centrados em romance e criptomoeda.
Além disso, a investigação é impulsionada por um objetivo proativo: manter-se à frente dos cibercriminosos. A criação de um sistema avançado para a geração de websites fraudulentos, que supere as ferramentas criminosas atuais, oferece uma oportunidade de analisar e preparar-se para ameaças potenciais antes que se tornem generalizadas.
Aviso Legal
Em linha com a Diretrizes do Projeto Trust, observe que as informações fornecidas nesta página não se destinam e não devem ser interpretadas como aconselhamento jurídico, tributário, de investimento, financeiro ou qualquer outra forma. É importante investir apenas o que você pode perder e procurar aconselhamento financeiro independente se tiver alguma dúvida. Para mais informações, sugerimos consultar os termos e condições, bem como as páginas de ajuda e suporte fornecidas pelo emissor ou anunciante. MetaversePost está comprometida com relatórios precisos e imparciais, mas as condições de mercado estão sujeitas a alterações sem aviso prévio.
Sobre o autor
Kumar é um jornalista de tecnologia experiente com especialização nas interseções dinâmicas de IA/ML, tecnologia de marketing e campos emergentes como criptografia, blockchain e NFTS. Com mais de 3 anos de experiência no setor, Kumar estabeleceu um histórico comprovado na elaboração de narrativas convincentes, na condução de entrevistas perspicazes e no fornecimento de insights abrangentes. A experiência de Kumar reside na produção de conteúdo de alto impacto, incluindo artigos, relatórios e publicações de pesquisa para plataformas importantes do setor. Com um conjunto único de habilidades que combina conhecimento técnico e narrativa, Kumar se destaca na comunicação de conceitos tecnológicos complexos para diversos públicos de maneira clara e envolvente.
Mais artigos
Kumar é um jornalista de tecnologia experiente com especialização nas interseções dinâmicas de IA/ML, tecnologia de marketing e campos emergentes como criptografia, blockchain e NFTS. Com mais de 3 anos de experiência no setor, Kumar estabeleceu um histórico comprovado na elaboração de narrativas convincentes, na condução de entrevistas perspicazes e no fornecimento de insights abrangentes. A experiência de Kumar reside na produção de conteúdo de alto impacto, incluindo artigos, relatórios e publicações de pesquisa para plataformas importantes do setor. Com um conjunto único de habilidades que combina conhecimento técnico e narrativa, Kumar se destaca na comunicação de conceitos tecnológicos complexos para diversos públicos de maneira clara e envolvente.
