Cibercriminosos que usam chatbots LLM para phishing: como a IA generativa pode neutralizá-lo
Em Breve
Desde a introdução do ChatGPT no final de 2022, foi observado um aumento significativo de e-mails de phishing maliciosos, com um aumento de 1,265%.
Alguns dos usuários mais comuns de chatbots de modelo de linguagem grande (LLM) são cibercriminosos, revela provedor de inteligência de ameaças em tempo real Barra Próxima relatório. Mas qual é exatamente o propósito de usar chatbots LLM?
De acordo com o relatório intitulado 'O estado do phishing em 2023Os cibercriminosos estão aproveitando a ferramenta para ajudar a escrever ataques de comprometimento de e-mail comercial (BEC) e lançar sistematicamente ataques de phishing altamente direcionados.
Desde a introdução do OpenAI'S ChatGPT no final de 2022, foi observado um aumento significativo de e-mails de phishing maliciosos, com um aumento impressionante de 1,265%.
Notavelmente, 68% desses e-mails de phishing empregam táticas Business Email Compromise (BEC) baseadas em texto. Esta tendência alarmante sublinha as crescentes apreensões relativamente ao papel dos chatbots e dos jailbreaks na facilitação de uma rápida proliferação de ataques de phishing, permitindo aos cibercriminosos lançar ofensivas altamente sofisticadas e rápidas.
Quando questionados, 40% dos entrevistados (profissionais de segurança cibernética) indicaram que atualmente empregam ChatGPT para redigir e-mails, tanto para casos de uso pessoal quanto profissional.
Não é surpreendente que esta utilização se estenda a cibercriminosos, já que a composição de e-mail é uma das aplicações mais prevalentes de ChatGPT para hackers. Os invasores cibernéticos exploram ChatGPTpara ajudar na criação de ataques Business Email Compromise (BEC) e na orquestração de campanhas de phishing meticulosamente direcionadas.
ignorando ChatGPT Como chatbots – Não é uma tarefa complexa
Enquanto Chatbots AI como ChatGPT possuem amplo conhecimento e podem gerar textos sobre os mais diversos temas, estão sujeitos a certas restrições para evitar diversos problemas.
Essas restrições existem devido à natureza dos dados de treinamento e ao potencial de respostas prejudiciais ou inadequadas. Este artigo explora por que ChatGPT é restrito e fornece técnicas para contornar essas limitações.
No entanto, ao enquadrar as perguntas com contexto, evitando frases problemáticas e abordando cenários a partir de uma perspectiva de terceira pessoa, os usuários muitas vezes podem obter respostas mais úteis. Além disso, os usuários podem contornar os limites de caracteres solicitando porções menores de texto por vez.
A IA generativa pode ser o herói do resgate?
Num cenário digital em rápida evolução, a confluência do potencial malicioso da IA e a dinâmica mutável dos ambientes de trabalho remotos e híbridos suscitou preocupações sobre o risco crescente de ataques cibernéticos.
Com os funcionários dispersos por vários dispositivos e canais de comunicação, as organizações estão cada vez mais vulneráveis a violações de segurança. Para combater esta ameaça, há uma procura crescente de IA generativa soluções de segurança projetadas para proteger contra ataques cibernéticos avançados, como Business Email Compromise (BEC), ataques à cadeia de suprimentos, falsificação de identidade de executivos e fraude financeira.
As soluções generativas de segurança de IA são boas para identificar ameaças que manipulam as emoções humanas, aproveitando táticas como medo ou confiança para desencadear ações rápidas. Ao simular essas emoções e comportamentos humanos em seu processo de detecção, as soluções generativas de segurança de IA fornecem uma defesa robusta contra as ameaças cibernéticas mais recentes.
Um jogador notável neste campo é o SlashNext. A tecnologia da empresa é adepta da detecção, previsão e interrupção de ataques como spear phishing, BEC e Smishing, todos os quais exploram técnicas de engenharia social zero-hour. Este sistema avançado opera perfeitamente em aplicativos de e-mail, dispositivos móveis e mensagens da web, oferecendo uma defesa multifacetada.
De acordo com a SlashNext, suas soluções combinam processamento de linguagem natural, visão computacional, aprendizado de máquina, gráficos de relacionamento e contextualização profunda para neutralizar sofisticados ataques de mensagens multicanais.
A empresa tem a capacidade de antecipar uma ampla gama de ameaças de BEC geradas por IA, empregando tecnologias de clonagem e aumento de dados de IA.
Esta abordagem permite que o sistema avalie as principais ameaças e gere inúmeras variações, treinando-se eficazmente para reconhecer e impedir riscos potenciais, acrescentou.
À medida que as organizações enfrentam os crescentes desafios de segurança cibernética colocados pelas ameaças impulsionadas pela IA, as soluções generativas de segurança de IA são aliadas inestimáveis na busca por proteger dados sensíveis e manter a integridade digital. O futuro da cibersegurança depende cada vez mais destas tecnologias inovadoras, garantindo que as organizações possam estar um passo à frente dos cibercriminosos e das ameaças emergentes.
Aviso Legal
Em linha com a Diretrizes do Projeto Trust, observe que as informações fornecidas nesta página não se destinam e não devem ser interpretadas como aconselhamento jurídico, tributário, de investimento, financeiro ou qualquer outra forma. É importante investir apenas o que você pode perder e procurar aconselhamento financeiro independente se tiver alguma dúvida. Para mais informações, sugerimos consultar os termos e condições, bem como as páginas de ajuda e suporte fornecidas pelo emissor ou anunciante. MetaversePost está comprometida com relatórios precisos e imparciais, mas as condições de mercado estão sujeitas a alterações sem aviso prévio.
Sobre o autor
Kumar é um jornalista de tecnologia experiente com especialização nas interseções dinâmicas de IA/ML, tecnologia de marketing e campos emergentes como criptografia, blockchain e NFTS. Com mais de 3 anos de experiência no setor, Kumar estabeleceu um histórico comprovado na elaboração de narrativas convincentes, na condução de entrevistas perspicazes e no fornecimento de insights abrangentes. A experiência de Kumar reside na produção de conteúdo de alto impacto, incluindo artigos, relatórios e publicações de pesquisa para plataformas importantes do setor. Com um conjunto único de habilidades que combina conhecimento técnico e narrativa, Kumar se destaca na comunicação de conceitos tecnológicos complexos para diversos públicos de maneira clara e envolvente.
Mais artigos
Kumar é um jornalista de tecnologia experiente com especialização nas interseções dinâmicas de IA/ML, tecnologia de marketing e campos emergentes como criptografia, blockchain e NFTS. Com mais de 3 anos de experiência no setor, Kumar estabeleceu um histórico comprovado na elaboração de narrativas convincentes, na condução de entrevistas perspicazes e no fornecimento de insights abrangentes. A experiência de Kumar reside na produção de conteúdo de alto impacto, incluindo artigos, relatórios e publicações de pesquisa para plataformas importantes do setor. Com um conjunto único de habilidades que combina conhecimento técnico e narrativa, Kumar se destaca na comunicação de conceitos tecnológicos complexos para diversos públicos de maneira clara e envolvente.
