70% dos líderes tecnológicos adotarão IA generativa para sistemas de defesa cibernética: relatório da PwC
Em Breve
O relatório 2024 Digital Trust Insights da PwC afirma que até 70% dos líderes tecnológicos e empresariais usarão IA generativa para defesa cibernética nos próximos 12 meses.
Cerca de 70% dos líderes tecnológicos e empresariais acreditam que a sua organização utilizará IA generativa para defesa cibernética nos próximos 12 meses, de acordo com o 2024 Digital Trust Insights da PwC Denunciar .
O desenvolvimento visa mitigar o crescente desconforto para os tradicionais cíber segurança sistemas, uma vez que a crescente capacidade da IA generativa para gerar e-mails empresariais sofisticados em grande escala alimentou o perigo de ameaças cibernéticas. Um sentimento predominante entre os especialistas do setor indica que 52% prevêem que a IA generativa liderará ataques cibernéticos catastróficos no próximo ano.
Pelo contrário, quase 77% expressaram o compromisso de alavancar a IA Generativa de forma ética e responsável. Isto sublinha a dupla natureza da IA generativa, que representa tanto um avanço tecnológico promissor como uma fonte potencial de vulnerabilidades de segurança cibernética.
IA generativa é uma faca de dois gumes
A IA generativa surge não apenas como um recurso de defesa, mas também como uma ferramenta formidável no arsenal dos ciberataques. Os invasores podem aproveitar os recursos para criar e-mails atraentes e conteúdo deepfake realista, incluindo vídeos, gravações e imagens, para atingir indivíduos inocentes por meio de esquemas de phishing.
Uma inteligência de ameaças em tempo real relatório do SlashNext revela que alguns dos usuários mais frequentes de chatbots de modelo de linguagem grande (LLM) são cibercriminosos. O relatório esclarece o propósito da utilização de chatbots LLM.
Os cibercriminosos estão empregando essas ferramentas para criar ataques de comprometimento de e-mail comercial (BEC) e executar campanhas de phishing meticulosamente direcionadas, conforme descrito no relatório. Desde o lançamento de OpenAI'S ChatGPT no final de 2022, houve um aumento notável de e-mails de phishing maliciosos, testemunhando um aumento notável de 1,265%.
Além disso, a adaptabilidade da IA generativa permite que agentes mal-intencionados modifiquem facilmente códigos de ataque estabelecidos, garantindo que permaneçam diferentes o suficiente para escapar à detecção. A prevalência da IA generativa tornou-se um ponto focal entre entidades maliciosas, com menções proliferando na dark web ao longo do ano.
Os perigos resultantes incluem a criação de variedades de malware que evoluem automaticamente, gerando variações adaptadas para atacar alvos específicos com técnicas, cargas úteis e código polimórfico únicos – evitando eficazmente a detecção pelas medidas de segurança existentes. Nesta área de segurança cibernética de alto risco, apenas as operações mais ágeis e adaptáveis manterão uma vantagem contra estas ameaças em evolução.
Como tomar cuidado e defender?
Para fortalecer as defesas, os especialistas do setor sublinham a importância de proteger todo o pipeline de IA. Isto inclui um esforço concertado para proteger e encriptar os dados utilizados na formação e ajuste fino de modelos de IA. A verificação contínua de vulnerabilidades, malware e corrupção durante o desenvolvimento do modelo é identificada como uma etapa crítica para fortalecer as defesas contra possíveis violações.
Em segundo lugar, exige a convocação de líderes de segurança cibernética, tecnologia, dados e operações para uma discussão a nível do conselho, e foco na evolução dos riscos, especificamente como a IA generativa pode ser explorada para expor dados sensíveis e permitir o acesso não autorizado aos sistemas.
Embora os controlos de segurança existentes possam ser alargados para proteger a infraestrutura e os dados que suportam os sistemas de IA, é vital compreender a necessidade de métodos inovadores concebidos especificamente para detetar e impedir ataques adversários de IA. É necessária uma postura proativa contra a onda crescente de ameaças cibernéticas provenientes da IA generativa. Promover a conscientização, proteger o pipeline de IA e investir em defesas de ponta é o caminho a seguir.
Aviso Legal
Em linha com a Diretrizes do Projeto Trust, observe que as informações fornecidas nesta página não se destinam e não devem ser interpretadas como aconselhamento jurídico, tributário, de investimento, financeiro ou qualquer outra forma. É importante investir apenas o que você pode perder e procurar aconselhamento financeiro independente se tiver alguma dúvida. Para mais informações, sugerimos consultar os termos e condições, bem como as páginas de ajuda e suporte fornecidas pelo emissor ou anunciante. MetaversePost está comprometida com relatórios precisos e imparciais, mas as condições de mercado estão sujeitas a alterações sem aviso prévio.
Sobre o autor
Kumar é um jornalista de tecnologia experiente com especialização nas interseções dinâmicas de IA/ML, tecnologia de marketing e campos emergentes como criptografia, blockchain e NFTS. Com mais de 3 anos de experiência no setor, Kumar estabeleceu um histórico comprovado na elaboração de narrativas convincentes, na condução de entrevistas perspicazes e no fornecimento de insights abrangentes. A experiência de Kumar reside na produção de conteúdo de alto impacto, incluindo artigos, relatórios e publicações de pesquisa para plataformas importantes do setor. Com um conjunto único de habilidades que combina conhecimento técnico e narrativa, Kumar se destaca na comunicação de conceitos tecnológicos complexos para diversos públicos de maneira clara e envolvente.
Mais artigos
Kumar é um jornalista de tecnologia experiente com especialização nas interseções dinâmicas de IA/ML, tecnologia de marketing e campos emergentes como criptografia, blockchain e NFTS. Com mais de 3 anos de experiência no setor, Kumar estabeleceu um histórico comprovado na elaboração de narrativas convincentes, na condução de entrevistas perspicazes e no fornecimento de insights abrangentes. A experiência de Kumar reside na produção de conteúdo de alto impacto, incluindo artigos, relatórios e publicações de pesquisa para plataformas importantes do setor. Com um conjunto único de habilidades que combina conhecimento técnico e narrativa, Kumar se destaca na comunicação de conceitos tecnológicos complexos para diversos públicos de maneira clara e envolvente.
