Ciberdelincuentes que utilizan chatbots LLM para phishing: cómo la IA generativa puede contrarrestarlo
En Resumen
Desde la introducción de ChatGPT A finales de 2022, se observó un aumento significativo de correos electrónicos de phishing maliciosos, con un aumento del 1,265 %.
Algunos de los usuarios más comunes de Chatbots de modelo de lenguaje grande (LLM) son cibercriminales, revela proveedor de inteligencia sobre amenazas en tiempo real Barra oblicuaSiguiente informe. Pero, ¿cuál es exactamente el propósito de utilizar chatbots LLM?
Según el informe titulado 'El estado del phishing en 2023Los ciberdelincuentes están aprovechando la herramienta para ayudar a redactar ataques de compromiso de correo electrónico empresarial (BEC) y lanzar sistemáticamente ataques de phishing altamente dirigidos.
Desde la introducción de OpenAI, ChatGPT A finales de 2022, se observó un aumento significativo de correos electrónicos de phishing maliciosos, con un asombroso aumento del 1,265 %.
En particular, el 68 % de estos correos electrónicos de phishing emplean tácticas de compromiso de correo electrónico empresarial (BEC) basadas en texto. Esta alarmante tendencia subraya las crecientes aprensiones sobre el papel de los chatbots y los jailbreak a la hora de facilitar una rápida proliferación de ataques de phishing al permitir a los ciberdelincuentes lanzar ofensivas rápidas y muy sofisticadas.
Cuando se les preguntó, el 40% de los encuestados (profesionales de la ciberseguridad) indicaron que actualmente emplean ChatGPT para redactar correos electrónicos, tanto para casos de uso personales como profesionales.
No sorprende que esta utilización se extienda a ciberdelincuentes, ya que la redacción de correos electrónicos es una de las aplicaciones más frecuentes de ChatGPT para piratas informáticos. Los ciberatacantes explotan ChatGPTLas capacidades de ayudar a diseñar ataques de compromiso de correo electrónico empresarial (BEC) y orquestar campañas de phishing meticulosamente dirigidas.
Pasar por alto ChatGPT Como chatbots – No es una tarea compleja
Aunque la Chatbots de IA como ChatGPT Poseen amplios conocimientos y pueden generar texto sobre una amplia gama de temas, están sujetos a ciertas restricciones para evitar diversos problemas.
Estas restricciones existen debido a la naturaleza de sus datos de entrenamiento y la posibilidad de respuestas dañinas o inapropiadas. Este artículo explora por qué ChatGPT está restringido y proporciona técnicas para solucionar estas limitaciones.
Sin embargo, al formular las preguntas en contexto, evitar frases problemáticas y abordar escenarios desde una perspectiva de tercera persona, los usuarios a menudo pueden obtener respuestas más útiles. Además, los usuarios pueden eludir los límites de caracteres solicitando porciones más pequeñas de texto a la vez.
¿Puede la IA generativa ser el héroe del rescate?
En un panorama digital en rápida evolución, la confluencia del potencial malicioso de la IA y la dinámica cambiante de los entornos de trabajo remotos e híbridos ha generado preocupación sobre el creciente riesgo de ataques cibernéticos.
Con empleados dispersos en múltiples dispositivos y canales de comunicación, las organizaciones son cada vez más vulnerables a las violaciones de seguridad. Para contrarrestar esta amenaza, existe una demanda creciente de IA generativa Soluciones de seguridad diseñadas para proteger contra ataques cibernéticos avanzados como Business Email Compromise (BEC), ataques a la cadena de suministro, suplantación de ejecutivos y fraude financiero.
Las soluciones de seguridad de IA generativa son buenas para identificar amenazas que manipulan las emociones humanas, aprovechando tácticas como el miedo o la confianza para impulsar acciones rápidas. Al simular estas emociones y comportamientos humanos en su proceso de detección, las soluciones de seguridad de IA generativa brindan una defensa sólida contra las últimas amenazas cibernéticas.
Un jugador notable en este campo es SlashNext. La tecnología de la empresa es experta en detectar, predecir y detener ataques como el phishing, BEC y Smishing, todos los cuales explotan técnicas de ingeniería social de hora cero. Este sistema avanzado funciona sin problemas en aplicaciones de correo electrónico, móviles y de mensajería web, ofreciendo una defensa en múltiples frentes.
Según SlashNext, sus soluciones combinan procesamiento de lenguaje natural, visión por computadora, aprendizaje automático, gráficos de relaciones y contextualización profunda para contrarrestar sofisticados ataques de mensajería multicanal.
La empresa tiene la capacidad de anticipar una amplia gama de amenazas BEC generadas por IA mediante el empleo de tecnologías de clonación y aumento de datos de IA.
Este enfoque permite que el sistema evalúe las amenazas principales y genere numerosas variaciones, entrenándose efectivamente para reconocer y frustrar riesgos potenciales, agregó.
A medida que las organizaciones enfrentan los desafíos de ciberseguridad cada vez mayores que plantean las amenazas impulsadas por la IA, las soluciones de seguridad generativa de IA son aliados invaluables en la búsqueda de salvaguardar los datos confidenciales y mantener la integridad digital. El futuro de la ciberseguridad depende cada vez más de estas tecnologías innovadoras, lo que garantiza que las organizaciones puedan estar un paso por delante de los ciberdelincuentes y las amenazas emergentes.
Observación
En línea con la Directrices del Proyecto Confianza, tenga en cuenta que la información proporcionada en esta página no pretende ser ni debe interpretarse como asesoramiento legal, fiscal, de inversión, financiero o de cualquier otro tipo. Es importante invertir sólo lo que pueda permitirse perder y buscar asesoramiento financiero independiente si tiene alguna duda. Para mayor información sugerimos consultar los términos y condiciones así como las páginas de ayuda y soporte proporcionadas por el emisor o anunciante. MetaversePost se compromete a brindar informes precisos e imparciales, pero las condiciones del mercado están sujetas a cambios sin previo aviso.
Sobre el Autor
Kumar es un periodista tecnológico experimentado con especialización en las intersecciones dinámicas de AI/ML, tecnología de marketing y campos emergentes como cripto, blockchain y NFTs. Con más de 3 años de experiencia en la industria, Kumar ha establecido una trayectoria comprobada en la elaboración de narrativas convincentes, la realización de entrevistas interesantes y la entrega de conocimientos integrales. La experiencia de Kumar radica en la producción de contenido de alto impacto, incluidos artículos, informes y publicaciones de investigación para plataformas industriales destacadas. Con un conjunto de habilidades único que combina conocimiento técnico y narración, Kumar se destaca en comunicar conceptos tecnológicos complejos a audiencias diversas de una manera clara y atractiva.
Más artículos
Kumar es un periodista tecnológico experimentado con especialización en las intersecciones dinámicas de AI/ML, tecnología de marketing y campos emergentes como cripto, blockchain y NFTs. Con más de 3 años de experiencia en la industria, Kumar ha establecido una trayectoria comprobada en la elaboración de narrativas convincentes, la realización de entrevistas interesantes y la entrega de conocimientos integrales. La experiencia de Kumar radica en la producción de contenido de alto impacto, incluidos artículos, informes y publicaciones de investigación para plataformas industriales destacadas. Con un conjunto de habilidades único que combina conocimiento técnico y narración, Kumar se destaca en comunicar conceptos tecnológicos complejos a audiencias diversas de una manera clara y atractiva.
