Cibercriminals que utilitzen chatbots LLM per a la pesca: com la IA generativa pot contrarestar-ho
En breu
Des de la introducció de ChatGPT a finals de 2022, s'ha observat un augment significatiu de correus electrònics de pesca maliciós, amb un augment del 1,265%.
Alguns dels usuaris més habituals de Chatbots de model de llenguatge gran (LLM). són ciberdelinqüents, revela un proveïdor d'intel·ligència sobre amenaces en temps real SlashNext informe. Però, quin és exactament l'objectiu d'utilitzar els chatbots de LLM?
Segons l'informe titulat 'L'estat de la pesca 2023' Els ciberdelinqüents estan aprofitant l'eina per ajudar a escriure atacs de compromís de correu electrònic empresarial (BEC) i llançar sistemàticament atacs de pesca altament dirigits.
Des de la introducció de OpenAI'S ChatGPT a finals de 2022, s'ha observat un augment significatiu de correus electrònics de pesca maliciós, amb un augment impressionant del 1,265%.
En particular, el 68% d'aquests correus electrònics de pesca utilitzen tàctiques de compromís de correu electrònic empresarial (BEC) basades en text. Aquesta alarmant tendència subratlla les creixents aprehensions pel que fa al paper dels chatbots i jailbreaks en la facilitació d'una ràpida proliferació d'atacs de pesca, permetent als ciberdelinqüents llançar ofensives molt sofisticades i ràpides.
Quan se li va preguntar, el 40% dels enquestats (professionals de la ciberseguretat) van indicar que actualment treballen ChatGPT per redactar correus electrònics, tant per a casos d'ús personals com professionals.
No és d'estranyar que aquest ús s'estén a cibercriminals, ja que la composició de correu electrònic és una de les aplicacions més freqüents de ChatGPT per als hackers. Els ciberatacants exploten ChatGPTles capacitats d'ajudar a crear atacs de compromís de correu electrònic empresarial (BEC) i a organitzar campanyes de pesca meticulosament dirigides.
anul·lació ChatGPT Com els Chatbots - No és una tasca complexa
Mentre que Chatbots AI M'agrada ChatGPT posseeixen amplis coneixements i poden generar textos sobre una àmplia gamma de temes, estan subjectes a determinades restriccions per evitar problemes diversos.
Aquestes restriccions s'estableixen a causa de la naturalesa de les seves dades d'entrenament i del potencial de respostes nocives o inadequades. Aquest article explora per què ChatGPT està restringit i proporciona tècniques per solucionar aquestes limitacions.
Tanmateix, en plantejar preguntes amb context, evitar frases problemàtiques i abordar escenaris des d'una perspectiva en tercera persona, els usuaris sovint poden obtenir respostes més útils. A més, els usuaris poden ometre els límits de caràcters demanant porcions més petites de text alhora.
La IA generativa pot ser l'heroi del rescat?
En un panorama digital en ràpida evolució, la confluència del potencial maliciós de l'IA i la dinàmica canviant dels entorns de treball remots i híbrids ha generat preocupacions sobre l'augment del risc d'atacs cibernètics.
Amb els empleats dispersos per diversos dispositius i canals de comunicació, les organitzacions són cada cop més vulnerables a les bretxes de seguretat. Per contrarestar aquesta amenaça, hi ha una demanda creixent de IA generativa solucions de seguretat dissenyades per protegir contra ciberatacs avançats com ara el compromís de correu electrònic empresarial (BEC), els atacs a la cadena de subministrament, la suplantació d'executius i el frau financer.
Les solucions de seguretat d'IA generativa són bones per identificar amenaces que manipulen les emocions humanes, aprofitant tàctiques com la por o la confiança per impulsar accions ràpides. En simular aquestes emocions i comportaments humans en el seu procés de detecció, les solucions de seguretat d'IA generativa ofereixen una defensa sòlida contra les últimes amenaces cibernètiques.
Un jugador notable en aquest camp és SlashNext. La tecnologia de l'empresa és experta per detectar, predir i aturar atacs com el spear phishing, BEC i Smishing, tots els quals utilitzen tècniques d'enginyeria social d'hora zero. Aquest sistema avançat funciona perfectament en aplicacions de missatgeria de correu electrònic, mòbils i web, oferint una defensa de múltiples fronts.
Segons SlashNext, les seves solucions combinen processament del llenguatge natural, visió per ordinador, aprenentatge automàtic, gràfics de relacions i contextualització profunda per contrarestar atacs sofisticats de missatgeria multicanal.
L'empresa té la capacitat d'anticipar una àmplia gamma d'amenaces BEC generades per IA mitjançant l'ús de tecnologies d'augment de dades d'IA i de clonació.
Aquest enfocament permet al sistema avaluar les amenaces bàsiques i generar nombroses variacions, entrenant-se eficaçment per reconèixer i frustrar riscos potencials, va afegir.
A mesura que les organitzacions s'enfronten als reptes de ciberseguretat cada cop més creixents que plantegen les amenaces impulsades per la IA, les solucions generatives de seguretat d'IA són aliades inestimables en la recerca de salvaguardar les dades sensibles i mantenir la integritat digital. El futur de la ciberseguretat depèn cada cop més d'aquestes tecnologies innovadores, la qual cosa garanteix que les organitzacions puguin mantenir-se un pas per davant dels ciberdelinqüents i les amenaces emergents.
renúncia
En línia amb la Directrius del projecte Trust, si us plau, tingueu en compte que la informació proporcionada en aquesta pàgina no pretén ni s'ha d'interpretar com a assessorament legal, fiscal, d'inversió, financer o de cap altra forma. És important invertir només el que et pots permetre perdre i buscar assessorament financer independent si tens dubtes. Per obtenir més informació, us suggerim que feu referència als termes i condicions, així com a les pàgines d'ajuda i assistència proporcionades per l'emissor o l'anunciant. MetaversePost es compromet a fer informes precisos i imparcials, però les condicions del mercat estan subjectes a canvis sense previ avís.
About The Autor
Kumar és un periodista tecnològic experimentat amb una especialització en les interseccions dinàmiques d'IA/ML, tecnologia de màrqueting i camps emergents com ara cripto, blockchain i NFTs. Amb més de 3 anys d'experiència en el sector, Kumar ha establert una trajectòria demostrada en l'elaboració de narracions convincents, la realització d'entrevistes minucioses i l'oferiment d'informació exhaustiva. L'experiència de Kumar rau en la producció de contingut d'alt impacte, inclosos articles, informes i publicacions de recerca per a plataformes de la indústria destacades. Amb un conjunt d'habilitats únics que combina coneixements tècnics i narració, Kumar destaca per comunicar conceptes tecnològics complexos a diversos públics d'una manera clara i atractiva.
més articles
Kumar és un periodista tecnològic experimentat amb una especialització en les interseccions dinàmiques d'IA/ML, tecnologia de màrqueting i camps emergents com ara cripto, blockchain i NFTs. Amb més de 3 anys d'experiència en el sector, Kumar ha establert una trajectòria demostrada en l'elaboració de narracions convincents, la realització d'entrevistes minucioses i l'oferiment d'informació exhaustiva. L'experiència de Kumar rau en la producció de contingut d'alt impacte, inclosos articles, informes i publicacions de recerca per a plataformes de la indústria destacades. Amb un conjunt d'habilitats únics que combina coneixements tècnics i narració, Kumar destaca per comunicar conceptes tecnològics complexos a diversos públics d'una manera clara i atractiva.
