Criminali informatici che utilizzano chatbot LLM per il phishing: come l'intelligenza artificiale generativa può contrastarlo
In Breve
Dall'introduzione di ChatGPT alla fine del 2022 è stato osservato un aumento significativo delle e-mail di phishing dannose, con un aumento del 1,265%.
Alcuni degli utenti più comuni di chatbot con modello linguistico di grandi dimensioni (LLM). sono criminali informatici, rivela un fornitore di informazioni sulle minacce in tempo reale Barra Avanti rapporto. Ma qual è esattamente lo scopo dell’utilizzo dei chatbot LLM?
Secondo il rapporto intitolato "Lo stato del phishing 2023I criminali informatici stanno sfruttando lo strumento per contribuire a scrivere attacchi BEC (Business Email Compromise) e lanciare sistematicamente attacchi di phishing altamente mirati.
Dall'introduzione di OpenAI'S ChatGPT alla fine del 2022 è stato osservato un aumento significativo delle e-mail di phishing dannose, con uno sbalorditivo aumento del 1,265%.
In particolare, il 68% di queste e-mail di phishing utilizza tattiche BEC (Business Email Compromise) basate su testo. Questa tendenza allarmante sottolinea le crescenti apprensioni riguardo al ruolo dei chatbot e del jailbreak nel facilitare una rapida proliferazione di attacchi di phishing consentendo ai criminali informatici di lanciare offensive rapide e altamente sofisticate.
Alla domanda, il 40% degli intervistati (professionisti della sicurezza informatica) ha indicato di avere attualmente un impiego ChatGPT per comporre e-mail, sia per casi d'uso personali che professionali.
Non sorprende che questo utilizzo si estenda a i criminali informatici, poiché la composizione delle email è una delle applicazioni più diffuse di ChatGPT per gli hacker. Gli aggressori informatici sfruttano ChatGPTdi supportare la realizzazione di attacchi BEC (Business Email Compromise) e l'orchestrazione di campagne di phishing meticolosamente mirate.
bypassare ChatGPT Come i chatbot – Non è un compito complesso
Mentre Chatbots AI piace ChatGPT possiedono una vasta conoscenza e possono generare testi su una vasta gamma di argomenti, sono soggetti a determinate restrizioni per prevenire vari problemi.
Queste restrizioni sono in vigore a causa della natura dei dati di addestramento e del rischio di risposte dannose o inappropriate. Questo articolo esplora il motivo ChatGPT è limitato e fornisce tecniche per aggirare queste limitazioni.
Tuttavia, inquadrando le domande nel contesto, evitando frasi problematiche e affrontando gli scenari da una prospettiva in terza persona, gli utenti possono spesso ottenere risposte più utili. Inoltre, gli utenti possono aggirare i limiti di caratteri richiedendo porzioni di testo più piccole alla volta.
L’intelligenza artificiale generativa può essere l’eroe del salvataggio?
In un panorama digitale in rapida evoluzione, la confluenza del potenziale dannoso dell’IA e le mutevoli dinamiche degli ambienti di lavoro remoti e ibridi ha sollevato preoccupazioni circa il crescente rischio di attacchi informatici.
Con i dipendenti distribuiti su più dispositivi e canali di comunicazione, le organizzazioni sono sempre più vulnerabili alle violazioni della sicurezza. Per contrastare questa minaccia, c’è una crescente domanda di IA generativa soluzioni di sicurezza progettate per proteggere da attacchi informatici avanzati come Business Email Compromise (BEC), attacchi alla catena di fornitura, furto d'identità di dirigenti e frodi finanziarie.
Le soluzioni di sicurezza basate sull’intelligenza artificiale generativa sono efficaci nell’identificare le minacce che manipolano le emozioni umane, sfruttando tattiche come la paura o la fiducia per sollecitare azioni rapide. Simulando queste emozioni e comportamenti umani nel loro processo di rilevamento, le soluzioni di sicurezza con intelligenza artificiale generativa forniscono una solida difesa contro le più recenti minacce informatiche.
Un giocatore notevole in questo campo è SlashNext. La tecnologia dell'azienda è in grado di rilevare, prevedere e bloccare attacchi come spear phishing, BEC e Smishing, che sfruttano tutti tecniche di ingegneria sociale zero-hour. Questo sistema avanzato funziona perfettamente su applicazioni di posta elettronica, mobili e di messaggistica Web, offrendo una difesa su più fronti.
Secondo SlashNext, le sue soluzioni combinano elaborazione del linguaggio naturale, visione artificiale, apprendimento automatico, grafici relazionali e contestualizzazione profonda per contrastare sofisticati attacchi di messaggistica multicanale.
L’azienda ha la capacità di anticipare un’ampia gamma di minacce BEC generate dall’intelligenza artificiale utilizzando tecnologie di clonazione e aumento dei dati basati sull’intelligenza artificiale.
Questo approccio consente al sistema di valutare le minacce principali e generare numerose variazioni, addestrandosi efficacemente a riconoscere e contrastare i potenziali rischi.
Mentre le organizzazioni sono alle prese con le crescenti sfide di sicurezza informatica poste dalle minacce guidate dall’intelligenza artificiale, le soluzioni di sicurezza generativa basate sull’intelligenza artificiale sono alleati preziosi nel tentativo di salvaguardare i dati sensibili e mantenere l’integrità digitale. Il futuro della sicurezza informatica dipende sempre più da queste tecnologie innovative, garantendo che le organizzazioni possano rimanere un passo avanti rispetto ai criminali informatici e alle minacce emergenti.
Negazione di responsabilità
In linea con la Linee guida del progetto Trust, si prega di notare che le informazioni fornite in questa pagina non intendono essere e non devono essere interpretate come consulenza legale, fiscale, di investimento, finanziaria o di qualsiasi altra forma. È importante investire solo ciò che puoi permetterti di perdere e chiedere una consulenza finanziaria indipendente in caso di dubbi. Per ulteriori informazioni, suggeriamo di fare riferimento ai termini e alle condizioni nonché alle pagine di aiuto e supporto fornite dall'emittente o dall'inserzionista. MetaversePost si impegna a fornire report accurati e imparziali, ma le condizioni di mercato sono soggette a modifiche senza preavviso.
Circa l'autore
Kumar è un giornalista tecnologico esperto con una specializzazione nelle intersezioni dinamiche di AI/ML, tecnologia di marketing e campi emergenti come criptovaluta, blockchain e NFTS. Con oltre 3 anni di esperienza nel settore, Kumar ha stabilito una comprovata esperienza nella creazione di narrazioni avvincenti, nella conduzione di interviste approfondite e nella fornitura di approfondimenti completi. L'esperienza di Kumar risiede nella produzione di contenuti di grande impatto, inclusi articoli, rapporti e pubblicazioni di ricerca per importanti piattaforme di settore. Con un insieme di competenze uniche che combina conoscenze tecniche e narrazione, Kumar eccelle nel comunicare concetti tecnologici complessi a un pubblico diversificato in modo chiaro e coinvolgente.
Altri articoli
Kumar è un giornalista tecnologico esperto con una specializzazione nelle intersezioni dinamiche di AI/ML, tecnologia di marketing e campi emergenti come criptovaluta, blockchain e NFTS. Con oltre 3 anni di esperienza nel settore, Kumar ha stabilito una comprovata esperienza nella creazione di narrazioni avvincenti, nella conduzione di interviste approfondite e nella fornitura di approfondimenti completi. L'esperienza di Kumar risiede nella produzione di contenuti di grande impatto, inclusi articoli, rapporti e pubblicazioni di ricerca per importanti piattaforme di settore. Con un insieme di competenze uniche che combina conoscenze tecniche e narrazione, Kumar eccelle nel comunicare concetti tecnologici complessi a un pubblico diversificato in modo chiaro e coinvolgente.
