Cybercriminelen gebruiken LLM-chatbots voor phishing: hoe generatieve AI dit kan tegengaan
In het kort
Sinds de introductie van ChatGPT Eind 2022 werd een aanzienlijke stijging van het aantal kwaadaardige phishing-e-mails waargenomen, met een stijging van 1,265%.
Enkele van de meest voorkomende gebruikers van chatbots met een groot taalmodel (LLM). zijn cybercriminelen, onthult een realtime aanbieder van informatie over bedreigingen SlashVolgende rapport. Maar wat is precies het doel van het gebruik van LLM-chatbots?
Volgens het rapport getiteld 'De staat van phishing 2023Cybercriminelen maken gebruik van de tool om BEC-aanvallen (Business Email Compromise) te schrijven en systematisch zeer gerichte phishing-aanvallen te lanceren.
Sinds de introductie van OpenAI's ChatGPT Eind 2022 werd een aanzienlijke stijging van het aantal kwaadaardige phishing-e-mails waargenomen, met een duizelingwekkende stijging van 1,265%.
Opvallend is dat 68% van deze phishing-e-mails gebruik maakt van op tekst gebaseerde Business Email Compromise (BEC)-tactieken. Deze alarmerende trend onderstreept de groeiende bezorgdheid over de rol van chatbots en jailbreaks bij het faciliteren van een snelle verspreiding van phishing-aanvallen door cybercriminelen in staat te stellen zeer geavanceerde en snelle offensief te lanceren.
Desgevraagd gaf 40% van de respondenten (cybersecurityprofessionals) aan momenteel een baan te hebben ChatGPT voor het opstellen van e-mails, zowel voor persoonlijk als professioneel gebruik.
Het is niet verrassend dat dit gebruik zich uitstrekt tot cybercriminelen, aangezien het samenstellen van e-mails een van de meest voorkomende toepassingen is van ChatGPT voor hackers. Cyberaanvallers maken misbruik ChatGPT's mogelijkheden om te helpen bij het opzetten van Business Email Compromise (BEC)-aanvallen en het orkestreren van zorgvuldig gerichte phishing-campagnes.
omzeilen ChatGPT Zoals chatbots – Geen complexe taak
Terwijl AI-chatbots als ChatGPT over uitgebreide kennis beschikken en tekst kunnen genereren over een breed scala aan onderwerpen, zijn ze onderworpen aan bepaalde beperkingen om verschillende problemen te voorkomen.
Deze beperkingen zijn van kracht vanwege de aard van hun trainingsgegevens en de kans op schadelijke of ongepaste reacties. Dit artikel onderzoekt waarom ChatGPT is beperkt en biedt technieken om deze beperkingen te omzeilen.
Door vragen in een context te plaatsen, problematische zinsneden te vermijden en scenario’s vanuit het perspectief van een derde persoon te benaderen, kunnen gebruikers echter vaak nuttiger antwoorden krijgen. Bovendien kunnen gebruikers tekenlimieten omzeilen door om kleinere delen tekst tegelijk te vragen.
Kan generatieve AI de reddingsheld zijn?
In een snel evoluerend digitaal landschap heeft de samenloop van het kwaadaardige potentieel van AI en de veranderende dynamiek van afgelegen en hybride werkomgevingen aanleiding gegeven tot bezorgdheid over het escalerende risico van cyberaanvallen.
Omdat werknemers verspreid zijn over meerdere apparaten en communicatiekanalen, zijn organisaties steeds kwetsbaarder voor inbreuken op de beveiliging. Om deze dreiging het hoofd te bieden, is er een groeiende vraag naar generatieve AI beveiligingsoplossingen die zijn ontworpen om te beschermen tegen geavanceerde cyberaanvallen zoals Business Email Compromise (BEC), supply chain-aanvallen, nabootsing van de identiteit van managers en financiële fraude.
Generatieve AI-beveiligingsoplossingen zijn goed in het identificeren van bedreigingen die menselijke emoties manipuleren, waarbij tactieken als angst of vertrouwen worden ingezet om snelle acties uit te lokken. Door deze menselijke emoties en gedragingen te simuleren tijdens hun detectieproces, bieden generatieve AI-beveiligingsoplossingen een robuuste verdediging tegen de nieuwste cyberdreigingen.
Een opmerkelijke speler op dit gebied is SlashNext. De technologie van het bedrijf is bedreven in het detecteren, voorspellen en stoppen van aanvallen zoals spear phishing, BEC en Smishing, die allemaal gebruikmaken van zero-hour social engineering-technieken. Dit geavanceerde systeem werkt naadloos in toepassingen voor e-mail, mobiele apparaten en webberichten en biedt een veelzijdige verdediging.
Volgens SlashNext combineren de oplossingen natuurlijke taalverwerking, computervisie, machine learning, relatiegrafieken en diepe contextualisatie om geavanceerde multi-channel messaging-aanvallen tegen te gaan.
Het bedrijf kan anticiperen op een breed scala aan AI-gegenereerde BEC-bedreigingen door gebruik te maken van AI-data-augmentatie- en kloontechnologieën.
Deze aanpak stelt het systeem in staat de kernbedreigingen te beoordelen en talloze variaties te genereren, waardoor het zichzelf effectief kan trainen om potentiële risico's te herkennen en te dwarsbomen, voegde het eraan toe.
Terwijl organisaties worstelen met de steeds groter wordende cybersecurity-uitdagingen die worden veroorzaakt door AI-gestuurde bedreigingen, zijn generatieve AI-beveiligingsoplossingen waardevolle bondgenoten in de zoektocht om gevoelige gegevens te beschermen en de digitale integriteit te behouden. De toekomst van cyberbeveiliging is steeds meer afhankelijk van deze innovatieve technologieën, waardoor organisaties cybercriminelen en opkomende dreigingen een stap voor kunnen blijven.
Disclaimer
In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.
Over de auteur
Kumar is een ervaren technologiejournalist met een specialisatie in de dynamische kruispunten van AI/ML, marketingtechnologie en opkomende velden zoals crypto, blockchain en NFTS. Met meer dan drie jaar ervaring in de branche heeft Kumar een bewezen staat van dienst opgebouwd in het opstellen van boeiende verhalen, het houden van inzichtelijke interviews en het leveren van uitgebreide inzichten. De expertise van Kumar ligt in het produceren van inhoud met een grote impact, waaronder artikelen, rapporten en onderzoekspublicaties voor vooraanstaande industriële platforms. Met een unieke reeks vaardigheden die technische kennis en verhalen vertellen combineert, blinkt Kumar uit in het op een duidelijke en boeiende manier communiceren van complexe technologische concepten aan een divers publiek.
Meer artikelen
Kumar is een ervaren technologiejournalist met een specialisatie in de dynamische kruispunten van AI/ML, marketingtechnologie en opkomende velden zoals crypto, blockchain en NFTS. Met meer dan drie jaar ervaring in de branche heeft Kumar een bewezen staat van dienst opgebouwd in het opstellen van boeiende verhalen, het houden van inzichtelijke interviews en het leveren van uitgebreide inzichten. De expertise van Kumar ligt in het produceren van inhoud met een grote impact, waaronder artikelen, rapporten en onderzoekspublicaties voor vooraanstaande industriële platforms. Met een unieke reeks vaardigheden die technische kennis en verhalen vertellen combineert, blinkt Kumar uit in het op een duidelijke en boeiende manier communiceren van complexe technologische concepten aan een divers publiek.
