Cyberkriminelle, der bruger LLM-chatbots til phishing: Hvordan generativ AI kan modvirke det
Kort sagt
Siden introduktionen af ChatGPT i slutningen af 2022 er der observeret en betydelig stigning i ondsindede phishing-e-mails med en stigning på 1,265 %.
Nogle af de mest almindelige brugere af store sprogmodel (LLM) chatbots er cyberkriminelle, afslører real-time trusselsefterretningsudbyder SlashNext rapport. Men hvad er egentlig formålet med at bruge LLM chatbots?
Ifølge rapporten med titlen 'Phishing-tilstanden 2023' cyberkriminelle udnytter værktøjet til at hjælpe med at skrive business email compromise (BEC)-angreb og systematisk iværksætte meget målrettede phishing-angreb.
Siden introduktionen af OpenAI's ChatGPT i slutningen af 2022 er der observeret en betydelig stigning i ondsindede phishing-e-mails med en svimlende stigning på 1,265 %.
Det er bemærkelsesværdigt, at 68 % af disse phishing-e-mails anvender tekstbaserede Business Email Compromise (BEC) taktikker. Denne alarmerende tendens understreger voksende bekymringer vedrørende chatbots og jailbreaks rolle i at facilitere en hurtig spredning af phishing-angreb ved at gøre det muligt for cyberkriminelle at iværksætte meget sofistikerede og hurtige offensiver.
Da de blev spurgt, angav 40 % af de adspurgte (cybersikkerhedsprofessionelle), at de i øjeblikket er ansat ChatGPT til at skrive e-mails, både til personlige og professionelle use-cases.
Det er ikke overraskende, at denne udnyttelse strækker sig til cyberkriminelle, da e-mail-sammensætning er en af de mest udbredte anvendelser af ChatGPT for hackere. Cyberangribere udnytter ChatGPT's evner til at hjælpe med at lave Business Email Compromise (BEC)-angreb og orkestrere omhyggeligt målrettede phishing-kampagner.
Omgåelse ChatGPT Ligesom chatbots – Ikke en kompleks opgave
Mens AI chatbots ligesom ChatGPT besidder omfattende viden og kan generere tekst om en bred vifte af emner, de er underlagt visse begrænsninger for at forhindre forskellige problemer.
Disse begrænsninger er på plads på grund af arten af deres træningsdata og potentialet for skadelige eller upassende reaktioner. Denne artikel undersøger hvorfor ChatGPT er begrænset, og det giver teknikker til at omgå disse begrænsninger.
Men ved at indramme spørgsmål med kontekst, undgå problematiske sætninger og behandle scenarier fra et tredjepersons perspektiv, kan brugere ofte få mere nyttige svar. Derudover kan brugere omgå tegnbegrænsninger ved at bede om mindre dele af teksten ad gangen.
Kan Generativ AI være redningshelten?
I et hurtigt udviklende digitalt landskab har sammenløbet af AI's ondsindede potentiale og den skiftende dynamik i fjerntliggende og hybride arbejdsmiljøer givet anledning til bekymring over den eskalerende risiko for cyberangreb.
Med medarbejdere spredt over flere enheder og kommunikationskanaler er organisationer i stigende grad sårbare over for sikkerhedsbrud. For at imødegå denne trussel er der en stigende efterspørgsel efter generativ AI sikkerhedsløsninger designet til at beskytte mod avancerede cyberangreb såsom Business Email Compromise (BEC), supply chain-angreb, efterligning af ledere og økonomisk bedrageri.
Generative AI-sikkerhedsløsninger er gode til at identificere trusler, der manipulerer menneskelige følelser, ved at udnytte taktikker som frygt eller tillid til at tilskynde til hurtige handlinger. Ved at simulere disse menneskelige følelser og adfærd i deres detektionsproces giver generative AI-sikkerhedsløsninger et robust forsvar mod de seneste cybertrusler.
En bemærkelsesværdig spiller på dette felt er SlashNext. Virksomhedens teknologi er dygtig til at opdage, forudsige og standse angreb såsom spear phishing, BEC og Smishing, som alle udnytter zero-hours social engineering-teknikker. Dette avancerede system fungerer problemfrit på tværs af e-mail-, mobil- og webmeddelelsesapplikationer og tilbyder et flerstrenget forsvar.
Ifølge SlashNext kombinerer dens løsninger naturlig sprogbehandling, computersyn, maskinlæring, relationsgrafer og dyb kontekstualisering for at modvirke sofistikerede multi-kanal messaging-angreb.
Virksomheden har evnen til at forudse en bred vifte af AI-genererede BEC-trusler ved at anvende AI-dataforøgelses- og kloningsteknologier.
Denne tilgang gør det muligt for systemet at vurdere kernetrusler og generere adskillige variationer, og effektivt træne sig selv til at genkende og modarbejde potentielle risici, tilføjede den.
Mens organisationer kæmper med de stadigt voksende cybersikkerhedsudfordringer, som AI-drevne trusler udgør, er generative AI-sikkerhedsløsninger uvurderlige allierede i stræben efter at beskytte følsomme data og bevare digital integritet. Fremtiden for cybersikkerhed er i stigende grad afhængig af disse innovative teknologier, der sikrer, at organisationer kan være et skridt foran cyberkriminelle og nye trusler.
Ansvarsfraskrivelse
I tråd med den Trust Project retningslinjer, bemærk venligst, at oplysningerne på denne side ikke er beregnet til at være og ikke skal fortolkes som juridiske, skattemæssige, investeringsmæssige, finansielle eller nogen anden form for rådgivning. Det er vigtigt kun at investere, hvad du har råd til at tabe, og at søge uafhængig finansiel rådgivning, hvis du er i tvivl. For yderligere information foreslår vi at henvise til vilkårene og betingelserne samt hjælpe- og supportsiderne fra udstederen eller annoncøren. MetaversePost er forpligtet til nøjagtig, objektiv rapportering, men markedsforholdene kan ændres uden varsel.
Om forfatteren
Kumar er en erfaren teknisk journalist med speciale i de dynamiske skæringspunkter mellem AI/ML, marketingteknologi og nye områder som krypto, blockchain og NFTs. Med over 3 års erfaring i branchen har Kumar etableret en dokumenteret track record i at skabe overbevisende fortællinger, udføre indsigtsfulde interviews og levere omfattende indsigt. Kumars ekspertise ligger i at producere indhold med stor gennemslagskraft, herunder artikler, rapporter og forskningspublikationer til fremtrædende industriplatforme. Med et unikt færdighedssæt, der kombinerer teknisk viden og historiefortælling, udmærker Kumar sig ved at kommunikere komplekse teknologiske koncepter til forskellige målgrupper på en klar og engagerende måde.
Flere artikler
Kumar er en erfaren teknisk journalist med speciale i de dynamiske skæringspunkter mellem AI/ML, marketingteknologi og nye områder som krypto, blockchain og NFTs. Med over 3 års erfaring i branchen har Kumar etableret en dokumenteret track record i at skabe overbevisende fortællinger, udføre indsigtsfulde interviews og levere omfattende indsigt. Kumars ekspertise ligger i at producere indhold med stor gennemslagskraft, herunder artikler, rapporter og forskningspublikationer til fremtrædende industriplatforme. Med et unikt færdighedssæt, der kombinerer teknisk viden og historiefortælling, udmærker Kumar sig ved at kommunikere komplekse teknologiske koncepter til forskellige målgrupper på en klar og engagerende måde.
