Cyberkriminella som använder LLM Chatbots för nätfiske: hur generativ AI kan motverka det
I korthet
Sedan introduktionen av ChatGPT i slutet av 2022 har en betydande ökning av skadliga nätfiske-e-postmeddelanden observerats, med 1,265 XNUMX % ökning.
Några av de vanligaste användarna av stora språkmodeller (LLM) chatbots är cyberkriminella, avslöjar realtidsleverantör av hotintelligens SlashNästa Rapportera. Men vad är egentligen syftet med att använda LLM chatbots?
Enligt rapporten med titeln 'Tillståndet för nätfiske 2023' cyberbrottslingar utnyttjar verktyget för att hjälpa till att skriva affärse-postkompromissattacker (BEC) och systematiskt starta mycket riktade nätfiskeattacker.
Sedan introduktionen av OpenAIÄr ChatGPT i slutet av 2022 har en betydande ökning av skadliga nätfiske-e-postmeddelanden observerats, med en svindlande ökning på 1,265 XNUMX %.
Noterbart är att 68 % av dessa nätfiske-e-postmeddelanden använder textbaserad Business Email Compromise (BEC) taktik. Denna alarmerande trend understryker växande farhågor om chatbots och jailbreaks roll för att underlätta en snabb spridning av nätfiskeattacker genom att göra det möjligt för cyberbrottslingar att inleda mycket sofistikerade och snabba offensiver.
På frågan angav 40 % av de tillfrågade (cybersäkerhetspersonal) att de för närvarande anställer ChatGPT för att skriva e-postmeddelanden, både för personliga och professionella användningsfall.
Det är inte förvånande att detta utnyttjande sträcker sig till nätbrottslingar, eftersom e-postsammansättning är en av de vanligaste tillämpningarna av ChatGPT för hackare. Cyberangripare utnyttjar ChatGPTs kapacitet att hjälpa till att skapa Business Email Compromise (BEC)-attacker och orkestrera noggrant riktade nätfiskekampanjer.
förbi ChatGPT Som chatbots – Inte en komplicerad uppgift
Medan AI -chatbots tycka om ChatGPT besitter omfattande kunskaper och kan generera text om ett brett spektrum av ämnen, de är föremål för vissa restriktioner för att förhindra olika problem.
Dessa begränsningar är på plats på grund av deras träningsdatas karaktär och risken för skadliga eller olämpliga svar. Den här artikeln undersöker varför ChatGPT är begränsad, och den tillhandahåller tekniker för att kringgå dessa begränsningar.
Men genom att rama in frågor med sammanhang, undvika problematiska fraser och ta itu med scenarier ur ett tredjepersonsperspektiv kan användare ofta få mer användbara svar. Dessutom kan användare kringgå teckenbegränsningar genom att be om mindre delar av text åt gången.
Kan Generativ AI vara räddningshjälten?
I ett snabbt utvecklande digitalt landskap har sammanflödet av AI:s skadliga potential och den förändrade dynamiken i avlägsna och hybrida arbetsmiljöer väckt oro för den eskalerande risken för cyberattacker.
Med anställda utspridda över flera enheter och kommunikationskanaler blir organisationer alltmer sårbara för säkerhetsintrång. För att motverka detta hot finns det en växande efterfrågan på generativ AI säkerhetslösningar utformade för att skydda mot avancerade cyberattacker som Business Email Compromise (BEC), supply chain-attacker, efterliknande av chefer och ekonomiskt bedrägeri.
Generativa AI-säkerhetslösningar är bra på att identifiera hot som manipulerar mänskliga känslor, utnyttja taktik som rädsla eller förtroende för att uppmana till snabba åtgärder. Genom att simulera dessa mänskliga känslor och beteenden i deras upptäcktsprocess ger generativa AI-säkerhetslösningar ett robust försvar mot de senaste cyberhoten.
En anmärkningsvärd spelare på detta område är SlashNext. Företagets teknik är skicklig på att upptäcka, förutsäga och stoppa attacker som spear phishing, BEC och Smishing, som alla utnyttjar noll timmars social ingenjörsteknik. Detta avancerade system fungerar sömlöst över e-post-, mobil- och webbmeddelandeapplikationer och erbjuder ett mångsidigt försvar.
Enligt SlashNext kombinerar dess lösningar naturlig språkbehandling, datorseende, maskininlärning, relationsgrafer och djup kontextualisering för att motverka sofistikerade flerkanalsattacker.
Företaget har förmågan att förutse ett brett spektrum av AI-genererade BEC-hot genom att använda AI-dataförstärkning och kloningsteknik.
Detta tillvägagångssätt tillåter systemet att bedöma kärnhoten och generera många variationer, och tränar sig effektivt för att känna igen och motverka potentiella risker, tillade den.
När organisationer brottas med de ständigt växande cybersäkerhetsutmaningarna som AI-drivna hot utgör, är generativa AI-säkerhetslösningar ovärderliga allierade i strävan att skydda känslig data och upprätthålla digital integritet. Framtiden för cybersäkerhet är allt mer beroende av dessa innovativa teknologier, vilket säkerställer att organisationer kan ligga steget före cyberbrottslingar och nya hot.
Villkor
I linje med den Riktlinjer för Trust Project, vänligen notera att informationen på den här sidan inte är avsedd att vara och inte ska tolkas som juridisk, skattemässig, investerings-, finansiell eller någon annan form av rådgivning. Det är viktigt att bara investera det du har råd att förlora och att söka oberoende finansiell rådgivning om du har några tvivel. För ytterligare information föreslår vi att du hänvisar till villkoren samt hjälp- och supportsidorna som tillhandahålls av utfärdaren eller annonsören. MetaversePost är engagerad i korrekt, opartisk rapportering, men marknadsförhållandena kan ändras utan föregående meddelande.
Om författaren
Kumar är en erfaren teknisk journalist med specialisering på de dynamiska skärningspunkterna mellan AI/ML, marknadsföringsteknologi och framväxande områden som krypto, blockchain och NFTs. Med över 3 års erfarenhet i branschen har Kumar etablerat en bevisad meritlista i att skapa övertygande berättelser, genomföra insiktsfulla intervjuer och leverera omfattande insikter. Kumars expertis ligger i att producera innehåll med hög effekt, inklusive artiklar, rapporter och forskningspublikationer för framstående industriplattformar. Med en unik kompetens som kombinerar teknisk kunskap och berättande, utmärker Kumar sig på att kommunicera komplexa tekniska koncept till olika publik på ett tydligt och engagerande sätt.
fler artiklar
Kumar är en erfaren teknisk journalist med specialisering på de dynamiska skärningspunkterna mellan AI/ML, marknadsföringsteknologi och framväxande områden som krypto, blockchain och NFTs. Med över 3 års erfarenhet i branschen har Kumar etablerat en bevisad meritlista i att skapa övertygande berättelser, genomföra insiktsfulla intervjuer och leverera omfattande insikter. Kumars expertis ligger i att producera innehåll med hög effekt, inklusive artiklar, rapporter och forskningspublikationer för framstående industriplattformar. Med en unik kompetens som kombinerar teknisk kunskap och berättande, utmärker Kumar sig på att kommunicera komplexa tekniska koncept till olika publik på ett tydligt och engagerande sätt.
