Cyberkriminalci koriste LLM Chatbotove za krađu identiteta: Kako se generativna umjetna inteligencija tome može suprotstaviti
Ukratko
Od uvođenja ChatGPT krajem 2022. primijećen je značajan porast zlonamjernih phishing e-poruka, s porastom od 1,265%.
Neki od najčešćih korisnika veliki jezični model (LLM) chatbotovi su kibernetički kriminalci, otkriva pružatelj obavještajnih podataka o prijetnjama u stvarnom vremenu SlashDalje izvješće. No, koja je točno svrha korištenja LLM chatbota?
Prema izvješću pod nazivom 'Stanje phishinga 2023' kibernetički kriminalci iskorištavaju alat za pomoć pri pisanju napada kompromitacije poslovne e-pošte (BEC) i sustavnog pokretanja visoko ciljanih phishing napada.
Od uvođenja OpenAI'S ChatGPT krajem 2022. primijećen je značajan porast zlonamjernih phishing e-poruka, s porastom od nevjerojatnih 1,265%.
Značajno je da 68% ovih phishing e-poruka koristi taktiku kompromitiranja poslovne e-pošte (BEC) temeljenu na tekstu. Ovaj alarmantni trend naglašava rastuća strepnja u vezi s ulogom chatbota i bjekstava iz zatvora u omogućavanju brzog širenja phishing napada omogućujući cyber kriminalcima da pokrenu visoko sofisticirane i brze ofenzive.
Na pitanje, 40% ispitanika (stručnjaka za kibernetičku sigurnost) navelo je da su trenutno zaposleni ChatGPT za sastavljanje e-pošte, kako za osobnu tako i za profesionalnu upotrebu.
Nije iznenađujuće da se ova upotreba proteže na kriminalci, budući da je sastavljanje e-pošte jedna od najraširenijih primjena ChatGPT za hakere. Cyber napadači iskorištavaju ChatGPTsposobnosti za pomoć u kreiranju Business Email Compromise (BEC) napada i orkestriranju pažljivo ciljanih phishing kampanja.
zaobilazeći ChatGPT Kao Chatbotovi – Nije složen zadatak
Dok AI chatbotovi kao ChatGPT posjeduju opsežno znanje i mogu generirati tekst o širokom rasponu tema, podliježu određenim ograničenjima kako bi se spriječili različiti problemi.
Ta su ograničenja na snazi zbog prirode njihovih podataka o obuci i mogućnosti štetnih ili neprikladnih odgovora. Ovaj članak istražuje zašto ChatGPT je ograničeno i nudi tehnike za zaobilaženje tih ograničenja.
Međutim, uokvirujući pitanja s kontekstom, izbjegavajući problematične fraze i obraćajući se scenarijima iz perspektive trećeg lica, korisnici često mogu dobiti korisnije odgovore. Osim toga, korisnici mogu zaobići ograničenja znakova tražeći manje dijelove teksta odjednom.
Može li Generative AI biti spasilački heroj?
U digitalnom krajoliku koji se brzo razvija, spoj zlonamjernog potencijala umjetne inteligencije i promjenjive dinamike udaljenih i hibridnih radnih okruženja potaknuo je zabrinutost zbog eskalacije rizika od kibernetičkih napada.
S obzirom na to da su zaposlenici raspoređeni po više uređaja i komunikacijskih kanala, organizacije su sve ranjivije na sigurnosne provale. Kako bi se suprotstavili ovoj prijetnji, postoji sve veća potražnja za generativni AI sigurnosna rješenja osmišljena za zaštitu od naprednih kibernetičkih napada kao što su Business Email Compromise (BEC), napadi na lanac opskrbe, lažno predstavljanje rukovoditelja i financijske prijevare.
Generativna AI sigurnosna rješenja dobra su u prepoznavanju prijetnji koje manipuliraju ljudskim emocijama, koristeći taktike kao što su strah ili povjerenje kako bi se potaknule brze akcije. Simulacijom tih ljudskih emocija i ponašanja u njihovom procesu otkrivanja, generativna sigurnosna rješenja AI pružaju robusnu obranu od najnovijih cyber prijetnji.
Jedan značajan igrač na ovom polju je SlashNext. Tehnologija tvrtke vješta je u otkrivanju, predviđanju i zaustavljanju napada kao što su spear phishing, BEC i Smishing, a svi oni iskorištavaju tehnike društvenog inženjeringa nula sati. Ovaj napredni sustav besprijekorno funkcionira u aplikacijama za e-poštu, mobitele i web-poruke, nudeći višestruku obranu.
Prema SlashNextu, njegova rješenja kombiniraju obradu prirodnog jezika, računalni vid, strojno učenje, grafikone odnosa i duboku kontekstualizaciju kako bi se suprotstavili sofisticiranim višekanalnim napadima slanjem poruka.
Tvrtka ima mogućnost predvidjeti široku lepezu BEC prijetnji generiranih umjetnom inteligencijom upotrebom tehnologija za povećanje podataka i kloniranje AI-jem.
Ovaj pristup omogućuje sustavu procjenu ključnih prijetnji i generiranje brojnih varijacija, učinkovito se osposobljavajući za prepoznavanje i sprječavanje potencijalnih rizika, dodaje se.
Dok se organizacije bore s rastućim izazovima kibernetičke sigurnosti koje predstavljaju prijetnje potaknute umjetnom inteligencijom, generativna sigurnosna rješenja umjetne inteligencije neprocjenjivi su saveznici u nastojanju da se zaštite osjetljivi podaci i održi digitalni integritet. Budućnost kibernetičke sigurnosti sve se više oslanja na ove inovativne tehnologije, osiguravajući da organizacije mogu ostati korak ispred kibernetičkih kriminalaca i novih prijetnji.
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Kumar je iskusan tehnološki novinar sa specijalizacijom u dinamičkim raskrižjima AI/ML-a, marketinške tehnologije i novih područja kao što su kripto, blockchain i NFTs. S više od 3 godine iskustva u industriji, Kumar ima dokazanu reputaciju u izradi uvjerljivih priča, provođenju pronicljivih intervjua i pružanju sveobuhvatnih uvida. Kumarova stručnost leži u izradi sadržaja visokog utjecaja, uključujući članke, izvješća i istraživačke publikacije za istaknute industrijske platforme. S jedinstvenim skupom vještina koje kombiniraju tehničko znanje i pripovijedanje, Kumar se ističe u komuniciranju složenih tehnoloških koncepata različitoj publici na jasan i privlačan način.
Više članaka
Kumar je iskusan tehnološki novinar sa specijalizacijom u dinamičkim raskrižjima AI/ML-a, marketinške tehnologije i novih područja kao što su kripto, blockchain i NFTs. S više od 3 godine iskustva u industriji, Kumar ima dokazanu reputaciju u izradi uvjerljivih priča, provođenju pronicljivih intervjua i pružanju sveobuhvatnih uvida. Kumarova stručnost leži u izradi sadržaja visokog utjecaja, uključujući članke, izvješća i istraživačke publikacije za istaknute industrijske platforme. S jedinstvenim skupom vještina koje kombiniraju tehničko znanje i pripovijedanje, Kumar se ističe u komuniciranju složenih tehnoloških koncepata različitoj publici na jasan i privlačan način.
