Criminalii cibernetici care folosesc chatbot-uri LLM pentru phishing: cum o poate contracara IA generativă
Pe scurt
De la introducerea ChatGPT la sfârșitul anului 2022, a fost observată o creștere semnificativă a e-mailurilor de phishing rău intenționate, cu o creștere de 1,265%.
Unii dintre cei mai comuni utilizatori ai chatbot-uri cu model de limbă mare (LLM). sunt criminali cibernetici, dezvăluie furnizorul de informații despre amenințări în timp real SlashNext raport. Dar, care este exact scopul utilizării chatbot-urilor LLM?
Potrivit raportului intitulat „Starea phishing-ului 2023Infractorii cibernetici folosesc instrumentul pentru a ajuta la scrierea atacurilor de compromitere a e-mailurilor de afaceri (BEC) și lansează sistematic atacuri de phishing foarte țintite.
De la introducerea OpenAI'S ChatGPT la sfârșitul anului 2022, a fost observată o creștere semnificativă a e-mailurilor de phishing rău intenționate, cu o creștere uluitoare de 1,265%.
În special, 68% dintre aceste e-mailuri de tip phishing folosesc tactici de compromis prin e-mail de afaceri (BEC) bazate pe text. Această tendință alarmantă subliniază îngrijorările tot mai mari cu privire la rolul chatbot-urilor și al jailbreak-urilor în facilitarea unei proliferări rapide a atacurilor de tip phishing, permițând infractorilor cibernetici să lanseze ofensive extrem de sofisticate și rapide.
La întrebarea, 40% dintre respondenți (profesioniști în securitate cibernetică) au indicat că lucrează în prezent ChatGPT pentru compunerea de e-mailuri, atât pentru cazuri personale, cât și profesionale.
Nu este surprinzător că această utilizare se extinde la cybercriminals, deoarece compoziția e-mailului este una dintre cele mai răspândite aplicații ale ChatGPT pentru hackeri. Atacatorii cibernetici exploatează ChatGPTcapabilitățile lui de a ajuta la elaborarea atacurilor Business Email Compromise (BEC) și la orchestrarea campaniilor de phishing bine țintite.
ocolirea ChatGPT Ca Chatbots – Nu este o sarcină complexă
In timp ce Chatbots AI ca ChatGPT posedă cunoștințe vaste și pot genera text pe o gamă largă de subiecte, sunt supuse anumitor restricții pentru a preveni diverse probleme.
Aceste restricții sunt în vigoare din cauza naturii datelor lor de formare și a potențialului de răspunsuri dăunătoare sau inadecvate. Acest articol explorează de ce ChatGPT este restricționată și oferă tehnici pentru a rezolva aceste limitări.
Cu toate acestea, încadrând întrebările în context, evitând frazele problematice și abordând scenariile dintr-o perspectivă la persoana a treia, utilizatorii pot obține adesea răspunsuri mai utile. În plus, utilizatorii pot ocoli limitele de caractere solicitând porțiuni mai mici de text la un moment dat.
Poate AI generativă să fie eroul salvatorului?
Într-un peisaj digital în evoluție rapidă, confluența potențialului rău intenționat al inteligenței artificiale și dinamica în schimbare a mediilor de lucru la distanță și hibride a stârnit îngrijorări cu privire la riscul în creștere al atacurilor cibernetice.
Cu angajații dispersați pe mai multe dispozitive și canale de comunicare, organizațiile sunt din ce în ce mai vulnerabile la breșele de securitate. Pentru a contracara această amenințare, există o cerere în creștere pentru AI generativă soluții de securitate concepute pentru a proteja împotriva atacurilor cibernetice avansate, cum ar fi Business Email Compromise (BEC), atacurile lanțului de aprovizionare, uzurparea identității executivului și frauda financiară.
Soluțiile de securitate generative AI sunt bune la identificarea amenințărilor care manipulează emoțiile umane, valorificând tactici precum frica sau încrederea pentru a determina acțiuni rapide. Simulând aceste emoții și comportamente umane în procesul lor de detectare, soluțiile de securitate AI generative oferă o apărare robustă împotriva celor mai recente amenințări cibernetice.
Un jucător notabil în acest domeniu este SlashNext. Tehnologia companiei este capabilă să detecteze, să prezică și să oprească atacuri precum spear phishing, BEC și Smishing, toate care exploatează tehnici de inginerie socială zero-hour. Acest sistem avansat funcționează fără probleme în aplicațiile de e-mail, mobil și mesagerie web, oferind o apărare pe mai multe direcții.
Potrivit SlashNext, soluțiile sale combină procesarea limbajului natural, viziunea computerizată, învățarea automată, graficele relațiilor și contextualizarea profundă pentru a contracara atacurile sofisticate de mesagerie multicanal.
Compania are capacitatea de a anticipa o gamă largă de amenințări BEC generate de AI prin utilizarea tehnologiilor de creștere și clonare a datelor AI.
Această abordare permite sistemului să evalueze amenințările de bază și să genereze numeroase variații, antrenându-se efectiv pentru a recunoaște și a contracara riscurile potențiale, a adăugat acesta.
Pe măsură ce organizațiile se confruntă cu provocările din ce în ce mai mari de securitate cibernetică reprezentate de amenințările bazate pe inteligența artificială, soluțiile de securitate generatoare de inteligență artificială sunt aliați de neprețuit în încercarea de a proteja datele sensibile și de a menține integritatea digitală. Viitorul securității cibernetice se bazează din ce în ce mai mult pe aceste tehnologii inovatoare, asigurând că organizațiile pot rămâne cu un pas înaintea infractorilor cibernetici și a amenințărilor emergente.
Declinare a responsabilităţii
În conformitate cu Ghidurile proiectului Trust, vă rugăm să rețineți că informațiile furnizate pe această pagină nu sunt destinate și nu trebuie interpretate ca fiind consiliere juridică, fiscală, investițională, financiară sau orice altă formă de consiliere. Este important să investești doar ceea ce îți poți permite să pierzi și să cauți sfaturi financiare independente dacă ai îndoieli. Pentru informații suplimentare, vă sugerăm să consultați termenii și condițiile, precum și paginile de ajutor și asistență furnizate de emitent sau agent de publicitate. MetaversePost se angajează să raporteze corecte, imparțial, dar condițiile de piață pot fi modificate fără notificare.
Despre autor
Kumar este un jurnalist tehnic cu experiență, cu o specializare în intersecțiile dinamice ale AI/ML, tehnologie de marketing și domenii emergente, cum ar fi cripto, blockchain și NFTs. Cu peste 3 ani de experiență în industrie, Kumar și-a stabilit o experiență dovedită în elaborarea de narațiuni convingătoare, realizarea de interviuri perspicace și furnizarea de informații cuprinzătoare. Expertiza lui Kumar constă în producerea de conținut de mare impact, inclusiv articole, rapoarte și publicații de cercetare pentru platforme proeminente din industrie. Cu un set unic de abilități care combină cunoștințele tehnice și povestirea, Kumar excelează în comunicarea conceptelor tehnologice complexe către diverse audiențe într-o manieră clară și captivantă.
Mai multe articole
Kumar este un jurnalist tehnic cu experiență, cu o specializare în intersecțiile dinamice ale AI/ML, tehnologie de marketing și domenii emergente, cum ar fi cripto, blockchain și NFTs. Cu peste 3 ani de experiență în industrie, Kumar și-a stabilit o experiență dovedită în elaborarea de narațiuni convingătoare, realizarea de interviuri perspicace și furnizarea de informații cuprinzătoare. Expertiza lui Kumar constă în producerea de conținut de mare impact, inclusiv articole, rapoarte și publicații de cercetare pentru platforme proeminente din industrie. Cu un set unic de abilități care combină cunoștințele tehnice și povestirea, Kumar excelează în comunicarea conceptelor tehnologice complexe către diverse audiențe într-o manieră clară și captivantă.
