Kyberzločinci využívajúci chatbotov LLM na phishing: Ako tomu môže čeliť generatívna AI
Stručne
Od zavedenia ChatGPT koncom roka 2022 bol zaznamenaný výrazný nárast škodlivých phishingových e-mailov s nárastom o 1,265 XNUMX %.
Niektorí z najbežnejších používateľov chatboty s veľkým jazykovým modelom (LLM). sú kyberzločinci, odhaľuje poskytovateľa spravodajských informácií o hrozbách v reálnom čase SlashNext správa. Aký je však účel používania chatbotov LLM?
Podľa správy s názvom „Stav phishingu 2023Kyberzločinci využívajú tento nástroj na pomoc pri písaní obchodných e-mailových útokov (BEC) a systematického spúšťania vysoko cielených phishingových útokov.
Od zavedenia OpenAI'S ChatGPT koncom roka 2022 bol zaznamenaný výrazný nárast škodlivých phishingových e-mailov s ohromujúcim nárastom o 1,265 XNUMX %.
Je pozoruhodné, že 68 % týchto phishingových e-mailov využíva textovú taktiku Business Email Compromise (BEC). Tento alarmujúci trend podčiarkuje rastúce obavy týkajúce sa úlohy chatbotov a útek z väzenia pri uľahčovaní rýchleho šírenia phishingových útokov tým, že umožňuje kyberzločincom spustiť vysoko sofistikované a rýchle ofenzívy.
Na otázku 40 % respondentov (odborníkov v oblasti kybernetickej bezpečnosti) uviedlo, že v súčasnosti zamestnávajú ChatGPT na písanie e-mailov na osobné aj profesionálne účely.
Nie je prekvapujúce, že toto využitie siaha až do zločinci, pretože zostavovanie e-mailov je jednou z najrozšírenejších aplikácií ChatGPT pre hackerov. Kybernetickí útočníci zneužívajú ChatGPTschopnosti pomôcť pri vytváraní útokov Business Email Compromise (BEC) a organizovaní precízne cielených phishingových kampaní.
odpojenie ChatGPT Ako Chatboti – Nie je to zložitá úloha
Zatiaľ čo AI chatboti Ako ChatGPT majú rozsiahle znalosti a dokážu generovať text na širokú škálu tém, podliehajú určitým obmedzeniam, aby sa predišlo rôznym problémom.
Tieto obmedzenia sú zavedené kvôli povahe ich tréningových údajov a potenciálu škodlivých alebo nevhodných reakcií. Tento článok skúma prečo ChatGPT je obmedzený a poskytuje techniky na obídenie týchto obmedzení.
Zarámovaním otázok do kontextu, vyhýbaním sa problematickým frázam a riešením scenárov z pohľadu tretej osoby však môžu používatelia často získať užitočnejšie odpovede. Okrem toho môžu používatelia obísť obmedzenia počtu znakov tým, že budú žiadať menšie časti textu naraz.
Môže byť generatívna AI záchranným hrdinom?
V rýchlo sa rozvíjajúcom digitálnom prostredí vyvolalo spojenie škodlivého potenciálu AI a meniacej sa dynamiky vzdialených a hybridných pracovných prostredí obavy z eskalujúceho rizika kybernetických útokov.
So zamestnancami rozptýlenými na rôznych zariadeniach a komunikačných kanáloch sú organizácie čoraz zraniteľnejšie voči narušeniam bezpečnosti. S cieľom čeliť tejto hrozbe existuje rastúci dopyt generatívna AI bezpečnostné riešenia navrhnuté na ochranu pred pokročilými kybernetickými útokmi, ako sú Business Email Compromise (BEC), útoky na dodávateľský reťazec, odcudzenie identity vedúcich pracovníkov a finančné podvody.
Generatívne bezpečnostné riešenia AI sú dobré pri identifikácii hrozieb, ktoré manipulujú s ľudskými emóciami, využívajúc taktiku, ako je strach alebo dôvera, na rýchle akcie. Simuláciou týchto ľudských emócií a správania v procese ich detekcie poskytujú generatívne bezpečnostné riešenia AI robustnú obranu proti najnovším kybernetickým hrozbám.
Jedným z významných hráčov v tejto oblasti je SlashNext. Technológia spoločnosti je šikovná na odhaľovanie, predpovedanie a zastavenie útokov, akými sú spear phishing, BEC a Smishing, pričom všetky využívajú techniky sociálneho inžinierstva v nulovej hodine. Tento pokročilý systém bezproblémovo funguje v rámci e-mailových, mobilných a webových aplikácií na odosielanie správ a ponúka mnohostrannú obranu.
Podľa SlashNext jeho riešenia kombinujú spracovanie prirodzeného jazyka, počítačové videnie, strojové učenie, grafy vzťahov a hlbokú kontextualizáciu, aby čelili sofistikovaným viackanálovým útokom na zasielanie správ.
Spoločnosť má schopnosť predvídať širokú škálu hrozieb BEC generovaných AI pomocou technológií na rozširovanie a klonovanie údajov AI.
Tento prístup umožňuje systému posúdiť hlavné hrozby a generovať početné variácie, čím sa efektívne trénuje, aby rozpoznal a zmaril potenciálne riziká, dodal.
Keďže organizácie zápasia s neustále rastúcimi výzvami v oblasti kybernetickej bezpečnosti, ktoré predstavujú hrozby poháňané umelou inteligenciou, generatívne bezpečnostné riešenia AI sú neoceniteľnými spojencami v snahe chrániť citlivé údaje a udržiavať digitálnu integritu. Budúcnosť kybernetickej bezpečnosti sa čoraz viac spolieha na tieto inovatívne technológie, čo zaisťuje, že organizácie môžu zostať o krok vpred pred počítačovými zločincami a novými hrozbami.
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Kumar je skúsený technický novinár so špecializáciou na dynamické prieniky AI/ML, marketingových technológií a nových oblastí, ako sú krypto, blockchain a NFTs. S viac ako 3-ročnými skúsenosťami v tomto odvetví má Kumar preukázané výsledky pri vytváraní pútavých príbehov, vedení dômyselných rozhovorov a poskytovaní komplexných poznatkov. Kumarova odbornosť spočíva vo vytváraní vysoko účinného obsahu vrátane článkov, správ a výskumných publikácií pre prominentné priemyselné platformy. Vďaka jedinečnému súboru zručností, ktorý kombinuje technické znalosti a rozprávanie príbehov, Kumar vyniká v komunikácii zložitých technologických konceptov pre rôzne publikum jasným a pútavým spôsobom.
Ďalšie články
Kumar je skúsený technický novinár so špecializáciou na dynamické prieniky AI/ML, marketingových technológií a nových oblastí, ako sú krypto, blockchain a NFTs. S viac ako 3-ročnými skúsenosťami v tomto odvetví má Kumar preukázané výsledky pri vytváraní pútavých príbehov, vedení dômyselných rozhovorov a poskytovaní komplexných poznatkov. Kumarova odbornosť spočíva vo vytváraní vysoko účinného obsahu vrátane článkov, správ a výskumných publikácií pre prominentné priemyselné platformy. Vďaka jedinečnému súboru zručností, ktorý kombinuje technické znalosti a rozprávanie príbehov, Kumar vyniká v komunikácii zložitých technologických konceptov pre rôzne publikum jasným a pútavým spôsobom.
