Kyberzločinci používající chatboty LLM k phishingu: Jak tomu může generativní umělá inteligence čelit
Stručně
Od zavedení ChatGPT na konci roku 2022 byl pozorován významný nárůst škodlivých phishingových e-mailů s 1,265 XNUMX% nárůstem.
Někteří z nejčastějších uživatelů chatboty s velkým jazykovým modelem (LLM). jsou kyberzločinci, odhaluje poskytovatele informací o hrozbách v reálném čase SlashNext zpráva. Ale jaký přesně je účel používání LLM chatbotů?
Podle zprávy s názvem „Stav phishingu 2023Kyberzločinci využívají tento nástroj k tomu, aby pomáhali psát obchodní e-mailové útoky (BEC) a systematicky spouštět vysoce cílené phishingové útoky.
Od zavedení OpenAIJe ChatGPT na konci roku 2022 byl pozorován významný nárůst škodlivých phishingových e-mailů s ohromujícím nárůstem o 1,265 XNUMX %.
Je pozoruhodné, že 68 % těchto phishingových e-mailů využívá textovou taktiku Business Email Compromise (BEC). Tento alarmující trend podtrhuje rostoucí obavy ohledně role chatbotů a útěků z vězení při usnadňování rychlého šíření phishingových útoků tím, že umožňuje kyberzločincům zahájit vysoce sofistikované a rychlé útoky.
Na dotaz 40 % respondentů (profesionálů v oblasti kybernetické bezpečnosti) uvedlo, že v současné době zaměstnávají ChatGPT pro psaní e-mailů pro osobní i profesionální použití.
Není divu, že toto využití sahá až do cybercriminals, protože vytváření e-mailů je jednou z nejrozšířenějších aplikací ChatGPT pro hackery. Kybernetičtí útočníci zneužívají ChatGPTschopnosti pomoci při vytváření útoků Business Email Compromise (BEC) a organizování pečlivě cílených phishingových kampaní.
Odpojení ChatGPT Jako Chatboti – Není to složitý úkol
Zatímco AI chatboti jako ChatGPT mají rozsáhlé znalosti a umí generovat text na širokou škálu témat, podléhají určitým omezením, aby se předešlo různým problémům.
Tato omezení jsou zavedena kvůli povaze jejich tréninkových dat a potenciálu škodlivých nebo nevhodných reakcí. Tento článek zkoumá proč ChatGPT je omezený a poskytuje techniky, jak tato omezení obejít.
Pokud však otázky zarámujete do kontextu, vyhýbáte se problematickým frázím a řešíte scénáře z pohledu třetí osoby, uživatelé mohou často získat užitečnější odpovědi. Uživatelé mohou navíc obejít omezení počtu znaků tím, že budou požadovat menší části textu najednou.
Může být generativní umělá inteligence záchranným hrdinou?
V rychle se vyvíjejícím digitálním prostředí vyvolalo spojení škodlivého potenciálu AI a měnící se dynamiky vzdálených a hybridních pracovních prostředí obavy z eskalujícího rizika kybernetických útoků.
Se zaměstnanci rozptýlenými na různých zařízeních a komunikačních kanálech jsou organizace stále zranitelnější vůči narušení bezpečnosti. Aby bylo možné čelit této hrozbě, existuje rostoucí poptávka generativní AI bezpečnostní řešení určená k ochraně před pokročilými kybernetickými útoky, jako je Business Email Compromise (BEC), útoky na dodavatelský řetězec, předstírání identity vedoucích pracovníků a finanční podvody.
Generativní bezpečnostní řešení AI jsou dobrá při identifikaci hrozeb, které manipulují s lidskými emocemi, a využívají taktiky jako strach nebo důvěra k rychlé akci. Simulací těchto lidských emocí a chování v procesu jejich detekce poskytují generativní bezpečnostní řešení AI robustní obranu proti nejnovějším kybernetickým hrozbám.
Jedním z významných hráčů v této oblasti je SlashNext. Technologie společnosti je zběhlá v odhalování, předpovídání a zastavování útoků, jako je spear phishing, BEC a Smishing, z nichž všechny využívají techniky sociálního inženýrství v nulté hodině. Tento pokročilý systém funguje bez problémů napříč e-mailovými, mobilními a webovými aplikacemi pro zasílání zpráv a nabízí mnohostrannou obranu.
Podle SlashNext kombinují její řešení zpracování přirozeného jazyka, počítačové vidění, strojové učení, grafy vztahů a hlubokou kontextualizaci, aby čelila sofistikovaným útokům na vícekanálové zasílání zpráv.
Společnost má schopnost předvídat širokou škálu hrozeb BEC generovaných umělou inteligencí pomocí technologií pro rozšiřování a klonování dat AI.
Tento přístup umožňuje systému vyhodnotit základní hrozby a generovat četné variace a efektivně se trénovat, aby rozpoznával a mařil potenciální rizika, dodal.
Zatímco se organizace potýkají se stále rostoucími výzvami v oblasti kybernetické bezpečnosti, které představují hrozby řízené umělou inteligencí, jsou generativní bezpečnostní řešení AI neocenitelnými spojenci ve snaze chránit citlivá data a udržovat digitální integritu. Budoucnost kybernetické bezpečnosti stále více závisí na těchto inovativních technologiích, které zajišťují, že organizace mohou zůstat o krok napřed před kyberzločinci a nově se objevujícími hrozbami.
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Kumar je zkušený technický novinář se specializací na dynamické průniky AI/ML, marketingové technologie a nově vznikající obory, jako jsou kryptoměny, blockchain a NFTs. S více než 3 lety zkušeností v oboru si Kumar vytvořil prokazatelné výsledky ve vytváření působivých příběhů, vedení zasvěcených rozhovorů a poskytování komplexních poznatků. Kumarova odbornost spočívá ve vytváření vysoce působivého obsahu, včetně článků, zpráv a výzkumných publikací pro prominentní průmyslové platformy. Díky jedinečné sadě dovedností, které kombinují technické znalosti a vyprávění příběhů, Kumar vyniká v komunikaci složitých technologických konceptů pro různé publikum jasným a poutavým způsobem.
Další články
Kumar je zkušený technický novinář se specializací na dynamické průniky AI/ML, marketingové technologie a nově vznikající obory, jako jsou kryptoměny, blockchain a NFTs. S více než 3 lety zkušeností v oboru si Kumar vytvořil prokazatelné výsledky ve vytváření působivých příběhů, vedení zasvěcených rozhovorů a poskytování komplexních poznatků. Kumarova odbornost spočívá ve vytváření vysoce působivého obsahu, včetně článků, zpráv a výzkumných publikací pro prominentní průmyslové platformy. Díky jedinečné sadě dovedností, které kombinují technické znalosti a vyprávění příběhů, Kumar vyniká v komunikaci složitých technologických konceptů pro různé publikum jasným a poutavým způsobem.
