Kibernetski kriminalci uporabljajo LLM Chatbote za lažno predstavljanje: kako se lahko generativna umetna inteligenca temu zoperstavi
Na kratko
Od uvedbe ChatGPT konec leta 2022 so opazili znaten porast zlonamernih lažnih e-poštnih sporočil, in sicer za 1,265 %.
Nekateri najpogostejši uporabniki veliki jezikovni model (LLM) chatboti so kibernetski kriminalci, razkriva ponudnik obveščanja o grožnjah v realnem času SlashNext poročilo. Toda kaj točno je namen uporabe LLM chatbotov?
Glede na poročilo z naslovom "Stanje lažnega predstavljanja 2023'kibernetski kriminalci izkoriščajo orodje za pomoč pri pisanju napadov ogrožanja poslovne e-pošte (BEC) in sistematičnega izvajanja visoko ciljno usmerjenih napadov lažnega predstavljanja.
Od uvedbe OpenAIJe ChatGPT konec leta 2022 je bil opažen znaten porast zlonamernih lažnih e-poštnih sporočil z osupljivim 1,265-odstotnim porastom.
Predvsem 68 % teh lažnih e-poštnih sporočil uporablja besedilno taktiko Business Email Compromise (BEC). Ta zaskrbljujoč trend poudarja vse večjo zaskrbljenost glede vloge klepetalnih robotov in pobegov iz zapora pri pospeševanju hitrega širjenja napadov z lažnim predstavljanjem, saj kiberkriminalcem omogočajo, da izvajajo zelo sofisticirane in hitre ofenzive.
Na vprašanje je 40 % anketirancev (strokovnjakov za kibernetsko varnost) navedlo, da so trenutno zaposleni ChatGPT za sestavljanje e-poštnih sporočil, tako za osebno kot za poklicno uporabo.
Ni presenetljivo, da se ta uporaba razširi na cybercriminals, saj je sestavljanje elektronske pošte ena najbolj razširjenih aplikacij ChatGPT za hekerje. Kibernetski napadalci izkoriščajo ChatGPTzmožnosti za pomoč pri oblikovanju napadov z ogrožanjem poslovne e-pošte (BEC) in orkestriranju natančno ciljanih lažnih kampanj.
Premostitveni ChatGPT Kot Chatboti – Ni zapletena naloga
Medtem ko je AI klepeti kot ChatGPT imajo obsežno znanje in lahko ustvarijo besedilo o številnih temah, zanje veljajo določene omejitve, da preprečijo različne težave.
Te omejitve veljajo zaradi narave njihovih podatkov o usposabljanju in možnosti škodljivih ali neprimernih odzivov. Ta članek raziskuje, zakaj ChatGPT je omejeno in nudi tehnike za izogibanje tem omejitvam.
Z oblikovanjem vprašanj s kontekstom, izogibanjem problematičnim frazam in obravnavanjem scenarijev iz perspektive tretje osebe pa lahko uporabniki pogosto dobijo bolj koristne odgovore. Poleg tega lahko uporabniki obidejo omejitve znakov tako, da zahtevajo manjše dele besedila naenkrat.
Ali je Generative AI lahko reševalni junak?
V hitro razvijajočem se digitalnem okolju je sotočje zlonamernega potenciala umetne inteligence in spreminjajoče se dinamike oddaljenih in hibridnih delovnih okolij sprožilo zaskrbljenost glede naraščajočega tveganja kibernetskih napadov.
Ker so zaposleni razpršeni po več napravah in komunikacijskih kanalih, so organizacije vse bolj ranljive za kršitve varnosti. Za boj proti tej grožnji obstaja vse večje povpraševanje po generativni AI varnostne rešitve, zasnovane za zaščito pred naprednimi kibernetskimi napadi, kot so ogrožanje poslovne e-pošte (BEC), napadi na dobavno verigo, lažno predstavljanje izvršnega direktorja in finančne goljufije.
Varnostne rešitve generativne umetne inteligence so dobre pri prepoznavanju groženj, ki manipulirajo s človeškimi čustvi, pri čemer uporabljajo taktike, kot sta strah ali zaupanje, za spodbujanje hitrih ukrepov. S simulacijo teh človeških čustev in vedenja v procesu njihovega odkrivanja generativne varnostne rešitve AI zagotavljajo zanesljivo obrambo pred najnovejšimi kibernetskimi grožnjami.
Eden pomembnih igralcev na tem področju je SlashNext. Tehnologija podjetja je spretna pri odkrivanju, napovedovanju in zaustavitvi napadov, kot so spear phishing, BEC in Smishing, ki vsi izkoriščajo tehnike socialnega inženiringa zero-hour. Ta napredni sistem brezhibno deluje v aplikacijah za e-pošto, mobilne naprave in spletna sporočila ter ponuja večplastno obrambo.
SlashNext pravi, da njegove rešitve združujejo obdelavo naravnega jezika, računalniški vid, strojno učenje, grafe odnosov in globoko kontekstualizacijo za preprečevanje sofisticiranih napadov večkanalnega sporočanja.
Podjetje ima možnost predvideti široko paleto groženj BEC, ki jih ustvari umetna inteligenca, z uporabo tehnologij za povečanje podatkov in kloniranje podatkov z umetno inteligenco.
Ta pristop omogoča sistemu, da oceni glavne grožnje in ustvari številne različice ter se učinkovito usposobi za prepoznavanje in preprečitev morebitnih tveganj, je dodal.
Medtem ko se organizacije spopadajo z vedno večjimi izzivi kibernetske varnosti, ki jih predstavljajo grožnje, ki jih poganja umetna inteligenca, so generativne varnostne rešitve umetne inteligence neprecenljivi zavezniki pri prizadevanju za zaščito občutljivih podatkov in ohranjanje digitalne celovitosti. Prihodnost kibernetske varnosti je vedno bolj odvisna od teh inovativnih tehnologij, ki zagotavljajo, da lahko organizacije ostanejo korak pred kibernetskimi kriminalci in nastajajočimi grožnjami.
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Kumar je izkušen tehnični novinar, specializiran za dinamična presečišča AI/ML, marketinške tehnologije in nastajajočih področij, kot so kripto, blockchain in NFTs. Z več kot 3 leti izkušenj v panogi je Kumar pridobil dokazane rezultate pri oblikovanju privlačnih pripovedi, vodenju pronicljivih intervjujev in zagotavljanju celovitih vpogledov. Kumarjevo strokovno znanje je v izdelavi odmevnih vsebin, vključno s članki, poročili in raziskovalnimi publikacijami za pomembne industrijske platforme. Z edinstvenim naborom spretnosti, ki združuje tehnično znanje in pripovedovanje zgodb, se Kumar odlikuje pri sporočanju zapletenih tehnoloških konceptov različnim občinstvom na jasen in privlačen način.
več člankov
Kumar je izkušen tehnični novinar, specializiran za dinamična presečišča AI/ML, marketinške tehnologije in nastajajočih področij, kot so kripto, blockchain in NFTs. Z več kot 3 leti izkušenj v panogi je Kumar pridobil dokazane rezultate pri oblikovanju privlačnih pripovedi, vodenju pronicljivih intervjujev in zagotavljanju celovitih vpogledov. Kumarjevo strokovno znanje je v izdelavi odmevnih vsebin, vključno s članki, poročili in raziskovalnimi publikacijami za pomembne industrijske platforme. Z edinstvenim naborom spretnosti, ki združuje tehnično znanje in pripovedovanje zgodb, se Kumar odlikuje pri sporočanju zapletenih tehnoloških konceptov različnim občinstvom na jasen in privlačen način.
