Küberkurjategijad, kes kasutavad andmepüügiks LLM-i vestlusroboteid: kuidas generatiivne tehisintellekt sellele vastu saab
Põgusalt
Alates ChatGPT 2022. aasta lõpus on täheldatud pahatahtlike andmepüügimeilide märkimisväärset tõusu, mis tõusis 1,265%.
Mõned levinumad kasutajad suurte keelemudelite (LLM) vestlusrobotid on küberkurjategijad, paljastab reaalajas ohuteabe pakkuja SlashNext aruanne. Kuid mis on LLM-i vestlusrobotite kasutamise eesmärk?
Vastavalt aruandele pealkirjaga "Andmepüügi olukord 2023Küberkurjategijad kasutavad seda tööriista, et aidata kirjutada ärimeili kompromissi (BEC) rünnakuid ja käivitada süstemaatiliselt väga sihitud andmepüügirünnakuid.
Alates OpenAI'S ChatGPT 2022. aasta lõpus on täheldatud pahatahtlike andmepüügimeilide arvu märkimisväärset tõusu, mis kasvas vapustavalt 1,265%.
Märkimisväärne on see, et 68% nendest andmepüügimeilidest kasutavad tekstipõhist ärimeilide kompromissi (BEC) taktikat. See murettekitav suundumus rõhutab kasvavat kartust vestlusrobotite ja jailbreakide rolli pärast andmepüügirünnakute kiire leviku hõlbustamisel, võimaldades küberkurjategijatel alustada väga keerukaid ja kiireid rünnakuid.
Kui küsiti, siis 40% vastanutest (küberjulgeolekuspetsialistid) märkis, et töötab praegu ChatGPT e-kirjade koostamiseks nii isiklikuks kui professionaalseks kasutamiseks.
Pole üllatav, et see kasutamine laieneb küberkurjategijad, kuna meilide koostamine on üks levinumaid rakendusi ChatGPT häkkerite jaoks. Küberründajad kasutavad ära ChatGPTettevõtte võimalused aidata koostada ärimeilide kompromissi (BEC) rünnakuid ja korraldada täpselt sihitud andmepüügikampaaniaid.
Möödumine ChatGPT Nagu Chatbots - Pole keeruline ülesanne
Kui AI vestlusrobotid nagu ChatGPT omavad laialdasi teadmisi ja oskavad luua teksti väga erinevatel teemadel, neile kehtivad teatud piirangud, et vältida erinevaid probleeme.
Need piirangud on kehtestatud nende treeningandmete olemuse ja kahjulike või sobimatute reaktsioonide võimalikkuse tõttu. See artikkel uurib, miks ChatGPT on piiratud ja see pakub tehnikaid nende piirangute ümbertöötamiseks.
Kui aga raamides küsimused konteksti, vältides probleemseid fraase ja käsitledes stsenaariume kolmanda isiku vaatenurgast, saavad kasutajad sageli kasulikumaid vastuseid. Lisaks saavad kasutajad tähemärgipiirangutest mööda minna, küsides korraga väiksemaid tekstiosasid.
Kas generatiivne tehisintellekt võib olla päästekangelane?
Kiiresti areneval digitaalsel maastikul on tehisintellekti pahatahtliku potentsiaali ning kaug- ja hübriidtöökeskkondade muutuva dünaamika kokkulangemine tekitanud muret küberrünnakute riski suurenemise pärast.
Kuna töötajad on hajutatud mitmesse seadmesse ja suhtluskanalisse, on organisatsioonid turvarikkumiste suhtes üha haavatavamad. Selle ohu vastu võitlemiseks kasvab nõudlus generatiivne AI turbelahendused, mis on loodud kaitsma täiustatud küberrünnakute eest, nagu ärimeilide kompromiss (BEC), tarneahela rünnakud, juhina esinemine ja finantspettused.
Generatiivsed tehisintellekti turvalahendused aitavad hästi tuvastada ohte, mis manipuleerivad inimeste emotsioone, kasutades kiireid toiminguid kasutades taktikaid, nagu hirm või usaldus. Neid inimeste emotsioone ja käitumist nende tuvastamisprotsessis simuleerides pakuvad generatiivsed tehisintellekti turvalahendused tugeva kaitse uusimate küberohtude vastu.
Üks tähelepanuväärne mängija sellel alal on SlashNext. Ettevõtte tehnoloogia suudab tuvastada, ennustada ja peatada rünnakuid, nagu õngepüügi, BEC ja Smishing, mis kõik kasutavad ära nulltunni sotsiaalse inseneri tehnikaid. See täiustatud süsteem töötab sujuvalt e-posti, mobiili- ja veebisõnumirakendustes, pakkudes mitmekülgset kaitset.
SlashNexti sõnul ühendavad selle lahendused loomuliku keeletöötluse, arvutinägemise, masinõppe, suhtegraafikud ja sügava kontekstualiseerimise, et võidelda keerukate mitmekanaliliste sõnumirünnakute vastu.
Tehisintellekti andmete suurendamise ja kloonimise tehnoloogiate abil on ettevõttel võimalik ennetada mitmesuguseid tehisintellekti loodud BEC-ohte.
See lähenemisviis võimaldab süsteemil hinnata põhilisi ohte ja luua arvukalt variatsioone, treenides end tõhusalt võimalike riskide äratundmiseks ja ennetamiseks, lisas ta.
Kuna organisatsioonid maadlevad tehisintellektist tingitud ohtudest tulenevate üha kasvavate küberjulgeoleku väljakutsetega, on generatiivsed AI turbelahendused hindamatud liitlased tundlike andmete kaitsmisel ja digitaalse terviklikkuse säilitamisel. Küberjulgeoleku tulevik sõltub üha enam nendest uuenduslikest tehnoloogiatest, tagades, et organisatsioonid saavad küberkurjategijatest ja esilekerkivatest ohtudest sammu võrra ees olla.
Kaebused
Vastavalt Usaldusprojekti juhised, pange tähele, et sellel lehel esitatud teave ei ole mõeldud ega tohiks tõlgendada kui juriidilist, maksu-, investeerimis-, finants- või muud nõuannet. Oluline on investeerida ainult seda, mida saate endale lubada kaotada, ja kahtluste korral küsida sõltumatut finantsnõu. Lisateabe saamiseks soovitame vaadata nõudeid ja tingimusi ning väljaandja või reklaamija pakutavaid abi- ja tugilehti. MetaversePost on pühendunud täpsele ja erapooletule aruandlusele, kuid turutingimusi võidakse ette teatamata muuta.
Umbes Autor
Kumar on kogenud tehnikaajakirjanik, kes on spetsialiseerunud AI/ML dünaamilistele ristumiskohtadele, turundustehnoloogiale ja sellistele arenevatele valdkondadele nagu krüpto, plokiahel ja NFTs. Üle 3-aastase tööstusharu kogemusega Kumar on loonud tõestatud kogemusi mõjuvate narratiivide koostamisel, läbinägelike intervjuude läbiviimisel ja põhjaliku ülevaate andmisel. Kumari teadmised seisnevad silmapaistvatele tööstusplatvormidele suure mõjuga sisu, sealhulgas artiklite, aruannete ja teaduspublikatsioonide loomisel. Unikaalse oskuste kogumiga, mis ühendab tehnilised teadmised ja jutuvestmise, suudab Kumar suurepäraselt edastada keerulisi tehnoloogilisi kontseptsioone erinevatele sihtrühmadele selgel ja kaasahaaraval viisil.
Veel artikleid
Kumar on kogenud tehnikaajakirjanik, kes on spetsialiseerunud AI/ML dünaamilistele ristumiskohtadele, turundustehnoloogiale ja sellistele arenevatele valdkondadele nagu krüpto, plokiahel ja NFTs. Üle 3-aastase tööstusharu kogemusega Kumar on loonud tõestatud kogemusi mõjuvate narratiivide koostamisel, läbinägelike intervjuude läbiviimisel ja põhjaliku ülevaate andmisel. Kumari teadmised seisnevad silmapaistvatele tööstusplatvormidele suure mõjuga sisu, sealhulgas artiklite, aruannete ja teaduspublikatsioonide loomisel. Unikaalse oskuste kogumiga, mis ühendab tehnilised teadmised ja jutuvestmise, suudab Kumar suurepäraselt edastada keerulisi tehnoloogilisi kontseptsioone erinevatele sihtrühmadele selgel ja kaasahaaraval viisil.
