Kibernoziedznieki, kas izmanto LLM tērzēšanas robotus pikšķerēšanai: kā ģeneratīvais AI var pret to cīnīties
Īsumā
Kopš ChatGPT 2022. gada beigās tika novērots ievērojams ļaunprātīgu pikšķerēšanas e-pastu skaita pieaugums ar 1,265% pieaugumu.
Daži no visizplatītākajiem lietotājiem lielo valodu modeļu (LLM) tērzēšanas roboti ir kibernoziedznieki, atklāj reāllaika draudu izlūkošanas nodrošinātāju SlashNext Ziņot. Bet kāds tieši ir LLM tērzēšanas robotu izmantošanas mērķis?
Saskaņā ar ziņojumu ar nosaukumu "Pikšķerēšanas stāvoklis — 2023Kibernoziedznieki izmanto šo rīku, lai palīdzētu rakstīt biznesa e-pasta kompromisa (BEC) uzbrukumus un sistemātiski uzsākt īpaši mērķtiecīgus pikšķerēšanas uzbrukumus.
Kopš OpenAI'S ChatGPT 2022. gada beigās tika novērots ievērojams ļaunprātīgu pikšķerēšanas e-pastu skaita pieaugums ar satriecošu pieaugumu par 1,265%.
Jāatzīmē, ka 68% no šiem pikšķerēšanas e-pasta ziņojumiem izmanto uz tekstu balstītu biznesa e-pasta kompromisa (BEC) taktiku. Šī satraucošā tendence uzsver pieaugošās bažas par tērzēšanas robotu un jailbreak lomu, kas veicina pikšķerēšanas uzbrukumu strauju izplatību, ļaujot kibernoziedzniekiem uzsākt ļoti sarežģītus un ātrus ofensīvus.
Atbildot uz jautājumu, 40% aptaujāto (kiberdrošības profesionāļu) norādīja, ka šobrīd nodarbina ChatGPT e-pasta ziņojumu rakstīšanai gan personīgai, gan profesionālai lietošanai.
Nav pārsteidzoši, ka šī izmantošana attiecas uz kibernoziedznieki, jo e-pasta sastāvs ir viens no visizplatītākajiem lietojumiem ChatGPT hakeriem. Kiberuzbrucēji izmanto ChatGPTuzņēmuma iespējas palīdzēt izveidot Business Email Compromise (BEC) uzbrukumus un organizēt rūpīgi mērķētas pikšķerēšanas kampaņas.
Bloėēšana ChatGPT Tāpat kā Chatbots - Nav sarežģīts uzdevums
Kamēr AI tērzēšanas roboti tāpat ChatGPT ir plašas zināšanas un var ģenerēt tekstu par plašu tēmu loku, uz tiem attiecas noteikti ierobežojumi, lai novērstu dažādas problēmas.
Šie ierobežojumi ir spēkā viņu apmācības datu rakstura un kaitīgu vai nepiemērotu reakciju iespējamības dēļ. Šajā rakstā ir apskatīts, kāpēc ChatGPT ir ierobežots, un tas nodrošina metodes, kā apiet šos ierobežojumus.
Tomēr, veidojot jautājumus atbilstoši kontekstam, izvairoties no problemātiskām frāzēm un aplūkojot scenārijus no trešās personas viedokļa, lietotāji bieži var saņemt noderīgākas atbildes. Turklāt lietotāji var apiet rakstzīmju ierobežojumus, vienlaikus pieprasot mazākas teksta daļas.
Vai ģeneratīvais AI var būt glābšanas varonis?
Strauji mainīgajā digitālajā vidē AI ļaunprātīgā potenciāla saplūšana un attālās un hibrīdās darba vides mainīgā dinamika ir radījusi bažas par pieaugošo kiberuzbrukumu risku.
Tā kā darbinieki ir izkliedēti vairākās ierīcēs un saziņas kanālos, organizācijas kļūst arvien neaizsargātākas pret drošības pārkāpumiem. Lai novērstu šos draudus, pieaug pieprasījums pēc ģeneratīvais AI drošības risinājumi, kas paredzēti aizsardzībai pret progresīviem kiberuzbrukumiem, piemēram, biznesa e-pasta kompromisu (BEC), piegādes ķēdes uzbrukumiem, uzdošanos par vadītāju un finanšu krāpšanu.
Ģeneratīvie AI drošības risinājumi palīdz identificēt draudus, kas manipulē ar cilvēka emocijām, izmantojot tādas taktikas kā bailes vai uzticību, lai ātri veiktu darbības. Imitējot šīs cilvēku emocijas un uzvedību atklāšanas procesā, ģeneratīvie AI drošības risinājumi nodrošina spēcīgu aizsardzību pret jaunākajiem kiberdraudiem.
Viens ievērojams spēlētājs šajā jomā ir SlashNext. Uzņēmuma tehnoloģija ir piemērota tādu uzbrukumu noteikšanai, prognozēšanai un apturēšanai kā šķēpu pikšķerēšana, BEC un Smishing, kas izmanto nulles stundu sociālās inženierijas metodes. Šī uzlabotā sistēma nevainojami darbojas e-pastā, mobilajās un tīmekļa ziņojumapmaiņas lietojumprogrammās, piedāvājot daudzpusīgu aizsardzību.
Saskaņā ar SlashNext, tā risinājumi apvieno dabiskās valodas apstrādi, datorredzi, mašīnmācīšanos, attiecību grafikus un dziļu kontekstualizāciju, lai novērstu sarežģītus daudzkanālu ziņojumapmaiņas uzbrukumus.
Uzņēmumam ir iespēja paredzēt plašu AI radīto BEC draudu klāstu, izmantojot AI datu palielināšanas un klonēšanas tehnoloģijas.
Šī pieeja ļauj sistēmai novērtēt galvenos draudus un radīt daudzas variācijas, efektīvi apmācot sevi atpazīt un novērst iespējamos riskus, tā piebilda.
Organizācijām cīnoties ar arvien pieaugošajiem kiberdrošības izaicinājumiem, ko rada AI izraisīti draudi, ģeneratīvie AI drošības risinājumi ir nenovērtējami sabiedrotie centienos aizsargāt sensitīvus datus un saglabāt digitālo integritāti. Kiberdrošības nākotne arvien vairāk ir atkarīga no šīm novatoriskajām tehnoloģijām, nodrošinot, ka organizācijas var būt soli priekšā kibernoziedzniekiem un jauniem draudiem.
Atbildības noraidīšana
Atbilstīgi Uzticības projekta vadlīnijas, lūdzu, ņemiet vērā, ka šajā lapā sniegtā informācija nav paredzēta un to nedrīkst interpretēt kā juridisku, nodokļu, ieguldījumu, finanšu vai jebkāda cita veida padomu. Ir svarīgi ieguldīt tikai to, ko varat atļauties zaudēt, un meklēt neatkarīgu finanšu padomu, ja jums ir šaubas. Lai iegūtu papildinformāciju, iesakām skatīt pakalpojumu sniegšanas noteikumus, kā arī palīdzības un atbalsta lapas, ko nodrošina izdevējs vai reklāmdevējs. MetaversePost ir apņēmies sniegt precīzus, objektīvus pārskatus, taču tirgus apstākļi var tikt mainīti bez iepriekšēja brīdinājuma.
Par Autors
Kumars ir pieredzējis tehnoloģiju žurnālists ar specializāciju AI/ML dinamiskos krustpunktos, mārketinga tehnoloģijās un tādās jaunās jomās kā kriptovalūta, blokķēde un NFTs. Ar vairāk nekā 3 gadu pieredzi šajā nozarē Kumar ir izveidojis pierādītus sasniegumus pārliecinošu stāstījumu veidošanā, ieskatu interviju vadīšanā un visaptverošu ieskatu sniegšanā. Kumar kompetence slēpjas augstas ietekmes satura, tostarp rakstu, ziņojumu un pētījumu publikāciju veidošanā ievērojamām nozares platformām. Ar unikālu prasmju kopumu, kas apvieno tehniskās zināšanas un stāstu stāstīšanu, Kumars izceļas ar sarežģītu tehnoloģisku koncepciju nodošanu dažādām auditorijām skaidrā un saistošā veidā.
Vairāk rakstus
Kumars ir pieredzējis tehnoloģiju žurnālists ar specializāciju AI/ML dinamiskos krustpunktos, mārketinga tehnoloģijās un tādās jaunās jomās kā kriptovalūta, blokķēde un NFTs. Ar vairāk nekā 3 gadu pieredzi šajā nozarē Kumar ir izveidojis pierādītus sasniegumus pārliecinošu stāstījumu veidošanā, ieskatu interviju vadīšanā un visaptverošu ieskatu sniegšanā. Kumar kompetence slēpjas augstas ietekmes satura, tostarp rakstu, ziņojumu un pētījumu publikāciju veidošanā ievērojamām nozares platformām. Ar unikālu prasmju kopumu, kas apvieno tehniskās zināšanas un stāstu stāstīšanu, Kumars izceļas ar sarežģītu tehnoloģisku koncepciju nodošanu dažādām auditorijām skaidrā un saistošā veidā.
