Kibernetiniai nusikaltėliai, naudojantys LLM pokalbių robotus sukčiavimui: kaip generatyvus AI gali su tuo kovoti
Trumpai
Nuo įvedimo ChatGPT 2022 m. pabaigoje buvo pastebėtas didelis kenkėjiškų sukčiavimo el. laiškų padidėjimas – 1,265 XNUMX %.
Kai kurie dažniausiai naudojasi didelių kalbų modelių (LLM) pokalbių robotai yra kibernetiniai nusikaltėliai, atskleidžia realaus laiko grėsmės žvalgybos teikėją SlashNext ataskaita. Bet koks tiksliai yra LLM pokalbių robotų naudojimo tikslas?
Remiantis ataskaita, pavadinta „Sukčiavimo būsena 2023 mKibernetiniai nusikaltėliai naudoja šį įrankį, kad padėtų rašyti verslo el. pašto kompromiso (BEC) atakas ir sistemingai vykdyti tikslines sukčiavimo atakas.
Nuo įvedimo OpenAIS ChatGPT 2022 m. pabaigoje buvo pastebėtas didelis kenkėjiškų sukčiavimo el. laiškų padidėjimas – stulbinantis 1,265 XNUMX % padidėjimas.
Pažymėtina, kad 68 % šių sukčiavimo el. laiškų naudoja teksto pagrindu sukurtą verslo el. pašto kompromiso (BEC) taktiką. Ši nerimą kelianti tendencija pabrėžia augančius nuogąstavimus dėl pokalbių robotų ir įsilaužimo į kalėjimą vaidmens skatinant greitą sukčiavimo atakų plitimą, suteikiant galimybę kibernetiniams nusikaltėliams pradėti labai sudėtingus ir greitus puolimus.
Paklausti 40% respondentų (kibernetinio saugumo specialistų) nurodė, kad šiuo metu dirba ChatGPT el. laiškų rašymui, tiek asmeniniams, tiek profesiniams atvejams.
Nenuostabu, kad šis panaudojimas tęsiasi iki kibernetiniai nusikaltėliai, nes el. pašto kūrimas yra viena iš labiausiai paplitusių programų ChatGPT įsilaužėliams. Kibernetiniai užpuolikai išnaudoja ChatGPT„Bendrojo el. pašto kompromiso“ (BEC) atakų rengimo ir kruopščiai nukreiptų sukčiavimo kampanijų organizavimas.
aplenkiant ChatGPT kaip pokalbių robotai – Ne sudėtinga užduotis
O AI pokalbių robotai kaip ChatGPT turi daug žinių ir gali kurti tekstą įvairiomis temomis, jiems taikomi tam tikri apribojimai, siekiant išvengti įvairių problemų.
Šie apribojimai taikomi dėl jų mokymo duomenų pobūdžio ir galimo žalingo ar netinkamo atsako. Šiame straipsnyje nagrinėjama, kodėl ChatGPT yra apribotas ir pateikia metodus, kaip apeiti šiuos apribojimus.
Tačiau įrėmindami klausimus pagal kontekstą, vengdami probleminių frazių ir nagrinėdami scenarijus iš trečiojo asmens perspektyvos, vartotojai dažnai gali gauti naudingesnių atsakymų. Be to, vartotojai gali apeiti simbolių apribojimus, prašydami mažesnių teksto dalių vienu metu.
Ar generatyvusis AI gali būti gelbėjimo herojus?
Sparčiai besivystančioje skaitmeninėje aplinkoje AI kenkėjiško potencialo ir kintančios nuotolinės bei hibridinės darbo aplinkos dinamikos sąlytis sukėlė susirūpinimą dėl didėjančios kibernetinių atakų rizikos.
Kadangi darbuotojai yra paskirstyti keliuose įrenginiuose ir komunikacijos kanaluose, organizacijos tampa vis labiau pažeidžiamos dėl saugumo pažeidimų. Siekiant atremti šią grėsmę, didėja poreikis generatyvinis AI saugos sprendimai, sukurti apsaugoti nuo pažangių kibernetinių atakų, tokių kaip verslo el. pašto kompromisas (BEC), tiekimo grandinės atakų, vadovų apsimetinėjimo ir finansinio sukčiavimo.
Generatyvieji dirbtinio intelekto saugos sprendimai yra tinkami nustatant grėsmes, kurios manipuliuoja žmogaus emocijomis, pasitelkiant tokias taktikas kaip baimė ar pasitikėjimas, kad būtų skatinami greiti veiksmai. Imituojant šias žmogaus emocijas ir elgesį jų aptikimo procese, generatyvūs AI saugumo sprendimai užtikrina tvirtą apsaugą nuo naujausių kibernetinių grėsmių.
Vienas žymus žaidėjas šioje srityje yra „SlashNext“. Bendrovės technologija puikiai tinka aptikti, nuspėti ir sustabdyti atakas, tokias kaip „spear phishing“, „BEC“ ir „Smishing“, kurios visos naudoja nulinės valandos socialinės inžinerijos metodus. Ši pažangi sistema sklandžiai veikia el. pašto, mobiliojo ryšio ir žiniatinklio pranešimų siuntimo programose, siūlydama įvairiapusę apsaugą.
Pasak „SlashNext“, jos sprendimai sujungia natūralios kalbos apdorojimą, kompiuterinį vaizdą, mašininį mokymąsi, santykių grafikus ir gilų kontekstualizavimą, kad būtų išvengta sudėtingų kelių kanalų pranešimų siuntimo atakų.
Naudodama dirbtinio intelekto duomenų papildymo ir klonavimo technologijas, bendrovė gali numatyti daugybę dirbtinio intelekto sukeltų BEC grėsmių.
Šis metodas leidžia sistemai įvertinti pagrindines grėsmes ir generuoti daugybę variantų, veiksmingai lavinant save atpažinti ir užkirsti kelią galimai rizikai, pridūrė ji.
Organizacijoms sprendžiant nuolat augančias kibernetinio saugumo problemas, kylančias dėl dirbtinio intelekto sukeliamų grėsmių, generatyvūs AI saugumo sprendimai yra neįkainojami sąjungininkai, siekiant apsaugoti jautrius duomenis ir išlaikyti skaitmeninį vientisumą. Kibernetinio saugumo ateitis vis labiau priklauso nuo šių novatoriškų technologijų, užtikrinančių, kad organizacijos galėtų žengti žingsnį priekyje kibernetinių nusikaltėlių ir kylančių grėsmių.
Atsakomybės neigimas
Remdamasi tuo, Pasitikėjimo projekto gairės, atkreipkite dėmesį, kad šiame puslapyje pateikta informacija nėra skirta ir neturėtų būti aiškinama kaip teisinė, mokesčių, investicinė, finansinė ar bet kokia kita konsultacija. Svarbu investuoti tik tai, ką galite sau leisti prarasti, ir, jei turite kokių nors abejonių, kreiptis į nepriklausomą finansinę konsultaciją. Norėdami gauti daugiau informacijos, siūlome peržiūrėti taisykles ir nuostatas bei pagalbos ir palaikymo puslapius, kuriuos pateikia išdavėjas arba reklamuotojas. MetaversePost yra įsipareigojusi teikti tikslias, nešališkas ataskaitas, tačiau rinkos sąlygos gali keistis be įspėjimo.
Apie autorių
Kumaras yra patyręs technologijų žurnalistas, kurio specializacija yra dinamiškos AI/ML sankirtos, rinkodaros technologijos ir naujos sritys, tokios kaip kriptovaliutos, blokų grandinės ir NFTs. Turėdamas daugiau nei 3 metų patirtį šioje pramonėje, Kumaras sukūrė įtikinamus pasakojimus, veda įžvalgius interviu ir pateikia išsamias įžvalgas. „Kumar“ patirtis yra susijusi su didelio poveikio turinio kūrimu, įskaitant straipsnius, ataskaitas ir mokslinių tyrimų publikacijas žinomoms pramonės platformoms. Turėdamas unikalų įgūdžių rinkinį, kuriame derinamos techninės žinios ir pasakojimas, Kumaras puikiai perteikia sudėtingas technologines koncepcijas įvairioms auditorijoms aiškiai ir patraukliai.
Daugiau straipsnių
Kumaras yra patyręs technologijų žurnalistas, kurio specializacija yra dinamiškos AI/ML sankirtos, rinkodaros technologijos ir naujos sritys, tokios kaip kriptovaliutos, blokų grandinės ir NFTs. Turėdamas daugiau nei 3 metų patirtį šioje pramonėje, Kumaras sukūrė įtikinamus pasakojimus, veda įžvalgius interviu ir pateikia išsamias įžvalgas. „Kumar“ patirtis yra susijusi su didelio poveikio turinio kūrimu, įskaitant straipsnius, ataskaitas ir mokslinių tyrimų publikacijas žinomoms pramonės platformoms. Turėdamas unikalų įgūdžių rinkinį, kuriame derinamos techninės žinios ir pasakojimas, Kumaras puikiai perteikia sudėtingas technologines koncepcijas įvairioms auditorijoms aiškiai ir patraukliai.
