Verkkorikolliset, jotka käyttävät LLM-chatbotteja tietojenkalasteluun: kuinka generatiivinen tekoäly voi torjua sitä
Lyhyesti
Käyttöönoton jälkeen ChatGPT vuoden 2022 lopulla haitallisten tietojenkalasteluviestien määrä on lisääntynyt merkittävästi 1,265 XNUMX %:lla.
Jotkut yleisimmistä käyttäjistä suurten kielimallien (LLM) chatbotit ovat kyberrikollisia, paljastaa reaaliaikainen uhkatiedon tarjoaja SlashSeuraava raportti. Mutta mikä on LLM-chatbottien käytön tarkoitus?
Raportin mukaan "Tietojenkalastelun tila 2023Kyberrikolliset hyödyntävät työkalua auttaakseen kirjoittamaan BEC-hyökkäyksiä ja käynnistämään järjestelmällisesti tarkasti kohdennettuja tietojenkalasteluhyökkäyksiä.
Käyttöönoton jälkeen OpenAI'S ChatGPT Vuoden 2022 lopulla haitallisten tietojenkalasteluviestien määrä on lisääntynyt merkittävästi, ja kasvu on huikea 1,265 XNUMX %.
Huomionarvoista on, että 68 % näistä tietojenkalasteluviesteistä käyttää tekstipohjaista Business Email Compromise (BEC) -taktiikkaa. Tämä hälyttävä suuntaus korostaa kasvavaa pelkoa chatbottien ja jailbreakien roolista tietojenkalasteluhyökkäysten nopean leviämisen helpottamisessa, koska se mahdollistaa kyberrikollisten käynnistää erittäin kehittyneitä ja nopeita hyökkäyksiä.
Kysyttäessä 40 % vastaajista (kyberturvallisuuden ammattilaiset) ilmoitti työskentelevänsä tällä hetkellä ChatGPT sähköpostien kirjoittamiseen sekä henkilökohtaiseen että ammattikäyttöön.
Ei ole yllättävää, että tämä käyttö laajenee verkkorikollisille, koska sähköpostin koostumus on yksi yleisimmistä sovelluksista ChatGPT hakkereille. Kyberhyökkääjät käyttävät hyväkseen ChatGPTsen kyvyt auttavat luomaan Business Email Compromise (BEC) -hyökkäyksiä ja organisoimaan tarkasti kohdistettuja tietojenkalastelukampanjoita.
ohitus ChatGPT Kuten chatbotit - Ei monimutkainen tehtävä
Vaikka AI chatbotit pitää ChatGPT heillä on laaja tietämys ja ne voivat luoda tekstiä monista eri aiheista, niihin sovelletaan tiettyjä rajoituksia erilaisten ongelmien estämiseksi.
Nämä rajoitukset johtuvat heidän harjoitustietojensa luonteesta ja mahdollisista haitallisista tai sopimattomista reaktioista. Tämä artikkeli tutkii miksi ChatGPT on rajoitettu, ja se tarjoaa tekniikoita näiden rajoitusten kiertämiseksi.
Kuitenkin rajaamalla kysymykset kontekstiin, välttämällä ongelmallisia lauseita ja tarkastelemalla skenaarioita kolmannen henkilön näkökulmasta käyttäjät voivat usein saada hyödyllisempiä vastauksia. Lisäksi käyttäjät voivat ohittaa merkkirajoitukset pyytämällä pienempiä tekstiosia kerrallaan.
Voiko generatiivinen tekoäly olla pelastussankari?
Nopeasti kehittyvässä digitaalisessa ympäristössä tekoälyn haitallisten potentiaalien ja etä- ja hybridityöympäristöjen muuttuvan dynamiikan yhdistelmä on herättänyt huolta kyberhyökkäysten riskin lisääntymisestä.
Koska työntekijät ovat hajallaan useille laitteille ja viestintäkanaville, organisaatiot ovat yhä alttiimpia tietoturvaloukkauksille. Tämän uhan torjumiseksi on kasvava kysyntä generatiivinen tekoäly tietoturvaratkaisut, jotka on suunniteltu suojaamaan edistyneiltä kyberhyökkäyksiltä, kuten Business Email Compromise (BEC), toimitusketjuhyökkäyksiltä, johdon henkilönä esiintymisestä ja talouspetoksista.
Generatiiviset tekoälyn tietoturvaratkaisut ovat hyviä tunnistamaan uhkia, jotka manipuloivat ihmisten tunteita, ja hyödyntävät taktiikoita, kuten pelkoa tai luottamusta, nopean toiminnan ohjaamiseen. Simuloimalla näitä ihmisten tunteita ja käyttäytymistä havaitsemisprosessissaan generatiiviset tekoälyn tietoturvaratkaisut tarjoavat vankan suojan uusimpia kyberuhkia vastaan.
Yksi merkittävä pelaaja tällä alalla on SlashNext. Yrityksen tekniikka on taitava havaitsemaan, ennustamaan ja pysäyttämään hyökkäyksiä, kuten keihäs-phishing, BEC ja Smishing, jotka kaikki hyödyntävät nollatunnin sosiaalista suunnittelutekniikkaa. Tämä edistyksellinen järjestelmä toimii saumattomasti sähköposti-, mobiili- ja verkkoviestisovelluksissa tarjoten monipuolisen suojan.
SlashNextin mukaan sen ratkaisuissa yhdistyvät luonnollisen kielen käsittely, tietokonenäkö, koneoppiminen, suhdekaaviot ja syvä kontekstualisointi vastustaakseen kehittyneitä monikanavaisia viestintähyökkäyksiä.
Yritys pystyy ennakoimaan laajan valikoiman tekoälyn tuottamia BEC-uhkia käyttämällä tekoälyn tiedon lisäys- ja kloonaustekniikoita.
Tämän lähestymistavan avulla järjestelmä voi arvioida keskeisiä uhkia ja tuottaa lukuisia muunnelmia ja kouluttaa itseään tunnistamaan ja estämään mahdolliset riskit, se lisäsi.
Kun organisaatiot kamppailevat tekoälyn aiheuttamien uhkien aiheuttamien jatkuvasti kasvavien kyberturvallisuushaasteiden kanssa, luovat tekoälyn tietoturvaratkaisut ovat korvaamattomia liittolaisia pyrittäessä suojaamaan arkaluontoisia tietoja ja ylläpitämään digitaalista eheyttä. Kyberturvallisuuden tulevaisuus on yhä enemmän riippuvainen näistä innovatiivisista teknologioista, mikä varmistaa, että organisaatiot voivat pysyä askeleen edellä kyberrikollisia ja uusia uhkia.
Vastuun kieltäminen
Mukaisesti Luottamusprojektin ohjeetHuomaa, että tällä sivulla annettuja tietoja ei ole tarkoitettu eikä niitä tule tulkita oikeudellisiksi, verotukselliseksi, sijoitus-, rahoitus- tai minkään muun muodon neuvoiksi. On tärkeää sijoittaa vain sen verran, mitä sinulla on varaa menettää, ja pyytää riippumatonta talousneuvontaa, jos sinulla on epäilyksiä. Lisätietoja saat käyttöehdoista sekä myöntäjän tai mainostajan tarjoamista ohje- ja tukisivuista. MetaversePost on sitoutunut tarkkaan, puolueettomaan raportointiin, mutta markkinaolosuhteet voivat muuttua ilman erillistä ilmoitusta.
Author
Kumar on kokenut teknologiatoimittaja, joka on erikoistunut AI/ML:n dynaamisiin risteyksiin, markkinointiteknologiaan ja nouseviin aloihin, kuten krypto-, lohkoketju- ja NFTs. Yli 3 vuoden kokemuksella alalta Kumar on saavuttanut todistetun ennätyksen vakuuttavien tarinoiden laatimisessa, oivaltavien haastattelujen tekemisessä ja kattavien näkemysten toimittamisessa. Kumarin asiantuntemus perustuu vaikuttavan sisällön tuottamiseen, mukaan lukien artikkeleita, raportteja ja tutkimusjulkaisuja merkittäville alan alustoille. Ainutlaatuisella taitosarjalla, jossa yhdistyvät tekninen tietämys ja tarinankerronta, Kumar on erinomainen kommunikoimaan monimutkaisia teknologisia käsitteitä eri yleisöille selkeällä ja mukaansatempaavalla tavalla.
lisää artikkeleita
Kumar on kokenut teknologiatoimittaja, joka on erikoistunut AI/ML:n dynaamisiin risteyksiin, markkinointiteknologiaan ja nouseviin aloihin, kuten krypto-, lohkoketju- ja NFTs. Yli 3 vuoden kokemuksella alalta Kumar on saavuttanut todistetun ennätyksen vakuuttavien tarinoiden laatimisessa, oivaltavien haastattelujen tekemisessä ja kattavien näkemysten toimittamisessa. Kumarin asiantuntemus perustuu vaikuttavan sisällön tuottamiseen, mukaan lukien artikkeleita, raportteja ja tutkimusjulkaisuja merkittäville alan alustoille. Ainutlaatuisella taitosarjalla, jossa yhdistyvät tekninen tietämys ja tarinankerronta, Kumar on erinomainen kommunikoimaan monimutkaisia teknologisia käsitteitä eri yleisöille selkeällä ja mukaansatempaavalla tavalla.
