Mga Cybercriminal na Gumagamit ng LLM Chatbots Para sa Phishing: Paano Ito Maaapektuhan ng Generative AI
Sa madaling sabi
Mula nang ipakilala ang ChatGPT noong huling bahagi ng 2022, naobserbahan ang isang makabuluhang pag-akyat sa mga nakakahamak na email sa phishing, na may 1,265% na pagtaas.
Ilan sa mga pinakakaraniwang gumagamit ng malalaking language model (LLM) chatbots ay mga cybercriminal, nagpapakita ng real-time na threat intelligence provider SlashNext ulat. Ngunit, ano nga ba ang layunin ng paggamit ng LLM chatbots?
Ayon sa ulat na pinamagatang 'Ang Estado ng Phishing 2023' ginagamit ng mga cybercriminal ang tool upang tumulong sa pagsulat ng mga pag-atake ng business email compromise (BEC) at sistematikong maglunsad ng mga pag-atake sa phishing na mataas ang target.
Mula nang ipakilala ang OpenAINi ChatGPT noong huling bahagi ng 2022, isang makabuluhang pag-akyat sa mga nakakahamak na email sa phishing ang naobserbahan, na may nakakagulat na 1,265% na pagtaas.
Kapansin-pansin, 68% ng mga email na ito sa phishing ay gumagamit ng mga taktika sa Business Email Compromise (BEC) na nakabatay sa text. Binibigyang-diin ng nakababahala na trend na ito ang lumalaking pangamba tungkol sa papel ng mga chatbot at jailbreak sa pagpapadali sa mabilis na paglaganap ng mga pag-atake ng phishing sa pamamagitan ng pagpapagana sa mga cybercriminal na maglunsad ng napakahusay at matulin na mga opensiba.
Nang tanungin, 40% ng mga respondent (mga propesyonal sa cybersecurity) ang nagpahiwatig na sila ay kasalukuyang nagtatrabaho ChatGPT para sa pagbuo ng mga email, para sa personal at propesyonal na mga kaso ng paggamit.
Ito ay hindi nakakagulat na ang paggamit na ito ay umaabot sa cybercriminals, dahil ang komposisyon ng email ay isa sa mga pinakakaraniwang aplikasyon ng ChatGPT para sa mga hacker. Ang mga cyber attacker ay nagsasamantala ChatGPTAng mga kakayahan ni upang tumulong sa paggawa ng mga pag-atake sa Business Email Compromise (BEC) at pag-orkestra ng mga kampanyang phishing na maingat na naka-target.
bypassing ChatGPT Tulad ng Chatbots - Hindi Isang Masalimuot na Gawain
Habang AI chatbots gaya ng ChatGPT nagtataglay ng malawak na kaalaman at maaaring makabuo ng teksto sa malawak na hanay ng mga paksa, napapailalim sila sa ilang partikular na paghihigpit upang maiwasan ang iba't ibang isyu.
Ang mga paghihigpit na ito ay inilalagay dahil sa likas na katangian ng kanilang data ng pagsasanay at ang potensyal para sa nakakapinsala o hindi naaangkop na mga tugon. Tinutuklas ng artikulong ito kung bakit ChatGPT ay pinaghihigpitan, at nagbibigay ito ng mga diskarte upang matugunan ang mga limitasyong ito.
Gayunpaman, sa pamamagitan ng pag-frame ng mga tanong na may konteksto, pag-iwas sa mga may problemang parirala, at pagtugon sa mga senaryo mula sa pananaw ng pangatlong tao, kadalasang nakakakuha ang mga user ng mas kapaki-pakinabang na mga tugon. Bukod pa rito, maaaring i-bypass ng mga user ang mga limitasyon ng character sa pamamagitan ng paghingi ng mas maliliit na bahagi ng text sa isang pagkakataon.
Maaari Bang Maging Bayani ng Pagsagip ang Generative AI?
Sa mabilis na umuusbong na digital na landscape, ang pagsasama ng malisyosong potensyal ng AI at ang pagbabago ng dinamika ng malalayo at hybrid na kapaligiran sa trabaho ay nagdulot ng mga alalahanin tungkol sa tumataas na panganib ng cyberattacks.
Dahil nagkalat ang mga empleyado sa maraming device at channel ng komunikasyon, lalong nagiging bulnerable ang mga organisasyon sa mga paglabag sa seguridad. Upang kontrahin ang banta na ito, mayroong lumalaking pangangailangan para sa generative AI mga solusyon sa seguridad na idinisenyo upang maprotektahan laban sa mga advanced na cyberattack tulad ng Business Email Compromise (BEC), pag-atake sa supply chain, executive impersonation, at pandaraya sa pananalapi.
Ang mga generative na solusyon sa seguridad ng AI ay mahusay sa pagtukoy ng mga banta na nagmamanipula sa mga emosyon ng tao, na gumagamit ng mga taktika tulad ng takot o pagtitiwala upang mag-udyok ng mabilis na pagkilos. Sa pamamagitan ng pagtulad sa mga emosyon at gawi ng tao sa kanilang proseso ng pagtuklas, ang mga generative na solusyon sa seguridad ng AI ay nagbibigay ng matatag na depensa laban sa mga pinakabagong banta sa cyber.
Ang isang kilalang manlalaro sa larangang ito ay ang SlashNext. Ang teknolohiya ng kumpanya ay sanay sa pag-detect, paghula, at pagpapahinto ng mga pag-atake gaya ng spear phishing, BEC, at Smishing, na lahat ay nagsasamantala sa mga zero-hour na social engineering na pamamaraan. Ang advanced na system na ito ay walang putol na gumagana sa email, mobile, at web messaging application, na nag-aalok ng multi-pronged defense.
Ayon sa SlashNext, pinagsasama ng mga solusyon nito ang natural na pagpoproseso ng wika, computer vision, machine learning, mga graph ng relasyon, at malalim na kontekstwalisasyon upang malabanan ang mga sopistikadong multi-channel na pag-atake sa pagmemensahe.
Ang kumpanya ay may kakayahang umasa ng malawak na hanay ng AI-generated BEC threats sa pamamagitan ng paggamit ng AI data augmentation at cloning technologies.
Ang diskarte na ito ay nagbibigay-daan sa system na masuri ang mga pangunahing banta at makabuo ng maraming mga pagkakaiba-iba, na epektibong nagsasanay sa sarili upang makilala at hadlangan ang mga potensyal na panganib, idinagdag nito.
Habang nakikipagbuno ang mga organisasyon sa patuloy na lumalagong mga hamon sa cybersecurity na dulot ng mga banta na hinimok ng AI, ang mga generative na solusyon sa seguridad ng AI ay napakahalagang kaalyado sa pagsisikap na pangalagaan ang sensitibong data at mapanatili ang digital na integridad. Ang hinaharap ng cybersecurity ay lalong umaasa sa mga makabagong teknolohiyang ito, na tinitiyak na ang mga organisasyon ay mananatiling isang hakbang sa unahan ng mga cybercriminal at mga umuusbong na banta.
Pagtanggi sa pananagutan
Sa linya na may Mga alituntunin ng Trust Project, pakitandaan na ang impormasyong ibinigay sa pahinang ito ay hindi nilayon at hindi dapat bigyang-kahulugan bilang legal, buwis, pamumuhunan, pananalapi, o anumang iba pang paraan ng payo. Mahalagang mamuhunan lamang kung ano ang maaari mong mawala at humingi ng independiyenteng payo sa pananalapi kung mayroon kang anumang mga pagdududa. Para sa karagdagang impormasyon, iminumungkahi naming sumangguni sa mga tuntunin at kundisyon pati na rin sa mga pahina ng tulong at suporta na ibinigay ng nagbigay o advertiser. MetaversePost ay nakatuon sa tumpak, walang pinapanigan na pag-uulat, ngunit ang mga kondisyon ng merkado ay maaaring magbago nang walang abiso.
Tungkol sa Ang May-akda
Si Kumar ay isang makaranasang Tech Journalist na may espesyalisasyon sa mga dynamic na intersection ng AI/ML, teknolohiya sa marketing, at mga umuusbong na larangan tulad ng crypto, blockchain, at NFTs. Sa mahigit 3 taong karanasan sa industriya, si Kumar ay nagtatag ng isang napatunayang track record sa paggawa ng mga nakakahimok na salaysay, pagsasagawa ng mga insightful na panayam, at paghahatid ng mga komprehensibong insight. Ang kadalubhasaan ni Kumar ay nakasalalay sa paggawa ng nilalamang may mataas na epekto, kabilang ang mga artikulo, ulat, at mga publikasyong pananaliksik para sa mga kilalang platform ng industriya. Sa isang natatanging hanay ng kasanayan na pinagsasama ang teknikal na kaalaman at pagkukuwento, mahusay si Kumar sa pakikipag-usap ng mga kumplikadong teknolohikal na konsepto sa magkakaibang mga madla sa isang malinaw at nakakaengganyo na paraan.
Mas marami pang artikulo
Si Kumar ay isang makaranasang Tech Journalist na may espesyalisasyon sa mga dynamic na intersection ng AI/ML, teknolohiya sa marketing, at mga umuusbong na larangan tulad ng crypto, blockchain, at NFTs. Sa mahigit 3 taong karanasan sa industriya, si Kumar ay nagtatag ng isang napatunayang track record sa paggawa ng mga nakakahimok na salaysay, pagsasagawa ng mga insightful na panayam, at paghahatid ng mga komprehensibong insight. Ang kadalubhasaan ni Kumar ay nakasalalay sa paggawa ng nilalamang may mataas na epekto, kabilang ang mga artikulo, ulat, at mga publikasyong pananaliksik para sa mga kilalang platform ng industriya. Sa isang natatanging hanay ng kasanayan na pinagsasama ang teknikal na kaalaman at pagkukuwento, mahusay si Kumar sa pakikipag-usap ng mga kumplikadong teknolohikal na konsepto sa magkakaibang mga madla sa isang malinaw at nakakaengganyo na paraan.
