Kiberbűnözők LLM chatbotokat használó adathalászathoz: Hogyan képes fellépni a generatív mesterséges intelligencia ellen
Röviden
Bevezetése óta ChatGPT 2022 végén a rosszindulatú adathalász e-mailek számának jelentős megugrása volt megfigyelhető, 1,265%-os növekedéssel.
Néhány leggyakoribb felhasználó a nagy nyelvi modell (LLM) chatbotok kiberbűnözők, derül ki a valós idejű fenyegetés-felderítő szolgáltatóból SlashNext jelentés. De pontosan mi a célja az LLM chatbotok használatának?
című jelentés szerintAz adathalászat állapota 2023A kiberbűnözők kihasználják az eszközt az üzleti e-mail-kompromitációs (BEC) támadások írásához és a célzott adathalász támadások szisztematikus indításához.
Bevezetése óta OpenAI'S ChatGPT 2022 végén a rosszindulatú adathalász e-mailek jelentős megugrását figyelték meg, elképesztő, 1,265%-os növekedéssel.
Figyelemre méltó, hogy ezen adathalász e-mailek 68%-a szövegalapú üzleti e-mail kompromisszum (BEC) taktikát alkalmaz. Ez a riasztó tendencia alátámasztja a növekvő félelmeket a chatbotoknak és a jailbreakeknek az adathalász támadások gyors elterjedésének elősegítésében játszott szerepével kapcsolatban, lehetővé téve a kiberbűnözők számára, hogy rendkívül kifinomult és gyors offenzívákat indítsanak.
A kérdésre a válaszadók (kiberbiztonsági szakemberek) 40%-a jelezte, hogy jelenleg is foglalkoztat ChatGPT e-mailek írására, személyes és szakmai felhasználási esetekre egyaránt.
Nem meglepő, hogy ez a felhasználás kiterjed kiberbűnözők, mivel az e-mailek összeállítása az egyik legelterjedtebb alkalmazása ChatGPT hackerek számára. A kibertámadók kihasználják ChatGPTa Business Email Compromise (BEC) támadások kidolgozásában és az aprólékosan célzott adathalász kampányok megszervezésében.
kiiktatás ChatGPT Mint a chatbotok – Nem összetett feladat
Míg AI csevegőrobotok mint ChatGPT széleskörű ismeretekkel rendelkeznek, és sokféle témában tudnak szöveget generálni, bizonyos korlátozások vonatkoznak rájuk a különféle problémák megelőzése érdekében.
Ezek a korlátozások a képzési adataik természetéből és a káros vagy nem megfelelő válaszlépések lehetőségéből adódnak. Ez a cikk megvizsgálja, miért ChatGPT korlátozott, és technikákat biztosít e korlátozások megkerülésére.
A kérdések kontextus szerinti keretezésével, a problémás kifejezések elkerülésével és a forgatókönyvek harmadik személy szemszögéből való kezelésével azonban a felhasználók gyakran hasznosabb válaszokat kaphatnak. Ezenkívül a felhasználók megkerülhetik a karakterkorlátokat, ha egyszerre kisebb szövegrészeket kérnek.
Lehet a Generatív AI a megmentő hős?
A gyorsan fejlődő digitális környezetben a mesterséges intelligencia rosszindulatú potenciáljának összefolyása és a távoli és hibrid munkakörnyezetek változó dinamikája aggodalmat keltett a kibertámadások növekvő kockázatával kapcsolatban.
Mivel az alkalmazottak több eszközön és kommunikációs csatornán vannak szétszórva, a szervezetek egyre kiszolgáltatottabbak a biztonsági megsértésekkel szemben. E fenyegetés ellensúlyozására egyre nagyobb az igény generatív AI biztonsági megoldások, amelyek az olyan fejlett kibertámadások elleni védelemre készültek, mint a Business Email Compromise (BEC), az ellátási lánc támadásai, a vezetők megszemélyesítése és a pénzügyi csalások.
A generatív mesterségesintelligencia-biztonsági megoldások alkalmasak az emberi érzelmeket manipuláló fenyegetések azonosítására, és olyan taktikákat alkalmaznak, mint a félelem vagy a bizalom a gyors cselekvés érdekében. Azáltal, hogy az észlelési folyamat során szimulálják ezeket az emberi érzelmeket és viselkedéseket, a generatív AI biztonsági megoldások robusztus védelmet nyújtanak a legújabb kiberfenyegetésekkel szemben.
Ezen a területen az egyik figyelemre méltó szereplő a SlashNext. A vállalat technológiája alkalmas az olyan támadások észlelésére, előrejelzésére és leállítására, mint a spear phishing, a BEC és a Smishing, amelyek mindegyike a nulla órás social engineering technikákat használja ki. Ez a fejlett rendszer zökkenőmentesen működik az e-mail-, mobil- és webes üzenetküldő alkalmazásokban, és sokoldalú védelmet kínál.
A SlashNext szerint megoldásai a természetes nyelvi feldolgozást, a számítógépes látást, a gépi tanulást, a kapcsolati grafikonokat és a mély kontextusba helyezést ötvözik a kifinomult többcsatornás üzenetküldési támadások ellen.
A vállalat képes előre jelezni a mesterséges intelligencia által generált BEC fenyegetések széles skáláját az AI adatkiegészítő és klónozó technológiák alkalmazásával.
Ez a megközelítés lehetővé teszi a rendszer számára, hogy felmérje az alapvető fenyegetéseket, és számos variációt generáljon, hatékonyan képezve magát a potenciális kockázatok felismerésére és meghiúsítására – tette hozzá.
Miközben a szervezetek megküzdenek a mesterséges intelligencia által vezérelt fenyegetések által támasztott, folyamatosan növekvő kiberbiztonsági kihívásokkal, a generatív AI biztonsági megoldások felbecsülhetetlen értékű szövetségesei az érzékeny adatok védelmének és a digitális integritás megőrzésének. A kiberbiztonság jövője egyre inkább ezeken az innovatív technológiákon múlik, biztosítva, hogy a szervezetek egy lépéssel a kiberbűnözők és az újonnan megjelenő fenyegetések előtt járjanak.
A felelősség megtagadása
Összhangban a A Trust Project irányelvei, kérjük, vegye figyelembe, hogy az ezen az oldalon közölt információk nem minősülnek jogi, adózási, befektetési, pénzügyi vagy bármilyen más formájú tanácsnak, és nem is értelmezhetők. Fontos, hogy csak annyit fektessen be, amennyit megengedhet magának, hogy elveszítsen, és kérjen független pénzügyi tanácsot, ha kétségei vannak. További információkért javasoljuk, hogy tekintse meg a szerződési feltételeket, valamint a kibocsátó vagy hirdető által biztosított súgó- és támogatási oldalakat. MetaversePost elkötelezett a pontos, elfogulatlan jelentéstétel mellett, de a piaci feltételek előzetes értesítés nélkül változhatnak.
A szerzőről
Kumar tapasztalt műszaki újságíró, aki az AI/ML dinamikus metszéspontjaira, a marketingtechnológiára és az olyan feltörekvő területekre szakosodott, mint a kriptográfia, blokklánc és NFTs. Az iparágban szerzett több mint 3 éves tapasztalatával Kumar bevált eredményeket hozott fel lenyűgöző narratívák készítése, éleslátó interjúk készítése és átfogó betekintések nyújtása terén. A Kumar szakértelme abban rejlik, hogy nagy hatású tartalmakat készít, ideértve cikkeket, jelentéseket és kutatási publikációkat prominens iparági platformok számára. A technikai tudást és a történetmesélést ötvöző egyedülálló készségkészletével Kumar kiválóan kommunikál összetett technológiai koncepciókkal a különböző közönségekkel, világos és vonzó módon.
További cikkek
Kumar tapasztalt műszaki újságíró, aki az AI/ML dinamikus metszéspontjaira, a marketingtechnológiára és az olyan feltörekvő területekre szakosodott, mint a kriptográfia, blokklánc és NFTs. Az iparágban szerzett több mint 3 éves tapasztalatával Kumar bevált eredményeket hozott fel lenyűgöző narratívák készítése, éleslátó interjúk készítése és átfogó betekintések nyújtása terén. A Kumar szakértelme abban rejlik, hogy nagy hatású tartalmakat készít, ideértve cikkeket, jelentéseket és kutatási publikációkat prominens iparági platformok számára. A technikai tudást és a történetmesélést ötvöző egyedülálló készségkészletével Kumar kiválóan kommunikál összetett technológiai koncepciókkal a különböző közönségekkel, világos és vonzó módon.
