Киберпрестъпници, използващи LLM Chatbots за фишинг: Как Generative AI може да му противодейства
Накратко
От въвеждането на ChatGPT в края на 2022 г. се наблюдава значителен скок на злонамерените фишинг имейли с 1,265% увеличение.
Някои от най-честите потребители на голям езиков модел (LLM) chatbots са киберпрестъпници, разкрива доставчик на информация за заплахи в реално време Наклонена черта Следваща отчет. Но каква точно е целта на използването на LLM chatbots?
Според доклада, озаглавен „Състоянието на фишинга 2023“ киберпрестъпниците използват инструмента, за да помогнат при писането на атаки за компрометиране на бизнес имейл (BEC) и систематично да стартират силно насочени фишинг атаки.
От въвеждането на OpenAIЕ ChatGPT в края на 2022 г. се наблюдава значителен скок на злонамерените фишинг имейли, със зашеметяващото увеличение от 1,265%.
Трябва да се отбележи, че 68% от тези фишинг имейли използват текстови тактики за компрометиране на бизнес имейли (BEC). Тази тревожна тенденция подчертава нарастващите опасения относно ролята на чатботовете и джейлбрейковете за улесняване на бързото разпространение на фишинг атаки, като позволяват на киберпрестъпниците да предприемат изключително сложни и бързи офанзиви.
На въпроса 40% от респондентите (специалисти по киберсигурност) посочват, че в момента работят ChatGPT за съставяне на имейли, както за лични, така и за професионални случаи.
Не е изненадващо, че това използване се простира до киберпрестъпници, тъй като съставянето на имейл е едно от най-разпространените приложения на ChatGPT за хакери. Кибер нападателите експлоатират ChatGPTспособностите на да помага при разработването на атаки за компрометиране на бизнес имейли (BEC) и организиране на щателно насочени фишинг кампании.
Прескачане ChatGPT Като чатботове – Не е сложна задача
Докато AI чат ботове като ChatGPT притежават обширни познания и могат да генерират текст по широк кръг от теми, те подлежат на определени ограничения за предотвратяване на различни проблеми.
Тези ограничения са в сила поради естеството на техните данни за обучение и потенциала за вредни или неподходящи реакции. Тази статия изследва защо ChatGPT е ограничено и предоставя техники за заобикаляне на тези ограничения.
Въпреки това, чрез формулиране на въпроси с контекст, избягване на проблемни фрази и разглеждане на сценарии от гледна точка на трето лице, потребителите често могат да получат по-полезни отговори. Освен това потребителите могат да заобиколят ограниченията за знаци, като поискат по-малки части от текст наведнъж.
Може ли Generative AI да бъде спасителният герой?
В бързо развиваща се дигитална среда съчетаването на злонамерения потенциал на AI и променящата се динамика на отдалечени и хибридни работни среди породи опасения относно ескалиращия риск от кибератаки.
Със служителите, разпръснати в множество устройства и комуникационни канали, организациите са все по-уязвими към пробиви в сигурността. За да се противопостави на тази заплаха, има нарастващо търсене на генеративен AI решения за сигурност, предназначени да предпазват от усъвършенствани кибератаки, като Business Email Compromise (BEC), атаки по веригата на доставки, представяне на изпълнителен директор и финансови измами.
Генеративните AI решения за сигурност са добри в идентифицирането на заплахи, които манипулират човешките емоции, като използват тактики като страх или доверие, за да подтикнат към бързи действия. Чрез симулиране на тези човешки емоции и поведение в процеса на тяхното откриване, генеративните решения за сигурност на AI осигуряват стабилна защита срещу най-новите кибер заплахи.
Един забележителен играч в тази област е SlashNext. Технологията на компанията е умела в откриването, прогнозирането и спирането на атаки като spear phishing, BEC и Smishing, всички от които използват техники за социално инженерство нула часа. Тази усъвършенствана система работи безпроблемно в имейл, мобилни и уеб приложения за съобщения, като предлага многостранна защита.
Според SlashNext неговите решения комбинират обработка на естествен език, компютърно зрение, машинно обучение, графики на връзки и дълбока контекстуализация, за да противодействат на сложни многоканални атаки за съобщения.
Компанията има способността да предвиди широк спектър от генерирани от AI BEC заплахи чрез използване на технологии за увеличаване на данни и клониране на AI.
Този подход позволява на системата да оценява основните заплахи и да генерира многобройни вариации, като ефективно се обучава да разпознава и осуетява потенциални рискове, добавя той.
Докато организациите се борят с непрекъснато нарастващите предизвикателства пред киберсигурността, породени от управлявани от AI заплахи, генеративните решения за сигурност на AI са безценни съюзници в стремежа за защита на чувствителните данни и поддържане на цифровата цялост. Бъдещето на киберсигурността все повече разчита на тези иновативни технологии, гарантиращи, че организациите могат да бъдат една крачка пред киберпрестъпниците и нововъзникващите заплахи.
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
Кумар е опитен технически журналист със специализация в динамичните пресечни точки на AI/ML, маркетингови технологии и нововъзникващи области като крипто, блокчейн и NFTс. С над 3 години опит в индустрията, Kumar има доказан опит в изработването на завладяващи разкази, провеждането на проницателни интервюта и предоставянето на изчерпателни прозрения. Експертният опит на Kumar се състои в създаването на силно въздействащо съдържание, включително статии, доклади и изследователски публикации за известни индустриални платформи. С уникален набор от умения, който съчетава технически познания и разказване на истории, Кумар се справя отлично в предаването на сложни технологични концепции на различни аудитории по ясен и увлекателен начин.
Още статии
Кумар е опитен технически журналист със специализация в динамичните пресечни точки на AI/ML, маркетингови технологии и нововъзникващи области като крипто, блокчейн и NFTс. С над 3 години опит в индустрията, Kumar има доказан опит в изработването на завладяващи разкази, провеждането на проницателни интервюта и предоставянето на изчерпателни прозрения. Експертният опит на Kumar се състои в създаването на силно въздействащо съдържание, включително статии, доклади и изследователски публикации за известни индустриални платформи. С уникален набор от умения, който съчетава технически познания и разказване на истории, Кумар се справя отлично в предаването на сложни технологични концепции на различни аудитории по ясен и увлекателен начин.
