Кіберзлочинці використовують LLM Chatbots для фішингу: як Generative AI може цьому протидіяти
Коротко
З моменту введення ChatGPT наприкінці 2022 року спостерігався значний сплеск шкідливих фішингових електронних листів із збільшенням на 1,265%.
Деякі з найпоширеніших користувачів чат-боти великої мовної моделі (LLM). є кіберзлочинцями, виявляє постачальник розвідки про загрози в реальному часі Похила Далі звіт. Але яка саме мета використання чат-ботів LLM?
Згідно зі звітом під назвою "Стан фішингу 2023Кіберзлочинці використовують цей інструмент, щоб допомогти створювати атаки компрометації бізнес-електронної пошти (BEC) і систематично запускати високоцільові фішингові атаки.
З моменту введення OpenAIАвтора ChatGPT наприкінці 2022 року спостерігався значний сплеск шкідливих фішингових електронних листів із приголомшливим зростанням на 1,265%.
Примітно, що 68% цих фішингових електронних листів використовують текстову тактику компрометації бізнес-електронної пошти (BEC). Ця тривожна тенденція підкреслює зростаючі побоювання щодо ролі чат-ботів і джейлбрейків у сприянні швидкому розповсюдженню фішингових атак, дозволяючи кіберзлочинцям запускати дуже складні та швидкі наступальні дії.
Відповідаючи на запитання, 40% респондентів (фахівці з кібербезпеки) вказали, що зараз працюють ChatGPT для створення електронних листів як для особистого, так і для професійного використання.
Не дивно, що це використання поширюється на кіберзлочинці, оскільки створення електронних листів є одним із найпоширеніших застосувань ChatGPT для хакерів. Використовують кіберзловмисники ChatGPTМожливості, які допомагають створювати атаки на компрометацію бізнес-електронної пошти (BEC) і оркеструвати ретельно націлені фішингові кампанії.
перепуск ChatGPT Як чат-боти – Не складне завдання
У той час як AI чат-боти як ChatGPT володіють великими знаннями та можуть генерувати тексти на широке коло тем, на них діють певні обмеження, щоб запобігти різним проблемам.
Ці обмеження діють у зв’язку з характером їхніх навчальних даних і можливістю шкідливих або неналежних реакцій. У цій статті пояснюється, чому ChatGPT обмежений, і він надає методи для обходу цих обмежень.
Однак, формулюючи питання з контекстом, уникаючи проблемних фраз і розглядаючи сценарії з точки зору третьої особи, користувачі часто можуть отримати більш корисні відповіді. Крім того, користувачі можуть обходити обмеження на символи, запитуючи менші частини тексту за раз.
Чи може Generative AI стати героєм-рятівником?
У цифровому середовищі, що швидко розвивається, поєднання шкідливого потенціалу ШІ та мінливої динаміки віддалених і гібридних робочих середовищ викликало занепокоєння щодо ескалації ризику кібератак.
Оскільки співробітники розосереджені на різних пристроях і каналах зв’язку, організації стають уразливішими до порушень безпеки. Щоб протистояти цій загрозі, зростає попит на генеративний ШІ рішення безпеки, призначені для захисту від складних кібератак, таких як компрометація бізнес-електронної пошти (BEC), атаки на ланцюги поставок, видавання себе за керівника та фінансове шахрайство.
Генеративні рішення безпеки штучного інтелекту добре виявляють загрози, які маніпулюють людськими емоціями, використовуючи такі тактики, як страх або довіра, щоб спонукати до швидких дій. Імітуючи ці людські емоції та поведінку в процесі їх виявлення, генеративні рішення безпеки ШІ забезпечують надійний захист від останніх кіберзагроз.
Одним із помітних гравців у цій сфері є SlashNext. Технології компанії вправно виявляють, прогнозують і зупиняють атаки, такі як фішинг, BEC і Smishing, усі з яких використовують методи соціальної інженерії нульової години. Ця передова система безперебійно працює в програмах електронної пошти, мобільних і веб-повідомлень, пропонуючи багатосторонній захист.
За словами SlashNext, його рішення поєднують обробку природної мови, комп’ютерне бачення, машинне навчання, графіки зв’язків і глибоку контекстуалізацію для протидії складним багатоканальним атакам обміну повідомленнями.
Компанія має можливість передбачати широкий спектр загроз BEC, створених штучним інтелектом, за допомогою технологій доповнення та клонування даних штучного інтелекту.
Такий підхід дозволяє системі оцінювати основні загрози та генерувати численні варіації, ефективно навчаючись розпізнавати та запобігати потенційним ризикам, додає він.
Оскільки організації борються з постійно зростаючими проблемами кібербезпеки, спричиненими загрозами, керованими штучним інтелектом, генеративні рішення безпеки штучного інтелекту є безцінними союзниками в прагненні захистити конфіденційні дані та зберегти цифрову цілісність. Майбутнє кібербезпеки все більше залежить від цих інноваційних технологій, що гарантує, що організації можуть бути на крок попереду кіберзлочинців і нових загроз.
відмова
Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.
про автора
Кумар є досвідченим технічним журналістом, який спеціалізується на динамічному перетині ШІ/ML, маркетингових технологій і нових галузей, таких як криптовалюта, блокчейн і NFTс. Завдяки більш ніж 3-річному досвіду роботи в галузі Кумар має досвід створення переконливих оповідей, проведення проникливих інтерв’ю та надання вичерпної інформації. Досвід Кумара полягає у створенні вражаючого контенту, зокрема статей, звітів і дослідницьких публікацій для відомих галузевих платформ. Володіючи унікальним набором навичок, який поєднує в собі технічні знання та розповідь, Кумар чудово вміє доносити складні технологічні концепції до різноманітної аудиторії в чіткій та привабливій формі.
інші статті
Кумар є досвідченим технічним журналістом, який спеціалізується на динамічному перетині ШІ/ML, маркетингових технологій і нових галузей, таких як криптовалюта, блокчейн і NFTс. Завдяки більш ніж 3-річному досвіду роботи в галузі Кумар має досвід створення переконливих оповідей, проведення проникливих інтерв’ю та надання вичерпної інформації. Досвід Кумара полягає у створенні вражаючого контенту, зокрема статей, звітів і дослідницьких публікацій для відомих галузевих платформ. Володіючи унікальним набором навичок, який поєднує в собі технічні знання та розповідь, Кумар чудово вміє доносити складні технологічні концепції до різноманітної аудиторії в чіткій та привабливій формі.
