Киберпреступники используют чат-ботов LLM для фишинга: как генеративный искусственный интеллект может ему противодействовать
Коротко
С момента введения ChatGPT В конце 2022 года наблюдался значительный всплеск вредоносных фишинговых писем — на 1,265%.
Некоторые из наиболее распространенных пользователей чат-боты большой языковой модели (LLM) являются киберпреступниками, раскрывает поставщика информации об угрозах в режиме реального времени Косая черта отчет. Но какова именно цель использования чат-ботов LLM?
Согласно отчету под названием «Состояние фишинга в 2023 годуКиберпреступники используют этот инструмент для написания атак по компрометации деловой электронной почты (BEC) и систематического проведения целенаправленных фишинговых атак.
С момента введения OpenAIАвтора ChatGPT В конце 2022 года наблюдался значительный всплеск вредоносных фишинговых писем — ошеломляющий рост на 1,265%.
Примечательно, что в 68% этих фишинговых писем используется тактика компрометации деловой электронной почты (BEC). Эта тревожная тенденция подчеркивает растущие опасения относительно роли чат-ботов и средств взлома в содействии быстрому распространению фишинговых атак, позволяя киберпреступникам проводить сложные и быстрые атаки.
Отвечая на вопрос, 40% респондентов (специалистов по кибербезопасности) указали, что в настоящее время они работают ChatGPT для составления электронных писем как для личного, так и для профессионального использования.
Неудивительно, что это использование распространяется на киберпреступники, поскольку составление электронной почты является одним из наиболее распространенных приложений ChatGPT для хакеров. Киберзлоумышленники используют ChatGPTВозможности компании для оказания помощи в разработке атак компрометации деловой электронной почты (BEC) и организации тщательно нацеленных фишинговых кампаний.
Обходя ChatGPT Как чат-боты – Не сложная задача
В то время как AI чатботы такое как ChatGPT обладают обширными знаниями и могут генерировать тексты по широкому кругу тем, на них распространяются определенные ограничения для предотвращения различных проблем.
Эти ограничения введены из-за характера обучающих данных и возможности вредных или ненадлежащих ответов. В этой статье рассказывается, почему ChatGPT ограничен, и он предоставляет методы обхода этих ограничений.
Однако, формулируя вопросы с учетом контекста, избегая проблемных фраз и рассматривая сценарии с точки зрения третьего лица, пользователи часто могут получить более полезные ответы. Кроме того, пользователи могут обходить ограничения на количество символов, запрашивая меньшие части текста за раз.
Может ли генеративный ИИ стать героем-спасателем?
В быстро развивающемся цифровом мире слияние вредоносного потенциала искусственного интеллекта и меняющаяся динамика удаленных и гибридных рабочих сред вызывают обеспокоенность по поводу растущего риска кибератак.
Поскольку сотрудники рассредоточены по множеству устройств и каналов связи, организации становятся все более уязвимыми для нарушений безопасности. Чтобы противостоять этой угрозе, существует растущий спрос на генеративный ИИ решения безопасности, предназначенные для защиты от сложных кибератак, таких как компрометация деловой электронной почты (BEC), атаки на цепочки поставок, выдача себя за руководителя и финансовое мошенничество.
Решения по обеспечению безопасности на основе генеративного искусственного интеллекта хорошо выявляют угрозы, которые манипулируют человеческими эмоциями, используя такие тактики, как страх или доверие, для принятия быстрых мер. Имитируя эти человеческие эмоции и поведение в процессе обнаружения, генеративные решения безопасности на базе искусственного интеллекта обеспечивают надежную защиту от новейших киберугроз.
Одним из заметных игроков в этой области является SlashNext. Технологии компании позволяют обнаруживать, прогнозировать и останавливать такие атаки, как целевой фишинг, BEC и Smishing, каждая из которых использует методы социальной инженерии нулевого часа. Эта усовершенствованная система бесперебойно работает с приложениями электронной почты, мобильных устройств и веб-сообщений, обеспечивая многостороннюю защиту.
По данным SlashNext, ее решения сочетают в себе обработку естественного языка, компьютерное зрение, машинное обучение, графы отношений и глубокую контекстуализацию для противодействия сложным атакам с использованием многоканального обмена сообщениями.
Компания имеет возможность предвидеть широкий спектр угроз BEC, создаваемых ИИ, используя технологии увеличения и клонирования данных ИИ.
Такой подход позволяет системе оценивать основные угрозы и генерировать многочисленные варианты, эффективно обучаясь распознавать и предотвращать потенциальные риски, добавили в компании.
Поскольку организации сталкиваются с постоянно растущими проблемами кибербезопасности, создаваемыми угрозами, создаваемыми искусственным интеллектом, генеративные решения безопасности на основе искусственного интеллекта становятся неоценимыми союзниками в стремлении защитить конфиденциальные данные и поддерживать цифровую целостность. Будущее кибербезопасности все больше зависит от этих инновационных технологий, гарантируя, что организации смогут оставаться на шаг впереди киберпреступников и возникающих угроз.
Отказ от ответственности
В соответствии с Руководство трастового проектаОбратите внимание, что информация, представленная на этой странице, не предназначена и не должна интерпретироваться как юридическая, налоговая, инвестиционная, финансовая или любая другая форма консультации. Важно инвестировать только то, что вы можете позволить себе потерять, и обращаться за независимой финансовой консультацией, если у вас есть какие-либо сомнения. Для получения дополнительной информации мы предлагаем обратиться к положениям и условиям, а также к страницам справки и поддержки, предоставленным эмитентом или рекламодателем. MetaversePost стремится предоставлять точную и объективную отчетность, однако рыночные условия могут быть изменены без предварительного уведомления.
Об авторе
Кумар — опытный технический журналист, специализирующийся на динамических пересечениях искусственного интеллекта и машинного обучения, маркетинговых технологий и новых областях, таких как криптография, блокчейн и NFTс. Имея более чем трехлетний опыт работы в отрасли, Кумар зарекомендовал себя в создании убедительных повествований, проведении содержательных интервью и предоставлении всеобъемлющей информации. Опыт Кумара заключается в создании эффективного контента, включая статьи, отчеты и исследовательские публикации для известных отраслевых платформ. Обладая уникальным набором навыков, сочетающим в себе технические знания и умение рассказывать истории, Кумар преуспевает в ясной и увлекательной передаче сложных технологических концепций разнообразной аудитории.
Другие статьи
Кумар — опытный технический журналист, специализирующийся на динамических пересечениях искусственного интеллекта и машинного обучения, маркетинговых технологий и новых областях, таких как криптография, блокчейн и NFTс. Имея более чем трехлетний опыт работы в отрасли, Кумар зарекомендовал себя в создании убедительных повествований, проведении содержательных интервью и предоставлении всеобъемлющей информации. Опыт Кумара заключается в создании эффективного контента, включая статьи, отчеты и исследовательские публикации для известных отраслевых платформ. Обладая уникальным набором навыков, сочетающим в себе технические знания и умение рассказывать истории, Кумар преуспевает в ясной и увлекательной передаче сложных технологических концепций разнообразной аудитории.
