Google представляет систему обнаружения спама на базе искусственного интеллекта для защиты Gmail
Коротко
Сегодня Google представила систему обнаружения спама на базе искусственного интеллекта, предназначенную для выявления «злобных манипуляций с текстом» в режиме реального времени.
Google сегодня представила систему обнаружения спама на базе искусственного интеллекта, предназначенную для выявления «злобных текстовых манипуляций» в режиме реального времени, усиливая защиту от электронных писем со специальными символами, смайликами, опечатками и другими скрытыми элементами, которые ранее обходили Gmailмеры безопасности.
Это усовершенствование, названное «одним из крупнейших обновлений обороны за последние годы», принимает форму системы классификации текста, известной как RETVec (устойчивый и эффективный векторизатор текста).
«Чтобы повысить надежность и эффективность классификаторов текста, мы представили новаторский многоязычный векторизатор текста под названием RETVec. Это нововведение позволяет моделям достигать самых современных характеристик классификации при значительном сокращении вычислительных затрат», — пояснил Google в официальном заявлении.
Важные сервисы Google, такие как Gmail, YouTube и Google Play в значительной степени полагаются на модели классификации текста для выявления вредоносного контента, такого как фишинговые атаки, неуместные комментарии и мошенничество. Состязательные манипуляции с текстом представляют собой уникальную проблему, поскольку злоумышленники активно используют такие тактики, как гомоглифы, невидимые символы и наполнение ключевыми словами, чтобы перехитрить классификаторы.
«Благодаря своей новой архитектуре RETVec безупречно работает на всех языках и символах, не требуя предварительной предварительной обработки текста. Эта функция позиционирует его как лучший выбор для развертывания на устройстве, в Интернете и крупномасштабной классификации текста», — подтвердили в компании.
Компактное представление моделей, обученных с помощью RETVec, обеспечивает более высокую скорость вывода. По словам технологического гиганта, уменьшенный размер модели не только сокращает вычислительные затраты, но и минимизирует задержку, что является решающим фактором для крупномасштабных приложений и моделей на устройствах.
RETVec представляет собой векторизатор текста с открытым исходным кодом, позволяющий пользователям создавать классификаторы текста на стороне сервера и на устройстве.
Google подчеркивает интеграцию RETVec в спам-фильтр Gmail, где он играет ключевую роль в защите почтовых ящиков Gmail от вредоносных писем, отмечая усилия по усилению мер кибербезопасности и защите пользователей от развивающихся угроз в цифровой среде.
Использование генеративного подхода ИИ для борьбы со спамом
Недавний отчет показал, что 70% вредоносных электронных писем розничным клиентам содержали вложения HTML, причем 30% из них были запутаны. LLM как червьGPT и мошенничествоGPT также делают фишинг по электронной почте более персонализированным.
Индийский телекоммуникационный гигант Bharati Airtel представил решение на основе искусственного интеллекта и машинного обучения, направленное на упреждающее выявление, предотвращение и искоренение фишингового спама через каналы обмена сообщениями. Данное решение, которое в настоящее время проходит тестирование совместно с HDFC Bank, устанавливает эффективный антиспам-фильтр.
В переписке с Регулирующим органом электросвязи Индии (Tai) телекоммуникационный гигант сообщает, что решение продемонстрировало эффективность, обнаруживая и блокируя впечатляющие два миллиона сообщений ежедневно.
Аналогичным образом компания Perception Point, занимающаяся предотвращением угроз, представляет усовершенствованную модель обнаружения для противодействия развивающейся угрозе генеративного AI на основе атаки по электронной почте.
По данным компании, технология на основе искусственного интеллекта использует большие языковые модели (LLMs) и архитектуру глубокого обучения для эффективного выявления и предотвращения атак компрометации деловой электронной почты (BEC) в условиях меняющейся ситуации, вызванной ростом популярности генеративный ИИ технологии.
Отказ от ответственности
В соответствии с Руководство трастового проектаОбратите внимание, что информация, представленная на этой странице, не предназначена и не должна интерпретироваться как юридическая, налоговая, инвестиционная, финансовая или любая другая форма консультации. Важно инвестировать только то, что вы можете позволить себе потерять, и обращаться за независимой финансовой консультацией, если у вас есть какие-либо сомнения. Для получения дополнительной информации мы предлагаем обратиться к положениям и условиям, а также к страницам справки и поддержки, предоставленным эмитентом или рекламодателем. MetaversePost стремится предоставлять точную и объективную отчетность, однако рыночные условия могут быть изменены без предварительного уведомления.
Об авторе
Кумар — опытный технический журналист, специализирующийся на динамических пересечениях искусственного интеллекта и машинного обучения, маркетинговых технологий и новых областях, таких как криптография, блокчейн и NFTс. Имея более чем трехлетний опыт работы в отрасли, Кумар зарекомендовал себя в создании убедительных повествований, проведении содержательных интервью и предоставлении всеобъемлющей информации. Опыт Кумара заключается в создании эффективного контента, включая статьи, отчеты и исследовательские публикации для известных отраслевых платформ. Обладая уникальным набором навыков, сочетающим в себе технические знания и умение рассказывать истории, Кумар преуспевает в ясной и увлекательной передаче сложных технологических концепций разнообразной аудитории.
Другие статьи
Кумар — опытный технический журналист, специализирующийся на динамических пересечениях искусственного интеллекта и машинного обучения, маркетинговых технологий и новых областях, таких как криптография, блокчейн и NFTс. Имея более чем трехлетний опыт работы в отрасли, Кумар зарекомендовал себя в создании убедительных повествований, проведении содержательных интервью и предоставлении всеобъемлющей информации. Опыт Кумара заключается в создании эффективного контента, включая статьи, отчеты и исследовательские публикации для известных отраслевых платформ. Обладая уникальным набором навыков, сочетающим в себе технические знания и умение рассказывать истории, Кумар преуспевает в ясной и увлекательной передаче сложных технологических концепций разнообразной аудитории.
