GPT-Управляемые спам-ботами вызов онлайн-платформам
Коротко
GPTСпам-боты, управляемые людьми, стали серьезной проблемой на таких платформах, как Twitter и Telegram, и нацелены на нежелательную рекламную кампанию.
Эти сложные программы искусственного интеллекта могут анализировать и воспроизводить контекст поста, делая их вмешательство более органичным и трудным для идентификации.
Появился новый тип нарушений в виде GPT-управляемые спам-боты. Эти сложные программы искусственного интеллекта открыли новую страницу в истории спама, часто нацеливая на сообщения на таких платформах, как Twitter и Telegram, нежелательные рекламные объявления.
Эти GPT-спам-боты могут анализировать и воспроизводить контекст сообщения, что делает их вмешательство более естественным и трудным для обнаружения, чем обычный спам прошлого. Традиционные защитные меры сталкиваются с этим, поскольку многие из них неэффективны. В настоящее время этих ботов можно идентифицировать только по быстрому времени реакции, что позволяет вмешаться и удалить их вручную.
Постоянный шквал спама утомляет создателей и администраторов. Многие операторы каналов на таких платформах, как Telegram, заявили о своем желании иметь специализированный сервис, который может распознавать и удалять эти изощренные спам-комментарии в ответ на эту растущую потребность. Эти операторы, считающие себя «модераторами как услугой», готовы инвестировать в решение и выразили готовность платить 20–30 долларов в месяц или использовать модель выставления счетов на основе использования в зависимости от количества постов или сообщений. которые смотрят.
Однако на этом трудности не заканчиваются. Надвигается волна GPT-спамеры, которые, как ожидается, станут еще более опытными по мере развития технологий, возможно, используя такие стратегии, как задержка ответа или использование различных личностей искусственного интеллекта, которые взаимодействуют друг с другом. Различие между пользователями-людьми и ботами в таких обстоятельствах становится сложной задачей.
Даже технические гиганты бьются над проблемой. OpenAI предприняли шаг к решению этой проблемы, разработав детектор текста, предназначенный для идентификации контента, созданного ИИ. К сожалению, их усилия потерпели неудачу, поскольку проект был заморожен из-за низкой точности детектора. как сообщает TechCrunch в июле 2023 г..
Администраторы платформы не единственные, кого беспокоит рост GPT-спам-боты на базе. Проблема отделения подлинного контента от материалов, созданных искусственным интеллектом, теперь стоит перед даже менеджерами социальных сетей и стартапами. Это обстоятельство подчеркивает насущную необходимость и дает шанс для новых инициатив и проектов, которые могут создать эффективные решения для противодействия передовым методам рассылки спама в современную эпоху.
Достижения в языковых моделях и последствия для дезинформации в Интернете
Практичность и почти человеческие разговорные способности GPT были отмечены пользователями. Однако те же возможности, которые завоевали его восхищение, также вызывают опасения по поводу его потенциального неправильного использования.
Учитывая умение ИИ имитировать человеческие реакции, существуют опасения, связанные с его использованием со злыми намерениями. Эксперты из академических кругов, сектора кибербезопасности и искусственного интеллекта подчеркивают потенциальное использование GPT злонамеренными лицами для распространения пропаганды или разжигания беспорядков на цифровых платформах.
Исторически сложилось так, что распространение дезинформации требовало значительного вмешательства человека. Внедрение усовершенствованных систем обработки языка может увеличить масштаб и охват операций влияния. таргетинг на социальные сети, что приводит к более адаптированным и, следовательно, потенциально более убедительным кампаниям.
Платформы социальных сетей в предыдущих случаях были свидетелями скоординированных усилий по распространению дезинформации. Например, в преддверии выборов в США в 2016 г. Агентство интернет-исследований, базирующееся в Санкт-Петербурге, запустил масштабную кампанию. Их цель, как установил сенатский комитет по разведке в 2019 году, должно было повлиять на отношение электората к кандидатам в президенты.
В январском отчете подчеркивается, что появление технологий, управляемых искусственным интеллектом, языковые модели может способствовать распространению вводящего в заблуждение контента. Контент может не только увеличиться в объеме, но и улучшиться в качестве убедительности, что усложнит задачу для обычных пользователей Интернета, чтобы определить его подлинность.
Джош Голдштейн, связанный с Джорджтаунским центром безопасности и новых технологий и участвовавший в исследовании, упомянул способность генеративных моделей создавать большие объемы уникального контента. Такая возможность может позволить лицам со злым умыслом распространять различные рассказы, не прибегая к повторяющемуся контенту.
Несмотря на усилия таких платформ, как Telegram, Twitter и Facebook противодействуют фейковым аккаунтамэволюция языковых моделей угрожает насытить эти платформы более обманчивыми профилями. Винсент Конитцер, профессор информатики Университета Карнеги-Меллона, отметил, что передовые технологии, такие как ChatGPT, может значительно увеличить распространение поддельных профилей, что еще больше стирает границы между настоящими пользователями и автоматизированными учетными записями.
Недавние исследования, в том числе статья г-на Гольдштейна и отчет охранной фирмы WithSecure Intelligence, подчеркнули мастерство генеративные языковые модели в создании вводящих в заблуждение новостных статей. Эти ложные рассказы, когда они распространяются социальные платформы, может повлиять на общественное мнение, особенно в решающие избирательные периоды.
Росту дезинформации способствуют передовые системы искусственного интеллекта, такие как Chat-GPT возникает вопрос: должны ли онлайн-платформы принимать более активные меры? Хотя некоторые утверждают, что платформы должны строго отмечать сомнительный контент, проблемы сохраняются. Луис Нуньес Амарал, сотрудник Северо-Западного института сложных систем, прокомментировал трудности платформ, сославшись как на стоимость мониторинга каждого поста, так и на непреднамеренное повышение вовлеченности, которое вызывают такие вызывающие разногласия посты.
Подробнее об ИИ:
Отказ от ответственности
В соответствии с Руководство трастового проектаОбратите внимание, что информация, представленная на этой странице, не предназначена и не должна интерпретироваться как юридическая, налоговая, инвестиционная, финансовая или любая другая форма консультации. Важно инвестировать только то, что вы можете позволить себе потерять, и обращаться за независимой финансовой консультацией, если у вас есть какие-либо сомнения. Для получения дополнительной информации мы предлагаем обратиться к положениям и условиям, а также к страницам справки и поддержки, предоставленным эмитентом или рекламодателем. MetaversePost стремится предоставлять точную и объективную отчетность, однако рыночные условия могут быть изменены без предварительного уведомления.
Об авторе
Дамир — руководитель группы, менеджер по продукту и редактор в Metaverse Post, охватывающие такие темы, как AI/ML, AGI, LLM, Metaverse и Web3-связанные поля. Его статьи ежемесячно привлекают огромную аудиторию, насчитывающую более миллиона пользователей. Похоже, он эксперт с 10-летним опытом работы в области SEO и цифрового маркетинга. Дамир упоминается в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и другие издания. Он путешествует между ОАЭ, Турцией, Россией и СНГ в качестве цифрового кочевника. Дамир получил степень бакалавра в области физики, что, по его мнению, дало ему навыки критического мышления, необходимые для достижения успеха в постоянно меняющемся мире Интернета.
Другие статьи
Дамир — руководитель группы, менеджер по продукту и редактор в Metaverse Post, охватывающие такие темы, как AI/ML, AGI, LLM, Metaverse и Web3-связанные поля. Его статьи ежемесячно привлекают огромную аудиторию, насчитывающую более миллиона пользователей. Похоже, он эксперт с 10-летним опытом работы в области SEO и цифрового маркетинга. Дамир упоминается в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и другие издания. Он путешествует между ОАЭ, Турцией, Россией и СНГ в качестве цифрового кочевника. Дамир получил степень бакалавра в области физики, что, по его мнению, дало ему навыки критического мышления, необходимые для достижения успеха в постоянно меняющемся мире Интернета.
