GPTОнлайн-платформи, керовані спам-ботами
Коротко
GPTСпам-боти, керовані спамом, стали серйозною проблемою на таких платформах, як Twitter і Telegram, націлені на небажані рекламні акції.
Ці складні програми штучного інтелекту можуть аналізувати та копіювати контекст публікації, завдяки чому їхнє втручання виглядає більш органічним і його важче ідентифікувати.
Виник новий тип порушення у вигляді GPTкеровані спам-ботами. Ці складні програми зі штучним інтелектом відкрили нову сторінку в книзі спаму, часто націлюючи повідомлення на таких платформах, як Twitter і Telegram, з небажаною рекламою.
Ці GPT-спам-боти можуть аналізувати та копіювати контекст публікації, що робить їхнє втручання більш природним і його важче помітити, ніж звичайний спам минулого. Традиційні захисні заходи викликають виклик, оскільки багато з них неефективні. Наразі цих ботів можна ідентифікувати лише за швидким часом відповіді, що дозволяє вручну втрутитися та видалити.
Постійний шквал спаму зношує творців і адміністраторів. Багато операторів каналів на таких платформах, як Telegram, заявили про бажання створити спеціалізований сервіс, який міг би розпізнавати та видаляти ці складні спам-коментарі у відповідь на зростаючу потребу. Ці оператори, які уявляють себе «модераторами як послугою», готові інвестувати в рішення та висловили готовність платити 20–30 доларів США на місяць або використовувати модель виставлення рахунків на основі використання на основі кількості публікацій або повідомлень. за якими спостерігають.
Однак на цьому труднощі не закінчуються. Наближається хвиля GPT- розповсюджувачі спаму, які, як очікується, стануть ще більш досвідченими в міру розвитку технологій, можливо, використовуючи такі стратегії, як затримки відповіді або використовуючи різні особистості ШІ, які взаємодіють один з одним. Розрізнення між людьми-користувачами та ботами за таких обставин стає складним завданням.
Навіть технічні гіганти борються з проблемою. OpenAI зробили крок до вирішення цієї проблеми, розробивши детектор тексту, призначений для ідентифікації створеного ШІ контенту. На жаль, їхні зусилля зазнали невдачі, оскільки проект було відкладено через низьку точність детектора, як повідомляв TechCrunch у липні 2023 року.
Адміністратори платформи не єдині, хто стурбований збільшенням GPT-активні спам-боти. Проблема відокремлення автентичного контенту від матеріалів, згенерованих штучним інтелектом, тепер стоїть навіть перед менеджерами соціальних мереж і стартапами. Ця обставина підкреслює нагальну потребу та дає шанс для нових ініціатив і проектів, які можуть створити ефективні рішення для протидії передовим методам спаму сучасної епохи.
Удосконалення мовних моделей і наслідки для дезінформації в Інтернеті
Практичність і навички майже людської розмови GPT були відзначені користувачами. Однак ті самі можливості, які викликали захоплення, також викликають занепокоєння щодо можливого неправильного використання.
Враховуючи вміння штучного інтелекту імітувати відповіді, подібні до людських, існують побоювання щодо його використання для зловмисних намірів. Експерти з наукових кіл, кібербезпеки та штучного інтелекту підкреслюють потенційне використання GPT особами з недобрими намірами для поширення пропаганди або розпалювання заворушень на цифрових платформах.
Історично поширення дезінформації вимагало значного людського втручання. Запровадження вдосконалених систем обробки мови може збільшити масштаб і охоплення операцій впливу націлювання на соціальні мережі, що призводить до більш адаптованих і, отже, потенційно більш переконливих кампаній.
Платформи соціальних мереж у попередніх випадках були свідками скоординованих зусиль з поширення дезінформації. Наприклад, під час підготовки до виборів у США 2016 року Агентство інтернет-досліджень, що базується в Санкт-Петербурзі, розгорнув широку кампанію. Їх мета, згідно з висновком Сенатського комітету з розвідки в 2019 році, мало вплинути на сприйняття електоратом кандидатів у президенти.
У січневому звіті підкреслюється, що поява штучного інтелекту керується мовні моделі може сприяти поширенню оманливого вмісту. Контент може не тільки збільшитися в обсязі, але й покращитися в переконливій якості, що ускладнить пересічним користувачам Інтернету визначення його автентичності.
Джош Голдштейн, пов’язаний з Джорджтаунським центром безпеки та нових технологій і учасником дослідження, згадав здатність генеративних моделей створювати великі обсяги унікального вмісту. Така можливість могла б дозволити особам зі злими намірами поширювати різноманітні оповіді, не вдаючись до повторюваного вмісту.
Незважаючи на зусилля таких платформ, як Telegram, Twitter і Facebook для боротьби з фейковими акаунтами, еволюція мовних моделей загрожує наситити ці платформи більш оманливими профілями. Вінсент Конітцер, професор інформатики в Університеті Карнегі-Меллона, зазначив, що передові технології, такі як ChatGPT, може значно прискорити поширення підроблених профілів, ще більше стираючи межі між справжніми користувачами та автоматизованими обліковими записами.
Нещодавні дослідження, зокрема стаття пана Голдштейна та звіт охоронної фірми WithSecure Intelligence, підкреслили майстерність генеративні моделі мови у створенні оманливих новинних статей. Ці неправдиві наративи, коли поширюються далі соціальні платформи, може вплинути на громадську думку, особливо під час вирішальних періодів виборів.
Зростання дезінформації, якому сприяють передові системи ШІ, такі як Chat-GPT спонукає до запитання: чи повинні онлайн-платформи вживати більш активних заходів? Хоча деякі стверджують, що платформи повинні суворо позначати сумнівний вміст, проблеми залишаються. Луїс А Нунес Амарал, співробітник Північно-Західного інституту складних систем, прокоментував проблеми платформ, посилаючись на вартість моніторингу кожної публікації та ненавмисне підвищення залученості, яке приносять такі суперечливі публікації.
Докладніше про ШІ:
відмова
Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.
про автора
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
інші статті
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
