GPT-Стимулирани спам ботове предизвикват онлайн платформи
Накратко
GPTуправлявани от спам ботове се превърнаха в значителен проблем на платформи като Twitter и Telegram, насочени към нежелани промоции.
Тези усъвършенствани AI програми могат да анализират и възпроизвеждат контекста на публикация, правейки намесата им да изглежда по-органична и по-трудна за идентифициране.
Появи се нов тип смущение под формата на GPT-управлявани спам ботове. Тези усъвършенствани програми с изкуствен интелект обърнаха нова страница в книгата за спам, като често се насочват към публикации в платформи като Twitter и Telegram с непоискани промоции.
тези GPT- спам ботовете могат да анализират и възпроизвеждат контекста на публикация, което прави тяхната намеса да изглежда по-естествена и по-трудна за забелязване от обикновения спам от миналото. Традиционните защитни мерки са предизвикани от това, тъй като много от тях са неефективни. Понастоящем тези ботове могат да бъдат идентифицирани само чрез бързо време за реакция, което позволява ръчна намеса и премахване.
Постоянният бараж от спам изтощава създателите и администраторите. Много оператори на канали на платформи като Telegram са заявили желанието си за специализирана услуга, която може да разпознава и изтрива тези сложни спам коментари в отговор на тази нарастваща нужда. Тези оператори, които си представят себе си като „модератори като услуга“, са готови да инвестират в решение и са изразили готовност да плащат $20-30 на месец или да използват модел на таксуване, базиран на използването, въз основа на количеството публикации или съобщения които се наблюдават.
Трудностите обаче не свършват до тук. Има предстояща вълна от GPT-разпространителите на нежелана поща, за които се очаква да станат още по-квалифицирани с напредването на технологиите, вероятно използвайки стратегии като забавяне на отговора или използване на различни AI личности, които взаимодействат помежду си. Разграничаването между човешки потребители и ботове при такива обстоятелства се превръща в предизвикателна задача.
Дори техно гиганти се борят с проблема. OpenAI направи крачка към разрешаването на това с разработването на текстов детектор, предназначен да идентифицира генерирано от AI съдържание. За съжаление усилията им се сблъскаха с неуспех, тъй като проектът беше отложен поради ниската точност на детектора, както беше съобщено от TechCrunch през юли 2023 г.
Администраторите на платформата не са единствените, които са обезпокоени от увеличаването на GPT-задвижвани спам ботове. Предизвикателството за отделяне на автентичното съдържание от генерираните от AI подавания сега е изправено дори пред мениджъри на социални медии и стартиращи фирми. Обстоятелството подчертава спешна нужда и предоставя шанс за нови инициативи и проекти, които могат да създадат ефективни решения за противодействие на напредналите методи за спам на модерната епоха.
Напредък в езиковите модели и последици за онлайн дезинформацията
Практичността и почти човешките способности за разговор на GPT са отбелязани от потребителите. Въпреки това, същите способности, които му спечелиха възхищение, също предизвикват опасения относно потенциалната му злоупотреба.
Като се има предвид уменията на AI да имитира човешки реакции, има опасения около внедряването му за злонамерени намерения. Експерти от академичните среди, секторите на киберсигурността и ИИ подчертават потенциалното използване на GPT от недобронамерени лица за разпространяване на пропаганда или насърчаване на безредици в цифрови платформи.
В исторически план разпространението на дезинформация изисква значителна човешка намеса. Въвеждането на усъвършенствани системи за езикова обработка може да увеличи мащаба и обхвата на операциите за влияние насочени към социалните медии, което води до по-специализирани и следователно потенциално по-убедителни кампании.
Платформите за социални медии в предишни случаи са били свидетели на координирани усилия за разпространение на дезинформация. Например, по време на подготовката за изборите в САЩ през 2016 г., Агенцията за интернет изследвания, базирана в Санкт Петербург, стартира широка кампания. Тяхната цел, както е заключено от комисията по разузнаването на Сената през 2019 г., трябваше да повлияе на възприятието на електората спрямо кандидатите за президент.
В доклада от януари се подчертава, че появата на AI-driven езикови модели може да увеличи разпространението на подвеждащо съдържание. Съдържанието може не само да увеличи обема си, но и да подобри убедителното си качество, което прави предизвикателство за средните интернет потребители да разпознаят неговата автентичност.
Джош Голдщайн, свързан с Центъра за сигурност и нововъзникващи технологии в Джорджтаун и сътрудник на проучването, спомена способността на генеративните модели да произвеждат големи обеми уникално съдържание. Подобна способност може да позволи на лица със злонамерени намерения да разпространяват разнообразни разкази, без да прибягват до повтарящо се съдържание.
Въпреки усилията на платформи като Telegram, Twitter и Facebook за противодействие на фалшивите акаунти, еволюцията на езиковите модели заплашва да насити тези платформи с още измамни профили. Винсент Конитцер, професор по компютърни науки в университета Карнеги Мелън, отбеляза, че напредналите технологии, като напр. ChatGPT, може значително да стимулира разпространението на фалшиви профили, което допълнително заличава границите между истинските потребители и автоматизираните акаунти.
Скорошни проучвания, включително статията на г-н Голдщайн и доклад на фирмата за сигурност WithSecure Intelligence, подчертаха уменията на генеративни езикови модели в изработването на измамни новинарски статии. Тези фалшиви разкази, когато се разпространяват социални платформи, биха могли да повлияят на общественото мнение, особено по време на решаващи изборни периоди.
Нарастването на дезинформацията, улеснена от усъвършенствани AI системи като Chat-GPT предизвиква въпроса: Трябва ли онлайн платформите да предприемат по-проактивни мерки? Докато някои твърдят, че платформите трябва стриктно да маркират съмнително съдържание, предизвикателствата продължават. Luís A Nunes Amaral, свързан със Северозападния институт за сложни системи, коментира борбите на платформите, цитирайки както разходите за наблюдение на всяка публикация, така и непреднамереното повишаване на ангажираността, което носят такива разделящи публикации.
Прочетете повече за AI:
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
Още статии
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
