GPTСпам ботови изазивају онлајн платформе
Укратко
GPTСпам ботови су постали значајан проблем на платформама као што су Твиттер и Телеграм, циљајући на нежељене промоције.
Ови софистицирани АИ програми могу да анализирају и реплицирају контекст објаве, чинећи да њихово мешање изгледа органскије и теже за идентификацију.
Појавила се нова врста поремећаја у виду GPT- вођени спам ботови. Ови софистицирани АИ програми окренули су нову страницу у свези нежељене поште, често циљајући објаве на платформама као што су Твиттер и Телеграм са нежељеним промоцијама.
Ово GPT-спам ботови могу да анализирају и реплицирају контекст објаве, због чега њихово мешање изгледа природније и теже уочљиво од обичне нежељене поште из прошлости. Традиционалне заштитне мере су доведене у питање због тога што су многе од њих неефикасне. Тренутно се ови ботови могу идентификовати само по њиховом брзом времену одзива, што омогућава ручну интервенцију и уклањање.
Константна баража нежељене поште оптерећује креаторе и администраторе. Многи оператери канала на платформама попут Телеграма изразили су жељу за специјализованом услугом која може препознати и избрисати ове софистициране нежељене коментаре као одговор на ову растућу потребу. Ови оператери, који себе замишљају као „модераторе као услугу“, спремни су да уложе у решење и изразили су спремност да плате 20–30 долара месечно или да користе модел наплате заснован на коришћењу заснован на количини постова или порука који се посматрају.
Тешкоћа се, међутим, овде не завршава. Предстоји талас од GPT-спамери за које се очекује да ће постати још вештији како технологија напредује, вероватно користећи стратегије као што су кашњење одговора или коришћење различитих АИ личности које међусобно комуницирају. Разликовање између људских корисника и ботова у таквим околностима постаје изазован задатак.
Чак техно дивови се боре са проблемом. OpenAI је направио корак ка решавању овога са развојем детектора текста дизајнираног да идентификује садржај генерисан вештачком интелигенцијом. Нажалост, њихови напори су се суочили са неуспехом јер је пројекат одложен због ниске тачности детектора, како је известио ТецхЦрунцх у јулу 2023.
Администратори платформе нису једини који су забринути због повећања GPT-покренути спам ботови. Изазов одвајања аутентичног садржаја од поднесака генерисаних вештачком интелигенцијом сада се суочавају чак и са менаџерима друштвених медија и стартапима. Ова околност наглашава хитну потребу и представља шансу за нове иницијативе и пројекте који могу створити ефикасна решења за супротстављање напредним методама спама у модерној ери.
Напредак у језичким моделима и импликације за дезинформације на мрежи
Практичност и готово људска способност за разговор GPT су приметили корисници. Међутим, исте способности које су му изазвале дивљење такође изазивају забринутост у вези са његовом потенцијалном злоупотребом.
С обзиром на вештину вештачке интелигенције у опонашању људских одговора, постоји бојазан у вези са њеном применом због злонамерних намера. Стручњаци из академских, сајбер-безбедности и АИ сектора наглашавају потенцијалну употребу GPT недобронамерних појединаца да шире пропаганду или подстичу немире на дигиталним платформама.
Историјски гледано, пропагирање дезинформација је захтевало значајну људску интервенцију. Увођење префињених система за обраду језика може повећати обим и домет операција утицаја циљање друштвених медија, што резултира прилагођенијим, а самим тим и потенцијално убедљивијим кампањама.
Платформе друштвених медија су у претходним случајевима биле сведоци координисаних напора да се шире дезинформације. На пример, током пред изборе у САД 2016. године, Агенција за интернет истраживање са седиштем у Санкт Петербургу, покренуо експанзивну кампању. Њихов циљ, како је закључио Одбор за обавјештајне послове Сената 2019. требало да утиче на перцепцију бирачког тела према председничким кандидатима.
Јануарски извештај је нагласио да је појава вођена вештачком интелигенцијом језички модели може повећати ширење обмањујућег садржаја. Садржај би могао не само да се повећа у обиму, већ и да побољша убедљив квалитет, што представља изазов за просечне кориснике интернета да разазнају његову аутентичност.
Јосх Голдстеин, повезан са Џорџтауновим Центром за безбедност и нове технологије и сарадник у студији, поменуо је способност генеративних модела да произведу велике количине јединственог садржаја. Таква способност може омогућити појединцима са злонамерним намерама да круже различите наративе без прибегавања садржају који се понавља.
Упркос напорима платформи попут Телеграма, Твитер и Фејсбук за борбу против лажних налога, еволуција језичких модела прети да засити ове платформе варљивијим профилима. Винцент Цонитзер, професор информатике на Универзитету Царнегие Меллон, приметио је да напредне технологије, као нпр. ChatGPT, може значајно да подстакне пролиферацију фалсификованих профила, додатно бришући границе између правих корисника и аутоматизованих налога.
Недавне студије, укључујући рад г. Голдстеина и извештај безбедносне фирме ВитхСецуре Интеллигенце, истакле су стручност генеративни језички модели у изради обмањујућих новинских чланака. Ови лажни наративи, када се круже даље социјалне платформе, могло утицати на јавно мњење, посебно током кључних изборних периода.
Пораст дезинформација олакшан напредним системима вештачке интелигенције као што је ћаскањеGPT поставља питање: да ли онлајн платформе треба да предузму проактивније мере? Док неки тврде да би платформе требало ригорозно означити сумњив садржај, изазови и даље постоје. Луис А Нунес Амарал, повезан са Северозападним институтом за сложене системе, прокоментарисао је проблеме платформи, наводећи и трошкове праћења сваке објаве и ненамерно ангажовање које подстиче такве постове које изазивају поделе.
Прочитајте више о АИ:
Одрицање од одговорности
У складу са Смернице пројекта Труст, имајте на уму да информације дате на овој страници нису намењене и не треба да се тумаче као правни, порески, инвестициони, финансијски или било који други облик савета. Важно је да инвестирате само оно што можете приуштити да изгубите и да тражите независан финансијски савет ако сумњате. За додатне информације, предлажемо да погледате одредбе и услове, као и странице помоћи и подршке које пружа издавач или оглашивач. MetaversePost је посвећен тачном, непристрасном извештавању, али тржишни услови су подложни променама без претходне најаве.
О аутору
Дамир је вођа тима, менаџер производа и уредник у Metaverse Post, покривајући теме као што су АИ/МЛ, АГИ, ЛЛМ, Метаверсе и Web3-сродна поља. Његови чланци привлаче огромну публику од преко милион корисника сваког месеца. Чини се да је стручњак са 10 година искуства у СЕО и дигиталном маркетингу. Дамир се помиње у Масхабле, Виред, Cointelegraph, Тхе Нев Иоркер, Инсиде.цом, Ентрепренеур, БеИнЦрипто и друге публикације. Путује између УАЕ, Турске, Русије и ЗНД као дигитални номад. Дамир је стекао диплому физике, за коју верује да му је дало вештине критичког размишљања које су му потребне да буде успешан у свету интернета који се стално мења.
više чланака
Дамир је вођа тима, менаџер производа и уредник у Metaverse Post, покривајући теме као што су АИ/МЛ, АГИ, ЛЛМ, Метаверсе и Web3-сродна поља. Његови чланци привлаче огромну публику од преко милион корисника сваког месеца. Чини се да је стручњак са 10 година искуства у СЕО и дигиталном маркетингу. Дамир се помиње у Масхабле, Виред, Cointelegraph, Тхе Нев Иоркер, Инсиде.цом, Ентрепренеур, БеИнЦрипто и друге публикације. Путује између УАЕ, Турске, Русије и ЗНД као дигитални номад. Дамир је стекао диплому физике, за коју верује да му је дало вештине критичког размишљања које су му потребне да буде успешан у свету интернета који се стално мења.
