GPT-Driven Spam Bots Challenge Plataformes en línia
En breu
GPTEls robots de correu brossa s'han convertit en un problema important a plataformes com Twitter i Telegram, orientats a promocions no sol·licitades.
Aquests sofisticats programes d'IA poden analitzar i replicar el context d'una publicació, fent que la seva interferència sembli més orgànica i més difícil d'identificar.
Ha sorgit un nou tipus de pertorbació en forma de GPT-bots de correu brossa impulsats. Aquests sofisticats programes d'IA han convertit una pàgina nova al llibre de jocs de correu brossa, orientant-se sovint a publicacions a plataformes com Twitter i Telegram amb promocions no sol·licitades.
Aquests GPT-els robots de correu brossa poden analitzar i replicar el context d'una publicació, cosa que fa que la seva interferència sembli més natural i més difícil de detectar que el correu brossa senzill del passat. Les mesures de protecció tradicionals es veuen desafiades per això perquè moltes d'elles són ineficaces. Actualment, aquests robots només es poden identificar pels seus temps de resposta ràpids, cosa que permet la intervenció i l'eliminació manuals.
L'auge constant de correu brossa afecta els creadors i administradors. Molts operadors de canals de plataformes com Telegram han manifestat el seu desig d'un servei especialitzat que pugui reconèixer i eliminar aquests sofisticats comentaris de correu brossa en resposta a aquesta necessitat creixent. Aquests operadors, que es consideren "moderadors com a servei", estan disposats a invertir en una solució i han expressat la voluntat de pagar entre 20 i 30 dòlars al mes o d'utilitzar un model de facturació basat en l'ús basat en la quantitat de publicacions o missatges. que s'estan mirant.
La dificultat, però, no s'acaba aquí. Hi ha una onada imminent de GPT-els spammers que es preveu que esdevinguin encara més hàbils a mesura que avança la tecnologia, possiblement utilitzant estratègies com els retards de resposta o utilitzant diverses personalitats d'IA que interactuen entre elles. Diferenciar entre usuaris humans i robots en aquestes circumstàncies es converteix en una tasca difícil.
Fins i tot gegants tecnològics estan lluitant amb el tema. OpenAI va fer un pas per resoldre això amb el desenvolupament d'un detector de text dissenyat per identificar contingut generat per IA. Malauradament, els seus esforços es van enfrontar a un revés, ja que el projecte es va suspendre a causa de la poca precisió del detector, segons va informar TechCrunch el juliol de 2023.
Els administradors de la plataforma no són els únics afectats per l'augment GPT-bots de correu brossa amb motor. El repte de separar el contingut autèntic dels enviaments generats per IA ara s'enfronta fins i tot als gestors de xarxes socials i a les startups. La circumstància posa de manifest una necessitat urgent i presenta una oportunitat per a noves iniciatives i projectes que puguin crear solucions eficients per contrarestar els mètodes avançats de correu brossa de l'era moderna.
Avenços en models lingüístics i implicacions per a la desinformació en línia
La practicitat i l'aptitud conversacional gairebé humana de GPT han estat observades pels usuaris. No obstant això, les mateixes capacitats que li han guanyat admiració també generen preocupacions sobre el seu potencial mal ús.
Atesa la competència de l'IA per imitar respostes semblants a les humanes, hi ha temors al voltant del seu desplegament per a intencions malicioses. Experts dels sectors acadèmics, de ciberseguretat i d'IA destaquen l'ús potencial de GPT per persones malintencionades per difondre propaganda o fomentar el malestar a les plataformes digitals.
Històricament, la propagació de la desinformació exigia una intervenció humana important. La introducció de sistemes refinats de processament del llenguatge pot augmentar l'escala i l'abast de les operacions d'influència dirigida a les xarxes socials, donant lloc a campanyes més personalitzades i, per tant, potencialment més convincents.
Les plataformes de xarxes socials, en casos anteriors, han estat testimonis d'esforços coordinats per difondre desinformació. Per exemple, durant el període previ a les eleccions nord-americanes de 2016, l'Internet Research Agency, amb seu a Sant Petersburg, va posar en marxa una campanya expansiva. El seu objectiu, tal com va deduir el Comitè d'Intel·ligència del Senat el 2019, va incidir en la percepció de l'electorat cap als candidats presidencials.
L'informe de gener va destacar que l'aparició de la intel·ligència artificial impulsada models lingüístics podria augmentar la difusió de contingut enganyós. El contingut no només podria augmentar en volum, sinó també millorar en qualitat persuasiva, cosa que fa que sigui un repte per als usuaris mitjans d'Internet discernir-ne l'autenticitat.
Josh Goldstein, afiliat al Centre de Seguretat i Tecnologia Emergent de Georgetown i col·laborador de l'estudi, va esmentar la capacitat dels models generatius per produir grans volums de contingut únic. Aquesta capacitat podria permetre que les persones amb intenció malintencionada facin circular narracions variades sense recórrer a contingut repetitiu.
Malgrat els esforços de plataformes com Telegram, Twitter i Facebook per contrarestar els comptes falsos, l'evolució dels models lingüístics amenaça de saturar aquestes plataformes amb perfils més enganyosos. Vincent Conitzer, professor d'informàtica a la Universitat Carnegie Mellon, va assenyalar que les tecnologies avançades, com ara ChatGPT, podria augmentar significativament la proliferació de perfils falsificats, difuminant encara més les línies entre els usuaris reals i els comptes automatitzats.
Estudis recents, inclòs el document del Sr. Goldstein i un informe de l'empresa de seguretat WithSecure Intelligence, han destacat la competència de models de llenguatge generatiu en l'elaboració d'articles de notícies enganyosos. Aquestes narracions falses, quan es van circular plataformes socials, podria influir en l'opinió pública, especialment durant períodes electorals crucials.
L'augment de la desinformació facilitada per sistemes avançats d'IA com ara Chat-GPT planteja la pregunta: les plataformes en línia haurien de prendre mesures més proactives? Tot i que alguns argumenten que les plataformes haurien de marcar amb rigor contingut dubtós, els reptes persisteixen. Luís A Nunes Amaral, associat al Northwestern Institute on Complex Systems, va comentar les lluites de les plataformes, citant tant el cost del seguiment de cada publicació com l'impuls de participació inadvertida que aporten aquestes publicacions divisories.
Llegeix més sobre AI:
renúncia
En línia amb la Directrius del projecte Trust, si us plau, tingueu en compte que la informació proporcionada en aquesta pàgina no pretén ni s'ha d'interpretar com a assessorament legal, fiscal, d'inversió, financer o de cap altra forma. És important invertir només el que et pots permetre perdre i buscar assessorament financer independent si tens dubtes. Per obtenir més informació, us suggerim que feu referència als termes i condicions, així com a les pàgines d'ajuda i assistència proporcionades per l'emissor o l'anunciant. MetaversePost es compromet a fer informes precisos i imparcials, però les condicions del mercat estan subjectes a canvis sense previ avís.
About The Autor
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
més articles
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
