GPT- juhitud rämpsposti robotid väljakutse veebiplatvormidele
Põgusalt
GPT- juhitud rämpspostirobotid on muutunud oluliseks probleemiks sellistel platvormidel nagu Twitter ja Telegram, mis on suunatud soovimatutele reklaamidele.
Need keerukad AI-programmid suudavad analüüsida ja kopeerida postituse konteksti, muutes nende häired orgaanilisemaks ja raskemini tuvastatavaks.
Tekkinud on uut tüüpi häired kujul GPT- juhitud rämpsposti robotid. Need keerukad tehisintellektiprogrammid on rämpspostiraamatus pööranud uue lehekülje, sihites sageli soovimatute reklaamidega postitusi sellistel platvormidel nagu Twitter ja Telegram.
Need GPT- Rämpspostirobotid suudavad analüüsida ja kopeerida postituse konteksti, mistõttu nende sekkumine tundub loomulikum ja raskemini märgatav kui tavaline rämpspost. See seab kahtluse alla traditsioonilised kaitsemeetmed, kuna paljud neist on ebatõhusad. Praegu saab neid roboteid tuvastada ainult nende kiire reageerimisaja järgi, mis võimaldab käsitsi sekkumist ja eemaldamist.
Pidev rämpspostitulva koormab loojaid ja administraatoreid. Paljud kanalioperaatorid sellistel platvormidel nagu Telegram on väljendanud oma soovi spetsiaalse teenuse järele, mis suudaks need keerukad rämpspostikommentaarid ära tunda ja kustutada vastuseks sellele kasvavale vajadusele. Need operaatorid, kes kujutavad endast "moderaatorit kui teenust", on valmis investeerima lahendusse ja on väljendanud valmisolekut maksta 20–30 dollarit kuus või kasutada kasutuspõhist arveldusmudelit, mis põhineb postituste või sõnumite arvul. mida jälgitakse.
Raskused ei lõpe aga sellega. On lähenemas laine GPT- rämpspostitajad, kes peaksid tehnoloogia arenedes muutuma veelgi osavamaks, kasutades võimalikke strateegiaid, nagu reageerimisviivitused või kasutades erinevaid tehisintellekti isiksusi, kes üksteisega suhtlevad. Inimkasutajate ja robotite eristamine sellistes olukordades muutub keeruliseks ülesandeks.
Isegi tehnikahiiglased maadlevad probleemiga. OpenAI astus sammu selle lahendamise suunas, töötades välja tekstidetektori, mis on loodud AI-ga loodud sisu tuvastamiseks. Kahjuks said nende jõupingutused tagasilöögi, kuna projekt lükati detektori madala täpsuse tõttu pooleli, nagu teatas TechCrunch 2023. aasta juulis.
Platvormide administraatorid ei ole ainsad, keda see suurenemine puudutab GPT-toitega rämpsposti robotid. Väljakutse eraldada autentne sisu tehisintellekti loodud esildistest seisavad nüüd silmitsi isegi sotsiaalmeedia juhtide ja idufirmadega. Asjaolu toob esile kiireloomulise vajaduse ja annab võimaluse uuteks algatusteks ja projektideks, mis võivad luua tõhusaid lahendusi kaasaegse ajastu täiustatud rämpspostitusmeetodite vastu võitlemiseks.
Keelemudelite edusammud ja veebipõhise valeinformatsiooni tagajärjed
Praktilisus ja inimeselähedane vestlusvalmidus GPT kasutajad on märkinud. Kuid samad võimalused, mis on selle imetluse võitnud, tekitavad muret selle võimaliku väärkasutuse pärast.
Arvestades tehisintellekti oskust matkida inimesesarnaseid reaktsioone, on selle kasutuselevõtt pahatahtlike kavatsustega seotud. Akadeemiliste ringkondade, küberjulgeoleku ja tehisintellekti sektori eksperdid rõhutavad selle võimalikku kasutamist GPT pahatahtlike isikute poolt propaganda levitamiseks või rahutuste soodustamiseks digitaalsetel platvormidel.
Ajalooliselt nõudis desinformatsiooni levitamine märkimisväärset inimeste sekkumist. Viimistletud keeletöötlussüsteemide kasutuselevõtt võib suurendada mõjutustoimingute ulatust ja ulatust sotsiaalmeedia sihtimine, mille tulemuseks on paremini kohandatud ja seega potentsiaalselt veenvamad kampaaniad.
Sotsiaalmeedia platvormid on varasematel juhtudel olnud tunnistajaks kooskõlastatud jõupingutustele valeinformatsiooni levitamiseks. Näiteks 2016. aasta USA valimiste eel tegi Peterburis asuv Interneti-uuringute agentuur käivitas ulatusliku kampaania. Nende eesmärk, mille järeldas Senati luurekomitee 2019. aastal, pidi mõjutama valijate ettekujutust presidendikandidaatidest.
Jaanuari aruandes rõhutati, et AI-põhine esilekerkimine keelemudelid võib suurendada eksitava sisu levitamist. Sisu ei saa mitte ainult suurendada mahtu, vaid ka parandada veenvat kvaliteeti, muutes tavalistele Interneti-kasutajatele väljakutseks selle autentsuse tuvastamine.
Josh Goldstein, mis on seotud Georgetowni turvalisuse ja areneva tehnoloogia keskusega ning uuringusse kaasaaitaja, mainis generatiivsete mudelite võimet väljastada suures koguses ainulaadset sisu. Selline võimalus võib võimaldada pahatahtlike kavatsustega inimestel levitada erinevaid narratiive, kasutamata korduvat sisu.
Vaatamata selliste platvormide nagu Telegram pingutustele, Twitter ja Facebook võltskontode vastu võitlemiseks, ähvardab keelemudelite areng neid platvorme petlikumate profiilidega küllastada. Carnegie Melloni ülikooli arvutiteaduse professor Vincent Conitzer märkis, et arenenud tehnoloogiad, nagu ChatGPT, võib oluliselt suurendada võltsprofiilide levikut, hägustab veelgi piire tõeliste kasutajate ja automatiseeritud kontode vahel.
Hiljutised uuringud, sealhulgas hr Goldsteini artikkel ja turvafirma WithSecure Intelligence aruanne, on rõhutanud generatiivsed keelemudelid petlike uudisteartiklite loomisel. Need valed narratiivid, kui neid edasi levitada sotsiaalsed platvormid, võib mõjutada avalikku arvamust, eriti otsustavatel valimisperioodidel.
Väärteabe levik, mida soodustavad arenenud AI-süsteemid, nagu Chat-GPT tekitab küsimuse: kas veebiplatvormid peaksid võtma ennetavamaid meetmeid? Kuigi mõned väidavad, et platvormid peaksid kahtlast sisu rangelt märgistama, on väljakutsed endiselt olemas. Luís A Nunes Amaral, kes on seotud Northwesterni keeruliste süsteemide instituudiga, kommenteeris platvormide võitlust, viidates nii iga postituse jälgimise kuludele kui ka tahtmatule kaasamisele, mida sellised lahkarvamusi tekitavad postitused kaasa toovad.
Loe AI kohta lähemalt:
Kaebused
Vastavalt Usaldusprojekti juhised, pange tähele, et sellel lehel esitatud teave ei ole mõeldud ega tohiks tõlgendada kui juriidilist, maksu-, investeerimis-, finants- või muud nõuannet. Oluline on investeerida ainult seda, mida saate endale lubada kaotada, ja kahtluste korral küsida sõltumatut finantsnõu. Lisateabe saamiseks soovitame vaadata nõudeid ja tingimusi ning väljaandja või reklaamija pakutavaid abi- ja tugilehti. MetaversePost on pühendunud täpsele ja erapooletule aruandlusele, kuid turutingimusi võidakse ette teatamata muuta.
Umbes Autor
Damir on ettevõtte meeskonnajuht, tootejuht ja toimetaja Metaverse Post, mis hõlmab selliseid teemasid nagu AI/ML, AGI, LLM-id, Metaverse ja Web3-seotud väljad. Tema artiklid meelitavad igal kuul tohutut vaatajaskonda, üle miljoni kasutaja. Ta näib olevat ekspert, kellel on 10-aastane SEO ja digitaalse turunduse kogemus. Damirit on mainitud ajakirjades Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muud väljaanded. Ta reisib digitaalse nomaadina AÜE, Türgi, Venemaa ja SRÜ vahel. Damir omandas bakalaureusekraadi füüsikas, mis on tema arvates andnud talle kriitilise mõtlemise oskused, mida on vaja pidevalt muutuval Interneti-maastikul edukaks saamiseks.
Veel artikleid
Damir on ettevõtte meeskonnajuht, tootejuht ja toimetaja Metaverse Post, mis hõlmab selliseid teemasid nagu AI/ML, AGI, LLM-id, Metaverse ja Web3-seotud väljad. Tema artiklid meelitavad igal kuul tohutut vaatajaskonda, üle miljoni kasutaja. Ta näib olevat ekspert, kellel on 10-aastane SEO ja digitaalse turunduse kogemus. Damirit on mainitud ajakirjades Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muud väljaanded. Ta reisib digitaalse nomaadina AÜE, Türgi, Venemaa ja SRÜ vahel. Damir omandas bakalaureusekraadi füüsikas, mis on tema arvates andnud talle kriitilise mõtlemise oskused, mida on vaja pidevalt muutuval Interneti-maastikul edukaks saamiseks.
