GPTSpletne platforme, ki jih poganjajo vsiljeni roboti, izzivajo
Na kratko
GPTBoti za neželeno pošto, ki jih poganjajo, so postali pomembna težava na platformah, kot sta Twitter in Telegram, saj ciljajo na nezaželene promocije.
Ti sofisticirani programi umetne inteligence lahko analizirajo in posnemajo kontekst objave, zaradi česar so njihove motnje videti bolj organske in težje prepoznavne.
Pojavila se je nova vrsta motenj v obliki GPT-poganjani roboti za neželeno pošto. Ti sofisticirani programi z umetno inteligenco so obrnili novo stran v knjigi neželene e-pošte in pogosto ciljajo na objave na platformah, kot sta Twitter in Telegram, z nezaželenimi promocijami.
te GPT- roboti za neželeno pošto lahko analizirajo in posnemajo kontekst objave, zaradi česar je njihovo vmešavanje videti bolj naravno in težje opazno kot navadna neželena pošta iz preteklosti. Tradicionalni zaščitni ukrepi so zaradi tega izpodbijani, saj so mnogi med njimi neučinkoviti. Trenutno je te bote mogoče prepoznati le po hitrem odzivnem času, ki omogoča ročno posredovanje in odstranitev.
Ustvarjalce in skrbnike nenehno obremenjuje neželena pošta. Številni operaterji kanalov na platformah, kot je Telegram, so izrazili željo po specializirani storitvi, ki bi lahko prepoznala in izbrisala te sofisticirane neželene komentarje kot odgovor na to naraščajočo potrebo. Ti operaterji, ki se predstavljajo kot »moderatorji kot storitev«, so pripravljeni vlagati v rešitev in so izrazili pripravljenost plačati 20–30 USD na mesec ali uporabiti model zaračunavanja na podlagi uporabe glede na količino objav ali sporočil. ki se gledajo.
Težave pa se tukaj ne končajo. Bliža se val GPT- pošiljatelji neželene pošte, za katere se pričakuje, da bodo z napredkom tehnologije postali še bolj usposobljeni, po možnosti z uporabo strategij, kot so zakasnitve odziva, ali z uporabo različnih osebnosti AI, ki medsebojno delujejo. Razlikovanje med človeškimi uporabniki in boti v takih okoliščinah postane zahtevna naloga.
Tudi tehnični velikani se spopadajo s tem vprašanjem. OpenAI naredili korak k rešitvi tega z razvojem detektorja besedila, zasnovanega za prepoznavanje vsebine, ki jo ustvari umetna inteligenca. Na žalost so njihova prizadevanja nazadovala, saj je bil projekt odložen zaradi nizke natančnosti detektorja, kot je poročal TechCrunch julija 2023.
Skrbniki platforme niso edini, ki jih skrbi povečanje GPT-boti za neželeno pošto. Z izzivom ločevanja verodostojne vsebine od prispevkov, ustvarjenih z umetno inteligenco, se zdaj soočajo celo upravitelji družbenih medijev in novoustanovljena podjetja. Okoliščina poudarja nujno potrebo in predstavlja priložnost za nove pobude in projekte, ki lahko ustvarijo učinkovite rešitve za boj proti naprednim metodam pošiljanja neželene elektronske pošte moderne dobe.
Napredek v jezikovnih modelih in posledice za spletne dezinformacije
Praktičnost in skoraj človeška sposobnost pogovora GPT so opazili uporabniki. Vendar pa iste zmogljivosti, ki so mu prinesle občudovanje, vzbujajo tudi pomisleke glede njegove morebitne zlorabe.
Glede na sposobnost umetne inteligence pri posnemanju odzivov, podobnih človeškim, obstajajo bojazni glede njegove uporabe zaradi zlonamernih namenov. Strokovnjaki iz akademskih krogov, kibernetske varnosti in sektorjev umetne inteligence poudarjajo potencialno uporabo GPT slabonamerni posamezniki za širjenje propagande ali spodbujanje nemirov na digitalnih platformah.
V preteklosti je širjenje dezinformacij zahtevalo znatno človeško posredovanje. Uvedba izpopolnjenih sistemov za obdelavo jezika lahko poveča obseg in doseg vplivanja ciljanje na družbena omrežja, kar ima za posledico bolj prilagojene in zato potencialno bolj prepričljive kampanje.
Platforme družbenih medijev so bile v prejšnjih primerih priča usklajenim prizadevanjem za širjenje dezinformacij. Na primer, med pripravami na volitve v ZDA leta 2016 je Agencija za internetne raziskave s sedežem v St. začela obsežno kampanjo. Njihov cilj, kot ga je ugotovil senatni odbor za obveščevalne zadeve leta 2019, vplivati na dojemanje volivcev do predsedniških kandidatov.
Januarsko poročilo je poudarilo, da pojav umetne inteligence poganja jezikovni modeli lahko poveča širjenje zavajajoče vsebine. Vsebina se je lahko povečala ne samo v obsegu, temveč tudi izboljšala v prepričljivi kakovosti, zaradi česar je za povprečne uporabnike interneta izziv, da prepoznajo njeno pristnost.
Josh Goldstein, ki je povezan z Georgetownovim centrom za varnost in nastajajočo tehnologijo in je prispeval k študiji, je omenil sposobnost generativnih modelov, da ustvarijo velike količine edinstvene vsebine. Takšna zmožnost bi lahko posameznikom z zlonamernimi nameni omogočila kroženje različnih pripovedi brez zatekanja k ponavljajočim se vsebinam.
Kljub prizadevanjem platform, kot je Telegram, Twitter in Facebook za boj proti lažnim računomevolucija jezikovnih modelov grozi, da bo te platforme nasičila z več zavajajočimi profili. Vincent Conitzer, profesor računalništva na univerzi Carnegie Mellon, je opozoril, da napredne tehnologije, kot je npr. ChatGPT, bi lahko znatno spodbudila širjenje ponarejenih profilov, kar dodatno briše meje med pristnimi uporabniki in avtomatiziranimi računi.
Nedavne študije, vključno s prispevkom g. Goldsteina in poročilom varnostnega podjetja WithSecure Intelligence, so poudarile strokovnost generativni jezikovni modeli pri ustvarjanju zavajajočih novic. Te lažne pripovedi, ko se širijo naprej socialne platforme, bi lahko vplivala na javno mnenje, zlasti v ključnih volilnih obdobjih.
Porast napačnih informacij, ki ga omogočajo napredni sistemi umetne inteligence, kot je Chat-GPT postavlja vprašanje: Ali bi morale spletne platforme sprejeti bolj proaktivne ukrepe? Medtem ko nekateri trdijo, da bi morale platforme strogo označevati dvomljivo vsebino, izzivi ostajajo. Luís A Nunes Amaral, povezan z Northwestern Institute on Complex Systems, je komentiral težave platform, pri čemer je navedel tako stroške spremljanja vsake objave kot nenamerno povečanje angažiranosti, ki ga prinašajo takšne delitvene objave.
Preberite več o AI:
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
več člankov
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
