GPT-Driven Spam Bots Challenge Online Platforms
Sa madaling sabi
GPTAng mga spam bot na hinimok ay naging isang makabuluhang isyu sa mga platform tulad ng Twitter at Telegram, na nagta-target ng mga hindi hinihinging promosyon.
Maaaring suriin at kopyahin ng mga sopistikadong AI program na ito ang konteksto ng isang post, na ginagawang mas organiko at mas mahirap tukuyin ang kanilang interference.
Isang bagong uri ng kaguluhan ang lumitaw sa anyo ng GPT-driven na mga spam bot. Ang mga sopistikadong AI program na ito ay naging bagong pahina sa spam playbook, na madalas na nagta-target ng mga post sa mga platform gaya ng Twitter at Telegram na may mga hindi hinihinging promosyon.
mga ito GPT-Maaaring suriin at gayahin ng mga spam bot ang konteksto ng isang post, na ginagawang mas natural at mas mahirap makita ang kanilang interference kaysa sa plain spam ng nakaraan. Hinahamon nito ang mga tradisyunal na hakbang sa proteksyon dahil marami sa mga ito ay hindi epektibo. Sa kasalukuyan, ang mga bot na ito ay makikilala lamang sa pamamagitan ng kanilang mabilis na mga oras ng pagtugon, na nagbibigay-daan sa manu-manong interbensyon at pag-alis.
Ang patuloy na pagdagsa ng spam ay napupunta sa mga creator at administrator. Maraming mga channel operator sa mga platform tulad ng Telegram ang nagpahayag ng kanilang pagnanais para sa isang espesyal na serbisyo na maaaring makilala at tanggalin ang mga sopistikadong komento sa spam bilang tugon sa lumalaking pangangailangan na ito. Ang mga operator na ito, na iniisip ang kanilang sarili bilang "mga moderator bilang isang serbisyo," ay handang mamuhunan sa isang solusyon at nagpahayag ng pagpayag na magbayad ng $20–30 bawat buwan o gumamit ng modelo ng pagsingil na nakabatay sa paggamit batay sa dami ng mga post o mensahe na pinapanood.
Ang kahirapan, gayunpaman, ay hindi nagtatapos dito. May paparating na alon ng GPT-mga spammer na inaasahang magiging mas bihasa habang umuunlad ang teknolohiya, posibleng gumamit ng mga diskarte tulad ng pagkaantala sa pagtugon o paggamit ng iba't ibang personalidad ng AI na nakikipag-ugnayan sa isa't isa. Ang pagkakaiba sa pagitan ng mga user ng tao at mga bot sa ganitong mga sitwasyon ay nagiging isang mapaghamong gawain.
Kahit na mga higanteng tech ay nakikipagbuno sa isyu. OpenAI gumawa ng isang hakbang patungo sa paglutas nito sa pagbuo ng isang text detector na idinisenyo upang tukuyin ang nilalamang binuo ng AI. Sa kasamaang palad, ang kanilang mga pagsusumikap ay nahaharap sa isang pag-urong dahil ang proyekto ay natigil dahil sa mababang katumpakan ng detector, tulad ng iniulat ng TechCrunch noong Hulyo 2023.
Hindi lang ang mga administrator ng platform ang nababahala sa pagtaas ng in GPT-pinalakas na mga spam bot. Ang hamon ng paghihiwalay ng tunay na nilalaman mula sa mga isinumiteng binuo ng AI ay nahaharap na ngayon kahit sa mga social media manager at mga startup. Itinatampok ng sitwasyon ang isang agarang pangangailangan at nagpapakita ng pagkakataon para sa mga bagong inisyatiba at proyekto na maaaring lumikha ng mahusay na mga solusyon upang kontrahin ang mga advanced na paraan ng spamming ng modernong panahon.
Mga Pagsulong sa Mga Modelo ng Wika at Implikasyon para sa Online na Maling Impormasyon
Ang pagiging praktikal at malapit sa tao sa pakikipag-usap na kakayahan ng GPT ay napansin ng mga gumagamit. Gayunpaman, ang parehong mga kakayahan na nakakuha ng paghanga dito ay nagdudulot din ng mga alalahanin tungkol sa potensyal na maling paggamit nito.
Dahil sa kahusayan ng AI sa paggaya sa mga tugon na tulad ng tao, may mga pangamba na pumapalibot sa pag-deploy nito para sa mga malisyosong layunin. Binibigyang-diin ng mga eksperto sa buong academia, cybersecurity, at AI ang potensyal na paggamit ng GPT ng mga indibidwal na may masamang intensyon na magpakalat ng propaganda o magsulong ng kaguluhan sa mga digital platform.
Sa kasaysayan, ang pagpapalaganap ng maling impormasyon ay nangangailangan ng makabuluhang interbensyon ng tao. Ang pagpapakilala ng mga sistema ng pinoprosesong wika ay maaaring palakihin ang sukat at abot ng mga operasyon ng impluwensya pag-target sa social media, na nagreresulta sa mas iniayon, at samakatuwid, potensyal na mas nakakumbinsi na mga kampanya.
Ang mga platform ng social media, sa mga nakaraang pagkakataon, ay nakasaksi ng magkakaugnay na pagsisikap na maikalat ang maling impormasyon. Halimbawa, sa pangunguna sa halalan sa US noong 2016, ang Internet Research Agency, na nakabase sa St Petersburg, naglunsad ng malawak na kampanya. Ang kanilang layunin, gaya ng nalaman ng Senate Intelligence Committee noong 2019, ay upang maapektuhan ang persepsyon ng mga botante sa mga nominado sa pagkapangulo.
Itinampok ng ulat ng Enero na ang paglitaw ng AI-driven mga modelo ng wika maaaring dagdagan ang pagpapakalat ng mapanlinlang na nilalaman. Ang nilalaman ay hindi lamang maaaring tumaas sa dami ngunit mapahusay din sa mapanghikayat na kalidad, na ginagawa itong isang hamon para sa karaniwang mga gumagamit ng internet na makilala ang pagiging tunay nito.
Josh Goldstein, na kaakibat ng Georgetown's Center for Security and Emerging Technology at isang kontribyutor sa pag-aaral, ay binanggit ang kakayahan ng mga generative na modelo na gumawa ng malalaking volume ng natatanging nilalaman. Ang ganitong kakayahan ay maaaring magpapahintulot sa mga indibidwal na may malisyosong layunin na magpakalat ng iba't ibang mga salaysay nang hindi gumagamit ng paulit-ulit na nilalaman.
Sa kabila ng pagsisikap ng mga platform tulad ng Telegram, Twitter at Facebook para kontrahin ang mga pekeng account, ang ebolusyon ng mga modelo ng wika ay nagbabanta na ibabad ang mga platform na ito ng mas mapanlinlang na mga profile. Si Vincent Conitzer, isang propesor sa computer science sa Carnegie Mellon University, ay nagsabi na ang mga advanced na teknolohiya, tulad ng ChatGPT, maaaring makabuluhang mapalakas ang paglaganap ng mga huwad na profile, higit pang lumalabo ang mga linya sa pagitan ng mga tunay na user at mga automated na account.
Ang mga kamakailang pag-aaral, kabilang ang papel ni G. Goldstein at isang ulat ng security firm na WithSecure Intelligence, ay nagbigay-diin sa kahusayan ng generative na mga modelo ng wika sa paggawa ng mga mapanlinlang na artikulo ng balita. Ang mga maling salaysay na ito, kapag ipinakalat sa mga social platform, ay maaaring makaimpluwensya sa opinyon ng publiko, lalo na sa mga mahahalagang panahon ng elektoral.
Ang pagtaas ng maling impormasyon na pinadali ng mga advanced na AI system tulad ng Chat-GPT nag-uudyok sa tanong: Dapat bang gumawa ng mas maagap na mga hakbang ang mga online platform? Bagama't ang ilan ay nagtatalo na ang mga platform ay dapat na mahigpit na mag-flag ng kahina-hinalang nilalaman, nagpapatuloy ang mga hamon. Si Luís A Nunes Amaral, na nauugnay sa Northwestern Institute on Complex Systems, ay nagkomento sa mga pakikibaka ng mga platform, na binanggit ang parehong halaga ng pagsubaybay sa bawat post at ang hindi sinasadyang pakikipag-ugnayan na nagpapalakas sa mga naghahati-hati na mga post.
Magbasa pa tungkol sa AI:
Pagtanggi sa pananagutan
Sa linya na may Mga alituntunin ng Trust Project, pakitandaan na ang impormasyong ibinigay sa pahinang ito ay hindi nilayon at hindi dapat bigyang-kahulugan bilang legal, buwis, pamumuhunan, pananalapi, o anumang iba pang paraan ng payo. Mahalagang mamuhunan lamang kung ano ang maaari mong mawala at humingi ng independiyenteng payo sa pananalapi kung mayroon kang anumang mga pagdududa. Para sa karagdagang impormasyon, iminumungkahi naming sumangguni sa mga tuntunin at kundisyon pati na rin sa mga pahina ng tulong at suporta na ibinigay ng nagbigay o advertiser. MetaversePost ay nakatuon sa tumpak, walang pinapanigan na pag-uulat, ngunit ang mga kondisyon ng merkado ay maaaring magbago nang walang abiso.
Tungkol sa Ang May-akda
Si Damir ang pinuno ng pangkat, tagapamahala ng produkto, at editor sa Metaverse Post, sumasaklaw sa mga paksa gaya ng AI/ML, AGI, LLMs, Metaverse, at Web3-mga kaugnay na larangan. Ang kanyang mga artikulo ay umaakit ng napakalaking madla na mahigit sa isang milyong user bawat buwan. Mukhang isa siyang eksperto na may 10 taong karanasan sa SEO at digital marketing. Nabanggit si Damir sa Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, at iba pang publikasyon. Naglalakbay siya sa pagitan ng UAE, Turkey, Russia, at ng CIS bilang digital nomad. Nakamit ni Damir ang bachelor's degree sa physics, na pinaniniwalaan niyang nagbigay sa kanya ng mga kritikal na kasanayan sa pag-iisip na kailangan para maging matagumpay sa pabago-bagong tanawin ng internet.
Mas marami pang artikulo
Si Damir ang pinuno ng pangkat, tagapamahala ng produkto, at editor sa Metaverse Post, sumasaklaw sa mga paksa gaya ng AI/ML, AGI, LLMs, Metaverse, at Web3-mga kaugnay na larangan. Ang kanyang mga artikulo ay umaakit ng napakalaking madla na mahigit sa isang milyong user bawat buwan. Mukhang isa siyang eksperto na may 10 taong karanasan sa SEO at digital marketing. Nabanggit si Damir sa Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, at iba pang publikasyon. Naglalakbay siya sa pagitan ng UAE, Turkey, Russia, at ng CIS bilang digital nomad. Nakamit ni Damir ang bachelor's degree sa physics, na pinaniniwalaan niyang nagbigay sa kanya ng mga kritikal na kasanayan sa pag-iisip na kailangan para maging matagumpay sa pabago-bagong tanawin ng internet.
