GPT-Cabaran Bot Spam Didorong Platform Dalam Talian
Secara ringkas
GPTbot spam didorong telah menjadi isu penting pada platform seperti Twitter dan Telegram, menyasarkan promosi yang tidak diminta.
Program AI yang canggih ini boleh menganalisis dan meniru konteks siaran, menjadikan gangguannya kelihatan lebih organik dan lebih sukar untuk dikenal pasti.
Satu jenis gangguan baru telah muncul dalam bentuk GPT-bot spam didorong. Program AI yang canggih ini telah membuka halaman baru dalam buku main spam, dengan kerap menyasarkan siaran pada platform seperti Twitter dan Telegram dengan promosi yang tidak diminta.
Ini GPT-bot spam boleh menganalisis dan meniru konteks siaran, yang menjadikan gangguan mereka kelihatan lebih semula jadi dan sukar dikesan daripada spam biasa pada masa lalu. Langkah perlindungan tradisional dicabar oleh ini kerana kebanyakannya tidak berkesan. Pada masa ini, bot ini hanya boleh dikenal pasti melalui masa tindak balas yang cepat, yang membolehkan campur tangan dan pengalihan keluar manual.
Serangan spam yang berterusan menghantui pencipta dan pentadbir. Banyak pengendali saluran pada platform seperti Telegram telah menyatakan keinginan mereka untuk perkhidmatan khusus yang boleh mengenali dan memadam komen spam yang canggih ini sebagai tindak balas kepada keperluan yang semakin meningkat ini. Pengendali ini, yang membayangkan diri mereka sebagai "moderator sebagai perkhidmatan," bersedia untuk melabur dalam penyelesaian dan telah menyatakan kesanggupan untuk membayar $20–30 sebulan atau menggunakan model pengebilan berasaskan penggunaan berdasarkan kuantiti siaran atau mesej yang sedang diperhatikan.
Kesukaran itu tidak, bagaimanapun, berakhir di sini. Terdapat gelombang yang akan datang GPT-pengirim spam yang dijangka menjadi lebih mahir seiring dengan kemajuan teknologi, mungkin menggunakan strategi seperti kelewatan tindak balas atau menggunakan pelbagai personaliti AI yang berinteraksi antara satu sama lain. Membezakan antara pengguna manusia dan bot dalam keadaan sedemikian menjadi tugas yang mencabar.
Malah gergasi teknologi sedang bergelut dengan isu tersebut. OpenAI mengambil langkah ke arah menyelesaikan masalah ini dengan pembangunan pengesan teks yang direka untuk mengenal pasti kandungan yang dijana AI. Malangnya, usaha mereka menghadapi kemunduran kerana projek itu ditangguhkan kerana ketepatan pengesan yang rendah, seperti yang dilaporkan oleh TechCrunch pada Julai 2023.
Pentadbir platform bukan satu-satunya yang bimbang dengan peningkatan dalam GPT-bot spam berkuasa. Cabaran untuk memisahkan kandungan tulen daripada penyerahan yang dijana AI kini berhadapan dengan pengurus dan syarikat pemula media sosial. Keadaan itu menyerlahkan keperluan mendesak dan memberikan peluang untuk inisiatif dan projek baharu yang boleh mencipta penyelesaian yang cekap untuk menentang kaedah spam termaju era moden.
Kemajuan dalam Model Bahasa dan Implikasi untuk Maklumat Salah Dalam Talian
Kepraktisan dan kebolehan bercakap hampir manusia GPT telah diperhatikan oleh pengguna. Walau bagaimanapun, keupayaan yang sama yang telah dikaguminya juga menimbulkan kebimbangan tentang kemungkinan penyalahgunaannya.
Memandangkan kecekapan AI dalam meniru tindak balas seperti manusia, terdapat kebimbangan mengenai penggunaannya untuk niat jahat. Pakar di seluruh sektor akademik, keselamatan siber dan AI menekankan potensi penggunaan GPT oleh individu yang berniat jahat untuk menyebarkan propaganda atau memupuk pergolakan di platform digital.
Dari segi sejarah, penyebaran maklumat salah memerlukan campur tangan manusia yang ketara. Pengenalan sistem pemprosesan bahasa yang diperhalusi boleh membesarkan skala dan jangkauan operasi pengaruh menyasarkan media sosial, menghasilkan kempen yang lebih disesuaikan dan oleh itu, kempen yang berpotensi lebih meyakinkan.
Platform media sosial, dalam keadaan sebelumnya, menyaksikan usaha yang diselaraskan untuk menyebarkan maklumat yang salah. Sebagai contoh, semasa menjelang pilihan raya AS 2016, Agensi Penyelidikan Internet, yang berpangkalan di St Petersburg, melancarkan kempen yang meluas. Objektif mereka, seperti yang disimpulkan oleh Jawatankuasa Perisikan Senat pada 2019, adalah untuk memberi kesan kepada persepsi pengundi terhadap calon presiden.
Laporan Januari menekankan bahawa kemunculan dipacu AI model bahasa boleh menambah penyebaran kandungan yang mengelirukan. Kandungan itu bukan sahaja boleh meningkatkan jumlah tetapi juga meningkatkan kualiti persuasif, menjadikannya satu cabaran bagi pengguna internet biasa untuk membezakan keasliannya.
Josh Goldstein, bergabung dengan Pusat Keselamatan dan Teknologi Baru Georgetown dan penyumbang kepada kajian itu, menyebut keupayaan model generatif untuk menghasilkan volum besar kandungan unik. Keupayaan sedemikian boleh membenarkan individu yang mempunyai niat jahat untuk mengedarkan pelbagai naratif tanpa menggunakan kandungan berulang.
Walaupun usaha platform seperti Telegram, Twitter dan Facebook untuk menentang akaun palsu, evolusi model bahasa mengancam untuk memenuhi platform ini dengan profil yang lebih menipu. Vincent Conitzer, seorang profesor sains komputer di Carnegie Mellon University, menyatakan bahawa teknologi canggih, seperti ChatGPT, boleh meningkatkan dengan ketara percambahan profil palsu, seterusnya mengaburkan garis antara pengguna tulen dan akaun automatik.
Kajian terbaru, termasuk kertas kerja Encik Goldstein dan laporan oleh firma keselamatan WithSecure Intelligence, telah menyerlahkan kecekapan model bahasa generatif dalam membuat artikel berita yang mengelirukan. Naratif palsu ini, apabila diedarkan pada platform sosial, boleh mempengaruhi pendapat umum, terutamanya semasa tempoh pilihan raya yang penting.
Peningkatan maklumat salah yang difasilitasi oleh sistem AI canggih seperti Chat-GPT menimbulkan persoalan: Patutkah platform dalam talian mengambil langkah yang lebih proaktif? Walaupun ada yang berpendapat bahawa platform harus membenderakan kandungan yang meragukan dengan ketat, cabaran berterusan. Luís A Nunes Amaral, yang dikaitkan dengan Institut Sistem Kompleks Barat Laut, mengulas tentang perjuangan platform, memetik kedua-dua kos pemantauan setiap jawatan dan penglibatan yang tidak disengajakan meningkatkan jawatan yang memecahbelahkan itu.
Baca lebih lanjut mengenai AI:
Penafian
Selaras dengan Garis panduan Projek Amanah, sila ambil perhatian bahawa maklumat yang diberikan pada halaman ini tidak bertujuan untuk menjadi dan tidak seharusnya ditafsirkan sebagai nasihat undang-undang, cukai, pelaburan, kewangan atau sebarang bentuk nasihat lain. Adalah penting untuk hanya melabur apa yang anda mampu kehilangan dan mendapatkan nasihat kewangan bebas jika anda mempunyai sebarang keraguan. Untuk maklumat lanjut, kami mencadangkan merujuk kepada terma dan syarat serta halaman bantuan dan sokongan yang disediakan oleh pengeluar atau pengiklan. MetaversePost komited kepada laporan yang tepat dan tidak berat sebelah, tetapi keadaan pasaran tertakluk kepada perubahan tanpa notis.
Tentang Pengarang
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
lebih banyak artikel
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
