AI dalam Politik: Meramalkan Pilihan Raya dan Pendapat Awam Menggunakan LLM
Secara ringkas
Memandangkan pilihan raya presiden AS ke-60 semakin hampir, peranan internet dan rangkaian sosial dalam membentuk wacana politik sedang diteliti, terutamanya selepas skandal Cambridge Analytica. Landskap digital dijangka berubah dengan kemajuan dalam AI, seperti model bahasa yang dilatih mengenai diet media dan OpenAI's GPT-4.
Isu lain ialah potensi untuk manipulasi rangkaian sosial dipacu AI, seperti mengautomasikan kilang troll dan penyederhanaan kandungan. OpenAI's GPT-4 telah diperkenalkan untuk mempercepatkan proses mengemas kini peraturan penyederhanaan kandungan, mengurangkan garis masa daripada bulan kepada jam sahaja. Model ini mengungguli moderator kandungan standard secara purata tetapi masih ketinggalan daripada kepakaran moderator manusia yang berpengalaman.
Pengenalan GPT-4 bersedia untuk membawa inovasi baharu, khususnya dalam politik dan pilihan raya, dengan spekulasi bahawa OpenAI boleh menjadi pembekal eksklusif.
Ketika pilihan raya presiden ke-60 di Amerika Syarikat semakin hampir, peranan internet dan rangkaian sosial dalam membentuk wacana politik sedang diteliti, terutamanya selepas Skandal Cambridge Analytica. Persoalan penting timbul: Apakah rupa landskap digital semasa pilihan raya akan datang dan pencapaian baharu dalam AI?
Semasa perbicaraan Senat baru-baru ini, Senator Josh Hawley dari Missouri membangkitkan isu kritikal ini dalam konteks model bahasa. Beliau merujuk kepada artikel bertajuk “Model Bahasa yang Dilatih mengenai Diet Media Boleh Meramalkan Pendapat Umum” dikarang oleh penyelidik dari MIT dan Stanford. Penyelidikan ini meneroka potensi menggunakan rangkaian saraf untuk meramalkan pendapat umum berdasarkan artikel berita, konsep yang boleh memberi kesan ketara kepada kempen politik.
Artikel tersebut menerangkan metodologi di mana model bahasa pada mulanya dilatih pada set tertentu artikel berita untuk meramal perkataan yang hilang dalam konteks tertentu, serupa dengan model BERT. Langkah seterusnya melibatkan pemberian skor, dilambangkan sebagai “s,” untuk menilai prestasi model. Berikut ialah gambaran keseluruhan proses:
- Kenyataan tesis dirumuskan, sebagai contoh, "Permintaan untuk menutup kebanyakan perniagaan, kecuali kedai runcit dan farmasi, untuk memerangi wabak coronavirus."
- Terutama, terdapat kosong dalam tesis. Model bahasa digunakan untuk menganggarkan kebarangkalian melengkapkan jurang ini dengan perkataan tertentu.
- Kemungkinan pelbagai perkataan, seperti "perlu" atau "tidak perlu," dinilai.
- Kebarangkalian ini dinormalisasi secara relatif kepada model asas yang tidak terlatih, yang mengukur kekerapan perkataan yang berlaku dalam konteks tertentu secara bebas. Pecahan yang terhasil mewakili skor "s," yang mencirikan maklumat baharu yang diperkenalkan oleh set data daripada media berkenaan pengetahuan sedia ada.
Model tersebut merangkumi tahap penglibatan kumpulan individu tertentu dengan berita mengenai topik tertentu. Lapisan tambahan ini meningkatkan kualiti ramalan, seperti yang diukur oleh korelasi antara ramalan model dan pendapat orang mengenai tesis asal.
Rahsianya terletak pada fakta bahawa tesis dan berita dikategorikan berdasarkan tarikhnya. Dengan mengkaji berita yang berkaitan dengan bulan-bulan awal wabak koronavirus, adalah mungkin untuk menjangkakan reaksi orang ramai terhadap langkah dan perubahan yang dicadangkan.
Metrik mungkin tidak kelihatan mengagumkan, dan pengarang sendiri menekankan bahawa penemuan mereka tidak membayangkan bahawa AI boleh menggantikan sepenuhnya penglibatan manusia dalam proses itu, atau model boleh menggantikan tinjauan manusia. Sebaliknya, ini Alat AI berfungsi sebagai bantuan dalam meringkaskan sejumlah besar data dan mengenal pasti kawasan yang berpotensi berbuah untuk penerokaan selanjutnya.
Menariknya, seorang senator membuat kesimpulan yang berbeza, menyatakan kebimbangan mengenai model yang berprestasi terlalu baik dan potensi bahaya yang berkaitan dengan ini. Terdapat sedikit kesahan pada perspektif ini, memandangkan artikel itu memaparkan model yang agak asas, dan lelaran masa hadapan seperti GPT-4 berpotensi menawarkan peningkatan yang ketara.
Cabaran Meningkat Manipulasi Rangkaian Sosial Didorong AI
Dalam perbincangan baru-baru ini, perbualan itu menjauhkan diri daripada pilihan raya presiden yang akan datang dan ke arah topik berkenaan menggunakan Model Model Bahasa (LLM), walaupun pada skala setempat, untuk mengada-adakan dan mengisi akaun palsu di seluruh rangkaian sosial. Perbincangan ini menggariskan potensi untuk mengautomasikan kilang troll dengan penekanan pada propaganda dan pengaruh ideologi.
Walaupun ini mungkin tidak kelihatan hebat memandangkan teknologi sudah digunakan, perbezaannya terletak pada skala. LLM boleh digunakan secara berterusan, terhad hanya oleh belanjawan GPU yang diperuntukkan. Tambahan pula, untuk mengekalkan perbualan dan rangkaian, bot tambahan yang kurang maju boleh menyertai perbincangan dan bertindak balas. Keberkesanan mereka dalam memujuk pengguna adalah diragui. Adakah bot yang direka dengan baik benar-benar mengubah pendirian politik seseorang, mendorong mereka untuk berfikir, “Apakah yang telah dilakukan oleh Demokrat ini? Saya patut mengundi Republikan”?
Percubaan untuk menetapkan pekerja troll kepada setiap pengguna dalam talian untuk pemujukan sistematik adalah tidak praktikal, mengingatkan jenaka "separuh duduk, separuh berdiri." Sebaliknya, bot yang diperkasakan dengan rangkaian saraf lanjutan kekal tidak kenal lelah, mampu berinteraksi dengan berpuluh juta individu secara serentak.
Tindakan balas yang berpotensi melibatkan penyediaan media sosial akaun dengan mensimulasikan tingkah laku seperti manusia. Bot boleh meniru pengguna tulen dengan membincangkan pengalaman peribadi dan menyiarkan kandungan yang pelbagai sambil mengekalkan penampilan normal.
Walaupun ini mungkin bukan isu yang mendesak pada 2024, ia semakin berkemungkinan menjadi cabaran yang ketara menjelang 2028. Menangani masalah ini menimbulkan dilema yang kompleks. Patutkah rangkaian sosial dilumpuhkan semasa musim pilihan raya? Tidak boleh dilaksanakan. Mendidik orang ramai supaya tidak tidak dinafikan mempercayai kandungan dalam talian? Tidak praktikal. Kalah dalam pilihanraya kerana manipulasi? Tidak diingini.
Alternatif boleh melibatkan penyederhanaan kandungan lanjutan. Kekurangan penyederhana manusia dan keberkesanan terhad model pengesanan teks sedia ada, malah model pengesanan teks yang ada OpenAI, menimbulkan keraguan tentang daya maju penyelesaian ini.
OpenAI's GPT-4 Kemas Kini Penyederhanaan Kandungan dengan Penyesuaian Peraturan Pantas
OpenAI, di bawah bimbingan Lilian Weng, baru-baru ini telah memperkenalkan projek yang dipanggil “Menggunakan GPT-4 untuk Penyederhanaan Kandungan.” Ini mempercepatkan proses mengemas kini peraturan penyederhanaan kandungan, mengurangkan garis masa daripada bulan kepada beberapa jam sahaja. GPT-4 mempamerkan keupayaan luar biasa untuk memahami peraturan dan kehalusan dalam garis panduan kandungan yang komprehensif, serta-merta menyesuaikan diri dengan sebarang semakan, dengan itu memastikan penilaian kandungan yang lebih konsisten.
Sistem penyederhanaan kandungan yang canggih ini sangat mudah, seperti yang ditunjukkan dalam GIF yang disertakan. Apa yang membezakannya ialah GPT-4Kemahiran luar biasa dalam memahami teks bertulis, satu pencapaian yang tidak dikuasai secara universal walaupun oleh manusia.
Begini cara ia beroperasi:
- Selepas merangka garis panduan atau arahan penyederhanaan, pakar memilih set data terhad yang mengandungi kejadian pelanggaran dan menetapkan label yang sepadan dengan mematuhi dasar pelanggaran.
- GPT-4 kemudiannya memahami set peraturan dan melabelkan data tanpa akses kepada respons.
- Dalam kes perbezaan antara GPT-4 jawapan dan pertimbangan manusia, pakar boleh meminta penjelasan daripada GPT-4, menganalisis kekaburan dalam arahan defidan menghilangkan sebarang kekeliruan melalui penjelasan tambahan, ditandakan dengan teks langkah biru dalam GIF.
Proses lelaran langkah 2 dan 3 ini boleh diulang sehingga prestasi algoritma memenuhi piawaian yang dikehendaki. Untuk aplikasi berskala besar, GPT-4 ramalan boleh digunakan untuk melatih model yang jauh lebih kecil, yang boleh memberikan kualiti yang setanding.
OpenAI telah mendedahkan metrik untuk menilai 12 jenis pelanggaran yang berbeza. Secara purata, model ini mengatasi penyederhana kandungan standard, tetapi ia masih ketinggalan daripada kepakaran penyederhana manusia yang berpengalaman dan terlatih. Namun begitu, satu aspek yang menarik ialah keberkesanan kosnya.
Perlu diingat bahawa model pembelajaran mesin telah digunakan dalam penyederhanaan automatik selama beberapa tahun. Pengenalan kepada GPT-4 bersedia untuk membawa inovasi baharu, khususnya dalam bidang politik dan pilihan raya. Malah ada spekulasi bahawa OpenAI boleh menjadi pembekal eksklusif TrueModerationAPI™ yang dibenarkan secara rasmi oleh White House, terutamanya berdasarkan usaha perkongsian mereka baru-baru ini. Masa depan mempunyai kemungkinan yang menarik dalam domain ini.
Baca lebih lanjut mengenai AI:
Penafian
Selaras dengan Garis panduan Projek Amanah, sila ambil perhatian bahawa maklumat yang diberikan pada halaman ini tidak bertujuan untuk menjadi dan tidak seharusnya ditafsirkan sebagai nasihat undang-undang, cukai, pelaburan, kewangan atau sebarang bentuk nasihat lain. Adalah penting untuk hanya melabur apa yang anda mampu kehilangan dan mendapatkan nasihat kewangan bebas jika anda mempunyai sebarang keraguan. Untuk maklumat lanjut, kami mencadangkan merujuk kepada terma dan syarat serta halaman bantuan dan sokongan yang disediakan oleh pengeluar atau pengiklan. MetaversePost komited kepada laporan yang tepat dan tidak berat sebelah, tetapi keadaan pasaran tertakluk kepada perubahan tanpa notis.
Tentang Pengarang
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
lebih banyak artikel
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
