Balai Cerap Stanford: AI akan membawa kepada pembohongan di mana-mana dan propaganda yang tidak dapat dilawan pada tahun 2023
Secara ringkas
Teknologi AICG (penjanaan kandungan kecerdasan buatan) akan menjadikan kebenaran dan pembohongan tidak dapat dibezakan, baik untuk individu mahupun untuk masyarakat dalam apa jua skala.
Ini akan mewujudkan persekitaran "pasca kebenaran" di mana pembohongan dan propaganda akan menjadi mana-mana, dalamdefinable, dan tidak dapat dilawan.
Hakikat bahawa ramai orang lebih mempercayai maklumat yang datang dari internet berbanding media tradisional adalah kebimbangan utama.
Penjana imej dan video berasaskan AI menjadi semakin mudah untuk digunakan, sangat boleh dipercayai dan sangat cekap.
Ini menjadikan mereka sangat berguna untuk tujuan propaganda.
Dalam ucapannya kepada komuniti AI global, guru AI Cina Kai-Fu Lee memberi amaran bahawa dunia akan menghadapi risiko yang lebih serius daripada risiko perang nuklear, kebuluran atau wabak seawal 2023. Risikonya ialah penjanaan kandungan kecerdasan buatan (AICG). Teknologi AICG boleh menjadikan kebenaran dan pembohongan tidak dapat dibezakan, baik untuk individu mahupun untuk masyarakat dalam apa jua skala.
. laporan baru oleh Pusat Keselamatan dan Teknologi Baru Muncul, OpenAI, dan Balai Cerap Internet Stanford, "Model Bahasa Generatif dan Operasi Pengaruh Automatik: Ancaman Muncul dan Langkah-Langkah Pengurangan Berpotensi," memberikan gambaran strategik tentang senario bencana yang diterangkan oleh Kai-Fu Lee.
| Artikel berkaitan: Kongres AS mahu mewujudkan sebuah agensi persekutuan untuk mengawal selia kecerdasan buatan |
Laporan itu memperincikan bagaimana kejatuhan manusia ke dalam jurang AICG mungkin berlaku. Teknologi AICG akan memungkinkan untuk menjana sejumlah besar kandungan yang tidak dapat dibezakan daripada kandungan yang dihasilkan oleh manusia. Ini akan mewujudkan persekitaran "pasca kebenaran" di mana pembohongan dan propaganda akan menjadi mana-mana, dalamdefinable, dan tidak dapat dilawan.
Laporan itu mengesyorkan beberapa langkah mitigasi, termasuk mengawal selia penggunaan teknologi AICG, meningkatkan ketelusan tentang penggunaannya, dan membangunkan piawaian untuk penggunaannya. Walau bagaimanapun, pengarang laporan itu mengingatkan bahawa langkah-langkah ini hanya akan berkesan jika ia dilaksanakan pada skala global.
Pengeluaran laporan itu datang pada masa apabila dunia sudah bergelut untuk menangani penyebaran maklumat salah dan maklumat yang salah. Pandemik COVID-19 telah disertai dengan penyebaran maklumat palsu tentang virus dan asal-usulnya, dan platform media sosial telah bergelut untuk menghalang penyebaran maklumat palsu ini.
AI akan mengubah web dengan ketara
Pembohongan dan propaganda sentiasa menjadi sebahagian daripada masyarakat manusia. Walau bagaimanapun, ketersediaan dan keberkesanan mana-mana operasi pengaruh (ke atas individu dan masyarakat) telah meningkat disebabkan oleh pembangunan teknologi yang lebih canggih, khususnya dalam bidang kecerdasan buatan (AI).
| Artikel berkaitan: OpenAIKetua Pegawai Eksekutif menyatakan bahawa sistem pendidikan harus menyesuaikan diri dengan ChatGPT, bukan mengharamkannya |
Tiga faktor utama menyumbang kepada kemunculan global, penyebaran, dan penerimaan pembohongan sebagai kebenaran:
- Pembangunan imej dan video berasaskan AI penjana yang boleh mencipta imej dan video yang sangat realistik tentang orang dan peristiwa yang tidak pernah berlaku sebenarnya.
- Penggunaan media sosial untuk menyebarkan maklumat palsu kepada sebilangan besar orang dengan cepat.
- Hakikatnya ramai orang kini lebih mempercayai maklumat yang datang dari internet berbanding sumber media tradisional.
Hasil daripada faktor ini, penjana imej dan video berasaskan AI menjadi semakin mudah untuk digunakan, sangat boleh dipercayai dan sangat cekap. Ini menjadikan mereka sangat berguna untuk tujuan propaganda.
Kini sesiapa sahaja yang mempunyai komputer dan sambungan internet boleh mencipta imej dan video palsu yang hampir tidak dapat dibezakan daripada realiti. Ini telah membawa kepada keadaan yang sangat sukar untuk menentukan apa yang benar dan apa yang tidak.
Penggunaan media sosial untuk menyebarkan maklumat palsu juga menjadi kebimbangan utama. Disebabkan cara media sosial berfungsi, maklumat palsu boleh tersebar dengan cepat dan mudah. Ini menyukarkan orang ramai untuk mengetahui apa yang perlu dipercayai.
Yang berikut menggambarkan bagaimana perkembangan revolusioner pada tahun 2022 memungkinkan untuk mencipta palsu imej yang sepadan dengan perihalan seperti “Raccoon dalam pakaian formal dengan topi atas, rotan dan beg sampah. "Lukisan minyak dalam gaya Rembrandt (hasilnya di sebelah kiri) dan Van Gogh (hasilnya di sebelah kanan)."
Penyederhanaan melampau proses memadamkan garis antara kebenaran dan kepalsuan digabungkan dengan ketidakupayaan pemikiran kritis orang ramai untuk menentang propaganda AI akan membawa kepada penguasaan di mana-mana, dalamdefioperasi pengaruh yang mampu dan tidak dapat diatasi, baik dalam politik mahupun perniagaan.
Baca lebih lanjut mengenai AI:
Penafian
Selaras dengan Garis panduan Projek Amanah, sila ambil perhatian bahawa maklumat yang diberikan pada halaman ini tidak bertujuan untuk menjadi dan tidak seharusnya ditafsirkan sebagai nasihat undang-undang, cukai, pelaburan, kewangan atau sebarang bentuk nasihat lain. Adalah penting untuk hanya melabur apa yang anda mampu kehilangan dan mendapatkan nasihat kewangan bebas jika anda mempunyai sebarang keraguan. Untuk maklumat lanjut, kami mencadangkan merujuk kepada terma dan syarat serta halaman bantuan dan sokongan yang disediakan oleh pengeluar atau pengiklan. MetaversePost komited kepada laporan yang tepat dan tidak berat sebelah, tetapi keadaan pasaran tertakluk kepada perubahan tanpa notis.
Tentang Pengarang
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
lebih banyak artikel
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
