Tren Teknologi 2024: Para Pemimpin Industri Memanfaatkan AI untuk Melawan Ancaman Deepfake
Singkatnya
Dalam upaya melawan teknologi deepfake, industri menggunakan alat dan solusi AI untuk memerangi penyebaran konten yang dimanipulasi.
Saat perang Rusia-Ukraina sedang berlangsung, muncul video Presiden Ukraina Volodymyr Zelenskyy yang meminta pasukannya menyerah di tengah perang. Hal ini kemudian menjadi a video deepfake.
Dalam pertempuran yang terus berkembang melawan teknologi deepfake, industri semakin beralih ke teknologi canggih untuk memerangi penyebaran konten yang dimanipulasi. Mulai dari inisiatif keaslian konten hingga teknik watermarking yang tidak terlihat, alat pendeteksi algoritmik, proyek kolaboratif, dan perubahan kebijakan platform — perjuangan melawan deepfake kini memiliki banyak aspek dan dinamis.
Keaslian Konten dan Asal Konten
Inisiatif Keaslian Konten, yang dipimpin oleh para pelaku industri, bertujuan untuk menyegel informasi atribusi tentang konten secara kriptografis, memungkinkan verifikasi mulai dari pembuatan hingga konsumsi. Pada saat yang sama, Koalisi untuk Asal dan Otentikasi Konten (C2PA) telah merilis spesifikasi teknis standar terbuka, yang berfokus pada penyediaan data tentang asal, perubahan, dan kontributor konten.
Microsoft telah mengambil langkah lebih jauh dengan mengumumkan “Kredensial Konten sebagai Layanan,” memanfaatkan kredensial watermarking digital C2PA untuk membantu kandidat dan kampanye pemilu dalam mempertahankan kendali atas konten mereka.
Teknik Penandaan Air
Meta memperkenalkan Stable Signature, sebuah teknik watermarking tak kasat mata yang dirancang untuk membedakan konten yang dibuat dengan sumber terbuka model AI generatif. Tanda air yang tidak terlihat ini, tidak dapat dideteksi dengan mata telanjang namun dapat dilacak oleh algoritma, membantu mengidentifikasi gambar yang dimanipulasi. Google DeepMind juga memasuki persaingan dengan SynthID, memungkinkan pengguna untuk menyematkan tanda air digital langsung ke gambar atau audio yang dihasilkan AI.
Teknologi ini memungkinkan pengguna memindai konten untuk mencari tanda air, memberikan wawasan apakah konten tersebut dibuat atau diubah menggunakan model AI Google.
Deteksi Algoritmik
Industri ini menerapkan perangkat lunak pendeteksi otomatis untuk deepfake, dengan mengandalkan berbagai strategi berbasis AI seperti pengenalan speaker, deteksi keaktifan suara, pengenalan wajah, dan analisis temporal. Video Authenticator Microsoft dan FakeCatcher yang didukung Intel adalah contoh penting.
Namun, tantangannya terletak pada sifat alat pendeteksi yang bersifat sementara karena teknik produksi deepfake yang terus berkembang terus menantang keandalannya. A belajar menemukan tingkat akurasi yang bervariasi (30-97%) di seluruh kumpulan data, yang menunjukkan perlunya inovasi berkelanjutan untuk mengimbangi teknologi deepfake yang sedang berkembang.
Proyek Asal
Organisasi media, termasuk BBC dan Microsoft, berkolaborasi dalam Project Origin. Inisiatif ini berupaya untuk membangun pendekatan rekayasa terhadap media sintetis, dengan menyediakan tautan yang ditandatangani secara digital untuk penelusuran konten media yang dapat diverifikasi hingga ke penerbitnya. Proyek ini juga bertujuan untuk menerapkan pemeriksaan validasi untuk memastikan bahwa konten tetap tidak berubah selama distribusi.
Perubahan Kebijakan Platform
Menanggapi konteks iklan politik yang berisiko tinggi, platform-platform besar pun menyukainya meta dan Google telah mengumumkan perubahan kebijakan untuk meningkatkan transparansi. Kebijakan pengungkapan iklan politik Meta yang diperbarui mengamanatkan pengiklan untuk mengungkapkan konten yang diubah secara digital dalam iklan terkait pemilu atau politik.
Youtube mengharuskan pembuat konten untuk mengungkapkan penggunaan konten media sintetis, dan kegagalan untuk mematuhinya dapat mengakibatkan hukuman, termasuk penghapusan atau penangguhan konten dari Program Mitra YouTube. Google Play Store juga telah memperkenalkan kebijakan untuk konten yang dihasilkan AI, dengan fokus pada pencegahan pembuatan dan distribusi konten berbahaya atau menipu melalui aplikasi AI generatif.
Ketika perjuangan melawan deepfake semakin intensif, intervensi industri dan solusi teknologi terbukti penting dalam menjaga keaslian dan kepercayaan konten digital. Upaya kolaboratif para pemain utama di berbagai sektor mencerminkan komitmen untuk tetap menjadi yang terdepan dalam lanskap media sintetis yang terus berkembang.
Penolakan tanggung jawab
Sejalan dengan Percayai pedoman Proyek, harap dicatat bahwa informasi yang diberikan pada halaman ini tidak dimaksudkan untuk dan tidak boleh ditafsirkan sebagai nasihat hukum, pajak, investasi, keuangan, atau bentuk nasihat lainnya. Penting untuk hanya menginvestasikan jumlah yang mampu Anda tanggung kerugiannya dan mencari nasihat keuangan independen jika Anda ragu. Untuk informasi lebih lanjut, kami menyarankan untuk merujuk pada syarat dan ketentuan serta halaman bantuan dan dukungan yang disediakan oleh penerbit atau pengiklan. MetaversePost berkomitmen terhadap pelaporan yang akurat dan tidak memihak, namun kondisi pasar dapat berubah tanpa pemberitahuan.
Tentang Penulis
Kumar adalah Jurnalis Teknologi berpengalaman dengan spesialisasi dalam persimpangan dinamis AI/ML, teknologi pemasaran, dan bidang baru seperti kripto, blockchain, dan NFTS. Dengan pengalaman lebih dari 3 tahun di industri ini, Kumar telah memiliki rekam jejak yang terbukti dalam menyusun narasi yang menarik, melakukan wawancara yang mendalam, dan memberikan wawasan yang komprehensif. Keahlian Kumar terletak pada produksi konten berdampak tinggi, termasuk artikel, laporan, dan publikasi penelitian untuk platform industri terkemuka. Dengan keahlian unik yang menggabungkan pengetahuan teknis dan penyampaian cerita, Kumar unggul dalam mengkomunikasikan konsep teknologi yang kompleks kepada beragam audiens dengan cara yang jelas dan menarik.
lebih artikel
Kumar adalah Jurnalis Teknologi berpengalaman dengan spesialisasi dalam persimpangan dinamis AI/ML, teknologi pemasaran, dan bidang baru seperti kripto, blockchain, dan NFTS. Dengan pengalaman lebih dari 3 tahun di industri ini, Kumar telah memiliki rekam jejak yang terbukti dalam menyusun narasi yang menarik, melakukan wawancara yang mendalam, dan memberikan wawasan yang komprehensif. Keahlian Kumar terletak pada produksi konten berdampak tinggi, termasuk artikel, laporan, dan publikasi penelitian untuk platform industri terkemuka. Dengan keahlian unik yang menggabungkan pengetahuan teknis dan penyampaian cerita, Kumar unggul dalam mengkomunikasikan konsep teknologi yang kompleks kepada beragam audiens dengan cara yang jelas dan menarik.
