Model AI Penghasil Gambar Sedang Dilatih pada Gambar Anak-anak yang Eksplisit, klaim Stanford
Singkatnya
Alat AI generatif teks-ke-gambar yang populer termasuk Stable Diffusion, sedang dilatih tentang ribuan gambar pelecehan seksual terhadap anak-anak.
Teks-ke-gambar yang populer AI generatif alat, termasuk Stable Diffusion dari Stability AI sedang dilatih tentang ribuan gambar pelecehan seksual terhadap anak-anak, menurut laporan penelitian dari Stanford Internet Observatory.
Laporan tersebut menambahkan bahwa gambar-gambar ini memfasilitasi pembuatan konten eksplisit realistis yang melibatkan anak-anak palsu dan transformasi remaja berpakaian menjadi gambar telanjang, sehingga mendesak tindakan segera dari perusahaan di balik alat tersebut.
Investigasi Stanford Internet Observatory berfokus pada basis data LAION, gudang besar gambar dan teks online yang digunakan oleh para pemimpin Pembuat gambar AI 'like' Stable Diffusion, untuk melatih model AI.
Sebelum memeriksa alat AI penghasil gambar, para peneliti berpandangan bahwa alat AI menghasilkan gambar anak-anak yang kasar dengan menggabungkan informasi dari pornografi orang dewasa dan foto anak-anak yang tidak berbahaya. Namun, temuan Observatorium menunjukkan perubahan yang meresahkan, dengan lebih dari 3,200 gambar dugaan pelecehan seksual terhadap anak-anak diidentifikasi dalam kumpulan data LAION.
Meskipun LAION dengan cepat menanggapi laporan tersebut dengan menghapus sementara kumpulan datanya, dampak dari gambar-gambar ini sangat luas. Meskipun gambar-gambar tersebut merupakan sebagian kecil dari indeks LAION yang berjumlah 5.8 miliar gambar, kelompok Stanford menegaskan bahwa gambar-gambar tersebut kemungkinan besar mempengaruhi kemampuan Alat AI untuk menghasilkan keluaran yang berbahaya.
Pemain penting dalam pengembangan database LAION adalah Stability AI, sebuah startup yang berbasis di London yang bertanggung jawab untuk membentuk kumpulan data. Laporan tersebut menyoroti bahwa versi lama mereka Stable Diffusion Model yang diperkenalkan tahun lalu masih hadir dalam berbagai aplikasi, sebagai sumber utama untuk menghasilkan citra eksplisit.
Meskipun Stability AI mengklaim hanya menghosting versi yang difilter dan telah mengambil langkah-langkah untuk mengurangi penyalahgunaan, tantangannya terletak pada meluasnya model lama.
Penerapan AI Generatif Membutuhkan Validasi yang Ketat
Inti permasalahan ini berasal dari penyebaran cepat banyak proyek AI generatif ke pasar, menurut David Thiel, kepala teknolog di Stanford Internet Observatory.
Thiel menunjukkan bahwa proyek-proyek ini sering kali dapat diakses secara luas karena persaingan yang ketat di lapangan, tanpa adanya perhatian yang ketat selama tahap pengembangan.
Peneliti Stanford menganjurkan tindakan drastis untuk mengatasi masalah ini secara efektif. Rekomendasinya mencakup penghapusan atau pembersihan set pelatihan yang berasal dari LAION-5B dan pembuatan versi lama Stable Diffusion kurang dapat diakses.
Namun, kompleksitas pembersihan data secara surut menimbulkan tantangan besar, sehingga mendorong perlunya kolaborasi dengan para ahli keselamatan anak selama pengembangan. Basis data AI.
Ketika sekolah dan lembaga penegak hukum di seluruh dunia menyatakan kekhawatirannya atas potensi konsekuensi dari temuan ini, perhatian kini tertuju pada hal ini industri AI untuk segera mengatasi dan memperbaiki kelemahan berbahaya dalam teknologi mereka.
Penolakan tanggung jawab
Sejalan dengan Percayai pedoman Proyek, harap dicatat bahwa informasi yang diberikan pada halaman ini tidak dimaksudkan untuk dan tidak boleh ditafsirkan sebagai nasihat hukum, pajak, investasi, keuangan, atau bentuk nasihat lainnya. Penting untuk hanya menginvestasikan jumlah yang mampu Anda tanggung kerugiannya dan mencari nasihat keuangan independen jika Anda ragu. Untuk informasi lebih lanjut, kami menyarankan untuk merujuk pada syarat dan ketentuan serta halaman bantuan dan dukungan yang disediakan oleh penerbit atau pengiklan. MetaversePost berkomitmen terhadap pelaporan yang akurat dan tidak memihak, namun kondisi pasar dapat berubah tanpa pemberitahuan.
Tentang Penulis
Kumar adalah Jurnalis Teknologi berpengalaman dengan spesialisasi dalam persimpangan dinamis AI/ML, teknologi pemasaran, dan bidang baru seperti kripto, blockchain, dan NFTS. Dengan pengalaman lebih dari 3 tahun di industri ini, Kumar telah memiliki rekam jejak yang terbukti dalam menyusun narasi yang menarik, melakukan wawancara yang mendalam, dan memberikan wawasan yang komprehensif. Keahlian Kumar terletak pada produksi konten berdampak tinggi, termasuk artikel, laporan, dan publikasi penelitian untuk platform industri terkemuka. Dengan keahlian unik yang menggabungkan pengetahuan teknis dan penyampaian cerita, Kumar unggul dalam mengkomunikasikan konsep teknologi yang kompleks kepada beragam audiens dengan cara yang jelas dan menarik.
lebih artikel
Kumar adalah Jurnalis Teknologi berpengalaman dengan spesialisasi dalam persimpangan dinamis AI/ML, teknologi pemasaran, dan bidang baru seperti kripto, blockchain, dan NFTS. Dengan pengalaman lebih dari 3 tahun di industri ini, Kumar telah memiliki rekam jejak yang terbukti dalam menyusun narasi yang menarik, melakukan wawancara yang mendalam, dan memberikan wawasan yang komprehensif. Keahlian Kumar terletak pada produksi konten berdampak tinggi, termasuk artikel, laporan, dan publikasi penelitian untuk platform industri terkemuka. Dengan keahlian unik yang menggabungkan pengetahuan teknis dan penyampaian cerita, Kumar unggul dalam mengkomunikasikan konsep teknologi yang kompleks kepada beragam audiens dengan cara yang jelas dan menarik.
