Model AI Menjana Imej Sedang Dilatih mengenai Imej Kanak-kanak Eksplisit, dakwa Stanford
Secara ringkas
Alat AI generatif teks-ke-imej yang popular termasuk Stable Diffusion, sedang dilatih mengenai beribu-ribu imej penderaan seksual kanak-kanak.
Teks ke imej yang popular AI generatif alat, termasuk Stable Diffusion dari Stability AI sedang dilatih mengenai beribu-ribu imej penderaan seksual kanak-kanak, menurut laporan penyelidikan dari Stanford Internet Observatory.
Laporan itu menambah bahawa imej ini memudahkan penjanaan kandungan eksplisit realistik yang melibatkan kanak-kanak palsu dan transformasi remaja berpakaian kepada imej bogel, menggesa tindakan segera daripada syarikat di sebalik alat tersebut.
Penyiasatan Balai Cerap Internet Stanford memberi tumpuan kepada pangkalan data LAION, repositori besar imej dalam talian dan kapsyen yang digunakan oleh peneraju pembuat imej AI seperti Stable Diffusion, untuk melatih model AI.
Sebelum menyemak alat AI yang menjana imej, para penyelidik berpendapat bahawa alat AI menghasilkan imejan kesat terhadap kanak-kanak dengan menggabungkan maklumat daripada pornografi dewasa dan gambar kanak-kanak yang jinak. Walau bagaimanapun, penemuan Balai Cerap memberikan kelainan yang mengganggu, dengan lebih 3,200 imej penderaan seksual kanak-kanak yang disyaki dikenal pasti dalam set data LAION.
Walaupun LAION bertindak balas dengan pantas kepada laporan itu dengan mengalih keluar set datanya buat sementara waktu, implikasi imej ini adalah meluas. Walaupun mereka membentuk sebahagian kecil daripada indeks besar LAION sebanyak 5.8 bilion imej, kumpulan Stanford menegaskan bahawa mereka mungkin mempengaruhi keupayaan Alat AI untuk menghasilkan output yang berbahaya.
Pemain penting dalam pembangunan pangkalan data LAION ialah Stability AI, syarikat permulaan yang berpangkalan di London yang bertanggungjawab membentuk set data. Laporan itu menyerlahkan bahawa versi lama mereka Stable Diffusion model, yang diperkenalkan tahun lepas masih terdapat dalam pelbagai aplikasi, sebagai sumber utama untuk menjana imejan eksplisit.
Walaupun Stability AI mendakwa hanya mengehoskan versi yang ditapis dan telah mengambil langkah untuk mengurangkan penyalahgunaan, cabarannya terletak pada keluasan model yang lebih lama.
Penerapan AI Generatif Memerlukan Pengesahan Teliti
Inti isu ini kembali kepada penggunaan pantas banyak projek AI generatif ke dalam pasaran, seperti menurut David Thiel, ketua teknologi di Balai Cerap Internet Stanford.
Thiel menegaskan bahawa projek-projek ini selalunya boleh diakses secara meluas disebabkan oleh persaingan yang sengit di lapangan, tanpa perhatian yang ketat yang diperlukan semasa fasa pembangunan.
Penyelidik Stanford menyokong langkah drastik untuk menangani isu itu dengan berkesan. Syor termasuk pemadaman atau pembersihan set latihan yang diperoleh daripada LAION-5B dan membuat versi lama Stable Diffusion kurang boleh diakses.
Walau bagaimanapun, kerumitan pembersihan data secara retroaktif menimbulkan cabaran yang besar, mendorong panggilan untuk kerjasama dengan pakar keselamatan kanak-kanak semasa pembangunan pangkalan data AI.
Memandangkan sekolah dan agensi penguatkuasaan undang-undang di seluruh dunia menyatakan kebimbangan terhadap kemungkinan akibat daripada penemuan ini, tumpuan kini tertumpu kepada industri AI untuk segera menangani dan membetulkan kelemahan berbahaya dalam teknologi mereka.
Penafian
Selaras dengan Garis panduan Projek Amanah, sila ambil perhatian bahawa maklumat yang diberikan pada halaman ini tidak bertujuan untuk menjadi dan tidak seharusnya ditafsirkan sebagai nasihat undang-undang, cukai, pelaburan, kewangan atau sebarang bentuk nasihat lain. Adalah penting untuk hanya melabur apa yang anda mampu kehilangan dan mendapatkan nasihat kewangan bebas jika anda mempunyai sebarang keraguan. Untuk maklumat lanjut, kami mencadangkan merujuk kepada terma dan syarat serta halaman bantuan dan sokongan yang disediakan oleh pengeluar atau pengiklan. MetaversePost komited kepada laporan yang tepat dan tidak berat sebelah, tetapi keadaan pasaran tertakluk kepada perubahan tanpa notis.
Tentang Pengarang
Kumar ialah seorang Wartawan Teknologi berpengalaman dengan pengkhususan dalam persimpangan dinamik AI/ML, teknologi pemasaran dan bidang baru muncul seperti crypto, blockchain dan NFTs. Dengan lebih 3 tahun pengalaman dalam industri, Kumar telah mencipta rekod prestasi yang terbukti dalam mencipta naratif yang menarik, menjalankan temu bual yang berwawasan dan menyampaikan pandangan yang komprehensif. Kepakaran Kumar terletak dalam menghasilkan kandungan berimpak tinggi, termasuk artikel, laporan dan penerbitan penyelidikan untuk platform industri terkemuka. Dengan set kemahiran unik yang menggabungkan pengetahuan teknikal dan penceritaan, Kumar cemerlang dalam menyampaikan konsep teknologi yang kompleks kepada khalayak yang pelbagai dengan cara yang jelas dan menarik.
lebih banyak artikel
Kumar ialah seorang Wartawan Teknologi berpengalaman dengan pengkhususan dalam persimpangan dinamik AI/ML, teknologi pemasaran dan bidang baru muncul seperti crypto, blockchain dan NFTs. Dengan lebih 3 tahun pengalaman dalam industri, Kumar telah mencipta rekod prestasi yang terbukti dalam mencipta naratif yang menarik, menjalankan temu bual yang berwawasan dan menyampaikan pandangan yang komprehensif. Kepakaran Kumar terletak dalam menghasilkan kandungan berimpak tinggi, termasuk artikel, laporan dan penerbitan penyelidikan untuk platform industri terkemuka. Dengan set kemahiran unik yang menggabungkan pengetahuan teknikal dan penceritaan, Kumar cemerlang dalam menyampaikan konsep teknologi yang kompleks kepada khalayak yang pelbagai dengan cara yang jelas dan menarik.
