Stanford, Görüntü Üreten Yapay Zeka Modellerinin Açık Çocuk Görselleri Üzerinde Eğitim Aldığını İddia Ediyor
Kısaca
Popüler metinden görüntüye üretken yapay zeka araçları Stable Diffusion, binlerce çocuğa yönelik cinsel istismar görselleri üzerine eğitim alıyor.
Popüler metinden resme üretken yapay zeka dahil olmak üzere araçlar Stable Diffusion itibaren Stability AI Stanford İnternet Gözlemevi'nin araştırma raporuna göre binlerce çocuk cinsel istismarı görseli üzerine eğitim veriliyor.
Raporda, bu görüntülerin, sahte çocukların yer aldığı gerçekçi ve müstehcen içeriklerin oluşturulmasını ve giyinik gençlerin çıplak görüntülere dönüştürülmesini kolaylaştırdığı ve bu tür araçların arkasındaki şirketlerin derhal harekete geçmesi çağrısında bulunulduğu belirtildi.
Stanford İnternet Gözlemevi'nin araştırması şunlara odaklandı: LAION veritabanı, önde gelen şirketlerin kullandığı devasa bir çevrimiçi resim ve altyazı deposu Yapay zeka görüntü oluşturucuları sevmek Stable Diffusion, AI modellerini eğitmek için.
Görüntü oluşturan yapay zeka araçlarını kontrol etmeden önce araştırmacılar, yapay zeka araçlarının, yetişkin pornografisinden alınan bilgilerle çocukların zararsız fotoğraflarından elde edilen bilgileri birleştirerek istismar edici çocuk görüntüleri ürettiği görüşündeydi. Ancak Gözlemevi'nin bulguları, LAION veri setinde tespit edilen 3,200'den fazla çocuk cinsel istismarı şüpheli görüntüsüyle rahatsız edici bir durum ortaya koyuyor.
LAION, veri kümelerini geçici olarak kaldırarak rapora hızlı bir şekilde yanıt verirken, bu görüntülerin etkileri geniş kapsamlıdır. Her ne kadar LAION'un 5.8 milyar görüntüden oluşan geniş indeksinin bir kısmını oluştursalar da, Stanford grubu bunların muhtemelen görüntüleme yeteneğini etkilediğini iddia ediyor. AI araçları Zararlı çıktılar üretmek.
LAION veritabanının geliştirilmesinde önemli bir oyuncu Stability AIveri kümesini şekillendirmekten sorumlu Londra merkezli bir girişim. Rapor, eski bir sürümünün olduğunu vurguluyor Stable Diffusion Geçen yıl tanıtılan model, açık görseller oluşturmak için birincil kaynak olarak çeşitli uygulamalarda hâlâ mevcuttur.
Rağmen Stability AI yalnızca filtrelenmiş sürümleri barındırdığını iddia ediyor ve kötüye kullanımı azaltmak için adımlar atıyor, zorluk eski modelin yaygınlığında yatıyor.
Üretken Yapay Zeka Dağıtımı Sıkı Doğrulama Gerektirir
Stanford İnternet Gözlemevi'nin baş teknoloji uzmanı David Thiel'e göre sorunun özü, birçok üretken yapay zeka projesinin pazara hızla yayılmasına dayanıyor.
Thiel, bu projelerin, sahadaki yoğun rekabet nedeniyle, geliştirme aşamasında gerekli titizlik gösterilmeden sıklıkla geniş çapta erişilebilir hale getirildiğine dikkat çekiyor.
Stanford araştırmacıları, sorunu etkili bir şekilde çözmek için sert önlemlerin alınmasını savunuyor. Öneriler arasında LAION-5B'den türetilen eğitim setlerinin silinmesi veya temizlenmesi ve daha eski bir sürümün oluşturulması yer alıyor. Stable Diffusion daha az erişilebilir.
Bununla birlikte, verilerin geriye dönük olarak temizlenmesinin karmaşıklığı önemli bir zorluk teşkil etmekte ve bu durum, çocuk güvenliği uzmanlarıyla iş birliği yapılması yönünde çağrı yapılmasına yol açmaktadır. Yapay zeka veritabanları.
Dünya çapındaki okullar ve kolluk kuvvetleri bu bulguların potansiyel sonuçları konusunda alarm verirken, dikkatler artık yapay zeka endüstrisi teknolojilerindeki zararlı kusurları acilen ele alıp düzeltmek.
Feragatname
Doğrultusunda Trust Project yönergeleri, lütfen bu sayfada sağlanan bilgilerin hukuki, vergi, yatırım, finansal veya başka herhangi bir tavsiye niteliğinde olmadığını ve bu şekilde yorumlanmaması gerektiğini unutmayın. Yalnızca kaybetmeyi göze alabileceğiniz kadar yatırım yapmak ve herhangi bir şüpheniz varsa bağımsız finansal tavsiye almak önemlidir. Daha fazla bilgi için şartlar ve koşulların yanı sıra kartı veren kuruluş veya reklamveren tarafından sağlanan yardım ve destek sayfalarına bakmanızı öneririz. MetaversePost doğru, tarafsız raporlamaya kendini adamıştır, ancak piyasa koşulları önceden haber verilmeksizin değiştirilebilir.
Yazar hakkında
Kumar, AI/ML, pazarlama teknolojisi ve kripto, blockchain gibi yeni ortaya çıkan alanların dinamik kesişimleri konusunda uzmanlığa sahip deneyimli bir Teknoloji Gazetecisidir. NFTS. Sektördeki 3 yılı aşkın tecrübesiyle Kumar, ilgi çekici anlatılar oluşturma, aydınlatıcı röportajlar yürütme ve kapsamlı bilgiler sunma konusunda kanıtlanmış bir performansa sahiptir. Kumar'ın uzmanlığı, önde gelen endüstri platformları için makaleler, raporlar ve araştırma yayınları dahil olmak üzere yüksek etkili içerik üretmede yatmaktadır. Teknik bilgi ile hikaye anlatıcılığını birleştiren benzersiz beceri seti ile Kumar, karmaşık teknolojik kavramları farklı hedef kitlelere açık ve ilgi çekici bir şekilde aktarma konusunda uzmandır.
Daha fazla haber
Kumar, AI/ML, pazarlama teknolojisi ve kripto, blockchain gibi yeni ortaya çıkan alanların dinamik kesişimleri konusunda uzmanlığa sahip deneyimli bir Teknoloji Gazetecisidir. NFTS. Sektördeki 3 yılı aşkın tecrübesiyle Kumar, ilgi çekici anlatılar oluşturma, aydınlatıcı röportajlar yürütme ve kapsamlı bilgiler sunma konusunda kanıtlanmış bir performansa sahiptir. Kumar'ın uzmanlığı, önde gelen endüstri platformları için makaleler, raporlar ve araştırma yayınları dahil olmak üzere yüksek etkili içerik üretmede yatmaktadır. Teknik bilgi ile hikaye anlatıcılığını birleştiren benzersiz beceri seti ile Kumar, karmaşık teknolojik kavramları farklı hedef kitlelere açık ve ilgi çekici bir şekilde aktarma konusunda uzmandır.
