Şəkil yaradan süni intellekt modelləri açıq-aydın uşaq şəkilləri üzərində öyrədilir, Stanford iddia edir
Qısaca
Populyar mətndən-şəklə generativ AI alətləri də daxil olmaqla Stable Diffusion, minlərlə uşaq cinsi istismar təsvirləri üzərində təlimlər keçirilir.
Populyar mətndən şəkilə generativ AI alətlər, o cümlədən Stable Diffusion etibarən Stability AI Stanford İnternet Rəsədxanasının araşdırma hesabatına görə, minlərlə uşaq cinsi zorakılığı təsvirləri üzrə təlimlər keçirilir.
Hesabatda əlavə edilib ki, bu şəkillər saxta uşaqların iştirak etdiyi realistik açıq məzmunun yaradılmasını və geyimli yeniyetmələrin çılpaq görüntülərə çevrilməsini asanlaşdırır və bu cür vasitələrin arxasında duran şirkətləri təcili tədbirlər görməyə çağırır.
Stanford İnternet Rəsədxanasının araşdırması diqqət mərkəzində olub LAION verilənlər bazası, aparıcı tərəfindən istifadə edilən onlayn şəkillər və başlıqların böyük bir deposu AI imic istehsalçıları kimi Stable Diffusion, AI modellərini öyrətmək.
Şəkil yaradan süni intellekt alətlərini yoxlamadan əvvəl tədqiqatçılar hesab edirdilər ki, süni intellekt alətləri böyüklər pornoqrafiyasından və uşaqların xoşagəlməz fotolarından alınan məlumatları birləşdirərək uşaqların təhqiramiz təsvirlərini yaradır. Bununla belə, Rəsədxananın tapıntıları LAION məlumat dəstində müəyyən edilmiş şübhəli uşaq cinsi zorakılığının 3,200-dən çox təsviri ilə narahatedici bir dönüş təqdim edir.
LAION, məlumat dəstlərini müvəqqəti olaraq silməklə hesabata tez cavab versə də, bu şəkillərin nəticələri çox genişdir. Baxmayaraq ki, onlar LAION-un 5.8 milyard təsvirdən ibarət geniş indeksinin bir hissəsini təşkil edir, Stenford qrupu iddia edir ki, onlar çox güman ki, onların iş qabiliyyətinə təsir edir. AI alətləri zərərli nəticələr yaratmaq.
LAION verilənlər bazasının inkişafında əhəmiyyətli bir oyunçu Stability AI, məlumat dəstinin formalaşdırılmasına cavabdeh olan London mərkəzli startap. Hesabatda onların köhnə versiyasının olduğu vurğulanır Stable Diffusion Keçən il təqdim edilən model açıq görüntü yaratmaq üçün əsas mənbə kimi müxtəlif tətbiqlərdə hələ də mövcuddur.
Baxmayaraq ki Stability AI yalnız süzülmüş versiyaları qəbul etdiyini iddia edir və sui-istifadə hallarını azaltmaq üçün addımlar atıb, problem köhnə modelin geniş yayılmasındadır.
Generativ AI yerləşdirilməsi ciddi yoxlama tələb edir
Stenford İnternet Rəsədxanasının baş texnoloqu David Thiel-in dediyinə görə, məsələnin əsası bir çox generativ süni intellekt layihələrinin bazara sürətlə tətbiq edilməsinə gedib çıxır.
Thiel qeyd edir ki, bu layihələr tez-tez inkişaf mərhələsində lazımi ciddi diqqət göstərilmədən, sahədəki gərgin rəqabət səbəbindən geniş şəkildə əlçatan olub.
Stenford tədqiqatçıları problemi effektiv həll etmək üçün kəskin tədbirlərin görülməsini müdafiə edirlər. Tövsiyələrə LAION-5B-dən alınmış təlim dəstlərinin silinməsi və ya təmizlənməsi və daha köhnə versiyasının edilməsi daxildir. Stable Diffusion daha az əlçatandır.
Bununla belə, məlumatların retroaktiv şəkildə təmizlənməsinin mürəkkəbliyi əhəmiyyətli problem yaradır və bu, uşaqların təhlükəsizliyi üzrə mütəxəssislərlə əməkdaşlığa çağırışa səbəb olur. AI verilənlər bazaları.
Bütün dünyada məktəblər və hüquq-mühafizə orqanları bu tapıntıların potensial nəticələri ilə bağlı həyəcan təbili çaldıqca diqqət mərkəzindədir. AI sənayesi texnologiyaları daxilindəki zərərli qüsurları təcili olaraq aradan qaldırmaq və aradan qaldırmaq.
Məsuliyyətdən imtina
uyğun olaraq Güvən Layihəsi qaydaları, lütfən nəzərə alın ki, bu səhifədə təqdim olunan məlumat hüquqi, vergi, investisiya, maliyyə və ya hər hansı digər məsləhət forması kimi təfsir edilməməlidir və təfsir edilməməlidir. Yalnız itirə biləcəyiniz şeyə investisiya qoymaq və hər hansı bir şübhəniz varsa, müstəqil maliyyə məsləhətləri axtarmaq vacibdir. Əlavə məlumat üçün biz emitent və ya reklamçı tərəfindən təmin edilən şərtlər və şərtlərə, həmçinin yardım və dəstək səhifələrinə müraciət etməyi təklif edirik. MetaversePost dəqiq, qərəzsiz hesabat verməyə sadiqdir, lakin bazar şərtləri xəbərdarlıq edilmədən dəyişdirilə bilər.
Müəllif haqqında
Kumar AI/ML-nin dinamik kəsişmələri, marketinq texnologiyaları və kriptovalyuta, blokçeyn və digər inkişaf etməkdə olan sahələr üzrə ixtisaslaşan təcrübəli Texniki Jurnalistdir. NFTs. Sənayedə 3 ildən çox təcrübəsi olan Kumar, cəlbedici povestlər hazırlamaq, dərin müsahibələr aparmaq və hərtərəfli fikirlər çatdırmaqda sübut edilmiş bir təcrübə yaratmışdır. Kumarın təcrübəsi görkəmli sənaye platformaları üçün məqalələr, hesabatlar və tədqiqat nəşrləri daxil olmaqla yüksək təsirli məzmunun hazırlanmasında yatır. Texniki bilik və hekayəni özündə birləşdirən unikal bacarıq dəsti ilə Kumar mürəkkəb texnoloji konsepsiyaları müxtəlif auditoriyalara aydın və cəlbedici şəkildə çatdırmaqda üstündür.
Ətraflı məqalələr
Kumar AI/ML-nin dinamik kəsişmələri, marketinq texnologiyaları və kriptovalyuta, blokçeyn və digər inkişaf etməkdə olan sahələr üzrə ixtisaslaşan təcrübəli Texniki Jurnalistdir. NFTs. Sənayedə 3 ildən çox təcrübəsi olan Kumar, cəlbedici povestlər hazırlamaq, dərin müsahibələr aparmaq və hərtərəfli fikirlər çatdırmaqda sübut edilmiş bir təcrübə yaratmışdır. Kumarın təcrübəsi görkəmli sənaye platformaları üçün məqalələr, hesabatlar və tədqiqat nəşrləri daxil olmaqla yüksək təsirli məzmunun hazırlanmasında yatır. Texniki bilik və hekayəni özündə birləşdirən unikal bacarıq dəsti ilə Kumar mürəkkəb texnoloji konsepsiyaları müxtəlif auditoriyalara aydın və cəlbedici şəkildə çatdırmaqda üstündür.
