Modeli umjetne inteligencije za generiranje slika obučavaju se na eksplicitnim dječjim slikama, tvrdi Stanford
Ukratko
Popularni alati za generiranje teksta u sliku uključujući AI Stable Diffusion, obučavaju se na tisućama slika seksualnog zlostavljanja djece.
Popularno pretvaranje teksta u sliku generativni AI alate, uključujući Stable Diffusion iz Stability AI obučavaju se na tisućama slika seksualnog zlostavljanja djece, prema istraživačkom izvješću Stanford Internet Observatorija.
Izvješće dodaje da te slike olakšavaju stvaranje realističnog eksplicitnog sadržaja koji uključuje lažnu djecu i transformaciju odjevenih tinejdžera u gole slike, pozivajući tvrtke koje stoje iza takvih alata na hitnu akciju.
Istraga Stanford Internet Observatorija usredotočila se na LAION baza podataka, ogromno spremište mrežnih slika i opisa koje koristi vodeći AI proizvođači slika kao Stable Diffusion, za obuku AI modela.
Prije provjere AI alata za generiranje slika, istraživači su smatrali da AI alati proizvode uvredljive slike djece kombiniranjem informacija iz pornografije za odrasle i benignih fotografija djece. Međutim, nalazi Opservatorija predstavljaju uznemirujući obrat, s više od 3,200 slika na koje se sumnja da su seksualno zlostavljana djeca identificirana unutar skupa podataka LAION.
Iako je LAION brzo odgovorio na izvješće privremenim uklanjanjem svojih skupova podataka, implikacije ovih slika su dalekosežne. Iako čine djelić LAION-ova golemog indeksa od 5.8 milijardi slika, Stanfordska grupa tvrdi da vjerojatno utječu na sposobnost AI alati generirati štetne izlaze.
Značajan igrač u razvoju LAION baze podataka je Stability AI, startup sa sjedištem u Londonu odgovoran za oblikovanje skupa podataka. U izvješću se ističe da starija verzija njihove Stable Diffusion model, predstavljen prošle godine, još uvijek je prisutan u raznim aplikacijama, kao primarni izvor za generiranje eksplicitnih slika.
Iako Stability AI tvrdi da ugošćuje samo filtrirane verzije i poduzeo je korake za ublažavanje zlouporabe, izazov leži u sveprisutnosti starijeg modela.
Generativna AI implementacija zahtijeva rigoroznu provjeru valjanosti
Srž problema seže unatrag do brzog razvoja mnogih generativnih AI projekata na tržištu, prema Davidu Thielu, glavnom tehnologu na Stanford Internet Observatoryju.
Thiel ističe da su ti projekti često bili široko dostupni zbog intenzivne konkurencije u tom području, bez potrebne rigorozne pažnje tijekom faze razvoja.
Istraživači sa Stanforda zagovaraju drastične mjere za učinkovito rješavanje problema. Preporuke uključuju brisanje ili čišćenje setova treninga izvedenih iz LAION-5B i izradu starije verzije Stable Diffusion manje pristupačan.
Međutim, složenost retroaktivnog čišćenja podataka predstavlja znatan izazov, što potiče poziv na suradnju sa stručnjacima za sigurnost djece tijekom razvoja AI baze podataka.
Dok škole i agencije za provođenje zakona diljem svijeta izražavaju zabrinutost zbog mogućih posljedica ovih otkrića, svjetla pozornosti sada su usmjerena AI industrija da se hitno pozabave i isprave štetne nedostatke unutar svoje tehnologije.
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Kumar je iskusan tehnološki novinar sa specijalizacijom u dinamičkim raskrižjima AI/ML-a, marketinške tehnologije i novih područja kao što su kripto, blockchain i NFTs. S više od 3 godine iskustva u industriji, Kumar ima dokazanu reputaciju u izradi uvjerljivih priča, provođenju pronicljivih intervjua i pružanju sveobuhvatnih uvida. Kumarova stručnost leži u izradi sadržaja visokog utjecaja, uključujući članke, izvješća i istraživačke publikacije za istaknute industrijske platforme. S jedinstvenim skupom vještina koje kombiniraju tehničko znanje i pripovijedanje, Kumar se ističe u komuniciranju složenih tehnoloških koncepata različitoj publici na jasan i privlačan način.
Više članaka
Kumar je iskusan tehnološki novinar sa specijalizacijom u dinamičkim raskrižjima AI/ML-a, marketinške tehnologije i novih područja kao što su kripto, blockchain i NFTs. S više od 3 godine iskustva u industriji, Kumar ima dokazanu reputaciju u izradi uvjerljivih priča, provođenju pronicljivih intervjua i pružanju sveobuhvatnih uvida. Kumarova stručnost leži u izradi sadržaja visokog utjecaja, uključujući članke, izvješća i istraživačke publikacije za istaknute industrijske platforme. S jedinstvenim skupom vještina koje kombiniraju tehničko znanje i pripovijedanje, Kumar se ističe u komuniciranju složenih tehnoloških koncepata različitoj publici na jasan i privlačan način.
