Modeli AI za ustvarjanje slik se usposabljajo na eksplicitnih otroških slikah, trdi Stanford
Na kratko
Priljubljena orodja AI za ustvarjanje besedila v sliko, vključno z Stable Diffusion, se urijo na tisočih slikah spolne zlorabe otrok.
Priljubljeno besedilo v sliko generativni AI orodja, vključno z Stable Diffusion iz Stability AI po raziskovalnem poročilu internetnega observatorija Stanford se usposabljajo na tisočih slikah spolne zlorabe otrok.
Poročilo je dodalo, da te slike olajšajo ustvarjanje realistične eksplicitne vsebine, ki vključuje lažne otroke in preoblikovanje oblečenih najstnikov v gole podobe, kar zahteva takojšnje ukrepanje podjetij, ki stojijo za takšnimi orodji.
Preiskava internetnega observatorija Stanford se je osredotočila na Baza podatkov LAION, ogromno skladišče spletnih slik in napisov, ki jih uporabljajo vodilni Izdelovalci slik AI kot Stable Diffusion, za usposabljanje modelov AI.
Preden so preverili orodja umetne inteligence za ustvarjanje slik, so raziskovalci menili, da orodja umetne inteligence ustvarjajo žaljive podobe otrok s kombinacijo informacij iz pornografije odraslih in benignih fotografij otrok. Vendar pa ugotovitve Observatorija predstavljajo zaskrbljujoč preobrat, saj je v naboru podatkov LAION ugotovljenih več kot 3,200 slik domnevne spolne zlorabe otrok.
Čeprav se je LAION hitro odzval na poročilo z začasno odstranitvijo svojih naborov podatkov, so posledice teh slik daljnosežne. Čeprav predstavljajo le delček LAION-ovega obsežnega indeksa 5.8 milijarde slik, skupina Stanford trdi, da verjetno vplivajo na sposobnost AI orodja za ustvarjanje škodljivih izhodov.
Pomemben akter pri razvoju baze podatkov LAION je Stability AI, startup s sedežem v Londonu, odgovoren za oblikovanje nabora podatkov. Poročilo poudarja, da starejša različica njihovega Stable Diffusion model, predstavljen lani, je še vedno prisoten v različnih aplikacijah kot primarni vir za ustvarjanje eksplicitnih slik.
Čeprav Stability AI trdi, da gosti samo filtrirane različice in je sprejel ukrepe za ublažitev zlorabe, je izziv v razširjenosti starejšega modela.
Generativna uvedba AI zahteva strogo preverjanje
Po besedah Davida Thiela, glavnega tehnologa na Stanfordskem internetnem observatoriju, jedro vprašanja izhaja iz hitre uvedbe številnih generativnih projektov umetne inteligence na trg.
Thiel poudarja, da so bili ti projekti pogosto široko dostopni zaradi močne konkurence na tem področju, brez potrebne stroge pozornosti v fazi razvoja.
Stanfordski raziskovalci zagovarjajo drastične ukrepe za učinkovito reševanje tega vprašanja. Priporočila vključujejo izbris ali čiščenje nizov usposabljanja, ki izhajajo iz LAION-5B, in izdelavo starejše različice Stable Diffusion manj dostopen.
Vendar zapletenost retroaktivnega čiščenja podatkov predstavlja precejšen izziv, kar spodbuja sodelovanje s strokovnjaki za varnost otrok med razvojem baze podatkov AI.
Medtem ko šole in organi kazenskega pregona po vsem svetu izražajo zaskrbljenost zaradi morebitnih posledic teh ugotovitev, je zdaj v središču pozornosti AI industrija nujno obravnavati in odpraviti škodljive napake v njihovi tehnologiji.
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Kumar je izkušen tehnični novinar, specializiran za dinamična presečišča AI/ML, marketinške tehnologije in nastajajočih področij, kot so kripto, blockchain in NFTs. Z več kot 3 leti izkušenj v panogi je Kumar pridobil dokazane rezultate pri oblikovanju privlačnih pripovedi, vodenju pronicljivih intervjujev in zagotavljanju celovitih vpogledov. Kumarjevo strokovno znanje je v izdelavi odmevnih vsebin, vključno s članki, poročili in raziskovalnimi publikacijami za pomembne industrijske platforme. Z edinstvenim naborom spretnosti, ki združuje tehnično znanje in pripovedovanje zgodb, se Kumar odlikuje pri sporočanju zapletenih tehnoloških konceptov različnim občinstvom na jasen in privlačen način.
več člankov
Kumar je izkušen tehnični novinar, specializiran za dinamična presečišča AI/ML, marketinške tehnologije in nastajajočih področij, kot so kripto, blockchain in NFTs. Z več kot 3 leti izkušenj v panogi je Kumar pridobil dokazane rezultate pri oblikovanju privlačnih pripovedi, vodenju pronicljivih intervjujev in zagotavljanju celovitih vpogledov. Kumarjevo strokovno znanje je v izdelavi odmevnih vsebin, vključno s članki, poročili in raziskovalnimi publikacijami za pomembne industrijske platforme. Z edinstvenim naborom spretnosti, ki združuje tehnično znanje in pripovedovanje zgodb, se Kumar odlikuje pri sporočanju zapletenih tehnoloških konceptov različnim občinstvom na jasen in privlačen način.
