Vaizdą generuojantys dirbtinio intelekto modeliai mokomi kurti atvirus vaikų vaizdus, teigia Stanfordas
Trumpai
Populiarūs teksto į vaizdą generuojantys AI įrankiai, įskaitant Stable Diffusion, yra mokomi apie tūkstančius seksualinės prievartos prieš vaikus vaizdų.
Populiarus tekstas į vaizdą generatyvinis AI įrankiai, įskaitant Stable Diffusion nuo Stability AI Kaip teigiama Stanfordo interneto observatorijos tyrimo ataskaitoje, jie mokomi apie tūkstančius seksualinės prievartos prieš vaikus vaizdų.
Ataskaitoje priduriama, kad šie vaizdai palengvina tikroviško atviro turinio, apimančio netikrus vaikus, generavimą ir apsirengusių paauglių pavertimą nuogais vaizdais, todėl įmonės, kurioms naudojami tokie įrankiai, raginami nedelsiant imtis veiksmų.
Stanfordo interneto observatorijos tyrimas sutelkė dėmesį į LAION duomenų bazė, didžiulė internetinių vaizdų ir antraščių saugykla, kurią naudoja lyderiai AI vaizdų kūrėjai kaip Stable Diffusion, mokyti dirbtinio intelekto modelius.
Prieš tikrindami vaizdus generuojančius dirbtinio intelekto įrankius, mokslininkai laikėsi nuomonės, kad AI įrankiai sukuria įžeidžiančius vaikų vaizdus, sujungdami informaciją iš suaugusiųjų pornografijos ir gerybines vaikų nuotraukas. Tačiau Observatorijos išvados yra nerimą keliantis posūkis, nes LAION duomenų rinkinyje yra daugiau nei 3,200 XNUMX įtariamo seksualinio išnaudojimo prieš vaikus vaizdų.
Nors LAION greitai sureagavo į ataskaitą laikinai pašalindama savo duomenų rinkinius, šių vaizdų pasekmės yra plataus užmojo. Nors jie sudaro didžiojo LAION 5.8 milijardo vaizdų indekso dalį, Stanfordo grupė tvirtina, kad jie gali turėti įtakos gebėjimui PG įrankiai sukurti kenksmingus rezultatus.
Svarbus LAION duomenų bazės kūrimo žaidėjas yra Stability AI, Londone įsikūręs startuolis, atsakingas už duomenų rinkinio formavimą. Ataskaitoje pabrėžiama, kad senesnė jų versija Stable Diffusion modelis, pristatytas praėjusiais metais, vis dar naudojamas įvairiose programose, kaip pagrindinis šaltinis kuriant aiškius vaizdus.
nors Stability AI teigia, kad priglobia tik filtruotas versijas ir ėmėsi veiksmų, kad sumažintų piktnaudžiavimą, iššūkis yra senesnio modelio paplitimas.
Generatyvus AI diegimas reikalauja griežto patvirtinimo
Kaip teigia Davidas Thielis, Stanfordo interneto observatorijos vyriausiasis technologas, problemos esmė siejama su greitu daugelio generatyvių AI projektų diegimu į rinką.
Thiel pabrėžia, kad šie projektai dažnai buvo plačiai prieinami dėl intensyvios konkurencijos šioje srityje, kūrimo etape neskiriant reikiamo griežto dėmesio.
Stanfordo mokslininkai pasisako už drastiškas priemones, kad ši problema būtų išspręsta veiksmingai. Rekomendacijos apima treniruočių rinkinių, gautų iš LAION-5B, ištrynimą arba valymą ir senesnės versijos kūrimą. Stable Diffusion mažiau prieinamas.
Tačiau sudėtingas duomenų išvalymas atgaline data yra didelis iššūkis, todėl reikia bendradarbiauti su vaikų saugos ekspertais kuriant AI duomenų bazės.
Mokykloms ir teisėsaugos agentūroms visame pasaulyje išreiškiant nerimą dėl galimų šių išvadų pasekmių, dabar dėmesio centre yra AI pramonė skubiai pašalinti ir ištaisyti žalingus savo technologijų trūkumus.
Atsakomybės neigimas
Remdamasi tuo, Pasitikėjimo projekto gairės, atkreipkite dėmesį, kad šiame puslapyje pateikta informacija nėra skirta ir neturėtų būti aiškinama kaip teisinė, mokesčių, investicinė, finansinė ar bet kokia kita konsultacija. Svarbu investuoti tik tai, ką galite sau leisti prarasti, ir, jei turite kokių nors abejonių, kreiptis į nepriklausomą finansinę konsultaciją. Norėdami gauti daugiau informacijos, siūlome peržiūrėti taisykles ir nuostatas bei pagalbos ir palaikymo puslapius, kuriuos pateikia išdavėjas arba reklamuotojas. MetaversePost yra įsipareigojusi teikti tikslias, nešališkas ataskaitas, tačiau rinkos sąlygos gali keistis be įspėjimo.
Apie autorių
Kumaras yra patyręs technologijų žurnalistas, kurio specializacija yra dinamiškos AI/ML sankirtos, rinkodaros technologijos ir naujos sritys, tokios kaip kriptovaliutos, blokų grandinės ir NFTs. Turėdamas daugiau nei 3 metų patirtį šioje pramonėje, Kumaras sukūrė įtikinamus pasakojimus, veda įžvalgius interviu ir pateikia išsamias įžvalgas. „Kumar“ patirtis yra susijusi su didelio poveikio turinio kūrimu, įskaitant straipsnius, ataskaitas ir mokslinių tyrimų publikacijas žinomoms pramonės platformoms. Turėdamas unikalų įgūdžių rinkinį, kuriame derinamos techninės žinios ir pasakojimas, Kumaras puikiai perteikia sudėtingas technologines koncepcijas įvairioms auditorijoms aiškiai ir patraukliai.
Daugiau straipsnių
Kumaras yra patyręs technologijų žurnalistas, kurio specializacija yra dinamiškos AI/ML sankirtos, rinkodaros technologijos ir naujos sritys, tokios kaip kriptovaliutos, blokų grandinės ir NFTs. Turėdamas daugiau nei 3 metų patirtį šioje pramonėje, Kumaras sukūrė įtikinamus pasakojimus, veda įžvalgius interviu ir pateikia išsamias įžvalgas. „Kumar“ patirtis yra susijusi su didelio poveikio turinio kūrimu, įskaitant straipsnius, ataskaitas ir mokslinių tyrimų publikacijas žinomoms pramonės platformoms. Turėdamas unikalų įgūdžių rinkinį, kuriame derinamos techninės žinios ir pasakojimas, Kumaras puikiai perteikia sudėtingas technologines koncepcijas įvairioms auditorijoms aiškiai ir patraukliai.
