Stanford väittää, että kuvia luovia tekoälymalleja koulutetaan eksplisiittisiin lapsikuviin
Lyhyesti
Suosittuja tekstistä kuvaksi luovia tekoälytyökaluja, mukaan lukien Stable Diffusion, joita koulutetaan tuhansien lasten seksuaalista hyväksikäyttöä koskevista kuvista.
Suosittu tekstistä kuvaksi generatiivinen tekoäly työkaluja, mukaan lukien Stable Diffusion alkaen Stability AI Stanford Internet Observatoryn tutkimusraportin mukaan heitä koulutetaan tuhansien lasten seksuaalista hyväksikäyttöä koskevista kuvista.
Raportti lisäsi, että nämä kuvat helpottavat realistisen eksplisiittisen sisällön luomista, johon liittyy väärennettyjä lapsia, ja pukeutuneiden teini-ikäisten muuntamista alastomaksi kuviksi, ja kehotti tällaisten työkalujen takana olevia yrityksiä ryhtymään välittömiin toimiin.
Stanford Internet Observatoryn tutkimus keskittyi LAION-tietokanta, valtava verkkokuvien ja tekstitysten arkisto, jota johtavat käyttävät AI-kuvantekijät pitää Stable Diffusion, kouluttaa tekoälymalleja.
Ennen kuvien luomiseen tarkoitettujen tekoälytyökalujen tarkistamista tutkijat olivat sitä mieltä, että tekoälytyökalut tuottivat loukkaavia kuvia lapsista yhdistämällä tietoa aikuisten pornografiasta ja hyvänlaatuisia lapsikuvia. Observatorion havainnot ovat kuitenkin häiritseviä, ja LAION-tietojoukossa on yli 3,200 XNUMX kuvaa epäillystä lasten seksuaalisesta hyväksikäytöstä.
Vaikka LAION vastasi nopeasti raporttiin poistamalla väliaikaisesti tietojoukot, näiden kuvien vaikutukset ovat kauaskantoisia. Vaikka ne muodostavat osan LAIONin valtavasta 5.8 miljardin kuvan indeksistä, Stanford-ryhmä väittää, että ne todennäköisesti vaikuttavat kykyyn AI-työkaluja tuottaa haitallisia tuloksia.
Merkittävä toimija LAION-tietokannan kehittämisessä on Stability AI, Lontoossa toimiva startup, joka vastaa tietojoukon muokkaamisesta. Raportti korostaa, että heidän vanhempi versio Stable Diffusion Viime vuonna esitelty malli on edelleen läsnä useissa sovelluksissa ensisijaisena lähteenä eksplisiittisten kuvien luomiseen.
Vaikka Stability AI väittää isännöivänsä vain suodatettuja versioita ja on ryhtynyt toimiin väärinkäytön vähentämiseksi, haasteena on vanhemman mallin yleisyys.
Generatiivinen tekoälyn käyttöönotto edellyttää tiukkaa validointia
Asian ydin juontaa juurensa monien luovien tekoälyprojektien nopeaan käyttöönoton markkinoille, kuten sanoi David Thiel, Stanfordin Internet Observatoryn pääteknologia.
Thiel huomauttaa, että nämä hankkeet tehtiin usein laajalti saavutettaviksi alan kovan kilpailun vuoksi ilman tarvittavaa tiukkaa huomiota kehitysvaiheessa.
Stanfordin tutkijat kannattavat rajuja toimenpiteitä ongelman ratkaisemiseksi tehokkaasti. Suosituksia ovat LAION-5B:stä johdettujen harjoitussarjojen poistaminen tai puhdistaminen ja vanhemman version tekeminen Stable Diffusion vähemmän saatavilla.
Tietojen takautuvan puhdistamisen monimutkaisuus asettaa kuitenkin huomattavan haasteen, minkä vuoksi vaaditaan yhteistyötä lasten turvallisuuden asiantuntijoiden kanssa AI-tietokannat.
Kun koulut ja lainvalvontaviranomaiset ympäri maailmaa ovat huolissaan näiden löydösten mahdollisista seurauksista, valokeilassa on nyt AI-teollisuus puuttumaan ja korjaamaan kiireellisesti teknologiansa haitalliset puutteet.
Vastuun kieltäminen
Mukaisesti Luottamusprojektin ohjeetHuomaa, että tällä sivulla annettuja tietoja ei ole tarkoitettu eikä niitä tule tulkita oikeudellisiksi, verotukselliseksi, sijoitus-, rahoitus- tai minkään muun muodon neuvoiksi. On tärkeää sijoittaa vain sen verran, mitä sinulla on varaa menettää, ja pyytää riippumatonta talousneuvontaa, jos sinulla on epäilyksiä. Lisätietoja saat käyttöehdoista sekä myöntäjän tai mainostajan tarjoamista ohje- ja tukisivuista. MetaversePost on sitoutunut tarkkaan, puolueettomaan raportointiin, mutta markkinaolosuhteet voivat muuttua ilman erillistä ilmoitusta.
Author
Kumar on kokenut teknologiatoimittaja, joka on erikoistunut AI/ML:n dynaamisiin risteyksiin, markkinointiteknologiaan ja nouseviin aloihin, kuten krypto-, lohkoketju- ja NFTs. Yli 3 vuoden kokemuksella alalta Kumar on saavuttanut todistetun ennätyksen vakuuttavien tarinoiden laatimisessa, oivaltavien haastattelujen tekemisessä ja kattavien näkemysten toimittamisessa. Kumarin asiantuntemus perustuu vaikuttavan sisällön tuottamiseen, mukaan lukien artikkeleita, raportteja ja tutkimusjulkaisuja merkittäville alan alustoille. Ainutlaatuisella taitosarjalla, jossa yhdistyvät tekninen tietämys ja tarinankerronta, Kumar on erinomainen kommunikoimaan monimutkaisia teknologisia käsitteitä eri yleisöille selkeällä ja mukaansatempaavalla tavalla.
lisää artikkeleita
Kumar on kokenut teknologiatoimittaja, joka on erikoistunut AI/ML:n dynaamisiin risteyksiin, markkinointiteknologiaan ja nouseviin aloihin, kuten krypto-, lohkoketju- ja NFTs. Yli 3 vuoden kokemuksella alalta Kumar on saavuttanut todistetun ennätyksen vakuuttavien tarinoiden laatimisessa, oivaltavien haastattelujen tekemisessä ja kattavien näkemysten toimittamisessa. Kumarin asiantuntemus perustuu vaikuttavan sisällön tuottamiseen, mukaan lukien artikkeleita, raportteja ja tutkimusjulkaisuja merkittäville alan alustoille. Ainutlaatuisella taitosarjalla, jossa yhdistyvät tekninen tietämys ja tarinankerronta, Kumar on erinomainen kommunikoimaan monimutkaisia teknologisia käsitteitä eri yleisöille selkeällä ja mukaansatempaavalla tavalla.
