I modelli di intelligenza artificiale che generano immagini vengono addestrati su immagini esplicite di bambini, afferma Stanford
In Breve
I più diffusi strumenti di intelligenza artificiale generativa da testo a immagine, inclusi Stable Diffusion, vengono formati su migliaia di immagini di abusi sessuali su minori.
Popolare conversione da testo a immagine IA generativa strumenti, tra cui Stable Diffusion da Stability AI vengono addestrati su migliaia di immagini di abusi sessuali su minori, secondo il rapporto di ricerca dello Stanford Internet Observatory.
Il rapporto aggiunge che queste immagini facilitano la generazione di contenuti espliciti realistici che coinvolgono bambini finti e la trasformazione di adolescenti vestiti in immagini di nudo, sollecitando un’azione immediata da parte delle aziende dietro tali strumenti.
L’indagine dello Stanford Internet Observatory si è concentrata su Banca dati LAION, un enorme archivio di immagini e didascalie online utilizzate dai principali Creatori di immagini AI piace Stable Diffusion, per addestrare modelli di intelligenza artificiale.
Prima di controllare gli strumenti di intelligenza artificiale per la generazione di immagini, i ricercatori erano del parere che gli strumenti di intelligenza artificiale producessero immagini abusive di bambini combinando informazioni provenienti da pornografia per adulti e foto benigne di bambini. Tuttavia, i risultati dell’Osservatorio presentano una svolta inquietante, con oltre 3,200 immagini di sospetti abusi sessuali su minori identificate all’interno del dataset LAION.
Anche se la LAION ha risposto rapidamente al rapporto rimuovendo temporaneamente i suoi set di dati, le implicazioni di queste immagini sono di vasta portata. Sebbene costituiscano una frazione del vasto indice LAION di 5.8 miliardi di immagini, il gruppo di Stanford afferma che probabilmente influenzano la capacità di Strumenti di intelligenza artificiale per generare output dannosi.
Un attore significativo nello sviluppo del database LAION è Stability AI, una startup con sede a Londra responsabile della definizione del set di dati. Il rapporto evidenzia che una versione precedente del loro Stable Diffusion Il modello, introdotto lo scorso anno, è ancora presente in varie applicazioni, come fonte primaria per generare immagini esplicite.
Sebbene il Stability AI afferma di ospitare solo versioni filtrate e ha adottato misure per mitigare gli abusi, la sfida risiede nella pervasività del modello precedente.
La distribuzione dell’intelligenza artificiale generativa richiede una convalida rigorosa
Il nocciolo della questione risale al rapido dispiegamento di molti progetti di intelligenza artificiale generativa sul mercato, secondo David Thiel, capo tecnologo presso l’Osservatorio Internet di Stanford.
Thiel sottolinea che questi progetti sono stati spesso resi ampiamente accessibili a causa dell’intensa competizione sul campo, senza la necessaria rigorosa attenzione durante la fase di sviluppo.
I ricercatori di Stanford sostengono l’adozione di misure drastiche per affrontare il problema in modo efficace. Le raccomandazioni includono l'eliminazione o la pulizia dei set di training derivati da LAION-5B e la creazione di una versione precedente Stable Diffusion meno accessibile.
Tuttavia, la complessità della pulizia retroattiva dei dati rappresenta una sfida considerevole, spingendo a richiedere la collaborazione con esperti di sicurezza infantile durante lo sviluppo di Database dell'intelligenza artificiale.
Mentre le scuole e le forze dell’ordine di tutto il mondo esprimono allarme per le potenziali conseguenze di questi risultati, i riflettori sono ora puntati Industria dell'IA per affrontare e correggere urgentemente i difetti dannosi della loro tecnologia.
Negazione di responsabilità
In linea con la Linee guida del progetto Trust, si prega di notare che le informazioni fornite in questa pagina non intendono essere e non devono essere interpretate come consulenza legale, fiscale, di investimento, finanziaria o di qualsiasi altra forma. È importante investire solo ciò che puoi permetterti di perdere e chiedere una consulenza finanziaria indipendente in caso di dubbi. Per ulteriori informazioni, suggeriamo di fare riferimento ai termini e alle condizioni nonché alle pagine di aiuto e supporto fornite dall'emittente o dall'inserzionista. MetaversePost si impegna a fornire report accurati e imparziali, ma le condizioni di mercato sono soggette a modifiche senza preavviso.
Circa l'autore
Kumar è un giornalista tecnologico esperto con una specializzazione nelle intersezioni dinamiche di AI/ML, tecnologia di marketing e campi emergenti come criptovaluta, blockchain e NFTS. Con oltre 3 anni di esperienza nel settore, Kumar ha stabilito una comprovata esperienza nella creazione di narrazioni avvincenti, nella conduzione di interviste approfondite e nella fornitura di approfondimenti completi. L'esperienza di Kumar risiede nella produzione di contenuti di grande impatto, inclusi articoli, rapporti e pubblicazioni di ricerca per importanti piattaforme di settore. Con un insieme di competenze uniche che combina conoscenze tecniche e narrazione, Kumar eccelle nel comunicare concetti tecnologici complessi a un pubblico diversificato in modo chiaro e coinvolgente.
Altri articoli
Kumar è un giornalista tecnologico esperto con una specializzazione nelle intersezioni dinamiche di AI/ML, tecnologia di marketing e campi emergenti come criptovaluta, blockchain e NFTS. Con oltre 3 anni di esperienza nel settore, Kumar ha stabilito una comprovata esperienza nella creazione di narrazioni avvincenti, nella conduzione di interviste approfondite e nella fornitura di approfondimenti completi. L'esperienza di Kumar risiede nella produzione di contenuti di grande impatto, inclusi articoli, rapporti e pubblicazioni di ricerca per importanti piattaforme di settore. Con un insieme di competenze uniche che combina conoscenze tecniche e narrazione, Kumar eccelle nel comunicare concetti tecnologici complessi a un pubblico diversificato in modo chiaro e coinvolgente.
