S'estan entrenant models d'IA per generar imatges amb imatges infantils explícites, afirma Stanford
En breu
Eines populars d'IA generativa de text a imatge, incloses Stable Diffusion, estan sent entrenats sobre milers d'imatges d'abús sexual infantil.
Popular text a imatge IA generativa eines, incloent Stable Diffusion de Stability AI s'estan formant sobre milers d'imatges d'abús sexual infantil, segons l'informe d'investigació de l'Observatori d'Internet de Stanford.
L'informe afegeix que aquestes imatges faciliten la generació de contingut explícit realista que inclogui nens falsos i la transformació d'adolescents vestits en imatges nues, demanant l'acció immediata de les empreses darrere d'aquestes eines.
La investigació de l'Observatori d'Internet de Stanford es va centrar en el Base de dades LAION, un dipòsit massiu d'imatges i subtítols en línia utilitzats per líders Creadors d'imatges d'IA M'agrada Stable Diffusion, per entrenar models d'IA.
Abans de comprovar les eines d'IA per generar imatges, els investigadors opinaven que les eines d'IA produïen imatges abusives de nens combinant informació de la pornografia per a adults i fotos benignes de nens. Tanmateix, les troballes de l'Observatori presenten un gir inquietant, amb més de 3,200 imatges de presumptes abús sexual infantil identificades al conjunt de dades LAION.
Tot i que LAION va respondre ràpidament a l'informe eliminant temporalment els seus conjunts de dades, les implicacions d'aquestes imatges són de gran abast. Tot i que constitueixen una fracció del vast índex de LAION de 5.8 milions d'imatges, el grup de Stanford afirma que probablement influeixen en la capacitat de Eines d’intel·ligència artificial per generar sortides nocives.
Un jugador important en el desenvolupament de la base de dades LAION és Stability AI, una startup amb seu a Londres responsable de donar forma al conjunt de dades. L'informe destaca que una versió anterior del seu Stable Diffusion El model, introduït l'any passat, encara està present en diverses aplicacions, com a font principal per generar imatges explícites.
Encara Stability AI afirma que allotja només versions filtrades i ha pres mesures per mitigar el mal ús, el repte rau en la omnipresencia del model anterior.
El desplegament d'IA generativa requereix una validació rigorosa
El nucli del problema es remunta al ràpid desplegament de molts projectes d'IA generativa al mercat, segons David Thiel, el tecnòleg en cap de l'Observatori d'Internet de Stanford.
Thiel assenyala que aquests projectes sovint es van fer àmpliament accessibles a causa de la intensa competència en el camp, sense l'atenció rigorosa necessària durant la fase de desenvolupament.
Els investigadors de Stanford advoquen per mesures dràstiques per abordar el problema de manera eficaç. Les recomanacions inclouen la supressió o la neteja de conjunts d'entrenament derivats de LAION-5B i fer una versió anterior de Stable Diffusion menys accessible.
No obstant això, la complexitat de la neteja retroactiva de les dades suposa un repte considerable, i va provocar una crida a la col·laboració amb experts en seguretat infantil durant el desenvolupament de Bases de dades d'IA.
A mesura que les escoles i les agències d'aplicació de la llei d'arreu del món expressen alarma per les possibles conseqüències d'aquestes troballes, ara el focus se centra en el indústria de la IA per abordar i rectificar amb urgència els defectes nocius de la seva tecnologia.
renúncia
En línia amb la Directrius del projecte Trust, si us plau, tingueu en compte que la informació proporcionada en aquesta pàgina no pretén ni s'ha d'interpretar com a assessorament legal, fiscal, d'inversió, financer o de cap altra forma. És important invertir només el que et pots permetre perdre i buscar assessorament financer independent si tens dubtes. Per obtenir més informació, us suggerim que feu referència als termes i condicions, així com a les pàgines d'ajuda i assistència proporcionades per l'emissor o l'anunciant. MetaversePost es compromet a fer informes precisos i imparcials, però les condicions del mercat estan subjectes a canvis sense previ avís.
About The Autor
Kumar és un periodista tecnològic experimentat amb una especialització en les interseccions dinàmiques d'IA/ML, tecnologia de màrqueting i camps emergents com ara cripto, blockchain i NFTs. Amb més de 3 anys d'experiència en el sector, Kumar ha establert una trajectòria demostrada en l'elaboració de narracions convincents, la realització d'entrevistes minucioses i l'oferiment d'informació exhaustiva. L'experiència de Kumar rau en la producció de contingut d'alt impacte, inclosos articles, informes i publicacions de recerca per a plataformes de la indústria destacades. Amb un conjunt d'habilitats únics que combina coneixements tècnics i narració, Kumar destaca per comunicar conceptes tecnològics complexos a diversos públics d'una manera clara i atractiva.
més articles
Kumar és un periodista tecnològic experimentat amb una especialització en les interseccions dinàmiques d'IA/ML, tecnologia de màrqueting i camps emergents com ara cripto, blockchain i NFTs. Amb més de 3 anys d'experiència en el sector, Kumar ha establert una trajectòria demostrada en l'elaboració de narracions convincents, la realització d'entrevistes minucioses i l'oferiment d'informació exhaustiva. L'experiència de Kumar rau en la producció de contingut d'alt impacte, inclosos articles, informes i publicacions de recerca per a plataformes de la indústria destacades. Amb un conjunt d'habilitats únics que combina coneixements tècnics i narració, Kumar destaca per comunicar conceptes tecnològics complexos a diversos públics d'una manera clara i atractiva.
