Des modèles d'IA générateurs d'images sont formés sur des images explicites d'enfants, affirme Stanford
En bref
Outils d'IA génératifs de texte en image populaires, notamment Stable Diffusion, sont formés sur des milliers d’images d’abus sexuels sur des enfants.
Texte-image populaire IA générative outils, y compris Stable Diffusion De Stability AI sont formés sur des milliers d’images d’abus sexuels sur des enfants, selon le rapport de recherche de l’Observatoire Internet de Stanford.
Le rapport ajoute que ces images facilitent la génération de contenus explicites et réalistes impliquant de faux enfants et la transformation d'adolescents habillés en images nues, appelant à une action immédiate de la part des entreprises à l'origine de ces outils.
L’enquête de l’Observatoire Internet de Stanford s’est concentrée sur Base de données LAION, un référentiel massif d'images et de légendes en ligne utilisé par les principaux Créateurs d'images IA comme Stable Diffusion, pour former des modèles d'IA.
Avant d’examiner les outils d’IA générateurs d’images, les chercheurs étaient d’avis que les outils d’IA produisaient des images abusives d’enfants en combinant des informations provenant de la pornographie adulte et des photos inoffensives d’enfants. Cependant, les conclusions de l’Observatoire présentent une tournure inquiétante, avec plus de 3,200 XNUMX images d’abus sexuels présumés sur des enfants identifiées dans l’ensemble de données LAION.
Même si LAION a rapidement répondu au rapport en supprimant temporairement ses ensembles de données, les implications de ces images sont considérables. Bien qu’elles ne constituent qu’une fraction du vaste index de 5.8 milliards d’images de LAION, le groupe de Stanford affirme qu’elles influencent probablement la capacité de Outils IA pour générer des sorties nuisibles.
Un acteur important dans le développement de la base de données LAION est Stability AI, une startup basée à Londres chargée de façonner l'ensemble de données. Le rapport souligne qu'une ancienne version de leur Stable Diffusion Le modèle, introduit l’année dernière, est toujours présent dans diverses applications, en tant que principale source de génération d’images explicites.
Bien que Stability AI prétend héberger uniquement des versions filtrées et a pris des mesures pour atténuer les abus, le défi réside dans l’omniprésence de l’ancien modèle.
Le déploiement de l'IA générative nécessite une validation rigoureuse
Le cœur du problème remonte au déploiement rapide de nombreux projets d’IA générative sur le marché, selon David Thiel, technologue en chef à l’Observatoire Internet de Stanford.
Thiel souligne que ces projets ont souvent été rendus largement accessibles en raison d'une concurrence intense dans le domaine, sans l'attention rigoureuse nécessaire pendant la phase de développement.
Les chercheurs de Stanford préconisent des mesures drastiques pour résoudre efficacement le problème. Les recommandations incluent la suppression ou le nettoyage des ensembles de formation dérivés de LAION-5B et la création d'une ancienne version de Stable Diffusion moins accessible.
Cependant, la complexité du nettoyage rétroactif des données pose un défi considérable, ce qui a conduit à un appel à la collaboration avec des experts en sécurité des enfants lors du développement de Bases de données IA.
Alors que les écoles et les forces de l’ordre du monde entier s’inquiètent des conséquences potentielles de ces découvertes, les projecteurs sont désormais tournés vers Industrie de l'IA pour traiter et rectifier de toute urgence les défauts nuisibles de leur technologie.
Clause de non-responsabilité
En ligne avec la Lignes directrices du projet de confiance, veuillez noter que les informations fournies sur cette page ne sont pas destinées à être et ne doivent pas être interprétées comme des conseils juridiques, fiscaux, d'investissement, financiers ou toute autre forme de conseil. Il est important d’investir uniquement ce que vous pouvez vous permettre de perdre et de demander des conseils financiers indépendants en cas de doute. Pour plus d'informations, nous vous suggérons de vous référer aux conditions générales ainsi qu'aux pages d'aide et de support mises à disposition par l'émetteur ou l'annonceur. MetaversePost s'engage à fournir des rapports précis et impartiaux, mais les conditions du marché sont susceptibles de changer sans préavis.
A propos de l'auteur
Kumar est un journaliste technologique expérimenté spécialisé dans les intersections dynamiques de l'IA/ML, de la technologie marketing et des domaines émergents tels que la cryptographie, la blockchain et NFTs. Avec plus de 3 ans d'expérience dans l'industrie, Kumar a fait ses preuves dans l'élaboration de récits convaincants, la conduite d'entretiens perspicaces et la fourniture d'informations complètes. L'expertise de Kumar réside dans la production de contenu à fort impact, notamment des articles, des rapports et des publications de recherche pour des plateformes industrielles de premier plan. Doté d’un ensemble de compétences uniques combinant connaissances techniques et narration, Kumar excelle dans la communication de concepts technologiques complexes à des publics divers de manière claire et engageante.
Plus d'articles
Kumar est un journaliste technologique expérimenté spécialisé dans les intersections dynamiques de l'IA/ML, de la technologie marketing et des domaines émergents tels que la cryptographie, la blockchain et NFTs. Avec plus de 3 ans d'expérience dans l'industrie, Kumar a fait ses preuves dans l'élaboration de récits convaincants, la conduite d'entretiens perspicaces et la fourniture d'informations complètes. L'expertise de Kumar réside dans la production de contenu à fort impact, notamment des articles, des rapports et des publications de recherche pour des plateformes industrielles de premier plan. Doté d’un ensemble de compétences uniques combinant connaissances techniques et narration, Kumar excelle dans la communication de concepts technologiques complexes à des publics divers de manière claire et engageante.
