Beeldgenererende AI-modellen worden getraind op expliciete kinderbeelden, beweert Stanford
In het kort
Populaire tekst-naar-afbeelding generatieve AI-tools, waaronder Stable Diffusion, worden getraind op duizenden afbeeldingen van seksueel kindermisbruik.
Populaire tekst-naar-afbeelding generatieve AI instrumenten, waaronder Stable Diffusion oppompen van Stability AI worden getraind op duizenden afbeeldingen van seksueel kindermisbruik, volgens het onderzoeksrapport van de Stanford Internet Observatory.
Het rapport voegde eraan toe dat deze beelden het genereren van realistische, expliciete inhoud met nepkinderen en de transformatie van geklede tieners in naaktbeelden vergemakkelijken, wat aandringt op onmiddellijke actie van de bedrijven achter dergelijke tools.
Het onderzoek van het Stanford Internet Observatory richtte zich op de LAION-database, een enorme opslagplaats van online afbeeldingen en bijschriften die worden gebruikt door leading AI-beeldmakers als Stable Diffusion, om AI-modellen te trainen.
Voordat ze beeldgenererende AI-tools controleerden, waren onderzoekers van mening dat de AI-tools beledigende beelden van kinderen produceerden door informatie uit volwassenenpornografie en goedaardige foto's van kinderen te combineren. De bevindingen van het Observatorium laten echter een verontrustende wending zien: er zijn ruim 3,200 afbeeldingen van vermoedelijk seksueel misbruik van kinderen geïdentificeerd in de LAION-dataset.
Hoewel LAION snel op het rapport reageerde door de datasets tijdelijk te verwijderen, zijn de implicaties van deze beelden verstrekkend. Hoewel ze een fractie vormen van LAION’s enorme index van 5.8 miljard beelden, beweert de Stanford-groep dat ze waarschijnlijk van invloed zijn op het vermogen van AI-hulpmiddelen om schadelijke output te genereren.
Een belangrijke speler in de ontwikkeling van de LAION-database is Stability AI, een in Londen gevestigde startup die verantwoordelijk is voor het vormgeven van de dataset. Het rapport benadrukt dat een oudere versie van hun Stable Diffusion model, vorig jaar geïntroduceerd, is nog steeds aanwezig in verschillende toepassingen, als de primaire bron voor het genereren van expliciete beelden.
Hoewel Stability AI beweert alleen gefilterde versies te hosten en stappen heeft ondernomen om misbruik te beperken, ligt de uitdaging in de alomtegenwoordigheid van het oudere model.
Generatieve AI-implementatie vereist rigoureuze validatie
De kern van het probleem is terug te voeren op de snelle introductie van veel generatieve AI-projecten op de markt, aldus David Thiel, hoofdtechnoloog bij het Stanford Internet Observatory.
Thiel wijst erop dat deze projecten vaak breed toegankelijk werden gemaakt vanwege de hevige concurrentie in het veld, zonder de nodige rigoureuze aandacht tijdens de ontwikkelingsfase.
Stanford-onderzoekers pleiten voor drastische maatregelen om het probleem effectief aan te pakken. Aanbevelingen zijn onder meer het verwijderen of opschonen van trainingssets afgeleid van LAION-5B en het maken van een oudere versie ervan Stable Diffusion minder toegankelijk.
De complexiteit van het met terugwerkende kracht opschonen van de gegevens vormt echter een aanzienlijke uitdaging, wat aanleiding geeft tot een roep om samenwerking met deskundigen op het gebied van kinderveiligheid tijdens de ontwikkeling van AI-databases.
Nu scholen en wetshandhavingsinstanties over de hele wereld hun bezorgdheid uiten over de mogelijke gevolgen van deze bevindingen, staat de schijnwerpers nu op de schijnwerpers AI-industrie om de schadelijke tekortkomingen in hun technologie dringend aan te pakken en te corrigeren.
Disclaimer
In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.
Over de auteur
Kumar is een ervaren technologiejournalist met een specialisatie in de dynamische kruispunten van AI/ML, marketingtechnologie en opkomende velden zoals crypto, blockchain en NFTS. Met meer dan drie jaar ervaring in de branche heeft Kumar een bewezen staat van dienst opgebouwd in het opstellen van boeiende verhalen, het houden van inzichtelijke interviews en het leveren van uitgebreide inzichten. De expertise van Kumar ligt in het produceren van inhoud met een grote impact, waaronder artikelen, rapporten en onderzoekspublicaties voor vooraanstaande industriële platforms. Met een unieke reeks vaardigheden die technische kennis en verhalen vertellen combineert, blinkt Kumar uit in het op een duidelijke en boeiende manier communiceren van complexe technologische concepten aan een divers publiek.
Meer artikelen
Kumar is een ervaren technologiejournalist met een specialisatie in de dynamische kruispunten van AI/ML, marketingtechnologie en opkomende velden zoals crypto, blockchain en NFTS. Met meer dan drie jaar ervaring in de branche heeft Kumar een bewezen staat van dienst opgebouwd in het opstellen van boeiende verhalen, het houden van inzichtelijke interviews en het leveren van uitgebreide inzichten. De expertise van Kumar ligt in het produceren van inhoud met een grote impact, waaronder artikelen, rapporten en onderzoekspublicaties voor vooraanstaande industriële platforms. Met een unieke reeks vaardigheden die technische kennis en verhalen vertellen combineert, blinkt Kumar uit in het op een duidelijke en boeiende manier communiceren van complexe technologische concepten aan een divers publiek.
