Nieuwsverslag Technologie
21 december 2023

Beeldgenererende AI-modellen worden getraind op expliciete kinderbeelden, beweert Stanford

In het kort

Populaire tekst-naar-afbeelding generatieve AI-tools, waaronder Stable Diffusion, worden getraind op duizenden afbeeldingen van seksueel kindermisbruik.

Beeldgenererende AI-modellen worden getraind op expliciete kinderbeelden, beweert Stanford

Populaire tekst-naar-afbeelding generatieve AI instrumenten, waaronder Stable Diffusion oppompen van Stability AI worden getraind op duizenden afbeeldingen van seksueel kindermisbruik, volgens het onderzoeksrapport van de Stanford Internet Observatory.

Het rapport voegde eraan toe dat deze beelden het genereren van realistische, expliciete inhoud met nepkinderen en de transformatie van geklede tieners in naaktbeelden vergemakkelijken, wat aandringt op onmiddellijke actie van de bedrijven achter dergelijke tools.

Het onderzoek van het Stanford Internet Observatory richtte zich op de LAION-database, een enorme opslagplaats van online afbeeldingen en bijschriften die worden gebruikt door leading AI-beeldmakers als Stable Diffusion, om AI-modellen te trainen.

Voordat ze beeldgenererende AI-tools controleerden, waren onderzoekers van mening dat de AI-tools beledigende beelden van kinderen produceerden door informatie uit volwassenenpornografie en goedaardige foto's van kinderen te combineren. De bevindingen van het Observatorium laten echter een verontrustende wending zien: er zijn ruim 3,200 afbeeldingen van vermoedelijk seksueel misbruik van kinderen geïdentificeerd in de LAION-dataset.

Hoewel LAION snel op het rapport reageerde door de datasets tijdelijk te verwijderen, zijn de implicaties van deze beelden verstrekkend. Hoewel ze een fractie vormen van LAION’s enorme index van 5.8 miljard beelden, beweert de Stanford-groep dat ze waarschijnlijk van invloed zijn op het vermogen van AI-hulpmiddelen om schadelijke output te genereren.

Een belangrijke speler in de ontwikkeling van de LAION-database is Stability AI, een in Londen gevestigde startup die verantwoordelijk is voor het vormgeven van de dataset. Het rapport benadrukt dat een oudere versie van hun Stable Diffusion model, vorig jaar geïntroduceerd, is nog steeds aanwezig in verschillende toepassingen, als de primaire bron voor het genereren van expliciete beelden.

Hoewel Stability AI beweert alleen gefilterde versies te hosten en stappen heeft ondernomen om misbruik te beperken, ligt de uitdaging in de alomtegenwoordigheid van het oudere model.

Generatieve AI-implementatie vereist rigoureuze validatie

De kern van het probleem is terug te voeren op de snelle introductie van veel generatieve AI-projecten op de markt, aldus David Thiel, hoofdtechnoloog bij het Stanford Internet Observatory.

Thiel wijst erop dat deze projecten vaak breed toegankelijk werden gemaakt vanwege de hevige concurrentie in het veld, zonder de nodige rigoureuze aandacht tijdens de ontwikkelingsfase.

Stanford-onderzoekers pleiten voor drastische maatregelen om het probleem effectief aan te pakken. Aanbevelingen zijn onder meer het verwijderen of opschonen van trainingssets afgeleid van LAION-5B en het maken van een oudere versie ervan Stable Diffusion minder toegankelijk.

De complexiteit van het met terugwerkende kracht opschonen van de gegevens vormt echter een aanzienlijke uitdaging, wat aanleiding geeft tot een roep om samenwerking met deskundigen op het gebied van kinderveiligheid tijdens de ontwikkeling van AI-databases.

Nu scholen en wetshandhavingsinstanties over de hele wereld hun bezorgdheid uiten over de mogelijke gevolgen van deze bevindingen, staat de schijnwerpers nu op de schijnwerpers AI-industrie om de schadelijke tekortkomingen in hun technologie dringend aan te pakken en te corrigeren.

Disclaimer

In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.

Over de auteur

Kumar is een ervaren technologiejournalist met een specialisatie in de dynamische kruispunten van AI/ML, marketingtechnologie en opkomende velden zoals crypto, blockchain en NFTS. Met meer dan drie jaar ervaring in de branche heeft Kumar een bewezen staat van dienst opgebouwd in het opstellen van boeiende verhalen, het houden van inzichtelijke interviews en het leveren van uitgebreide inzichten. De expertise van Kumar ligt in het produceren van inhoud met een grote impact, waaronder artikelen, rapporten en onderzoekspublicaties voor vooraanstaande industriële platforms. Met een unieke reeks vaardigheden die technische kennis en verhalen vertellen combineert, blinkt Kumar uit in het op een duidelijke en boeiende manier communiceren van complexe technologische concepten aan een divers publiek.

Meer artikelen
Kumar Gandharv
Kumar Gandharv

Kumar is een ervaren technologiejournalist met een specialisatie in de dynamische kruispunten van AI/ML, marketingtechnologie en opkomende velden zoals crypto, blockchain en NFTS. Met meer dan drie jaar ervaring in de branche heeft Kumar een bewezen staat van dienst opgebouwd in het opstellen van boeiende verhalen, het houden van inzichtelijke interviews en het leveren van uitgebreide inzichten. De expertise van Kumar ligt in het produceren van inhoud met een grote impact, waaronder artikelen, rapporten en onderzoekspublicaties voor vooraanstaande industriële platforms. Met een unieke reeks vaardigheden die technische kennis en verhalen vertellen combineert, blinkt Kumar uit in het op een duidelijke en boeiende manier communiceren van complexe technologische concepten aan een divers publiek.

Hot Stories
Schrijf je in op onze nieuwsbrief.
Laatste Nieuws

Van Ripple tot The Big Green DAO: hoe cryptocurrency-projecten bijdragen aan liefdadigheid

Laten we initiatieven onderzoeken die het potentieel van digitale valuta voor goede doelen benutten.

Meer weten

AlphaFold 3, Med-Gemini en anderen: de manier waarop AI de gezondheidszorg transformeert in 2024

AI manifesteert zich op verschillende manieren in de gezondheidszorg, van het blootleggen van nieuwe genetische correlaties tot het versterken van robotchirurgische systemen...

Meer weten
Sluit u aan bij onze innovatieve technologiegemeenschap
Lees meer
Lees meer
Switchboard haalt $7.5 miljoen financiering op van Tribe Capital en RockwayX om te empoweren Web3 Community met toestemmingloze en veilige Oracle-oplossingen
Business Nieuwsverslag Technologie
Switchboard haalt $7.5 miljoen financiering op van Tribe Capital en RockwayX om te empoweren Web3 Community met toestemmingloze en veilige Oracle-oplossingen
28 mei 2024
OpenAI Vormt veiligheids- en beveiligingscomité, begint met het trainen van het AI-model van de volgende generatie met als doel 'volgende niveau-mogelijkheden' van AGI te bereiken
Nieuwsverslag Technologie
OpenAI Vormt veiligheids- en beveiligingscomité, begint met het trainen van het AI-model van de volgende generatie met als doel 'volgende niveau-mogelijkheden' van AGI te bereiken
28 mei 2024
BEVM werkt samen met Bybit Web3 Wallet wordt binnen één maand gelanceerd Airdrop Campagne, die meer dan 1.47 miljoen BEVM-tokens ter waarde van $ 600,000 aan beloningen biedt
markten Nieuwsverslag Technologie
BEVM werkt samen met Bybit Web3 Wallet wordt binnen één maand gelanceerd Airdrop Campagne, die meer dan 1.47 miljoen BEVM-tokens ter waarde van $ 600,000 aan beloningen biedt
28 mei 2024
Param Labs en Pixelverse smeden een cross-IP-partnerschap om de game-ervaring voor spelers te verbeteren
Business Lifestyle Nieuwsverslag Technologie
Param Labs en Pixelverse smeden een cross-IP-partnerschap om de game-ervaring voor spelers te verbeteren
28 mei 2024