Laut Stanford werden bildgenerierende KI-Modelle auf explizite Kinderbilder trainiert
In Kürze
Beliebte generative Text-zu-Bild-KI-Tools, einschließlich Stable Diffusion, werden anhand Tausender Bilder von sexuellem Kindesmissbrauch geschult.
Beliebte Text-zu-Bild-Methode generative KI Werkzeuge, einschließlich Stable Diffusion für Stability AI werden an Tausenden von Bildern sexuellen Kindesmissbrauchs geschult, wie aus dem Forschungsbericht des Stanford Internet Observatory hervorgeht.
Der Bericht fügte hinzu, dass diese Bilder die Erstellung realistischer expliziter Inhalte mit falschen Kindern und die Umwandlung bekleideter Teenager in Nacktbilder erleichtern, und forderte die Unternehmen, die hinter solchen Tools stehen, zu sofortigem Handeln auf.
Die Untersuchung des Stanford Internet Observatory konzentrierte sich auf das LAION-Datenbank, ein riesiges Repository mit Online-Bildern und Bildunterschriften, die von führenden Unternehmen verwendet werden KI-Bildermacher Gefällt mir Stable Diffusion, um KI-Modelle zu trainieren.
Vor der Prüfung bildgenerierender KI-Tools waren die Forscher der Ansicht, dass die KI-Tools missbräuchliche Bilder von Kindern erzeugten, indem sie Informationen aus Erwachsenenpornografie und harmlosen Fotos von Kindern kombinierten. Die Ergebnisse des Observatoriums weisen jedoch eine beunruhigende Wendung auf: Im LAION-Datensatz wurden über 3,200 Bilder von mutmaßlichem sexuellem Kindesmissbrauch identifiziert.
Während LAION schnell auf den Bericht reagierte und seine Datensätze vorübergehend entfernte, sind die Auswirkungen dieser Bilder weitreichend. Obwohl sie nur einen Bruchteil des riesigen LAION-Index von 5.8 Milliarden Bildern ausmachen, behauptet die Stanford-Gruppe, dass sie wahrscheinlich die Fähigkeit von beeinflussen AI-Werkzeuge schädliche Ergebnisse zu erzeugen.
Ein wichtiger Akteur bei der Entwicklung der LAION-Datenbank ist Stability AI, ein in London ansässiges Startup, das für die Gestaltung des Datensatzes verantwortlich ist. Der Bericht hebt hervor, dass eine ältere Version von ihnen Stable Diffusion Das letztes Jahr eingeführte Modell ist immer noch in verschiedenen Anwendungen vorhanden und dient als primäre Quelle für die Generierung expliziter Bilder.
Obwohl Stability AI behauptet, nur gefilterte Versionen zu hosten und Schritte unternommen hat, um Missbrauch einzudämmen, liegt die Herausforderung in der Verbreitung des älteren Modells.
Die Bereitstellung generativer KI erfordert eine strenge Validierung
Der Kern des Problems geht auf die schnelle Markteinführung vieler generativer KI-Projekte zurück, so David Thiel, Cheftechnologe am Stanford Internet Observatory.
Thiel weist darauf hin, dass diese Projekte aufgrund des intensiven Wettbewerbs in diesem Bereich häufig einer breiten Öffentlichkeit zugänglich gemacht wurden, ohne dass in der Entwicklungsphase die nötige strenge Aufmerksamkeit erforderlich war.
Stanford-Forscher plädieren für drastische Maßnahmen, um das Problem wirksam anzugehen. Zu den Empfehlungen gehört das Löschen oder Bereinigen von Trainingssätzen, die von LAION-5B abgeleitet wurden, und das Erstellen einer älteren Version davon Stable Diffusion weniger zugänglich.
Allerdings stellt die Komplexität der nachträglichen Bereinigung der Daten eine erhebliche Herausforderung dar, weshalb bei der Entwicklung eine Zusammenarbeit mit Kindersicherheitsexperten gefordert wurde KI-Datenbanken.
Während Schulen und Strafverfolgungsbehörden auf der ganzen Welt ihre Besorgnis über die möglichen Folgen dieser Erkenntnisse zum Ausdruck bringen, steht jetzt die Aufmerksamkeit auf der … KI-Industrie die schädlichen Mängel in ihrer Technologie dringend anzugehen und zu beheben.
Haftungsausschluss
Im Einklang mit der Richtlinien des Trust-ProjektsBitte beachten Sie, dass die auf dieser Seite bereitgestellten Informationen nicht als Rechts-, Steuer-, Anlage-, Finanz- oder sonstige Beratung gedacht sind und nicht als solche interpretiert werden sollten. Es ist wichtig, nur so viel zu investieren, wie Sie sich leisten können, zu verlieren, und im Zweifelsfall eine unabhängige Finanzberatung einzuholen. Für weitere Informationen empfehlen wir einen Blick auf die Allgemeinen Geschäftsbedingungen sowie die Hilfe- und Supportseiten des Herausgebers oder Werbetreibenden. MetaversePost ist einer genauen, unvoreingenommenen Berichterstattung verpflichtet, die Marktbedingungen können sich jedoch ohne Vorankündigung ändern.
Über den Autor
Kumar ist ein erfahrener Technologiejournalist mit Spezialisierung auf die dynamischen Schnittstellen von KI/ML, Marketingtechnologie und aufstrebenden Bereichen wie Krypto, Blockchain und NFTS. Mit über drei Jahren Erfahrung in der Branche hat Kumar eine nachgewiesene Erfolgsbilanz bei der Erstellung überzeugender Erzählungen, der Durchführung aufschlussreicher Interviews und der Bereitstellung umfassender Erkenntnisse. Kumars Fachwissen liegt in der Produktion von wirkungsvollen Inhalten, darunter Artikeln, Berichten und Forschungspublikationen für prominente Branchenplattformen. Mit seinen einzigartigen Fähigkeiten, die technisches Wissen und Geschichtenerzählen kombinieren, zeichnet sich Kumar dadurch aus, dass er komplexe technologische Konzepte einem unterschiedlichen Publikum auf klare und ansprechende Weise vermittelt.
Weitere Artikel
Kumar ist ein erfahrener Technologiejournalist mit Spezialisierung auf die dynamischen Schnittstellen von KI/ML, Marketingtechnologie und aufstrebenden Bereichen wie Krypto, Blockchain und NFTS. Mit über drei Jahren Erfahrung in der Branche hat Kumar eine nachgewiesene Erfolgsbilanz bei der Erstellung überzeugender Erzählungen, der Durchführung aufschlussreicher Interviews und der Bereitstellung umfassender Erkenntnisse. Kumars Fachwissen liegt in der Produktion von wirkungsvollen Inhalten, darunter Artikeln, Berichten und Forschungspublikationen für prominente Branchenplattformen. Mit seinen einzigartigen Fähigkeiten, die technisches Wissen und Geschichtenerzählen kombinieren, zeichnet sich Kumar dadurch aus, dass er komplexe technologische Konzepte einem unterschiedlichen Publikum auf klare und ansprechende Weise vermittelt.
