Modely umělé inteligence pro generování obrázků se trénují na explicitních dětských obrázcích, tvrdí Stanford
Stručně
Oblíbené nástroje AI pro generování textu na obrázek včetně Stable Diffusion, jsou školeni na tisících obrázků sexuálního zneužívání dětí.
Populární převod textu na obrázek generativní AI nástroje, včetně Stable Diffusion od Stability AI podle výzkumné zprávy Stanfordské internetové observatoře se školí na tisících obrázků sexuálního zneužívání dětí.
Zpráva dodala, že tyto obrázky usnadňují generování realistického explicitního obsahu zahrnujícího falešné děti a přeměnu oblečených teenagerů na nahé snímky, což nabádá společnosti stojící za těmito nástroji k okamžité akci.
Vyšetřování Stanfordské internetové observatoře se zaměřilo na databáze LAION, masivní úložiště online obrázků a titulků využívaných vedoucími Tvůrci obrázků AI jako Stable Diffusionk trénování modelů umělé inteligence.
Před kontrolou nástrojů umělé inteligence pro generování obrázků byli výzkumníci toho názoru, že nástroje umělé inteligence vytvářejí hanlivé snímky dětí kombinací informací z pornografie pro dospělé a neškodných fotografií dětí. Zjištění observatoře však představují znepokojivý zvrat, přičemž v datovém souboru LAION bylo identifikováno více než 3,200 XNUMX snímků podezření na sexuální zneužívání dětí.
Zatímco LAION rychle reagoval na zprávu dočasným odstraněním svých datových sad, důsledky těchto snímků jsou dalekosáhlé. Přestože tvoří zlomek z obrovského indexu LAION 5.8 miliardy obrázků, Stanfordská skupina tvrdí, že pravděpodobně ovlivňují schopnost Nástroje AI generovat škodlivé výstupy.
Významným hráčem ve vývoji databáze LAION je Stability AI, londýnský startup zodpovědný za utváření datové sady. Zpráva zdůrazňuje, že starší verze jejich Stable Diffusion model, představený v loňském roce, je stále přítomen v různých aplikacích jako primární zdroj pro generování explicitních snímků.
Ačkoli Stability AI tvrdí, že hostuje pouze filtrované verze a podnikl kroky ke zmírnění zneužití, problém spočívá v všudypřítomnosti staršího modelu.
Generativní nasazení AI vyžaduje přísné ověření
Jádro problému sahá až k rychlému nasazení mnoha generativních projektů umělé inteligence na trh, jak uvádí David Thiel, hlavní technolog na Stanfordské internetové observatoři.
Thiel poukazuje na to, že tyto projekty byly často široce dostupné kvůli intenzivní konkurenci v oboru, aniž by jim byla během vývojové fáze věnována potřebná přísná pozornost.
Stanfordští vědci obhajují drastická opatření k účinnému řešení problému. Doporučení zahrnují smazání nebo vyčištění tréninkových sad odvozených od LAION-5B a vytvoření starší verze Stable Diffusion hůře dostupné.
Složitost zpětného čištění dat však představuje značnou výzvu a vyvolává výzvu ke spolupráci s odborníky na bezpečnost dětí během vývoje AI databáze.
Vzhledem k tomu, že školy a orgány činné v trestním řízení po celém světě vyjadřují znepokojení nad možnými důsledky těchto zjištění, je nyní středem pozornosti AI průmysl urychleně řešit a napravit škodlivé nedostatky v jejich technologii.
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Kumar je zkušený technický novinář se specializací na dynamické průniky AI/ML, marketingové technologie a nově vznikající obory, jako jsou kryptoměny, blockchain a NFTs. S více než 3 lety zkušeností v oboru si Kumar vytvořil prokazatelné výsledky ve vytváření působivých příběhů, vedení zasvěcených rozhovorů a poskytování komplexních poznatků. Kumarova odbornost spočívá ve vytváření vysoce působivého obsahu, včetně článků, zpráv a výzkumných publikací pro prominentní průmyslové platformy. Díky jedinečné sadě dovedností, které kombinují technické znalosti a vyprávění příběhů, Kumar vyniká v komunikaci složitých technologických konceptů pro různé publikum jasným a poutavým způsobem.
Další články
Kumar je zkušený technický novinář se specializací na dynamické průniky AI/ML, marketingové technologie a nově vznikající obory, jako jsou kryptoměny, blockchain a NFTs. S více než 3 lety zkušeností v oboru si Kumar vytvořil prokazatelné výsledky ve vytváření působivých příběhů, vedení zasvěcených rozhovorů a poskytování komplexních poznatků. Kumarova odbornost spočívá ve vytváření vysoce působivého obsahu, včetně článků, zpráv a výzkumných publikací pro prominentní průmyslové platformy. Díky jedinečné sadě dovedností, které kombinují technické znalosti a vyprávění příběhů, Kumar vyniká v komunikaci složitých technologických konceptů pro různé publikum jasným a poutavým způsobem.
