Modely umelej inteligencie na generovanie obrázkov sa trénujú na explicitných detských obrázkoch, tvrdí Stanford
Stručne
Populárne nástroje AI na generovanie textu na obrázok vrátane Stable Diffusion, sa trénujú na tisíckach obrázkov sexuálneho zneužívania detí.
Populárny prevod textu na obrázok generatívna AI nástroje, vrátane Stable Diffusion z Stability AI trénujú na tisíckach obrázkov sexuálneho zneužívania detí, ako uvádza výskumná správa Stanfordského internetového observatória.
Správa dodala, že tieto obrázky uľahčujú generovanie realistického explicitného obsahu zahŕňajúceho falošné deti a transformáciu oblečených tínedžerov na nahé snímky, čo vyzýva spoločnosti, ktoré stoja za takýmito nástrojmi, aby okamžite konali.
Vyšetrovanie Stanfordského internetového observatória sa zameralo na Databáza LAION, obrovské úložisko online obrázkov a titulkov, ktoré využívajú vedúci Tvorcovia obrázkov AI Ako Stable Diffusionna trénovanie modelov AI.
Pred skontrolovaním nástrojov umelej inteligencie na vytváranie obrázkov boli výskumníci toho názoru, že nástroje umelej inteligencie vytvárajú urážlivé snímky detí kombináciou informácií z pornografie pre dospelých a neškodných fotografií detí. Zistenia observatória však predstavujú znepokojivý zvrat, pričom v súbore údajov LAION bolo identifikovaných viac ako 3,200 XNUMX obrázkov podozrivých zo sexuálneho zneužívania detí.
Zatiaľ čo LAION rýchlo reagoval na správu dočasným odstránením svojich súborov údajov, dôsledky týchto obrázkov sú ďalekosiahle. Hoci predstavujú zlomok z obrovského indexu LAION s 5.8 miliardami obrázkov, Stanfordská skupina tvrdí, že pravdepodobne ovplyvňujú schopnosť Nástroje AI vytvárať škodlivé výstupy.
Významným hráčom vo vývoji databázy LAION je Stability AI, londýnsky startup zodpovedný za formovanie súboru údajov. Správa zdôrazňuje, že staršia verzia ich Stable Diffusion model, predstavený minulý rok, je stále prítomný v rôznych aplikáciách ako primárny zdroj na generovanie explicitných snímok.
Hoci Stability AI tvrdí, že hosťuje iba filtrované verzie a podnikol kroky na zmiernenie zneužitia, výzva spočíva v všadeprítomnosti staršieho modelu.
Generatívne nasadenie AI si vyžaduje dôkladné overenie
Podľa Davida Thiela, hlavného technológa v Stanfordskom internetovom observatóriu, sa jadro problému vracia k rýchlemu nasadeniu mnohých generatívnych projektov AI na trh.
Thiel poukazuje na to, že tieto projekty boli často široko prístupné kvôli intenzívnej konkurencii v tejto oblasti bez potrebnej prísnej pozornosti počas fázy vývoja.
Výskumníci zo Stanfordu obhajujú drastické opatrenia na efektívne riešenie problému. Odporúčania zahŕňajú vymazanie alebo vyčistenie tréningových zostáv odvodených od LAION-5B a vytvorenie staršej verzie Stable Diffusion menej dostupné.
Zložitosť spätného čistenia údajov však predstavuje značnú výzvu, ktorá si vyžaduje spoluprácu s odborníkmi na bezpečnosť detí počas vývoja databázy AI.
Keďže školy a orgány činné v trestnom konaní na celom svete vyjadrujú znepokojenie nad možnými následkami týchto zistení, stredobodom pozornosti je teraz AI priemyslu urýchlene riešiť a napraviť škodlivé chyby v ich technológii.
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Kumar je skúsený technický novinár so špecializáciou na dynamické prieniky AI/ML, marketingových technológií a nových oblastí, ako sú krypto, blockchain a NFTs. S viac ako 3-ročnými skúsenosťami v tomto odvetví má Kumar preukázané výsledky pri vytváraní pútavých príbehov, vedení dômyselných rozhovorov a poskytovaní komplexných poznatkov. Kumarova odbornosť spočíva vo vytváraní vysoko účinného obsahu vrátane článkov, správ a výskumných publikácií pre prominentné priemyselné platformy. Vďaka jedinečnému súboru zručností, ktorý kombinuje technické znalosti a rozprávanie príbehov, Kumar vyniká v komunikácii zložitých technologických konceptov pre rôzne publikum jasným a pútavým spôsobom.
Ďalšie články
Kumar je skúsený technický novinár so špecializáciou na dynamické prieniky AI/ML, marketingových technológií a nových oblastí, ako sú krypto, blockchain a NFTs. S viac ako 3-ročnými skúsenosťami v tomto odvetví má Kumar preukázané výsledky pri vytváraní pútavých príbehov, vedení dômyselných rozhovorov a poskytovaní komplexných poznatkov. Kumarova odbornosť spočíva vo vytváraní vysoko účinného obsahu vrátane článkov, správ a výskumných publikácií pre prominentné priemyselné platformy. Vďaka jedinečnému súboru zručností, ktorý kombinuje technické znalosti a rozprávanie príbehov, Kumar vyniká v komunikácii zložitých technologických konceptov pre rôzne publikum jasným a pútavým spôsobom.
