A képgeneráló mesterséges intelligencia-modelleket kifejezetten gyermekképekre oktatják, állítja Stanford
Röviden
Népszerű szöveg-kép generatív AI eszközök, beleértve Stable Diffusion, több ezer, gyermekek szexuális zaklatását ábrázoló képről képezik ki őket.
Népszerű szöveg-kép generatív AI eszközök, beleértve Stable Diffusion ból ből Stability AI A Stanford Internet Observatory kutatási jelentése szerint több ezer, gyermekek szexuális zaklatását ábrázoló képről képezik ki őket.
A jelentés hozzátette, hogy ezek a képek elősegítik a valósághű, explicit tartalmak létrehozását, amelyek hamis gyerekeket tartalmaznak, és ruhába öltözött tinédzsereket meztelen képpé alakítanak, és azonnali intézkedést sürget az ilyen eszközök mögött álló cégektől.
A Stanford Internet Observatory vizsgálata arra összpontosított LAION adatbázis, a vezető által használt online képek és feliratok hatalmas tárháza AI képkészítők mint Stable Diffusion, AI modellek képzésére.
Mielőtt megvizsgálták volna a képgeneráló mesterséges intelligencia eszközöket, a kutatók azon a véleményen voltak, hogy a mesterséges intelligencia eszközök sértő képeket hoztak létre a gyerekekről a felnőtt pornográfiából származó információk és a gyerekekről készült jóindulatú fényképek kombinálásával. Az Obszervatórium eredményei azonban nyugtalanító fordulatot mutatnak: a LAION adatkészletében több mint 3,200 kép található a gyermekek szexuális zaklatásának gyanújáról.
Míg a LAION gyorsan reagált a jelentésre az adatkészletek ideiglenes eltávolításával, ezeknek a képeknek a következményei messzemenőek. Bár a LAION hatalmas, 5.8 milliárd képből álló indexének töredékét teszik ki, a Stanford csoport azt állítja, hogy valószínűleg befolyásolják a AI eszközök káros kimenetek generálására.
A LAION adatbázis fejlesztésének jelentős szereplője az Stability AI, egy londoni székhelyű startup, amely az adatkészlet kialakításáért felelős. A jelentés kiemeli, hogy egy régebbi verziójuk Stable Diffusion A tavaly bemutatott modell továbbra is jelen van a különböző alkalmazásokban, mint elsődleges forrása az explicit képek előállításának.
Bár Stability AI Azt állítja, hogy csak szűrt verziókat tartalmaz, és lépéseket tett a visszaélések visszaszorítására, a kihívás a régebbi modell elterjedésében rejlik.
A generatív mesterséges intelligencia bevezetése szigorú érvényesítést igényel
David Thiel, a Stanford Internet Observatory vezető technológusa szerint a probléma lényege számos generatív AI-projekt gyors piaci bevezetésére vezethető vissza.
Thiel rámutat arra, hogy ezeket a projekteket gyakran széles körben elérhetővé tették a területen folyó intenzív verseny miatt, anélkül, hogy a fejlesztési szakaszban odafigyeltek volna rá.
A stanfordi kutatók drasztikus intézkedéseket szorgalmaznak a probléma hatékony kezelése érdekében. Az ajánlások közé tartozik a LAION-5B-ből származó edzőkészletek törlése vagy tisztítása, valamint a program egy régebbi verziójának elkészítése. Stable Diffusion kevésbé hozzáférhető.
Az adatok visszamenőleges törlésének bonyolultsága azonban komoly kihívást jelent, ezért a gyermekbiztonsági szakértőkkel való együttműködésre szólít fel a fejlesztés során. AI adatbázisok.
Miközben az iskolák és a bűnüldöző szervek világszerte aggodalmukat fejezik ki e megállapítások lehetséges következményei miatt, most a figyelem középpontjában a AI ipar sürgősen orvosolni és kijavítani a technológiájuk káros hibáit.
A felelősség megtagadása
Összhangban a A Trust Project irányelvei, kérjük, vegye figyelembe, hogy az ezen az oldalon közölt információk nem minősülnek jogi, adózási, befektetési, pénzügyi vagy bármilyen más formájú tanácsnak, és nem is értelmezhetők. Fontos, hogy csak annyit fektessen be, amennyit megengedhet magának, hogy elveszítsen, és kérjen független pénzügyi tanácsot, ha kétségei vannak. További információkért javasoljuk, hogy tekintse meg a szerződési feltételeket, valamint a kibocsátó vagy hirdető által biztosított súgó- és támogatási oldalakat. MetaversePost elkötelezett a pontos, elfogulatlan jelentéstétel mellett, de a piaci feltételek előzetes értesítés nélkül változhatnak.
A szerzőről
Kumar tapasztalt műszaki újságíró, aki az AI/ML dinamikus metszéspontjaira, a marketingtechnológiára és az olyan feltörekvő területekre szakosodott, mint a kriptográfia, blokklánc és NFTs. Az iparágban szerzett több mint 3 éves tapasztalatával Kumar bevált eredményeket hozott fel lenyűgöző narratívák készítése, éleslátó interjúk készítése és átfogó betekintések nyújtása terén. A Kumar szakértelme abban rejlik, hogy nagy hatású tartalmakat készít, ideértve cikkeket, jelentéseket és kutatási publikációkat prominens iparági platformok számára. A technikai tudást és a történetmesélést ötvöző egyedülálló készségkészletével Kumar kiválóan kommunikál összetett technológiai koncepciókkal a különböző közönségekkel, világos és vonzó módon.
További cikkek
Kumar tapasztalt műszaki újságíró, aki az AI/ML dinamikus metszéspontjaira, a marketingtechnológiára és az olyan feltörekvő területekre szakosodott, mint a kriptográfia, blokklánc és NFTs. Az iparágban szerzett több mint 3 éves tapasztalatával Kumar bevált eredményeket hozott fel lenyűgöző narratívák készítése, éleslátó interjúk készítése és átfogó betekintések nyújtása terén. A Kumar szakértelme abban rejlik, hogy nagy hatású tartalmakat készít, ideértve cikkeket, jelentéseket és kutatási publikációkat prominens iparági platformok számára. A technikai tudást és a történetmesélést ötvöző egyedülálló készségkészletével Kumar kiválóan kommunikál összetett technológiai koncepciókkal a különböző közönségekkel, világos és vonzó módon.
