Моделите с изкуствен интелект, генериращи изображения, се обучават на явни детски изображения, твърди Станфорд
Накратко
Популярни инструменти за генериране на текст към изображение, включително Stable Diffusion, се обучават върху хиляди изображения на сексуално малтретиране на деца.
Популярно преобразуване на текст в изображение генеративен AI инструменти, включително Stable Diffusion от Stability AI се обучават върху хиляди изображения на сексуално малтретиране на деца, според изследователския доклад от Станфордската интернет обсерватория.
Докладът добавя, че тези изображения улесняват генерирането на реалистично експлицитно съдържание, включващо фалшиви деца и трансформирането на облечени тийнейджъри в голи изображения, призовавайки за незабавни действия от компаниите зад подобни инструменти.
Разследването на Станфордската интернет обсерватория се фокусира върху База данни LAION, масивно хранилище на онлайн изображения и надписи, използвани от водещи Създатели на изображения с изкуствен интелект като Stable Diffusion, за обучение на AI модели.
Преди да проверят инструментите за изкуствен интелект, генериращи изображения, изследователите бяха на мнение, че инструментите за изкуствен интелект създават обидни изображения на деца чрез комбиниране на информация от порнография за възрастни и доброкачествени снимки на деца. Констатациите на Обсерваторията обаче представляват смущаващ обрат с над 3,200 изображения на предполагаемо сексуално насилие над деца, идентифицирани в набора от данни LAION.
Въпреки че LAION бързо отговори на доклада, като временно премахна своите набори от данни, последиците от тези изображения са широкообхватни. Въпреки че представляват малка част от огромния индекс на LAION от 5.8 милиарда изображения, Станфордската група твърди, че те вероятно влияят върху способността на Инструменти за AI за генериране на вредни изходи.
Важен играч в развитието на базата данни LAION е Stability AI, базиран в Лондон стартъп, отговорен за оформянето на набора от данни. Докладът подчертава, че по-стара версия на тях Stable Diffusion Моделът, въведен миналата година, все още присъства в различни приложения като основен източник за генериране на ясни изображения.
Въпреки че Stability AI твърди, че хоства само филтрирани версии и е предприел стъпки за смекчаване на злоупотребата, предизвикателството се крие в широкото разпространение на по-стария модел.
Генеративното внедряване на AI изисква строго валидиране
Според Дейвид Тийл, главен технолог в Станфордската интернет обсерватория, сърцевината на проблема се връща към бързото внедряване на много генеративни AI проекти на пазара.
Тийл посочва, че тези проекти често са били широко достъпни поради интензивната конкуренция в областта, без необходимото строго внимание по време на фазата на разработка.
Изследователите от Станфорд се застъпват за драстични мерки за ефективно справяне с проблема. Препоръките включват изтриване или почистване на тренировъчни набори, получени от LAION-5B, и създаване на по-стара версия на Stable Diffusion по-малко достъпен.
Сложността на ретроактивното изчистване на данните обаче представлява значително предизвикателство, което налага призив за сътрудничество с експерти по безопасност на децата по време на разработването на AI бази данни.
Тъй като училищата и правоприлагащите органи по целия свят изразяват тревога относно потенциалните последици от тези констатации, светлината на прожекторите сега е насочена към AI индустрия спешно да адресират и коригират вредните недостатъци в тяхната технология.
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
Кумар е опитен технически журналист със специализация в динамичните пресечни точки на AI/ML, маркетингови технологии и нововъзникващи области като крипто, блокчейн и NFTс. С над 3 години опит в индустрията, Kumar има доказан опит в изработването на завладяващи разкази, провеждането на проницателни интервюта и предоставянето на изчерпателни прозрения. Експертният опит на Kumar се състои в създаването на силно въздействащо съдържание, включително статии, доклади и изследователски публикации за известни индустриални платформи. С уникален набор от умения, който съчетава технически познания и разказване на истории, Кумар се справя отлично в предаването на сложни технологични концепции на различни аудитории по ясен и увлекателен начин.
Още статии
Кумар е опитен технически журналист със специализация в динамичните пресечни точки на AI/ML, маркетингови технологии и нововъзникващи области като крипто, блокчейн и NFTс. С над 3 години опит в индустрията, Kumar има доказан опит в изработването на завладяващи разкази, провеждането на проницателни интервюта и предоставянето на изчерпателни прозрения. Експертният опит на Kumar се състои в създаването на силно въздействащо съдържание, включително статии, доклади и изследователски публикации за известни индустриални платформи. С уникален набор от умения, който съчетава технически познания и разказване на истории, Кумар се справя отлично в предаването на сложни технологични концепции на различни аудитории по ясен и увлекателен начин.
