Модели вештачке интелигенције за генерисање слика се обучавају на експлицитним дечијим сликама, тврди Станфорд
Укратко
Популарни генеративни АИ алати за претварање текста у слику Stable Diffusion, обучавају се о хиљадама слика сексуалног злостављања деце.
Популарно претварање текста у слику генеративна АИ alati, uključujući Stable Diffusion од Stability AI обучавају се о хиљадама слика сексуалног злостављања деце, према извештају о истраживању из Станфорд Интернет опсерваторије.
У извештају се додаје да ове слике олакшавају стварање реалистичног експлицитног садржаја који укључује лажну децу и трансформацију обучених тинејџера у голе слике, подстичући компаније које стоје иза таквих алата на хитну акцију.
Истрага Интернет опсерваторије Станфорд фокусирала се на ЛАИОН база података, огромно складиште онлајн слика и натписа које користе водећи АИ креатори слика као Stable Diffusion, за обуку АИ модела.
Пре провере алата за вештачку интелигенцију за генерисање слика, истраживачи су били мишљења да су АИ алати произвели увредљиве слике деце комбиновањем информација из порнографије за одрасле и бенигних фотографија деце. Међутим, налази Опсерваторије представљају узнемирујући преокрет, са преко 3,200 слика осумњичених за сексуално злостављање деце идентификованих у скупу података ЛАИОН.
Док је ЛАИОН брзо реаговао на извештај тако што је привремено уклонио своје скупове података, импликације ових слика су далекосежне. Иако представљају делић ЛАИОН-овог огромног индекса од 5.8 милијарди слика, Станфордска група тврди да вероватно утичу на способност АИ алати да генерише штетне резултате.
Значајан играч у развоју базе података ЛАИОН је Stability AI, стартап са седиштем у Лондону одговоран за обликовање скупа података. Извештај наглашава да старија верзија њиховог Stable Diffusion модел, представљен прошле године, и даље је присутан у разним апликацијама, као примарни извор за генерисање експлицитних слика.
Мада Stability AI тврди да хостује само филтриране верзије и да је предузео кораке да ублажи злоупотребу, изазов лежи у свеприсутности старијег модела.
Генеративна АИ примена захтева ригорозну валидацију
Срж проблема сеже уназад до брзог увођења многих генеративних пројеката вештачке интелигенције на тржиште, према Дејвиду Тилу, главном технологу на Интернет опсерваторији Станфорд.
Тхиел истиче да су ови пројекти често били широко доступни због интензивне конкуренције на терену, без неопходне ригорозне пажње током фазе развоја.
Истраживачи са Станфорда се залажу за драстичне мере за ефикасно решавање овог проблема. Препоруке укључују брисање или чишћење комплета за обуку изведених из ЛАИОН-5Б и прављење старије верзије Stable Diffusion мање приступачна.
Међутим, сложеност ретроактивног чишћења података представља значајан изазов, што доводи до позива на сарадњу са стручњацима за безбедност деце током развоја АИ базе података.
Како школе и агенције за спровођење закона широм света изражавају забринутост због потенцијалних последица ових открића, сада је у центру пажње АИ индустрија да се хитно позабаве и отклоне штетне недостатке у оквиру њихове технологије.
Одрицање од одговорности
У складу са Смернице пројекта Труст, имајте на уму да информације дате на овој страници нису намењене и не треба да се тумаче као правни, порески, инвестициони, финансијски или било који други облик савета. Важно је да инвестирате само оно што можете приуштити да изгубите и да тражите независан финансијски савет ако сумњате. За додатне информације, предлажемо да погледате одредбе и услове, као и странице помоћи и подршке које пружа издавач или оглашивач. MetaversePost је посвећен тачном, непристрасном извештавању, али тржишни услови су подложни променама без претходне најаве.
О аутору
Кумар је искусан технички новинар са специјализацијом у динамичким пресецима АИ/МЛ, маркетиншке технологије и нових поља као што су крипто, блокчејн и NFTс. Са више од 3 године искуства у индустрији, Кумар је успоставио доказане резултате у креирању убедљивих наратива, вођењу проницљивих интервјуа и пружању свеобухватних увида. Кумарова експертиза лежи у производњи садржаја високог утицаја, укључујући чланке, извештаје и истраживачке публикације за истакнуте индустријске платформе. Са јединственим скупом вештина који комбинује техничко знање и приповедање, Кумар се истиче у комуникацији сложених технолошких концепата различитој публици на јасан и привлачан начин.
više чланака
Кумар је искусан технички новинар са специјализацијом у динамичким пресецима АИ/МЛ, маркетиншке технологије и нових поља као што су крипто, блокчејн и NFTс. Са више од 3 године искуства у индустрији, Кумар је успоставио доказане резултате у креирању убедљивих наратива, вођењу проницљивих интервјуа и пружању свеобухватних увида. Кумарова експертиза лежи у производњи садржаја високог утицаја, укључујући чланке, извештаје и истраживачке публикације за истакнуте индустријске платформе. Са јединственим скупом вештина који комбинује техничко знање и приповедање, Кумар се истиче у комуникацији сложених технолошких концепата различитој публици на јасан и привлачан начин.
