Ang Mga Modelong AI na Bumubuo ng Larawan ay Sinasanay sa Mga Tiyak na Imahe ng Bata, sabi ni Stanford
Sa madaling sabi
Mga sikat na text-to-image generative AI tool kasama ang Stable Diffusion, ay sinasanay sa libu-libong larawan ng pang-aabusong sekswal sa bata.
Sikat na text-to-image generative AI mga kasangkapan, kabilang ang Stable Diffusion mula Stability AI ay sinasanay sa libu-libong larawan ng pang-aabusong sekswal sa bata, ayon sa ulat ng pananaliksik mula sa Stanford Internet Observatory.
Idinagdag ng ulat na pinapadali ng mga larawang ito ang pagbuo ng makatotohanang tahasang nilalaman na kinasasangkutan ng mga pekeng bata at ang pagbabago ng mga nakadamit na kabataan sa hubad na imahe, na humihimok ng agarang aksyon mula sa mga kumpanyang nasa likod ng naturang mga tool.
Ang pagsisiyasat ng Stanford Internet Observatory ay nakatuon sa database ng LAION, isang napakalaking repository ng mga online na larawan at caption na ginagamit ng nangungunang Mga gumagawa ng imahe ng AI gaya ng Stable Diffusion, upang sanayin ang mga modelo ng AI.
Bago suriin ang mga tool sa AI na bumubuo ng imahe, ang mga mananaliksik ay may pananaw na ang mga tool ng AI ay gumawa ng mapang-abusong koleksyon ng imahe ng mga bata sa pamamagitan ng pagsasama-sama ng impormasyon mula sa adult pornography at mga benign na larawan ng mga bata. Gayunpaman, ang mga natuklasan ng Observatory ay nagpapakita ng isang nakakagambalang twist, na may higit sa 3,200 mga larawan ng pinaghihinalaang sekswal na pang-aabuso sa bata na natukoy sa loob ng LAION dataset.
Habang mabilis na tumugon ang LAION sa ulat sa pamamagitan ng pansamantalang pag-alis ng mga dataset nito, ang mga implikasyon ng mga larawang ito ay napakalawak. Bagama't bumubuo sila ng isang maliit na bahagi ng malawak na index ng LAION na 5.8 bilyong mga imahe, iginiit ng pangkat ng Stanford na malamang na naiimpluwensyahan nila ang kakayahan ng Mga tool sa AI upang makabuo ng mga mapaminsalang output.
Ang isang makabuluhang manlalaro sa pag-unlad ng database ng LAION ay Stability AI, isang startup na nakabase sa London na responsable sa paghubog ng dataset. Itinatampok ng ulat na ang isang mas lumang bersyon ng kanilang Stable Diffusion modelo, na ipinakilala noong nakaraang taon ay naroroon pa rin sa iba't ibang mga aplikasyon, bilang pangunahing mapagkukunan para sa pagbuo ng tahasang koleksyon ng imahe.
Bagaman Stability AI sinasabing nagho-host lamang ng mga na-filter na bersyon at gumawa ng mga hakbang upang mabawasan ang maling paggamit, ang hamon ay nakasalalay sa paglaganap ng mas lumang modelo.
Ang Generative AI Deployment ay Nangangailangan ng Mahigpit na Pagpapatunay
Ang core ng isyu ay nagbabalik sa mabilis na pag-deploy ng maraming generative AI projects sa merkado, ayon kay David Thiel, ang punong technologist sa Stanford Internet Observatory.
Itinuturo ni Thiel na ang mga proyektong ito ay kadalasang ginagawang malawak na naa-access dahil sa matinding kumpetisyon sa larangan, nang walang kinakailangang mahigpit na atensyon sa yugto ng pag-unlad.
Ang mga mananaliksik ng Stanford ay nagtataguyod ng mga marahas na hakbang upang matugunan ang isyu nang epektibo. Kasama sa mga rekomendasyon ang pagtanggal o paglilinis ng mga set ng pagsasanay na nagmula sa LAION-5B at paggawa ng mas lumang bersyon ng Stable Diffusion hindi gaanong naa-access.
Gayunpaman, ang pagiging kumplikado ng retroactive na paglilinis ng data ay nagdudulot ng malaking hamon, na nag-uudyok ng isang panawagan para sa pakikipagtulungan sa mga eksperto sa kaligtasan ng bata sa panahon ng pagbuo ng Mga database ng AI.
Habang ang mga paaralan at mga ahensyang nagpapatupad ng batas sa buong mundo ay nagpapahayag ng pagkaalarma sa mga potensyal na kahihinatnan ng mga natuklasang ito, ang spotlight ay nasa industriya ng AI upang agarang tugunan at itama ang mga mapaminsalang bahid sa loob ng kanilang teknolohiya.
Pagtanggi sa pananagutan
Sa linya na may Mga alituntunin ng Trust Project, pakitandaan na ang impormasyong ibinigay sa pahinang ito ay hindi nilayon at hindi dapat bigyang-kahulugan bilang legal, buwis, pamumuhunan, pananalapi, o anumang iba pang paraan ng payo. Mahalagang mamuhunan lamang kung ano ang maaari mong mawala at humingi ng independiyenteng payo sa pananalapi kung mayroon kang anumang mga pagdududa. Para sa karagdagang impormasyon, iminumungkahi naming sumangguni sa mga tuntunin at kundisyon pati na rin sa mga pahina ng tulong at suporta na ibinigay ng nagbigay o advertiser. MetaversePost ay nakatuon sa tumpak, walang pinapanigan na pag-uulat, ngunit ang mga kondisyon ng merkado ay maaaring magbago nang walang abiso.
Tungkol sa Ang May-akda
Si Kumar ay isang makaranasang Tech Journalist na may espesyalisasyon sa mga dynamic na intersection ng AI/ML, teknolohiya sa marketing, at mga umuusbong na larangan tulad ng crypto, blockchain, at NFTs. Sa mahigit 3 taong karanasan sa industriya, si Kumar ay nagtatag ng isang napatunayang track record sa paggawa ng mga nakakahimok na salaysay, pagsasagawa ng mga insightful na panayam, at paghahatid ng mga komprehensibong insight. Ang kadalubhasaan ni Kumar ay nakasalalay sa paggawa ng nilalamang may mataas na epekto, kabilang ang mga artikulo, ulat, at mga publikasyong pananaliksik para sa mga kilalang platform ng industriya. Sa isang natatanging hanay ng kasanayan na pinagsasama ang teknikal na kaalaman at pagkukuwento, mahusay si Kumar sa pakikipag-usap ng mga kumplikadong teknolohikal na konsepto sa magkakaibang mga madla sa isang malinaw at nakakaengganyo na paraan.
Mas marami pang artikulo
Si Kumar ay isang makaranasang Tech Journalist na may espesyalisasyon sa mga dynamic na intersection ng AI/ML, teknolohiya sa marketing, at mga umuusbong na larangan tulad ng crypto, blockchain, at NFTs. Sa mahigit 3 taong karanasan sa industriya, si Kumar ay nagtatag ng isang napatunayang track record sa paggawa ng mga nakakahimok na salaysay, pagsasagawa ng mga insightful na panayam, at paghahatid ng mga komprehensibong insight. Ang kadalubhasaan ni Kumar ay nakasalalay sa paggawa ng nilalamang may mataas na epekto, kabilang ang mga artikulo, ulat, at mga publikasyong pananaliksik para sa mga kilalang platform ng industriya. Sa isang natatanging hanay ng kasanayan na pinagsasama ang teknikal na kaalaman at pagkukuwento, mahusay si Kumar sa pakikipag-usap ng mga kumplikadong teknolohikal na konsepto sa magkakaibang mga madla sa isang malinaw at nakakaengganyo na paraan.
