Kujutisi loovaid tehisintellekti mudeleid koolitatakse selgesõnaliste lastepiltide alal, väidab Stanford
Põgusalt
Populaarsed teksti-pildiks genereerivad AI tööriistad, sealhulgas Stable Diffusion, on koolitatud tuhandete laste seksuaalset kuritarvitamist kujutavate piltide kohta.
Populaarne tekst-pildiks muutmine generatiivne AI tööriistad, sealhulgas Stable Diffusion Alates Stability AI Stanfordi Interneti-vaatluskeskuse uuringuaruande kohaselt koolitatakse neid tuhandete laste seksuaalse kuritarvitamise piltide kohta.
Aruandes lisati, et need pildid hõlbustavad võltslapsi hõlmava realistliku selgesõnalise sisu loomist ja riietatud teismeliste muutmist alastipiltideks, kutsudes üles selliste tööriistade taga olevaid ettevõtteid viivitamatult tegutsema.
Stanfordi Interneti-observatooriumi uurimine keskendus sellele LAION andmebaas, tohutu veebipiltide ja pealkirjade hoidla, mida juhtivad kasutavad AI pilditegijad nagu Stable Diffusion, AI mudelite koolitamiseks.
Enne piltide loomise tehisintellekti tööriistade kontrollimist olid teadlased seisukohal, et tehisintellekti tööriistad tekitasid lastest kuritahtlikke kujutisi, kombineerides teavet täiskasvanute pornograafiast ja laste healoomulistest fotodest. Observatooriumi leiud on aga murettekitavad, kuna LAIONi andmekogus tuvastati üle 3,200 kahtlustatava laste seksuaalse kuritarvitamise pildi.
Kuigi LAION reageeris aruandele kiiresti, eemaldades ajutiselt oma andmekogumid, on nende piltide tagajärjed kaugeleulatuvad. Kuigi need moodustavad murdosa LAIONi tohutust 5.8 miljardist pildist koosnevast indeksist, kinnitab Stanfordi grupp, et need mõjutavad tõenäoliselt Tehisintellekti tööriistad tekitada kahjulikke väljundeid.
Märkimisväärne tegija LAION andmebaasi arendamisel on Stability AI, Londonis asuv startup, kes vastutab andmestiku kujundamise eest. Aruandes rõhutatakse, et nende vanem versioon Stable Diffusion Eelmisel aastal tutvustatud mudel on endiselt erinevates rakendustes olemas, kuna see on peamine allikas selgesõnaliste kujutiste loomiseks.
Kuigi Stability AI väidab, et majutab ainult filtreeritud versioone ja on astunud samme väärkasutuse leevendamiseks, väljakutse seisneb vanema mudeli levivuses.
Generatiivne AI juurutamine nõuab ranget valideerimist
Stanfordi Interneti-vaatluskeskuse peatehnoloogi David Thieli sõnul pärineb probleemi tuum paljude generatiivsete AI-projektide kiirest turuleviimisest.
Thiel juhib tähelepanu sellele, et need projektid tehti sageli laialdaselt kättesaadavaks valdkonna tiheda konkurentsi tõttu, ilma et arendusfaasis oleks pööratud vajalikku ranget tähelepanu.
Stanfordi teadlased pooldavad drastilisi meetmeid probleemi tõhusaks lahendamiseks. Soovitused hõlmavad LAION-5B-st tuletatud treeningkomplektide kustutamist või puhastamist ja vanema versiooni loomist. Stable Diffusion vähem ligipääsetav.
Andmete tagasiulatuva puhastamise keerukus kujutab endast aga märkimisväärset väljakutset, mis kutsub üles tegema koostööd lasteohutuse ekspertidega AI andmebaasid.
Kuna koolid ja õiguskaitseasutused üle maailma väljendavad muret nende leidude võimalike tagajärgede pärast, on nüüd tähelepanu keskpunktis AI tööstus kiiresti tegelema ja parandama oma tehnoloogia kahjulikud vead.
Kaebused
Vastavalt Usaldusprojekti juhised, pange tähele, et sellel lehel esitatud teave ei ole mõeldud ega tohiks tõlgendada kui juriidilist, maksu-, investeerimis-, finants- või muud nõuannet. Oluline on investeerida ainult seda, mida saate endale lubada kaotada, ja kahtluste korral küsida sõltumatut finantsnõu. Lisateabe saamiseks soovitame vaadata nõudeid ja tingimusi ning väljaandja või reklaamija pakutavaid abi- ja tugilehti. MetaversePost on pühendunud täpsele ja erapooletule aruandlusele, kuid turutingimusi võidakse ette teatamata muuta.
Umbes Autor
Kumar on kogenud tehnikaajakirjanik, kes on spetsialiseerunud AI/ML dünaamilistele ristumiskohtadele, turundustehnoloogiale ja sellistele arenevatele valdkondadele nagu krüpto, plokiahel ja NFTs. Üle 3-aastase tööstusharu kogemusega Kumar on loonud tõestatud kogemusi mõjuvate narratiivide koostamisel, läbinägelike intervjuude läbiviimisel ja põhjaliku ülevaate andmisel. Kumari teadmised seisnevad silmapaistvatele tööstusplatvormidele suure mõjuga sisu, sealhulgas artiklite, aruannete ja teaduspublikatsioonide loomisel. Unikaalse oskuste kogumiga, mis ühendab tehnilised teadmised ja jutuvestmise, suudab Kumar suurepäraselt edastada keerulisi tehnoloogilisi kontseptsioone erinevatele sihtrühmadele selgel ja kaasahaaraval viisil.
Veel artikleid
Kumar on kogenud tehnikaajakirjanik, kes on spetsialiseerunud AI/ML dünaamilistele ristumiskohtadele, turundustehnoloogiale ja sellistele arenevatele valdkondadele nagu krüpto, plokiahel ja NFTs. Üle 3-aastase tööstusharu kogemusega Kumar on loonud tõestatud kogemusi mõjuvate narratiivide koostamisel, läbinägelike intervjuude läbiviimisel ja põhjaliku ülevaate andmisel. Kumari teadmised seisnevad silmapaistvatele tööstusplatvormidele suure mõjuga sisu, sealhulgas artiklite, aruannete ja teaduspublikatsioonide loomisel. Unikaalse oskuste kogumiga, mis ühendab tehnilised teadmised ja jutuvestmise, suudab Kumar suurepäraselt edastada keerulisi tehnoloogilisi kontseptsioone erinevatele sihtrühmadele selgel ja kaasahaaraval viisil.
