Stenforda apgalvo, ka attēlus ģenerējošie AI modeļi tiek apmācīti par nepārprotamiem bērnu attēliem
Īsumā
Populāri teksta pārveides AI rīki, tostarp Stable Diffusion, tiek apmācīti par tūkstošiem bērnu seksuālas vardarbības attēlu.
Populārs teksta pārveidošana attēlā ģeneratīvais AI instrumenti, tostarp Stable Diffusion no Stability AI Stenfordas interneta observatorijas pētījuma ziņojumā norādīts, ka viņi tiek apmācīti par tūkstošiem bērnu seksuālas vardarbības attēlu.
Ziņojumā tika piebilsts, ka šie attēli atvieglo reālistiska, nepārprotama satura ģenerēšanu, kurā iesaistīti viltoti bērni, un ģērbtu pusaudžu pārveidošanu par kailiem attēliem, mudinot uzņēmumus, kuri izmanto šādus rīkus, nekavējoties rīkoties.
Stenfordas interneta observatorijas izmeklēšana koncentrējās uz LAION datu bāze, milzīga tiešsaistes attēlu un parakstu krātuve, ko izmanto vadošie AI attēlu veidotāji tāpat Stable Diffusion, lai apmācītu AI modeļus.
Pirms attēlu ģenerēšanas AI rīku pārbaudes pētnieki uzskatīja, ka AI rīki radīja ļaunprātīgus bērnu attēlus, apvienojot informāciju no pieaugušo pornogrāfijas un labdabīgām bērnu fotogrāfijām. Tomēr Observatorijas atklājumi rada satraucošu pavērsienu, jo LAION datu kopā ir identificēti vairāk nekā 3,200 attēlu ar iespējamu seksuālu vardarbību pret bērniem.
Lai gan LAION ātri reaģēja uz ziņojumu, uz laiku noņemot savas datu kopas, šo attēlu ietekme ir tālejoša. Lai gan tie veido daļu no LAION plašā 5.8 miljardu attēlu indeksa, Stenfordas grupa apgalvo, ka tie, iespējams, ietekmē spēju AI rīki radīt kaitīgus rezultātus.
Būtisks spēlētājs LAION datu bāzes attīstībā ir Stability AI, Londonā bāzēts starta uzņēmums, kas atbild par datu kopas veidošanu. Ziņojumā uzsvērts, ka viņu vecāka versija Stable Diffusion modelis, kas tika ieviests pagājušajā gadā, joprojām ir pieejams dažādās lietojumprogrammās kā primārais avots nepārprotamu attēlu ģenerēšanai.
Kaut gan Stability AI apgalvo, ka tiek mitinātas tikai filtrētas versijas, un ir veicis pasākumus, lai mazinātu ļaunprātīgu izmantošanu, problēma ir vecāka modeļa izplatība.
Ģeneratīvai AI ieviešanai ir nepieciešama stingra validācija
Kā norāda Stenfordas interneta observatorijas galvenais tehnologs Deivids Tīls, problēmas būtība ir saistīta ar daudzu ģeneratīvu AI projektu strauju ieviešanu tirgū.
Tīls norāda, ka šie projekti bieži vien tika padarīti plaši pieejami intensīvas konkurences dēļ šajā jomā, bez nepieciešamās stingras uzmanības izstrādes posmā.
Stenfordas pētnieki iestājas par radikāliem pasākumiem, lai efektīvi risinātu šo problēmu. Ieteikumos ietilpst no LAION-5B iegūto treniņu komplektu dzēšana vai tīrīšana un vecākas versijas izveide Stable Diffusion mazāk pieejams.
Tomēr datu retroaktīvas tīrīšanas sarežģītība rada ievērojamu izaicinājumu, kas liek sadarboties ar bērnu drošības ekspertiem, izstrādājot AI datu bāzes.
Tā kā skolas un tiesībaizsardzības iestādes visā pasaulē pauž satraukumu par šo atklājumu iespējamām sekām, šobrīd uzmanības centrā ir AI nozare steidzami novērst un novērst kaitīgos trūkumus savā tehnoloģijā.
Atbildības noraidīšana
Atbilstīgi Uzticības projekta vadlīnijas, lūdzu, ņemiet vērā, ka šajā lapā sniegtā informācija nav paredzēta un to nedrīkst interpretēt kā juridisku, nodokļu, ieguldījumu, finanšu vai jebkāda cita veida padomu. Ir svarīgi ieguldīt tikai to, ko varat atļauties zaudēt, un meklēt neatkarīgu finanšu padomu, ja jums ir šaubas. Lai iegūtu papildinformāciju, iesakām skatīt pakalpojumu sniegšanas noteikumus, kā arī palīdzības un atbalsta lapas, ko nodrošina izdevējs vai reklāmdevējs. MetaversePost ir apņēmies sniegt precīzus, objektīvus pārskatus, taču tirgus apstākļi var tikt mainīti bez iepriekšēja brīdinājuma.
Par Autors
Kumars ir pieredzējis tehnoloģiju žurnālists ar specializāciju AI/ML dinamiskos krustpunktos, mārketinga tehnoloģijās un tādās jaunās jomās kā kriptovalūta, blokķēde un NFTs. Ar vairāk nekā 3 gadu pieredzi šajā nozarē Kumar ir izveidojis pierādītus sasniegumus pārliecinošu stāstījumu veidošanā, ieskatu interviju vadīšanā un visaptverošu ieskatu sniegšanā. Kumar kompetence slēpjas augstas ietekmes satura, tostarp rakstu, ziņojumu un pētījumu publikāciju veidošanā ievērojamām nozares platformām. Ar unikālu prasmju kopumu, kas apvieno tehniskās zināšanas un stāstu stāstīšanu, Kumars izceļas ar sarežģītu tehnoloģisku koncepciju nodošanu dažādām auditorijām skaidrā un saistošā veidā.
Vairāk rakstus
Kumars ir pieredzējis tehnoloģiju žurnālists ar specializāciju AI/ML dinamiskos krustpunktos, mārketinga tehnoloģijās un tādās jaunās jomās kā kriptovalūta, blokķēde un NFTs. Ar vairāk nekā 3 gadu pieredzi šajā nozarē Kumar ir izveidojis pierādītus sasniegumus pārliecinošu stāstījumu veidošanā, ieskatu interviju vadīšanā un visaptverošu ieskatu sniegšanā. Kumar kompetence slēpjas augstas ietekmes satura, tostarp rakstu, ziņojumu un pētījumu publikāciju veidošanā ievērojamām nozares platformām. Ar unikālu prasmju kopumu, kas apvieno tehniskās zināšanas un stāstu stāstīšanu, Kumars izceļas ar sarežģītu tehnoloģisku koncepciju nodošanu dažādām auditorijām skaidrā un saistošā veidā.
