Temna stran Deepfakes: Kako zlonamerni akterji uporabljajo sintetične medije za manipulacijo in zavajanje
Na kratko
Deepfakes, tehnologija, ki omogoča ustvarjanje realističnih predstavitev obrazov, glasov in drugih značilnosti, je lahko koristna za umetnost, zabavo in izobraževanje.
Kaj je Deepfake?
Izraz »deepfake« je tehnološki proces, ki ustvarja zelo realistične sintetične medije, običajno v obliki zvokov, fotografij ali videoposnetkov, z uporabo umetne inteligence (AI), zlasti algoritmov globokega učenja in generativnih kontradiktornih omrežij (GAN). Deepfakes lahko ustvarijo popolnoma nove in pogosto zavajajoče informacije z manipulacijo ali prekrivanjem že obstoječe vizualne in zvočne vsebine, zahvaljujoč usposabljanju teh algoritmov na velikih zbirkah podatkov.
Z uporabo te tehnologije je mogoče brezhibno spremeniti obraze, glasove in druge značilne lastnosti, da ustvarijo realistične predstavitve, ki jih je težko razločiti iz pristnega materiala. Globinske ponaredke so uporabne za umetnost, zabavo in izobraževanje, vendar predstavljajo tudi resna tveganja za širjenje lažnih informacij, kršitev zasebnosti in se morda uporabljajo za diskreditacijo ljudi.
Fotografija: Vimeo
Z naraščajočo priljubljenostjo tehnologije deepfake se pojavlja več platform za ustvarjanje teh spremenjenih videoposnetkov in slik. Spodaj je seznam priljubljenih platform deepfake, ki prikazuje obseg te tehnologije, od preproste zamenjave obrazov v GIF-ih do napredne video manipulacije, kar odraža vsestranskost in potencialno uporabo deepfake.
FaceApp
Aplikacija FaceApp, znana po svojih funkcijah za preoblikovanje obraza, uporabnikom omogoča uporabo različnih filtrov za spreminjanje videza, na primer staranje ali zamenjavo spola, in ponuja uporabniku prijazen vmesnik.
ZAO
Kitajska aplikacija deepfake, ki je pritegnila pozornost zaradi svoje zmožnosti hitre in visoke natančnosti zamenjave obrazov v video posnetkih. ZAO uporabnikom ponuja preprosta orodja za ustvarjanje personaliziranih globokih ponaredkov.
Povezava
Mobilna aplikacija, zasnovana za zamenjavo obrazov v kratkih video posnetkih in GIF-ih. Reface ponuja široko paleto vsebin, vključno s priljubljenimi filmskimi prizori in slikami slavnih, kar olajša ustvarjanje zabavnih vsebin.
DeepFaceLab
DeepFaceLab je naprednejša platforma za ustvarjanje globokih ponaredkov, odprtokodna in zasnovana za izkušene uporabnike, ki želijo ustvariti kompleksne projekte globokih ponaredkov. Omogoča podrobno manipulacijo obrazov v videoposnetkih.
wombo
Wombo, specializiran za sinhronizacijo ustnic, uporabnikom omogoča ustvarjanje videoposnetkov, kjer so obrazi animirani, da pojejo ali govorijo. Ta platforma se pogosto uporablja za ustvarjanje šaljive in zabavne vsebine.
Deepfakes Web
Spletna storitev Deepfakes Web je zasnovana za enostavno uporabo. Uporabniki lahko naložijo videoposnetke in slike za ustvarjanje vsebine deepfake, ne da bi potrebovali napredna tehnična znanja.
Studio Deepfake
Celovita platforma za ustvarjanje deepfake videoposnetkov, Deepfake Studio ponuja različna orodja za zamenjavo obrazov in manipulacijo video vsebine. Namenjen je tako začetnikom kot bolj izkušenim uporabnikom.
Ali Deepfakes predstavljajo tveganje?
Dejansko je zelo enostavno pridobiti tehnologijo, potrebno za ustvarjanje globokih ponaredkov, in obstaja velika verjetnost, da bo zlorabljena za dezinformacije, politične dezinformacije, posnemanje družbenih medijev in kriminal. Udeleženci groženj in drugi kriminalci lahko to neresnično gradivo med drugim uporabljajo za izmišljevanje zgodb, grožnje ljudem ali se predstavljajo kot dobro znani ljudje, da bi izvajali goljufije ali škodili ugledu ljudi.
Praktični primeri zlonamernih ponaredkov Deepfakes
Tom Cruise Deepfake
Deepfake videoposnetki Toma Cruisa na TikToku so med najbolj znanimi in privlačnimi primeri umetno ustvarjenih medijev. Milijoni ljudi so si ogledali te videoposnetke, na katerih je Cruiseov obraz natančno nameščen na postavo druge osebe, da ustvarijo moteče realistično vsebino.
Obamov PSA z Jordanom Peeleom
Režiser in komik Jordan Peele je sodeloval z BuzzFeedom pri produkciji videa, v katerem je posodil glas nekdanjemu predsedniku Baracku Obami. Deepfake je poudaril možna tveganja v politični sferi, tako da je pokazal, kako preprosto je bilo ustvariti lažno gradivo z uporabo umetnih medijev.
Mark Zuckerberg Deepfake kot družbeni komentar
Videoposnetek izvršnega direktorja Facebooka Marka Zuckerberga je posnel umetnik Bill Posters, da bi pokazal, kako enostavno je mogoče izkoriščati družbene medije. Zuckerberg je v deepfakeju govoril o Facebookovem lastništvu uporabniških podatkov in opozoril na spor glede upravljanja podjetja z zavajajočim gradivom.
Kripto prevare
Deepfake se pogosto uporabljajo tudi v kripto prostoru. Na primer, 7. februarja 2024 je stran CertiKSkynetAlert na Twitterju objavila opozorilo o prevari z globokim ponarejanjem Vitalika Buterina:
Ali obstajajo načini za zaustavitev uporabe Deepfake?
Tehnologije, ki lahko prepoznajo globoke ponaredke ali omogočijo preverjanje pravega gradiva, se lahko uporabijo za preprečevanje zlonamernih globokih ponaredkov. Lažne medije je mogoče prepoznati s tehnologijo zaznavanja, ne da bi jih bilo treba primerjati z izvirnim, nespremenjenim materialom. Strojno učenje je vrsta umetne inteligence, ki jo te tehnologije pogosto uporabljajo. Za usposabljanje algoritmov se uporabljajo podatki iz uglednih dejanskih in goljufivih medijskih virov. Med tehnikami so nepravilnosti obraza ali glasu, znaki procesa ustvarjanja deepfake in variacije v barvi.
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Viktoriia je pisateljica o različnih tehnoloških temah, vključno z Web3.0, AI in kriptovalute. Njene bogate izkušnje ji omogočajo pisanje pronicljivih člankov za širšo publiko.
več člankov
Viktoriia je pisateljica o različnih tehnoloških temah, vključno z Web3.0, AI in kriptovalute. Njene bogate izkušnje ji omogočajo pisanje pronicljivih člankov za širšo publiko.
