Temná strana Deepfakes: Ako zlomyseľní herci používajú syntetické médiá na manipuláciu a klamanie
Stručne
Deepfakes, technológia, ktorá umožňuje vytvárať realistické zobrazenia tvárí, hlasov a iných prvkov, môže byť prospešná pre umenie, zábavu a vzdelávanie.
Čo je to Deepfake?
Pojem „deepfake“ je technologický proces, ktorý vytvára veľmi realistické syntetické médiá, zvyčajne vo forme zvukov, fotografií alebo videí, pomocou umelej inteligencie (AI), konkrétne algoritmov hlbokého učenia a generatívnych adversariálnych sietí (GAN). Deepfakes sú schopné produkovať úplne nové a často zavádzajúce informácie manipuláciou alebo prekrývaním už existujúceho vizuálneho a zvukového obsahu, vďaka trénovaniu týchto algoritmov na veľkých súboroch údajov.
Pomocou tejto technológie možno tváre, hlasy a ďalšie charakteristické črty plynule meniť, aby sa vytvorili realistické zobrazenia, ktoré môže byť ťažké rozlíšiť od skutočného materiálu. Deepfakes sú užitočné pre umenie, zábavu a vzdelávanie, ale tiež predstavujú vážne riziko pre šírenie nepravdivých informácií, porušovanie súkromia a možno ich použitie na diskreditáciu ľudí.
Foto: Vimeo
S rastúcou popularitou technológie deepfake sa objavuje viac platforiem na vytváranie týchto upravených videí a obrázkov. Nižšie je uvedený zoznam populárnych platforiem deepfake, ktoré demonštrujú rozsah tejto technológie, od jednoduchého zámeny tváre v GIF až po pokročilú manipuláciu s videom, čo odráža všestrannosť a potenciálne využitie deepfakes.
FaceApp
Aplikácia FaceApp, ktorá je známa svojimi funkciami transformácie tváre, umožňuje používateľom použiť rôzne filtre na zmenu ich vzhľadu, ako je starnutie alebo zmena pohlavia, a ponúka tak užívateľsky prívetivé rozhranie.
ZAO
Čínska deepfake aplikácia, ktorá si získala pozornosť pre svoju schopnosť rýchlo a s vysokou presnosťou nahradiť tváre vo videoklipoch. ZAO poskytuje používateľom jednoduché nástroje na vytváranie personalizovaných deepfakes.
Úvod
Mobilná aplikácia určená na výmenu tvárí v krátkych videoklipoch a GIF. Reface ponúka širokú škálu obsahu vrátane obľúbených filmových scén a obrázkov celebrít, vďaka čomu je vytváranie zábavného obsahu jednoduché.
DeepFaceLab
Pokročilejšia platforma na vytváranie deepfake, DeepFaceLab je open-source a je určená pre skúsených používateľov, ktorí chcú vytvárať komplexné deepfake projekty. Umožňuje detailnú manipuláciu s tvárami vo videách.
wombo
Wombo sa špecializuje na synchronizáciu pier a umožňuje používateľom vytvárať videá, v ktorých sú tváre animované, aby spievali alebo hovorili. Táto platforma je široko používaná na vytváranie vtipného a zábavného obsahu.
Deepfakes Web
Webová služba Deepfakes Web je navrhnutá pre jednoduché používanie. Používatelia môžu nahrávať videá a obrázky na vytváranie hlboko falošného obsahu bez toho, aby potrebovali pokročilé technické zručnosti.
Deepfake Studio
Deepfake Studio, komplexná platforma na vytváranie hlbokých falošných videí, ponúka množstvo nástrojov na výmenu tvárí a manipuláciu s videoobsahom. Vyhovuje začiatočníkom aj skúsenejším používateľom.
Predstavujú Deepfakes riziko?
V skutočnosti je celkom jednoduché získať technológiu potrebnú na generovanie deepfakes a existuje veľká šanca, že bude zneužitá na dezinformácie, politické dezinformácie, napodobňovanie sociálnych médií a kriminalitu. Aktéri hrozieb a iní zločinci môžu použiť tento nepravdivý materiál okrem iného na vymýšľanie príbehov, vyhrážanie sa ľuďom alebo vydávanie sa za známych ľudí s cieľom spáchať podvod alebo poškodiť povesť ľudí.
Praktické prípady zlomyseľných Deepfakes
Tom Cruise Deepfake
Deepfake videá Toma Cruisa na TikTok patria medzi najznámejšie a najpútavejšie príklady umelo vyrobených médií. Milióny ľudí si pozreli tieto videá, ktoré majú Cruisovu vizáž presne umiestnenú na tele inej osoby, aby vytvorili znepokojivo živý obsah.
Obamova PSA s Jordanom Peelom
Režisér a komik Jordan Peele spolupracoval s BuzzFeed na produkcii videa, v ktorom vyjadril svoj hlas bývalému prezidentovi Barackovi Obamovi. Deepfake poukázal na možné riziká v politickej sfére tým, že ukázal, aké jednoduché bolo vyrobiť falošný materiál pomocou umelých médií.
Mark Zuckerberg Deepfake ako sociálny komentár
Video generálneho riaditeľa Facebooku Marka Zuckerberga vytvoril umelec Bill Posters, aby demonštroval, ako ľahko sa dajú zneužiť sociálne médiá. V deepfake Zuckerberg hovoril o vlastníctve používateľských dát Facebookom, pričom upozornil na spor o spravovanie zavádzajúcich materiálov spoločnosťou.
Krypto podvody
Deepfakes sú tiež široko používané v krypto priestore. Napríklad 7. februára 2024 zverejnila stránka CertiKSkynetAlert na Twitteri upozornenie na podvod s deepfakeom Vitalika Buterina:
Existujú nejaké spôsoby, ako zastaviť používanie Deepfakes?
Technológie, ktoré dokážu identifikovať deepfakes alebo umožňujú overenie skutočného materiálu, možno použiť na boj proti škodlivým deepfakes. Falošné médiá je možné rozpoznať technológiou detekcie bez toho, aby bolo potrebné porovnávať s pôvodným, nezmeneným materiálom. Strojové učenie je typ AI, ktorý tieto technológie často využívajú. Na trénovanie algoritmov sa používajú údaje z renomovaných skutočných a podvodných mediálnych zdrojov. Medzi techniky patria nepravidelnosti tváre alebo hlasu, známky procesu tvorby deepfake a variácie farieb.
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Viktoriia je spisovateľkou na rôzne technologické témy vrátane Web30, AI a kryptomeny. Jej rozsiahle skúsenosti jej umožňujú písať zaujímavé články pre širšie publikum.
Ďalšie články
Viktoriia je spisovateľkou na rôzne technologické témy vrátane Web30, AI a kryptomeny. Jej rozsiahle skúsenosti jej umožňujú písať zaujímavé články pre širšie publikum.
