El costat fosc dels Deepfakes: com els actors maliciosos utilitzen mitjans sintètics per manipular i enganyar
En breu
Deepfakes, una tecnologia que permet la creació de representacions realistes de cares, veus i altres característiques, pot ser beneficiosa per a l'art, l'entreteniment i l'educació.
Què és un Deepfake?
El terme "deepfake" és un procés tecnològic que crea suports sintètics molt realistes, generalment en forma de sons, fotos o vídeos, utilitzant intel·ligència artificial (IA), concretament algorismes d'aprenentatge profund i xarxes generatives adversaries (GAN). Els deepfakes són capaços de produir informació completament nova i sovint enganyosa manipulant o superposant contingut visual i d'àudio preexistent, gràcies a l'entrenament d'aquests algorismes en grans conjunts de dades.
Amb l'ús d'aquesta tecnologia, les cares, les veus i altres trets distintius es poden alterar perfectament per crear representacions realistes que poden ser difícils de discernir del material genuí. Els deepfakes són útils per a l'art, l'entreteniment i l'educació, però també comporten riscos greus per difondre informació falsa, vulnerar la privadesa i potser utilitzar-los per desacreditar la gent.
Foto: Vimeo
Amb la creixent popularitat de la tecnologia deepfake, estan sorgint més plataformes per crear aquests vídeos i imatges alterats. A continuació es mostra una llista de plataformes deepfake populars, que demostren l'abast d'aquesta tecnologia, des del simple intercanvi de cares en GIF fins a la manipulació avançada de vídeo, que reflecteix la versatilitat i els usos potencials dels deepfakes.
FaceApp
Coneguda per les seves funcions de transformació facial, FaceApp permet als usuaris aplicar diversos filtres per canviar la seva aparença, com ara l'envelliment o l'intercanvi de gènere, oferint una interfície fàcil d'utilitzar.
ZAO
Una aplicació xinesa de deepfake que va cridar l'atenció per la seva capacitat de substituir cares en clips de vídeo ràpidament i amb gran precisió. ZAO ofereix als usuaris eines senzilles per crear deepfakes personalitzats.
Refac
Una aplicació mòbil dissenyada per intercanviar cares en clips de vídeo curts i GIF. Reface ofereix una àmplia gamma de contingut, incloses escenes de pel·lícules populars i imatges de celebritats, la qual cosa facilita la creació de contingut entretingut.
DeepFaceLab
Una plataforma més avançada per crear deepfakes, DeepFaceLab és de codi obert i està dissenyat per a usuaris experimentats que volen crear projectes deepfake complexos. Permet la manipulació detallada de les cares dels vídeos.
wombo
Especialitzat en sincronització de llavis, Wombo permet als usuaris crear vídeos on s'animi les cares per cantar o parlar. Aquesta plataforma s'utilitza àmpliament per crear contingut humorístic i entretingut.
Web Deepfakes
Un servei basat en web, Deepfakes Web està dissenyat per facilitar-ne l'ús. Els usuaris poden penjar vídeos i imatges per generar contingut deepfake sense necessitat d'habilitats tècniques avançades.
Estudi Deepfake
Una plataforma completa per crear vídeos deepfake, Deepfake Studio ofereix una varietat d'eines per intercanviar cares i manipular contingut de vídeo. S'adreça tant a usuaris principiants com a usuaris més experimentats.
Els Deepfakes representen un risc?
De fet, és bastant fàcil obtenir la tecnologia necessària per generar deepfakes, i hi ha una gran possibilitat que s'abusi d'aquesta per desinformació, desinformació política, imitació de xarxes socials i criminalitat. Els actors d'amenaça i altres persones criminals poden utilitzar aquest material fals, entre altres coses, per fabricar històries, amenaçar persones o fer-se passar per persones conegudes per cometre fraus o danyar la reputació de les persones.
Els casos pràctics de Deepfakes maliciosos
Tom Cruise Deepfake
Els vídeos deepfake de Tom Cruise a TikTok es troben entre els exemples més coneguts i captivadors de mitjans produïts artificialment. Milions de persones van mirar aquests vídeos, que tenen el rostre de Cruise col·locat amb precisió al físic d'una altra persona per crear contingut inquietantment realista.
PSA d'Obama amb Jordan Peele
El director i còmic Jordan Peele va col·laborar amb BuzzFeed per produir un vídeo en el qual va donar veu a l'expresident Barack Obama. El deepfake va destacar els possibles riscos en l'àmbit polític demostrant com de senzill era produir material fals mitjançant mitjans artificials.
Mark Zuckerberg Deepfake com a comentari social
El vídeo del CEO de Facebook, Mark Zuckerberg, va ser realitzat per l'artista Bill Posters per demostrar amb quina facilitat es poden explotar les xarxes socials. En el deepfake, Zuckerberg va parlar de la propietat de Facebook de les dades dels usuaris, cridant l'atenció sobre la disputa sobre la gestió de material enganyós per part de l'empresa.
Estafes Crypto
Els deepfakes també s'utilitzen àmpliament a l'espai criptogràfic. Per exemple, el 7 de febrer de 2024, la pàgina de Twitter de CertiKSkynetAlert va publicar una alerta sobre una estafa amb el deepfake de Vitalik Buterin:
Hi ha alguna manera d'aturar l'ús de Deepfakes?
Les tecnologies que poden identificar deepfakes o permetre la verificació de material real es poden utilitzar per contrarestar els deepfakes maliciosos. Els mitjans falsos es poden reconèixer mitjançant la tecnologia de detecció sense necessitat de comparar-los amb el material original i inalterat. L'aprenentatge automàtic és un tipus d'IA que utilitzen amb freqüència aquestes tecnologies. Les dades de fonts mediàtiques reals i fraudulentes de bona reputació s'utilitzen per entrenar els algorismes. Entre les tècniques hi ha irregularitats de cara o veu, signes del procés de creació de deepfake i variacions de color.
renúncia
En línia amb la Directrius del projecte Trust, si us plau, tingueu en compte que la informació proporcionada en aquesta pàgina no pretén ni s'ha d'interpretar com a assessorament legal, fiscal, d'inversió, financer o de cap altra forma. És important invertir només el que et pots permetre perdre i buscar assessorament financer independent si tens dubtes. Per obtenir més informació, us suggerim que feu referència als termes i condicions, així com a les pàgines d'ajuda i assistència proporcionades per l'emissor o l'anunciant. MetaversePost es compromet a fer informes precisos i imparcials, però les condicions del mercat estan subjectes a canvis sense previ avís.
About The Autor
Viktoriia és escriptora sobre diversos temes tecnològics, com ara Web3.0, IA i criptomonedes. La seva àmplia experiència li permet escriure articles per a un públic més ampli.
més articles
Viktoriia és escriptora sobre diversos temes tecnològics, com ara Web3.0, IA i criptomonedes. La seva àmplia experiència li permet escriure articles per a un públic més ampli.
