The Dark Side of Deepfakes: Hur skadliga skådespelare använder syntetiska medier för att manipulera och lura
I korthet
Deepfakes, en teknik som gör det möjligt att skapa verklighetstrogna representationer av ansikten, röster och andra funktioner, kan vara fördelaktigt för konst, underhållning och utbildning.
Vad är en Deepfake?
Termen "deepfake" är en teknisk process som skapar mycket realistiska syntetiska medier, vanligtvis i form av ljud, foton eller videor, med hjälp av artificiell intelligens (AI), särskilt djupinlärningsalgoritmer och generativa motstridiga nätverk (GAN). Deepfakes kan producera helt ny och ofta vilseledande information genom att manipulera eller lägga över befintligt visuellt och ljudinnehåll, tack vare utbildningen av dessa algoritmer på stora datamängder.
Med användningen av denna teknik kan ansikten, röster och andra särskiljande särdrag ändras sömlöst för att skapa verklighetstrogna representationer som kan vara svåra att urskilja från äkta material. Deepfakes är användbara för konst, underhållning och utbildning, men de utgör också allvarliga risker för att sprida falsk information, kränka integriteten och kanske användas för att misskreditera människor.
Foto: Vimeo
Med den växande populariteten för deepfake-teknik, dyker det upp fler plattformar för att skapa dessa förändrade videor och bilder. Nedan finns en lista över populära deepfake-plattformar, som visar räckvidden för denna teknik, från enkel ansiktsbyte i GIF-filer till avancerad videomanipulation, vilket återspeglar mångsidigheten och potentiella användningsområden för deepfakes.
FaceApp
FaceApp är känt för sina ansiktsomvandlingsfunktioner och låter användare använda olika filter för att ändra sitt utseende, såsom åldrande eller könsbyte, vilket erbjuder ett användarvänligt gränssnitt.
ZAO
En kinesisk deepfake-app som fick uppmärksamhet för sin förmåga att snabbt och med hög noggrannhet ersätta ansikten i videoklipp. ZAO förser användare med enkla verktyg för att skapa personliga deepfakes.
Återvända
En mobilapp utformad för att byta ansikten i korta videoklipp och GIF-filer. Reface erbjuder ett brett utbud av innehåll, inklusive populära filmscener och kändisbilder, vilket gör det enkelt att skapa underhållande innehåll.
DeepFaceLab
En mer avancerad plattform för att skapa deepfakes, DeepFaceLab är öppen källkod och designad för erfarna användare som vill skapa komplexa deepfake-projekt. Det möjliggör detaljerad manipulation av ansikten i videor.
wombo
Wombo är specialiserat på läppsynkronisering och gör det möjligt för användare att skapa videor där ansikten animeras för att sjunga eller tala. Denna plattform används ofta för att skapa humoristiskt och underhållande innehåll.
Deepfakes webben
En webbaserad tjänst, Deepfakes Web är designad för enkel användning. Användare kan ladda upp videor och bilder för att skapa djupt falskt innehåll utan att behöva avancerade tekniska färdigheter.
Deepfake Studio
En omfattande plattform för att skapa deepfake-videor, Deepfake Studio erbjuder en mängd olika verktyg för ansiktsbyte och manipulering av videoinnehåll. Den vänder sig till både nybörjare och mer erfarna användare.
Utgör Deepfakes en risk?
Det är faktiskt ganska lätt att få tag på den teknik som behövs för att generera deepfakes, och det finns en stor chans att den kommer att missbrukas för desinformation, politisk desinformation, imitation av sociala medier och kriminalitet. Hotskådespelare och andra kriminella personer kan använda detta osanna material bland annat för att fabricera berättelser, hota människor eller posera som välkända personer för att bedrägeri eller skada människors rykte.
De praktiska fallen av skadliga Deepfakes
Tom Cruise Deepfake
Deepfake-videor av Tom Cruise på TikTok är bland de mest välkända och fängslande instanserna av media som producerats på konstgjord väg. Miljontals människor tittade på dessa videor, som har Cruises ansikte exakt placerat på en annan persons kroppsbyggnad för att skapa oroväckande verklighetstroget innehåll.
Obamas PSA med Jordan Peele
Regissören och komikern Jordan Peele samarbetade med BuzzFeed för att producera en video där han uttryckte före detta president Barack Obama. Deepfake belyste de möjliga riskerna i den politiska sfären genom att visa hur enkelt det var att producera falskt material med hjälp av konstgjorda medier.
Mark Zuckerberg Deepfake som social kommentar
Videon med Facebooks vd Mark Zuckerberg gjordes av artisten Bill Posters för att visa hur lätt sociala medier kan utnyttjas. I deepfake pratade Zuckerberg om Facebooks ägande av användardata och uppmärksammade tvisten om företagets hantering av vilseledande material.
Crypto-bedrägerier
Deepfakes används också i stor utsträckning i kryptorymden. Till exempel, den 7 februari 2024, publicerade CertiKSkynetAlert Twitter-sida en varning om en bluff med Vitalik Buterins djupa falska:
Finns det några sätt att stoppa användningen av Deepfakes?
Teknik som kan identifiera deepfakes eller möjliggöra verifiering av verkligt material kan användas för att motverka skadliga deepfakes. Falska media kan kännas igen av detekteringsteknik utan att behöva jämföra med det ursprungliga, oförändrade materialet. Maskininlärning är en typ av AI som ofta används av dessa tekniker. Data från välrenommerade faktiska och bedrägliga mediekällor används för att träna algoritmerna. Bland teknikerna är ansikts- eller röstoregelbundenheter, tecken på den djupfalska skapandeprocessen och variationer i färg.
Villkor
I linje med den Riktlinjer för Trust Project, vänligen notera att informationen på den här sidan inte är avsedd att vara och inte ska tolkas som juridisk, skattemässig, investerings-, finansiell eller någon annan form av rådgivning. Det är viktigt att bara investera det du har råd att förlora och att söka oberoende finansiell rådgivning om du har några tvivel. För ytterligare information föreslår vi att du hänvisar till villkoren samt hjälp- och supportsidorna som tillhandahålls av utfärdaren eller annonsören. MetaversePost är engagerad i korrekt, opartisk rapportering, men marknadsförhållandena kan ändras utan föregående meddelande.
Om författaren
Viktoriia är en författare om en mängd olika teknikämnen, inklusive Web3.0, AI och kryptovalutor. Hennes långa erfarenhet gör att hon kan skriva insiktsfulla artiklar för en bredare publik.
fler artiklarViktoriia är en författare om en mängd olika teknikämnen, inklusive Web3.0, AI och kryptovalutor. Hennes långa erfarenhet gör att hon kan skriva insiktsfulla artiklar för en bredare publik.