2024 Tech Trends: Brancheledere omfavner AI for at imødegå deepfake trusler
Kort sagt
I kampen mod deepfake-teknologi bruger industrier AI-værktøjer og -løsninger til at bekæmpe spredningen af manipuleret indhold.
Under den igangværende krig mellem Rusland og Ukraine dukkede en video op af den ukrainske præsident Volodymyr Zelenskyy, der bad sine tropper om at overgive sig midt i krigen. Dette viste sig senere at være en deepfake videoer.
I den evigt udviklende kamp mod deepfake-teknologi, vender industrier i stigende grad til et sofistikeret teknologiarsenal for at bekæmpe spredningen af manipuleret indhold. Fra initiativer til indholdsægthed til usynlige vandmærketeknikker, algoritmiske detektionsværktøjer, samarbejdsprojekter og ændringer i platformspolitikken - kampen mod deepfakes bliver mangesidet og dynamisk.
Indholdsægthed og indholdsherkomst
Content Authenticity Initiative, ledet af industriaktører, har til formål at kryptografisk forsegle tilskrivningsoplysninger om indhold, hvilket giver mulighed for verifikation fra oprettelse til forbrug. Samtidig har Coalition for Content Provenance and Authentication (C2PA) udgivet en åben standard teknisk specifikation, der fokuserer på at levere data om indholdets oprindelse, ændringer og bidragydere.
Microsoft har taget et skridt videre ved at annoncere "Content Credentials as a Service", ved at bruge C2PA digitale vandmærkelegitimationsoplysninger til at hjælpe valgkandidater og kampagner med at bevare kontrollen over deres indhold.
Vandmærketeknikker
Meta introducerede Stable Signature, en usynlig vandmærketeknik designet til at skelne mellem indhold skabt af open source generative AI-modeller. Dette usynlige vandmærke, der ikke kan spores med det blotte øje, men kan spores af algoritmer, hjælper med at identificere manipulerede billeder. Google DeepMind er også gået ind i kampen med SynthID, der giver brugerne mulighed for at integrere et digitalt vandmærke direkte i AI-genererede billeder eller lyd.
Teknologien gør det muligt for brugere at scanne indhold for vandmærker, hvilket giver indsigt i, om indholdet er oprettet eller ændret ved hjælp af Googles AI-modeller.
Algoritmisk detektion
Industrien implementerer automatisk detektionssoftware til deepfakes, der er afhængig af forskellige AI-baserede strategier såsom højttalergenkendelse, stemmelivsdetektion, ansigtsgenkendelseog tidsanalyse. Microsofts Video Authenticator og den Intel-støttede FakeCatcher er bemærkelsesværdige eksempler.
Udfordringen ligger dog i den forbigående karakter af detektionsværktøjer, da deepfake-produktionsteknikker, der udvikler sig, konstant udfordrer deres pålidelighed. EN studere fandt varierende nøjagtighedsniveauer (30-97 %) på tværs af datasæt, hvilket indikerer behovet for løbende innovation for at holde trit med nye deepfake-teknologier.
Projektets oprindelse
Medieorganisationer, herunder BBC og microsoft, samarbejdet om Project Origin. Dette initiativ søger at etablere en teknisk tilgang til syntetiske medier, der giver digitalt signerede links til verificerbar sporing af medieindhold tilbage til udgiveren. Projektet har også til formål at implementere valideringstjek for at sikre, at indhold forbliver uændret under distribution.
Ændringer af platformspolitik
Som svar på højrisikosammenhængen af politisk reklame, store platforme som Meta og Google har annonceret politikændringer for at øge gennemsigtigheden. Metas opdaterede politik for offentliggørelse af politiske annoncer giver annoncører mandat til at afsløre digitalt ændret indhold i valgrelaterede eller politiske annoncer.
YouTube kræver, at skabere afslører brugen af syntetisk medieindhold, og manglende overholdelse kan resultere i sanktioner, herunder fjernelse af indhold eller suspension fra YouTubes partnerprogram. Google Play Butik har også introduceret en politik for AI-genereret indhold, der fokuserer på at forhindre oprettelse og distribution af skadeligt eller vildledende indhold gennem generative AI-applikationer.
Efterhånden som kampen mod deepfakes intensiveres, viser industriinterventioner og teknologiske løsninger sig afgørende for at bevare ægtheden og troværdigheden af digitalt indhold. Samarbejdet mellem store aktører på tværs af forskellige sektorer afspejler en forpligtelse til at være på forkant med det udviklende landskab af syntetiske medier.
Ansvarsfraskrivelse
I tråd med den Trust Project retningslinjer, bemærk venligst, at oplysningerne på denne side ikke er beregnet til at være og ikke skal fortolkes som juridiske, skattemæssige, investeringsmæssige, finansielle eller nogen anden form for rådgivning. Det er vigtigt kun at investere, hvad du har råd til at tabe, og at søge uafhængig finansiel rådgivning, hvis du er i tvivl. For yderligere information foreslår vi at henvise til vilkårene og betingelserne samt hjælpe- og supportsiderne fra udstederen eller annoncøren. MetaversePost er forpligtet til nøjagtig, objektiv rapportering, men markedsforholdene kan ændres uden varsel.
Om forfatteren
Kumar er en erfaren teknisk journalist med speciale i de dynamiske skæringspunkter mellem AI/ML, marketingteknologi og nye områder som krypto, blockchain og NFTs. Med over 3 års erfaring i branchen har Kumar etableret en dokumenteret track record i at skabe overbevisende fortællinger, udføre indsigtsfulde interviews og levere omfattende indsigt. Kumars ekspertise ligger i at producere indhold med stor gennemslagskraft, herunder artikler, rapporter og forskningspublikationer til fremtrædende industriplatforme. Med et unikt færdighedssæt, der kombinerer teknisk viden og historiefortælling, udmærker Kumar sig ved at kommunikere komplekse teknologiske koncepter til forskellige målgrupper på en klar og engagerende måde.
Flere artikler
Kumar er en erfaren teknisk journalist med speciale i de dynamiske skæringspunkter mellem AI/ML, marketingteknologi og nye områder som krypto, blockchain og NFTs. Med over 3 års erfaring i branchen har Kumar etableret en dokumenteret track record i at skabe overbevisende fortællinger, udføre indsigtsfulde interviews og levere omfattende indsigt. Kumars ekspertise ligger i at producere indhold med stor gennemslagskraft, herunder artikler, rapporter og forskningspublikationer til fremtrædende industriplatforme. Med et unikt færdighedssæt, der kombinerer teknisk viden og historiefortælling, udmærker Kumar sig ved at kommunikere komplekse teknologiske koncepter til forskellige målgrupper på en klar og engagerende måde.
