Technische trends voor 2024: leiders in de sector omarmen AI om deepfake-bedreigingen tegen te gaan
In het kort
In de strijd tegen deepfake-technologie gebruiken industrieën AI-tools en -oplossingen om de verspreiding van gemanipuleerde inhoud tegen te gaan.
Tijdens de aanhoudende oorlog tussen Rusland en Oekraïne verscheen een video waarin de Oekraïense president Volodymyr Zelenskyy zijn troepen vroeg zich midden in de oorlog over te geven. Dit bleek later een diepe video.
In de steeds evoluerende strijd tegen deepfake-technologieIndustrieën wenden zich steeds meer tot een geavanceerd technisch arsenaal om de verspreiding van gemanipuleerde inhoud tegen te gaan. Van initiatieven op het gebied van inhoudauthenticiteit tot onzichtbare watermerktechnieken, algoritmische detectietools, samenwerkingsprojecten en veranderingen in platformbeleid: de strijd tegen deepfakes wordt veelzijdig en dynamisch.
Authenticiteit van de inhoud en herkomst van de inhoud
Het Content Authenticity Initiative, geleid door spelers uit de industrie, heeft tot doel attributie-informatie over inhoud cryptografisch te verzegelen, waardoor verificatie van creatie tot consumptie mogelijk wordt. Tegelijkertijd heeft de Coalition for Content Provenance and Authentication (C2PA) een open standaard technische specificatie vrijgegeven, gericht op het verstrekken van gegevens over de oorsprong, wijzigingen en bijdragers van de inhoud.
Microsoft is nog een stap verder gegaan door ‘Content Credentials as a Service’ aan te kondigen, waarbij gebruik wordt gemaakt van digitale watermerkgegevens van C2PA om verkiezingskandidaten en campagnes te helpen de controle over hun inhoud te behouden.
Watermerktechnieken
Meta introduceerde Stable Signature, een onzichtbare watermerktechniek die is ontworpen om inhoud te onderscheiden die door open-source is gemaakt generatieve AI-modellen. Dit onzichtbare watermerk, niet waarneembaar met het blote oog maar wel traceerbaar door algoritmen, helpt bij het identificeren van gemanipuleerde afbeeldingen. Google DeepMind is ook de strijd aangegaan met SynthID, waardoor gebruikers een digitaal watermerk rechtstreeks kunnen insluiten in door AI gegenereerde afbeeldingen of audio.
Met de technologie kunnen gebruikers inhoud scannen op watermerken, waardoor inzicht wordt verkregen in de vraag of de inhoud is gemaakt of gewijzigd met behulp van de AI-modellen van Google.
Algoritmische detectie
De industrie zet automatische detectiesoftware in voor deepfakes en vertrouwt daarbij op verschillende AI-gebaseerde strategieën, zoals sprekerherkenning, detectie van stemlevendheid, gezichtsherkenningen temporele analyse. De Video Authenticator van Microsoft en de door Intel ondersteunde FakeCatcher zijn opmerkelijke voorbeelden.
De uitdaging ligt echter in het voorbijgaande karakter van detectietools, aangezien evoluerende deepfake-productietechnieken hun betrouwbaarheid voortdurend op de proef stellen. A studies vonden verschillende nauwkeurigheidsniveaus (30-97%) in datasets, wat aangeeft dat er behoefte is aan voortdurende innovatie om gelijke tred te houden met opkomende deepfake-technologieën.
Project oorsprong
Mediaorganisaties, waaronder de BBC en Microsoft, werkte mee aan Project Origin. Dit initiatief beoogt een technische benadering van synthetische media tot stand te brengen, waarbij digitaal ondertekende links worden aangeboden voor een verifieerbare tracering van media-inhoud terug naar de uitgever. Het project heeft ook tot doel validatiecontroles te implementeren om ervoor te zorgen dat de inhoud tijdens de distributie ongewijzigd blijft.
Wijzigingen in platformbeleid
Als reactie op de risicovolle context van politieke advertenties hebben grote platforms zoals meta en Google hebben beleidswijzigingen aangekondigd om de transparantie te vergroten. Meta's bijgewerkte openbaarmakingsbeleid voor politieke advertenties verplicht adverteerders om digitaal gewijzigde inhoud te onthullen in verkiezingsgerelateerde of politieke advertenties.
YouTube vereist van makers dat ze het gebruik van synthetische media-inhoud openbaar maken. Het niet naleven ervan kan leiden tot sancties, waaronder verwijdering van inhoud of opschorting van de inhoud uit het YouTube-partnerprogramma. De Google Play Store heeft ook een beleid geïntroduceerd voor door AI gegenereerde inhoud, gericht op het voorkomen van het creëren en verspreiden van schadelijke of misleidende inhoud via generatieve AI-toepassingen.
Nu de strijd tegen deepfakes heviger wordt, blijken industriële interventies en technologische oplossingen essentieel voor het behoud van de authenticiteit en betrouwbaarheid van digitale inhoud. De gezamenlijke inspanningen van grote spelers in verschillende sectoren weerspiegelen hun toewijding om voorop te blijven lopen in het evoluerende landschap van synthetische media.
Disclaimer
In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.
Over de auteur
Kumar is een ervaren technologiejournalist met een specialisatie in de dynamische kruispunten van AI/ML, marketingtechnologie en opkomende velden zoals crypto, blockchain en NFTS. Met meer dan drie jaar ervaring in de branche heeft Kumar een bewezen staat van dienst opgebouwd in het opstellen van boeiende verhalen, het houden van inzichtelijke interviews en het leveren van uitgebreide inzichten. De expertise van Kumar ligt in het produceren van inhoud met een grote impact, waaronder artikelen, rapporten en onderzoekspublicaties voor vooraanstaande industriële platforms. Met een unieke reeks vaardigheden die technische kennis en verhalen vertellen combineert, blinkt Kumar uit in het op een duidelijke en boeiende manier communiceren van complexe technologische concepten aan een divers publiek.
Meer artikelen
Kumar is een ervaren technologiejournalist met een specialisatie in de dynamische kruispunten van AI/ML, marketingtechnologie en opkomende velden zoals crypto, blockchain en NFTS. Met meer dan drie jaar ervaring in de branche heeft Kumar een bewezen staat van dienst opgebouwd in het opstellen van boeiende verhalen, het houden van inzichtelijke interviews en het leveren van uitgebreide inzichten. De expertise van Kumar ligt in het produceren van inhoud met een grote impact, waaronder artikelen, rapporten en onderzoekspublicaties voor vooraanstaande industriële platforms. Met een unieke reeks vaardigheden die technische kennis en verhalen vertellen combineert, blinkt Kumar uit in het op een duidelijke en boeiende manier communiceren van complexe technologische concepten aan een divers publiek.
