Technické trendy 2024: Lídři v oboru přijali umělou inteligenci, aby čelili hrozbám Deepfake
Stručně
V boji proti deepfake technologii průmyslová odvětví používají nástroje a řešení AI k boji proti šíření manipulovaného obsahu.
Během probíhající rusko-ukrajinské války se objevilo video, na kterém ukrajinský prezident Volodymyr Zelenskyj žádá své vojáky, aby se uprostřed války vzdali. To se později ukázalo jako a deepfake video.
Ve stále se vyvíjejícím boji proti technologie deepfakeprůmyslová odvětví se stále více obracejí k sofistikovanému technologickému arzenálu v boji proti šíření zmanipulovaného obsahu. Od iniciativ zaměřených na autentičnost obsahu po techniky neviditelného vodoznaku, algoritmické detekční nástroje, projekty spolupráce a změny zásad platforem – boj proti deepfakes se stává mnohostranným a dynamickým.
Autentičnost obsahu a provenience obsahu
Iniciativa Content Authenticity Initiative vedená průmyslovými hráči si klade za cíl kryptograficky zapečetit atribuční informace o obsahu, což umožňuje ověření od vytvoření až po konzumaci. Současně vydala Koalice pro kontrolu a ověřování obsahu (C2PA) technickou specifikaci otevřeného standardu, která se zaměřuje na poskytování údajů o původu obsahu, změnách a přispěvatelích.
Společnost Microsoft pokročila o krok dále tím, že oznámila „Content Credentials as a Service“ s využitím digitálních vodoznaků C2PA, aby pomohla volebním kandidátům a kampaním udržet kontrolu nad jejich obsahem.
Techniky vodoznaku
Meta představila Stable Signature, neviditelnou techniku vodoznaku navrženou k rozlišení obsahu vytvořeného open-source generativní modely AI. Tento neviditelný vodoznak, nedetekovatelný pouhým okem, ale sledovatelný pomocí algoritmů, pomáhá identifikovat zmanipulované obrázky. Google DeepMind také vstoupil do boje se SynthID, který uživatelům umožňuje vkládat digitální vodoznak přímo do obrázků nebo zvuku generovaných umělou inteligencí.
Tato technologie umožňuje uživatelům skenovat obsah a hledat vodoznaky a poskytuje tak přehled o tom, zda byl obsah vytvořen nebo změněn pomocí modelů AI společnosti Google.
Algoritmická detekce
Průmysl nasazuje automatický detekční software pro deepfakes, který se spoléhá na různé strategie založené na umělé inteligenci, jako je rozpoznávání reproduktorů, detekce živosti hlasu, Rozpoznávání obličejea časovou analýzu. Pozoruhodnými příklady jsou Microsoft Video Authenticator a Intel podporovaný FakeCatcher.
Výzva však spočívá v přechodné povaze detekčních nástrojů, protože vyvíjející se techniky výroby deepfake neustále zpochybňují jejich spolehlivost. A studovat zjistil různé úrovně přesnosti (30–97 %) napříč datovými sadami, což naznačuje potřebu neustálých inovací, aby udrželi krok s nově vznikajícími technologiemi deepfake.
Původ projektu
Mediální organizace, včetně BBC a Microsoft, spolupracoval na projektu Origin. Tato iniciativa se snaží zavést inženýrský přístup k syntetickým médiím a poskytuje digitálně podepsané odkazy pro ověřitelné sledování mediálního obsahu zpět k vydavateli. Cílem projektu je také implementovat ověřovací kontroly, aby bylo zajištěno, že obsah zůstane během distribuce nezměněn.
Změny zásad platformy
V reakci na vysoce rizikový kontext politické reklamy hlavní platformy jako meta a Google oznámily změny zásad ke zvýšení transparentnosti. Aktualizované zásady zveřejňování politických reklam společnosti Meta nařizují inzerentům odhalovat digitálně pozměněný obsah v reklamách souvisejících s volbami nebo v politických reklamách.
Youtube vyžaduje, aby autoři zveřejnili použití syntetického mediálního obsahu, a nedodržení může mít za následek sankce, včetně zastavení šíření obsahu nebo pozastavení účasti v Partnerském programu YouTube. Obchod Google Play také zavedl zásady pro obsah generovaný umělou inteligencí, který se zaměřuje na prevenci vytváření a distribuce škodlivého nebo klamavého obsahu prostřednictvím generativních aplikací umělé inteligence.
Jak se boj proti deepfakes zintenzivňuje, ukazuje se, že průmyslové zásahy a technologická řešení jsou zásadní pro zachování autenticity a důvěryhodnosti digitálního obsahu. Společné úsilí hlavních hráčů napříč různými odvětvími odráží závazek zůstat o krok před vyvíjejícím se prostředím syntetických médií.
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Kumar je zkušený technický novinář se specializací na dynamické průniky AI/ML, marketingové technologie a nově vznikající obory, jako jsou kryptoměny, blockchain a NFTs. S více než 3 lety zkušeností v oboru si Kumar vytvořil prokazatelné výsledky ve vytváření působivých příběhů, vedení zasvěcených rozhovorů a poskytování komplexních poznatků. Kumarova odbornost spočívá ve vytváření vysoce působivého obsahu, včetně článků, zpráv a výzkumných publikací pro prominentní průmyslové platformy. Díky jedinečné sadě dovedností, které kombinují technické znalosti a vyprávění příběhů, Kumar vyniká v komunikaci složitých technologických konceptů pro různé publikum jasným a poutavým způsobem.
Další články
Kumar je zkušený technický novinář se specializací na dynamické průniky AI/ML, marketingové technologie a nově vznikající obory, jako jsou kryptoměny, blockchain a NFTs. S více než 3 lety zkušeností v oboru si Kumar vytvořil prokazatelné výsledky ve vytváření působivých příběhů, vedení zasvěcených rozhovorů a poskytování komplexních poznatků. Kumarova odbornost spočívá ve vytváření vysoce působivého obsahu, včetně článků, zpráv a výzkumných publikací pro prominentní průmyslové platformy. Díky jedinečné sadě dovedností, které kombinují technické znalosti a vyprávění příběhů, Kumar vyniká v komunikaci složitých technologických konceptů pro různé publikum jasným a poutavým způsobem.
