Novinky Technika
Ledna 02, 2024

Technické trendy 2024: Lídři v oboru přijali umělou inteligenci, aby čelili hrozbám Deepfake

Stručně

V boji proti deepfake technologii průmyslová odvětví používají nástroje a řešení AI k boji proti šíření manipulovaného obsahu.

Technické trendy 2024: Lídři v oboru přijali umělou inteligenci, aby čelili hrozbám Deepfake

Během probíhající rusko-ukrajinské války se objevilo video, na kterém ukrajinský prezident Volodymyr Zelenskyj žádá své vojáky, aby se uprostřed války vzdali. To se později ukázalo jako a deepfake video.

Ve stále se vyvíjejícím boji proti technologie deepfakeprůmyslová odvětví se stále více obracejí k sofistikovanému technologickému arzenálu v boji proti šíření zmanipulovaného obsahu. Od iniciativ zaměřených na autentičnost obsahu po techniky neviditelného vodoznaku, algoritmické detekční nástroje, projekty spolupráce a změny zásad platforem – boj proti deepfakes se stává mnohostranným a dynamickým.

Autentičnost obsahu a provenience obsahu

Iniciativa Content Authenticity Initiative vedená průmyslovými hráči si klade za cíl kryptograficky zapečetit atribuční informace o obsahu, což umožňuje ověření od vytvoření až po konzumaci. Současně vydala Koalice pro kontrolu a ověřování obsahu (C2PA) technickou specifikaci otevřeného standardu, která se zaměřuje na poskytování údajů o původu obsahu, změnách a přispěvatelích.

Společnost Microsoft pokročila o krok dále tím, že oznámila „Content Credentials as a Service“ s využitím digitálních vodoznaků C2PA, aby pomohla volebním kandidátům a kampaním udržet kontrolu nad jejich obsahem.

Techniky vodoznaku

Meta představila Stable Signature, neviditelnou techniku ​​vodoznaku navrženou k rozlišení obsahu vytvořeného open-source generativní modely AI. Tento neviditelný vodoznak, nedetekovatelný pouhým okem, ale sledovatelný pomocí algoritmů, pomáhá identifikovat zmanipulované obrázky. Google DeepMind také vstoupil do boje se SynthID, který uživatelům umožňuje vkládat digitální vodoznak přímo do obrázků nebo zvuku generovaných umělou inteligencí.

Tato technologie umožňuje uživatelům skenovat obsah a hledat vodoznaky a poskytuje tak přehled o tom, zda byl obsah vytvořen nebo změněn pomocí modelů AI společnosti Google.

Algoritmická detekce

Průmysl nasazuje automatický detekční software pro deepfakes, který se spoléhá na různé strategie založené na umělé inteligenci, jako je rozpoznávání reproduktorů, detekce živosti hlasu, Rozpoznávání obličejea časovou analýzu. Pozoruhodnými příklady jsou Microsoft Video Authenticator a Intel podporovaný FakeCatcher.

Výzva však spočívá v přechodné povaze detekčních nástrojů, protože vyvíjející se techniky výroby deepfake neustále zpochybňují jejich spolehlivost. A studovat zjistil různé úrovně přesnosti (30–97 %) napříč datovými sadami, což naznačuje potřebu neustálých inovací, aby udrželi krok s nově vznikajícími technologiemi deepfake.

Původ projektu

Mediální organizace, včetně BBC a Microsoft, spolupracoval na projektu Origin. Tato iniciativa se snaží zavést inženýrský přístup k syntetickým médiím a poskytuje digitálně podepsané odkazy pro ověřitelné sledování mediálního obsahu zpět k vydavateli. Cílem projektu je také implementovat ověřovací kontroly, aby bylo zajištěno, že obsah zůstane během distribuce nezměněn.

Změny zásad platformy

V reakci na vysoce rizikový kontext politické reklamy hlavní platformy jako meta a Google oznámily změny zásad ke zvýšení transparentnosti. Aktualizované zásady zveřejňování politických reklam společnosti Meta nařizují inzerentům odhalovat digitálně pozměněný obsah v reklamách souvisejících s volbami nebo v politických reklamách.

Youtube vyžaduje, aby autoři zveřejnili použití syntetického mediálního obsahu, a nedodržení může mít za následek sankce, včetně zastavení šíření obsahu nebo pozastavení účasti v Partnerském programu YouTube. Obchod Google Play také zavedl zásady pro obsah generovaný umělou inteligencí, který se zaměřuje na prevenci vytváření a distribuce škodlivého nebo klamavého obsahu prostřednictvím generativních aplikací umělé inteligence.

Jak se boj proti deepfakes zintenzivňuje, ukazuje se, že průmyslové zásahy a technologická řešení jsou zásadní pro zachování autenticity a důvěryhodnosti digitálního obsahu. Společné úsilí hlavních hráčů napříč různými odvětvími odráží závazek zůstat o krok před vyvíjejícím se prostředím syntetických médií.

Odmítnutí odpovědnosti

V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.

O autorovi

Kumar je zkušený technický novinář se specializací na dynamické průniky AI/ML, marketingové technologie a nově vznikající obory, jako jsou kryptoměny, blockchain a NFTs. S více než 3 lety zkušeností v oboru si Kumar vytvořil prokazatelné výsledky ve vytváření působivých příběhů, vedení zasvěcených rozhovorů a poskytování komplexních poznatků. Kumarova odbornost spočívá ve vytváření vysoce působivého obsahu, včetně článků, zpráv a výzkumných publikací pro prominentní průmyslové platformy. Díky jedinečné sadě dovedností, které kombinují technické znalosti a vyprávění příběhů, Kumar vyniká v komunikaci složitých technologických konceptů pro různé publikum jasným a poutavým způsobem.

Další články
Kumar Gandharv
Kumar Gandharv

Kumar je zkušený technický novinář se specializací na dynamické průniky AI/ML, marketingové technologie a nově vznikající obory, jako jsou kryptoměny, blockchain a NFTs. S více než 3 lety zkušeností v oboru si Kumar vytvořil prokazatelné výsledky ve vytváření působivých příběhů, vedení zasvěcených rozhovorů a poskytování komplexních poznatků. Kumarova odbornost spočívá ve vytváření vysoce působivého obsahu, včetně článků, zpráv a výzkumných publikací pro prominentní průmyslové platformy. Díky jedinečné sadě dovedností, které kombinují technické znalosti a vyprávění příběhů, Kumar vyniká v komunikaci složitých technologických konceptů pro různé publikum jasným a poutavým způsobem.

Hot Stories
Připojte se k našemu zpravodaji.
Novinky

Od zvlnění k velké zelené DAO: Jak kryptoměnové projekty přispívají k charitě

Pojďme prozkoumat iniciativy využívající potenciál digitálních měn pro charitativní účely.

Vědět více

AlphaFold 3, Med-Gemini a další: The Way AI Transforms Healthcare in 2024

Umělá inteligence se ve zdravotnictví projevuje různými způsoby, od odhalování nových genetických korelací až po posílení robotických chirurgických systémů...

Vědět více
Připojte se k naší komunitě inovativních technologií
Více
Dozvědět se více
Sophon zahajuje likvidní farmaření a přiděluje 10 % celkové dodávky tokenů SOPH pro odměny účastníkům
Trhy Novinky Technika
Sophon zahajuje likvidní farmaření a přiděluje 10 % celkové dodávky tokenů SOPH pro odměny účastníkům
Června 18, 2024
API3 představuje Oracle Stack na bitlayeru pro lepší vývojářské zkušenosti
Novinky Technika
API3 představuje Oracle Stack na bitlayeru pro lepší vývojářské zkušenosti
Června 18, 2024
Zmírnění znečištění? Jak se bývalí energetici prasata bitcoinu snaží zastavit přejídání uhlíku AI
Názor Business Trhy Vývoj Technika
Zmírnění znečištění? Jak se bývalí energetici prasata bitcoinu snaží zastavit přejídání uhlíku AI
Června 18, 2024
dForce zavádí decentralizovaný Stablecoin sUSX pro výdělek a poskytuje uživatelům vylepšenou likviditu
Novinky Technika
dForce zavádí decentralizovaný Stablecoin sUSX pro výdělek a poskytuje uživatelům vylepšenou likviditu
Června 18, 2024
CRYPTOMERIA LABS PTE. LTD.