Technické trendy 2024: Lídri v tomto odvetví prijali AI, aby čelili hrozbám Deepfake
Stručne
V boji proti deepfake technológii používajú priemyselné odvetvia nástroje a riešenia AI na boj proti šíreniu manipulovaného obsahu.
Počas prebiehajúcej rusko-ukrajinskej vojny sa objavilo video, na ktorom ukrajinský prezident Volodymyr Zelenskyj žiada svoje jednotky, aby sa uprostred vojny vzdali. Toto sa neskôr ukázalo ako a hlboké falošné video.
V neustále sa rozvíjajúcom boji proti technológia deepfake, sa priemyselné odvetvia čoraz viac obracajú na sofistikovaný technický arzenál na boj proti šíreniu zmanipulovaného obsahu. Od iniciatív zameraných na autenticitu obsahu až po techniky neviditeľného vodoznaku, algoritmické detekčné nástroje, projekty spolupráce a zmeny v politike platformy – boj proti deepfakes sa stáva mnohostranným a dynamickým.
Autenticita obsahu a pôvod obsahu
Cieľom iniciatívy Content Authenticity Initiative, vedenej hráčmi v tomto odvetví, je kryptograficky utesniť informácie o priradení obsahu, čo umožňuje overenie od vytvorenia až po konzumáciu. Koalícia pre kontrolu a overovanie obsahu (C2PA) súčasne vydala technickú špecifikáciu otvoreného štandardu, ktorá sa zameriava na poskytovanie údajov o pôvode obsahu, zmenách a prispievateľoch.
Spoločnosť Microsoft pokročila o krok ďalej, keď oznámila „Poverenia obsahu ako službu“, pričom využíva prihlasovacie údaje digitálneho vodoznaku C2PA na pomoc volebným kandidátom a kampaniam pri udržiavaní kontroly nad ich obsahom.
Techniky vodoznaku
Meta predstavila Stable Signature, neviditeľnú techniku vodoznaku navrhnutú na rozlíšenie obsahu vytvoreného open-source generatívne modely AI. Tento neviditeľný vodoznak, voľným okom nezistiteľný, ale vysledovateľný pomocou algoritmov, pomáha identifikovať manipulované obrázky. Google DeepMind tiež vstúpil do boja so SynthID, ktorý používateľom umožňuje vložiť digitálny vodoznak priamo do obrázkov alebo zvuku generovaných AI.
Táto technológia umožňuje používateľom skenovať obsah pre vodoznaky, čím poskytuje prehľad o tom, či bol obsah vytvorený alebo pozmenený pomocou modelov AI spoločnosti Google.
Algoritmická detekcia
Priemysel nasadzuje softvér na automatickú detekciu pre deepfakes, pričom sa spolieha na rôzne stratégie založené na AI, ako je rozpoznávanie reproduktorov, detekcia živosti hlasu, rozpoznávanie tvárea časová analýza. Pozoruhodnými príkladmi sú Microsoft Video Authenticator a Intel podporovaný FakeCatcher.
Výzva však spočíva v prechodnej povahe detekčných nástrojov, pretože vyvíjajúce sa techniky výroby deepfake neustále spochybňujú ich spoľahlivosť. A študovať zistili rôzne úrovne presnosti (30 – 97 %) naprieč súbormi údajov, čo naznačuje potrebu neustálej inovácie, aby udržal krok s novými technológiami deepfake.
Pôvod projektu
Mediálne organizácie vrátane BBC a Microsoft, spolupracoval na projekte Origin. Táto iniciatíva sa snaží vytvoriť inžiniersky prístup k syntetickým médiám a poskytuje digitálne podpísané odkazy na overiteľné sledovanie mediálneho obsahu späť k vydavateľovi. Cieľom projektu je tiež implementovať overovacie kontroly, aby sa zabezpečilo, že obsah zostane počas distribúcie nezmenený.
Zmeny pravidiel platformy
V reakcii na vysoko rizikový kontext politickej reklamy, hlavné platformy ako meta a Google oznámili zmeny pravidiel na zvýšenie transparentnosti. Aktualizované pravidlá zverejňovania politických reklám spoločnosti Meta nariaďujú inzerentom odhaľovať digitálne zmenený obsah v reklamách súvisiacich s voľbami alebo politickými reklamami.
YouTube vyžaduje od autorov, aby zverejnili používanie syntetického mediálneho obsahu, a nedodržanie môže viesť k sankciám vrátane zastavenia šírenia obsahu alebo pozastavenia účasti v Partnerskom programe YouTube. Obchod Google Play tiež zaviedol politiku pre obsah generovaný AI, ktorý sa zameriava na predchádzanie vytváraniu a distribúcii škodlivého alebo klamlivého obsahu prostredníctvom generatívnych aplikácií AI.
Ako sa boj proti deepfakes zintenzívňuje, ukazuje sa, že zásahy priemyslu a technologické riešenia sú nevyhnutné na zachovanie autentickosti a dôveryhodnosti digitálneho obsahu. Spoločné úsilie hlavných hráčov v rôznych sektoroch odzrkadľuje odhodlanie udržať si náskok pred vyvíjajúcim sa prostredím syntetických médií.
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Kumar je skúsený technický novinár so špecializáciou na dynamické prieniky AI/ML, marketingových technológií a nových oblastí, ako sú krypto, blockchain a NFTs. S viac ako 3-ročnými skúsenosťami v tomto odvetví má Kumar preukázané výsledky pri vytváraní pútavých príbehov, vedení dômyselných rozhovorov a poskytovaní komplexných poznatkov. Kumarova odbornosť spočíva vo vytváraní vysoko účinného obsahu vrátane článkov, správ a výskumných publikácií pre prominentné priemyselné platformy. Vďaka jedinečnému súboru zručností, ktorý kombinuje technické znalosti a rozprávanie príbehov, Kumar vyniká v komunikácii zložitých technologických konceptov pre rôzne publikum jasným a pútavým spôsobom.
Ďalšie články
Kumar je skúsený technický novinár so špecializáciou na dynamické prieniky AI/ML, marketingových technológií a nových oblastí, ako sú krypto, blockchain a NFTs. S viac ako 3-ročnými skúsenosťami v tomto odvetví má Kumar preukázané výsledky pri vytváraní pútavých príbehov, vedení dômyselných rozhovorov a poskytovaní komplexných poznatkov. Kumarova odbornosť spočíva vo vytváraní vysoko účinného obsahu vrátane článkov, správ a výskumných publikácií pre prominentné priemyselné platformy. Vďaka jedinečnému súboru zručností, ktorý kombinuje technické znalosti a rozprávanie príbehov, Kumar vyniká v komunikácii zložitých technologických konceptov pre rôzne publikum jasným a pútavým spôsobom.
