Tehnološki trendi 2024: Voditelji v panogi sprejemajo AI za boj proti grožnjam Deepfake
Na kratko
V boju proti tehnologiji deepfake industrije uporabljajo orodja in rešitve AI za boj proti širjenju manipulirane vsebine.
Med trajajočo rusko-ukrajinsko vojno se je pojavil videoposnetek ukrajinskega predsednika Volodimirja Zelenskega, ki svoje čete sredi vojne prosi, naj se predajo. To se je kasneje izkazalo za a deepfake videi.
V nenehni bitki proti tehnologija deepfake, se industrije vse bolj obračajo na sofisticiran tehnološki arzenal za boj proti širjenju manipulirane vsebine. Od pobud za pristnost vsebine do tehnik nevidnega vodnega žiga, algoritemskih orodij za zaznavanje, skupnih projektov in sprememb politik platforme – boj proti globokim ponaredkom postaja večplasten in dinamičen.
Pristnost vsebine in izvor vsebine
Pobuda za avtentičnost vsebine, ki jo vodijo akterji v panogi, je namenjena kriptografskemu zapečatenju informacij o avtorstvu vsebine, kar omogoča preverjanje od ustvarjanja do uporabe. Hkrati je Coalition for Content Provenance and Authentication (C2PA) izdala tehnično specifikacijo odprtega standarda, ki se osredotoča na zagotavljanje podatkov o izvoru vsebine, spremembah in avtorjih.
Microsoft je naredil še korak dlje z objavo »Poverilnice vsebine kot storitve«, ki uporablja poverilnice za digitalni vodni žig C2PA za pomoč volilnim kandidatom in kampanjam pri ohranjanju nadzora nad njihovo vsebino.
Tehnike vodnega žiga
Meta je predstavila Stable Signature, tehniko nevidnega vodnega žiga, zasnovano za razlikovanje vsebine, ustvarjene z odprto kodo generativni modeli AI. Ta nevidni vodni žig, ki ga ni mogoče zaznati s prostim očesom, vendar ga je mogoče izslediti z algoritmi, pomaga prepoznati manipulirane slike. Google DeepMind je vstopil tudi v boj s SynthID, ki uporabnikom omogoča vdelavo digitalnega vodnega žiga neposredno v slike ali zvok, ki jih ustvari AI.
Tehnologija uporabnikom omogoča skeniranje vsebine za vodne žige, kar zagotavlja vpogled v to, ali je bila vsebina ustvarjena ali spremenjena z Googlovimi modeli AI.
Algoritemsko odkrivanje
Industrija uvaja programsko opremo za samodejno zaznavanje globokih ponaredkov, pri čemer se zanaša na različne strategije, ki temeljijo na AI, kot so prepoznavanje zvočnikov, zaznavanje živahnosti glasu, prepoznavanje obraza, in časovna analiza. Pomembna primera sta Microsoftov Video Authenticator in FakeCatcher, ki ga podpira Intel.
Vendar je izziv prehodna narava orodij za odkrivanje, saj razvijajoče se tehnike izdelave globokih ponaredkov nenehno postavljajo na izziv njihovo zanesljivost. A študija odkrili različne stopnje natančnosti (30–97 %) v naborih podatkov, kar kaže na potrebo po nenehnih inovacijah, da bi sledili nastajajočim tehnologijam deepfake.
Izvor projekta
Medijske organizacije, vključno z BBC in Microsoft, sodeloval pri projektu Origin. Ta pobuda skuša vzpostaviti inženirski pristop k sintetičnim medijem, ki zagotavlja digitalno podpisane povezave za preverljivo sledenje medijske vsebine nazaj do založnika. Cilj projekta je tudi uvedba validacijskih preverjanj, da se zagotovi, da vsebina med distribucijo ostane nespremenjena.
Spremembe politike platforme
Kot odgovor na visoko tvegani kontekst političnega oglaševanja so glavne platforme, kot je Meta in Google sta napovedala spremembe pravilnika za večjo preglednost. Metina posodobljena politika razkritja političnih oglasov nalaga oglaševalcem, da razkrijejo digitalno spremenjeno vsebino v oglasih, povezanih z volitvami, ali političnih oglasih.
YouTube od ustvarjalcev zahteva, da razkrijejo uporabo sintetične medijske vsebine, neupoštevanje pa lahko povzroči kazni, vključno z odstranitvijo vsebine ali izključitvijo iz partnerskega programa YouTube. Trgovina Google Play je uvedla tudi pravilnik za vsebino, ki jo ustvari umetna inteligenca, s poudarkom na preprečevanju ustvarjanja in distribucije škodljive ali zavajajoče vsebine prek generativnih aplikacij umetne inteligence.
Ker se boj proti globokim ponaredkom zaostruje, se industrijski posegi in tehnološke rešitve izkažejo za bistvenega pomena pri ohranjanju pristnosti in zanesljivosti digitalne vsebine. Skupna prizadevanja glavnih akterjev v različnih sektorjih odražajo zavezo, da ostanejo pred razvijajočo se pokrajino sintetičnih medijev.
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Kumar je izkušen tehnični novinar, specializiran za dinamična presečišča AI/ML, marketinške tehnologije in nastajajočih področij, kot so kripto, blockchain in NFTs. Z več kot 3 leti izkušenj v panogi je Kumar pridobil dokazane rezultate pri oblikovanju privlačnih pripovedi, vodenju pronicljivih intervjujev in zagotavljanju celovitih vpogledov. Kumarjevo strokovno znanje je v izdelavi odmevnih vsebin, vključno s članki, poročili in raziskovalnimi publikacijami za pomembne industrijske platforme. Z edinstvenim naborom spretnosti, ki združuje tehnično znanje in pripovedovanje zgodb, se Kumar odlikuje pri sporočanju zapletenih tehnoloških konceptov različnim občinstvom na jasen in privlačen način.
več člankov
Kumar je izkušen tehnični novinar, specializiran za dinamična presečišča AI/ML, marketinške tehnologije in nastajajočih področij, kot so kripto, blockchain in NFTs. Z več kot 3 leti izkušenj v panogi je Kumar pridobil dokazane rezultate pri oblikovanju privlačnih pripovedi, vodenju pronicljivih intervjujev in zagotavljanju celovitih vpogledov. Kumarjevo strokovno znanje je v izdelavi odmevnih vsebin, vključno s članki, poročili in raziskovalnimi publikacijami za pomembne industrijske platforme. Z edinstvenim naborom spretnosti, ki združuje tehnično znanje in pripovedovanje zgodb, se Kumar odlikuje pri sporočanju zapletenih tehnoloških konceptov različnim občinstvom na jasen in privlačen način.
