Indické ministerstvo IT varuje před falešnou hrozbou a vyzývá platformy sociálních médií k akci
Stručně
Indičtí vládní úředníci a odborníci na kybernetickou bezpečnost spolupracují na řešení a překonání problémů, které představuje hluboce falešný obsah.
V proaktivním kroku zaměřeném na řešení eskalující hrozby technologie deepfake, indický ministr Unie pro elektroniku a informační technologie a komunikace, Ashwini Vaishnaw se dnes uskutečnilo jednání na vysoké úrovni.
Setkání se zúčastnili indičtí vládní úředníci a odborníci na kybernetickou bezpečnost a zaměřili se na strategie, jak čelit a překonat výzvy, které představuje deepfake obsah.
Indický premiér Narendra Modi, když hovořil na zahájení virtuálního summitu Země G20, jemuž Indie předsedá, nastiňují nebezpečí kolem generovaného obsahu AI.
„Svět se obává negativních účinků umělé inteligence. Indie si myslí, že na globálních předpisech pro umělou inteligenci musíme spolupracovat. Abychom pochopili, jak nebezpečný je deepfake pro společnost a jednotlivce, musíme pracovat vpřed,“ řekl premiér Modi. "Umělá inteligence (AI) by se měla dostat k lidem a musí být pro společnost bezpečná."
Deepfakes jsou mediální obsah, který lze generovat prostřednictvím Technologie AI, rostoucí nástroj pro dezinformace a digitální předstírání identity.
Klamné výtvory generované algoritmy strojového učení v kombinaci se softwarem pro mapování obličeje, který umožňuje vkládání dat do digitálního obsahu bez povolení. Při přesném provedení může být výsledkem neuvěřitelně přesvědčivý, ale zcela vymyšlený text, video nebo zvukový klip zobrazující osobu, která dělá nebo říká něco, co ne.
V Indii narůstají obavy z deepfake brzy poté, co se na platformách sociálních médií široce rozšířilo deepfake video indické herečky Rashmika Mandana.
V komentáři na platformě sociálních médií X (Twitter) herečka řekla: „Cítím se opravdu zraněná, když to sdílím, a musím mluvit o hluboce falešném videu, které mě šíří online. Něco takového je upřímně, extrémně děsivé nejen pro mě, ale i pro každého z nás, kdo je dnes zranitelný vůči tolika škodám kvůli tomu, jak jsou technologie zneužívány.“
Platformy sociálních médií musí čelit Deepfake
Naléhá indický ministr IT sociální mediální platformy přijmout agresivnější přístup v boji proti deepfake obsahu. Ashwini Vaishnaw zdůraznila, že klauzule o „bezpečném přístavu“, která tradičně chrání platformy sociálních médií, nemusí platit, pokud na svých platformách nepřijmou adekvátní opatření proti deepfake.
„Ustanovení o bezpečném přístavu, které si užívala většina platforem sociálních médií, neplatí, pokud platformy nepodniknou adekvátní kroky k odstranění deepfakes ze svých platforem,“ dodal.
Nedávno se vyskytly případy, kdy platformy sociálních médií přišly s opatřeními ke kontrole deepfakes.
V poslední blogu, YouTube oznámil, že v nadcházejících měsících „umožní uživatelům odesílat žádosti o odstranění obsahu generovaného umělou inteligencí nebo jinak pozměněného obsahu“, který simuluje identifikovatelnou osobu a zahrnuje její obličej nebo hlas, běžně známý jako deepfakes.
Společnost objasnila, že ne veškerý nahlášený obsah bude automaticky odstraněn. Při posuzování žádostí o odstranění bude společnost zvažovat faktory, jako je to, zda obsah spadá pod parodii nebo satiru. Jednoznačná identifikace osoby, která žádost podává, nebo její status jako dobře známé osoby může navíc stanovit vyšší standard pro odstranění.
Další technologický gigant Microsoft oznámil svůj plán zavést službu umožňující volebním kandidátům digitálně podepisovat a ověřovat obsah pomocí digitálního vodoznaku. Tato služba, nazývaná společností Microsoft „Content Credentials as a Service“, využívá pověření digitálního vodoznaku Coalition for Content Provenance and Authenticity (C2PA) – sadu metadat kódujících podrobnosti o původu obsahu prostřednictvím kryptografie.
Obsah obsahující digitální vodoznak bude obsahovat informace o tom, jak, kdy a kým byl vytvořen nebo upraven, s výslovným uvedením, zda byl vytvořen umělou inteligencí, jako je tomu v případě deepfakes.
Rostoucí případ deepfake je znepokojivý a vhodná regulace AI zahrnující více hráčů včetně vlád po celém světě je jednou z nejlepších cest vpřed. Nastal čas zajistit bezpečné a důvěryhodná AI dosáhne k lidem.
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Kumar je zkušený technický novinář se specializací na dynamické průniky AI/ML, marketingové technologie a nově vznikající obory, jako jsou kryptoměny, blockchain a NFTs. S více než 3 lety zkušeností v oboru si Kumar vytvořil prokazatelné výsledky ve vytváření působivých příběhů, vedení zasvěcených rozhovorů a poskytování komplexních poznatků. Kumarova odbornost spočívá ve vytváření vysoce působivého obsahu, včetně článků, zpráv a výzkumných publikací pro prominentní průmyslové platformy. Díky jedinečné sadě dovedností, které kombinují technické znalosti a vyprávění příběhů, Kumar vyniká v komunikaci složitých technologických konceptů pro různé publikum jasným a poutavým způsobem.
Další články
Kumar je zkušený technický novinář se specializací na dynamické průniky AI/ML, marketingové technologie a nově vznikající obory, jako jsou kryptoměny, blockchain a NFTs. S více než 3 lety zkušeností v oboru si Kumar vytvořil prokazatelné výsledky ve vytváření působivých příběhů, vedení zasvěcených rozhovorů a poskytování komplexních poznatků. Kumarova odbornost spočívá ve vytváření vysoce působivého obsahu, včetně článků, zpráv a výzkumných publikací pro prominentní průmyslové platformy. Díky jedinečné sadě dovedností, které kombinují technické znalosti a vyprávění příběhů, Kumar vyniká v komunikaci složitých technologických konceptů pro různé publikum jasným a poutavým způsobem.
