Kinas nya innehållspolicy: Varför mediafiler skapade av AI nu måste vattenmärkas
I korthet
Kina förbjuder "djupa förfalskningar" utan vattenstämplar
Eftersom användningen av artificiell intelligens (AI) snabbt expanderar globalt, ökar även de etiska farhågorna kring dess implementering. En sådan oro är potentialen för AI-genererade bilder - eller "deepfakes" - att användas i skadliga syften, som att skapa falska nyheter eller att utge sig för någon utan deras vetskap. Som svar på dessa farhågor har den kinesiska regeringen utfärdat en ny riktlinje som förbjuder skapandet av AI-genererade bilder utan vattenstämplar eller andra uppenbara etiketter.
Den kinesiska cyberrymdenadministrationen släppte riktlinjen, som säger att "oetiska människor använder AI för att producera, kopiera, publicera och sprida olaglig och skadlig information, för att förtala och förringa andras rykte och ära, samt för att förfalska andra människors identiteter." Riktlinjen fortsätter med att säga att sådana aktiviteter "maximerar de negativa sociala effekterna av deepfake-teknik" och att "tillverkare och användare av deepfake-teknik bör axla motsvarande sociala ansvar."
Det är inte första gången som den kinesiska regeringen har vidtagit åtgärder för att reglera AI-genererat innehåll. I februari 2019 utfärdade Cyberspace Administration nya regler för utveckling och användning av "personliga informationsassistenter", som inkluderade ett förbud mot användning av deepfakes för "skadliga" syften. Dessa regler sågs till stor del som ett svar på den växande populariteten för deepfake-teknik och potentialen för att den skulle kunna användas för illvilliga syften.
De nya riktlinjerna för AI-genererade bilder kommer sannolikt att ha en betydande inverkan på hur det går deepfake teknik används i Kina. Genom att förbjuda skapandet av AI-genererade bilder utan vattenstämplar eller andra etiketter censurerar regeringen effektivt sociala nätverk.
De reviderade riktlinjerna kräver att deepfakes dessutom bär följande etiketter:
Tjänster som genererar eller dramatiskt förändrar informativt innehåll och erbjuder funktioner som intelligent dialog, en syntetisk mänsklig röst, generering av mänskliga ansikten och uppslukande realistiska miljöer bör granskas på en synlig plats för att förhindra allmän förvirring eller felaktig identifiering.
Kina fastställer också ansvar för borttagning av vattenstämplar.
Dessutom måste deepfake-teknikleverantörer upprätthålla juridiska register, medan användare måste registrera konton med deras riktiga namn så att deras genererande aktivitet kan övervakas.
Läs fler nyheter om AI:
Villkor
I linje med den Riktlinjer för Trust Project, vänligen notera att informationen på den här sidan inte är avsedd att vara och inte ska tolkas som juridisk, skattemässig, investerings-, finansiell eller någon annan form av rådgivning. Det är viktigt att bara investera det du har råd att förlora och att söka oberoende finansiell rådgivning om du har några tvivel. För ytterligare information föreslår vi att du hänvisar till villkoren samt hjälp- och supportsidorna som tillhandahålls av utfärdaren eller annonsören. MetaversePost är engagerad i korrekt, opartisk rapportering, men marknadsförhållandena kan ändras utan föregående meddelande.
Om författaren
Damir är teamledare, produktchef och redaktör på Metaverse Post, som täcker ämnen som AI/ML, AGI, LLMs, Metaverse och Web3-relaterade områden. Hans artiklar lockar en massiv publik på över en miljon användare varje månad. Han verkar vara en expert med 10 års erfarenhet av SEO och digital marknadsföring. Damir har nämnts i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto och andra publikationer. Han reser mellan Förenade Arabemiraten, Turkiet, Ryssland och OSS som en digital nomad. Damir tog en kandidatexamen i fysik, som han tror har gett honom de kritiska tänkande färdigheter som behövs för att bli framgångsrik i det ständigt föränderliga landskapet på internet.
fler artiklar
Damir är teamledare, produktchef och redaktör på Metaverse Post, som täcker ämnen som AI/ML, AGI, LLMs, Metaverse och Web3-relaterade områden. Hans artiklar lockar en massiv publik på över en miljon användare varje månad. Han verkar vara en expert med 10 års erfarenhet av SEO och digital marknadsföring. Damir har nämnts i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto och andra publikationer. Han reser mellan Förenade Arabemiraten, Turkiet, Ryssland och OSS som en digital nomad. Damir tog en kandidatexamen i fysik, som han tror har gett honom de kritiska tänkande färdigheter som behövs för att bli framgångsrik i det ständigt föränderliga landskapet på internet.
