Tendencias tecnológicas para 2024: los líderes de la industria adoptan la IA para contrarrestar las amenazas de los deepfake
En Resumen
En la batalla contra la tecnología deepfake, las industrias están utilizando herramientas y soluciones de inteligencia artificial para combatir la proliferación de contenido manipulado.
Durante la actual guerra entre Rusia y Ucrania, surgió un vídeo del presidente ucraniano Volodymyr Zelenskyy pidiendo a sus tropas que se rindieran en medio de la guerra. Esto más tarde resultó ser un video de deepfake.
En la batalla en constante evolución contra tecnología deepfake, las industrias recurren cada vez más a un arsenal tecnológico sofisticado para combatir la proliferación de contenido manipulado. Desde iniciativas de autenticidad de contenido hasta técnicas de marcas de agua invisibles, herramientas de detección algorítmica, proyectos colaborativos y cambios de políticas de plataforma, la lucha contra los deepfakes se está volviendo multifacética y dinámica.
Autenticidad del contenido y procedencia del contenido
La Iniciativa de Autenticidad de Contenido, liderada por actores de la industria, tiene como objetivo sellar criptográficamente la información de atribución sobre el contenido, permitiendo la verificación desde la creación hasta el consumo. Simultáneamente, la Coalición para la Procedencia y Autenticación de Contenido (C2PA) ha publicado una especificación técnica estándar abierta, que se centra en proporcionar datos sobre el origen, las modificaciones y los contribuyentes del contenido.
Microsoft ha dado un paso más al anunciar “Credenciales de contenido como servicio”, utilizando credenciales de marca de agua digital C2PA para ayudar a los candidatos y campañas electorales a mantener el control sobre su contenido.
Técnicas de marca de agua
Meta presentó Stable Signature, una técnica de marca de agua invisible diseñada para distinguir el contenido creado por código abierto. modelos generativos de IA. Esta marca de agua invisible, indetectable a simple vista pero rastreable mediante algoritmos, ayuda a identificar imágenes manipuladas. Google DeepMind también ha entrado en escena con SynthID, que permite a los usuarios incrustar una marca de agua digital directamente en imágenes o audio generados por IA.
La tecnología permite a los usuarios escanear contenido en busca de marcas de agua, proporcionando información sobre si el contenido fue creado o modificado utilizando los modelos de inteligencia artificial de Google.
Detección algorítmica
La industria está implementando software de detección automática de deepfakes, basándose en varias estrategias basadas en inteligencia artificial, como el reconocimiento del hablante, la detección de la vivacidad de la voz, reconocimiento facialy análisis temporal. Video Authenticator de Microsoft y FakeCatcher respaldado por Intel son ejemplos notables.
Sin embargo, el desafío radica en la naturaleza transitoria de las herramientas de detección, ya que las técnicas de producción de deepfake en evolución desafían continuamente su confiabilidad. A estudio encontró diferentes niveles de precisión (30-97%) en todos los conjuntos de datos, lo que indica la necesidad de una innovación continua para seguir el ritmo de las tecnologías emergentes de deepfake.
Origen del proyecto
Organizaciones de medios, incluidas la BBC y Microsoft, colaboró en Proyecto Origen. Esta iniciativa busca establecer un enfoque de ingeniería para los medios sintéticos, proporcionando enlaces firmados digitalmente para un seguimiento verificable del contenido de los medios hasta el editor. El proyecto también tiene como objetivo implementar controles de validación para garantizar que el contenido permanezca inalterado durante la distribución.
Cambios en la política de la plataforma
En respuesta al contexto de alto riesgo de la publicidad política, grandes plataformas como Meta y Google han anunciado cambios en sus políticas para mejorar la transparencia. La política actualizada de divulgación de anuncios políticos de Meta exige a los anunciantes revelar contenido alterado digitalmente en anuncios políticos o relacionados con las elecciones.
YouTube exige que los creadores revelen el uso de contenido multimedia sintético, y el incumplimiento puede dar lugar a sanciones, incluida la eliminación de contenido o la suspensión del Programa de socios de YouTube. Google Play Store también ha introducido una política para el contenido generado por IA, centrándose en prevenir la creación y distribución de contenido dañino o engañoso a través de aplicaciones de IA generativa.
A medida que se intensifica la batalla contra los deepfakes, las intervenciones de la industria y las soluciones tecnológicas están resultando esenciales para preservar la autenticidad y confiabilidad del contenido digital. Los esfuerzos de colaboración de los principales actores de diversos sectores reflejan el compromiso de mantenerse a la vanguardia del panorama cambiante de los medios sintéticos.
Observación
En línea con la Directrices del Proyecto Confianza, tenga en cuenta que la información proporcionada en esta página no pretende ser ni debe interpretarse como asesoramiento legal, fiscal, de inversión, financiero o de cualquier otro tipo. Es importante invertir sólo lo que pueda permitirse perder y buscar asesoramiento financiero independiente si tiene alguna duda. Para mayor información sugerimos consultar los términos y condiciones así como las páginas de ayuda y soporte proporcionadas por el emisor o anunciante. MetaversePost se compromete a brindar informes precisos e imparciales, pero las condiciones del mercado están sujetas a cambios sin previo aviso.
Sobre el Autor
Kumar es un periodista tecnológico experimentado con especialización en las intersecciones dinámicas de AI/ML, tecnología de marketing y campos emergentes como cripto, blockchain y NFTs. Con más de 3 años de experiencia en la industria, Kumar ha establecido una trayectoria comprobada en la elaboración de narrativas convincentes, la realización de entrevistas interesantes y la entrega de conocimientos integrales. La experiencia de Kumar radica en la producción de contenido de alto impacto, incluidos artículos, informes y publicaciones de investigación para plataformas industriales destacadas. Con un conjunto de habilidades único que combina conocimiento técnico y narración, Kumar se destaca en comunicar conceptos tecnológicos complejos a audiencias diversas de una manera clara y atractiva.
Más artículos
Kumar es un periodista tecnológico experimentado con especialización en las intersecciones dinámicas de AI/ML, tecnología de marketing y campos emergentes como cripto, blockchain y NFTs. Con más de 3 años de experiencia en la industria, Kumar ha establecido una trayectoria comprobada en la elaboración de narrativas convincentes, la realización de entrevistas interesantes y la entrega de conocimientos integrales. La experiencia de Kumar radica en la producción de contenido de alto impacto, incluidos artículos, informes y publicaciones de investigación para plataformas industriales destacadas. Con un conjunto de habilidades único que combina conocimiento técnico y narración, Kumar se destaca en comunicar conceptos tecnológicos complejos a audiencias diversas de una manera clara y atractiva.
