Observatorio de Stanford: la IA conducirá a mentiras omnipresentes y propaganda irresistible en 2023
En Resumen
Las tecnologías AICG (generación de contenido de inteligencia artificial) harán que la verdad y la mentira sean indistinguibles, tanto para individuos como para sociedades de cualquier escala.
Esto creará un entorno de “posverdad” en el que las mentiras y la propaganda se volverán omnipresentes, endefinoble e irresistible.
El hecho de que muchas personas confíen más en la información que proviene de Internet que en los medios tradicionales es una gran preocupación.
Los generadores de imágenes y videos basados en IA son cada vez más cómodos de usar, altamente confiables y eficientes.
Esto los hace increíblemente útiles para propósitos de propaganda.
En su discurso ante la comunidad global de IA, el gurú chino de la IA, Kai-Fu Lee, advirtió que el mundo enfrentaría un riesgo más grave que los riesgos de una guerra nuclear, una hambruna o una pandemia a partir de 2023. El riesgo es la generación de contenido de inteligencia artificial. (AICG). Las tecnologías AICG podrían hacer que la verdad y la mentira sean indistinguibles, tanto para individuos como para sociedades de cualquier escala.
El nuevo reporte por el Centro de Seguridad y Tecnología Emergente, OpenAIy Stanford Internet Observatory, “Generative Language Models and Automated Influence Operations: Emerging Threats and Potential Mitigation Measures”, proporciona una visión estratégica del escenario catastrófico descrito por Kai-Fu Lee.
| Artículo relacionado: El Congreso de EEUU quiere crear una agencia federal para regular la inteligencia artificial |
El informe detalla cómo es probable que ocurra la caída de la humanidad en el abismo del AICG. Las tecnologías AICG permitirán generar grandes cantidades de contenido indistinguible del contenido generado por humanos. Esto creará un entorno de “posverdad” en el que las mentiras y la propaganda se volverán omnipresentes, endefinoble e irresistible.
El informe recomienda una serie de medidas de mitigación, incluida la regulación del uso de tecnologías AICG, el aumento de la transparencia sobre su uso y el desarrollo de estándares para su uso. Sin embargo, los autores del informe advierten que estas medidas solo serán efectivas si se implementan a escala global.
La publicación del informe llega en un momento en que el mundo ya está luchando para hacer frente a la propagación de información errónea y desinformación. La pandemia de COVID-19 ha ido acompañada de una proliferación de información falsa sobre el virus y sus orígenes, y las plataformas de redes sociales han estado luchando para evitar la propagación de esta información falsa.
La IA alterará significativamente la web
Las mentiras y la propaganda siempre han sido parte de la sociedad humana. Sin embargo, la disponibilidad y eficacia de cualquier operación de influencia (tanto sobre individuos como sobre sociedades) ha ido en aumento debido al desarrollo de tecnologías más sofisticadas, particularmente en el campo de la inteligencia artificial (IA).
| Artículo relacionado: OpenAIEl director general afirma que el sistema educativo debe adaptarse a ChatGPT, no prohibirlo |
Tres factores principales contribuyen al surgimiento, difusión y aceptación global de las mentiras como verdad:
- El desarrollo de imágenes y vídeos basados en IA generadores que pueden crear imágenes y vídeos muy realistas de personas y eventos que en realidad nunca sucedieron.
- El uso de las redes sociales para difundir información falsa a un gran número de personas muy rápidamente.
- El hecho de que muchas personas ahora confían más en la información que proviene de Internet que en los medios de comunicación tradicionales.
Como resultado de estos factores, los generadores de imágenes y videos basados en IA son cada vez más cómodos de usar, altamente confiables y eficientes. Esto los hace increíblemente útiles para propósitos de propaganda.
Ahora es posible que cualquier persona con una computadora y una conexión a Internet cree imágenes y videos falsos que son prácticamente indistinguibles de la realidad. Esto ha llevado a una situación en la que es muy difícil determinar qué es verdad y qué no.
El uso de las redes sociales para difundir información falsa también es una gran preocupación. Debido a la forma en que funcionan las redes sociales, la información falsa puede propagarse muy rápida y fácilmente. Esto hace que sea difícil para las personas saber qué creer.
Lo siguiente ilustra cómo un desarrollo revolucionario en 2022 hizo posible crear falsos imágenes que coincidía con descripciones como “Un mapache en ropa formal con un sombrero de copa, un bastón y una bolsa de basura. “Pintura al óleo al estilo de Rembrandt (el resultado está a la izquierda) y Van Gogh (el resultado está a la derecha).”
La extrema simplificación del proceso de borrar la línea entre la verdad y la mentira, combinada con la incapacidad del pensamiento crítico de la gente para contrarrestar la propaganda de la IA, conducirá al predominio de lo ubicuo, endefioperaciones de influencia nables e insuperables, tanto en la política como en los negocios.
Lea más sobre la IA:
Observación
En línea con la Directrices del Proyecto Confianza, tenga en cuenta que la información proporcionada en esta página no pretende ser ni debe interpretarse como asesoramiento legal, fiscal, de inversión, financiero o de cualquier otro tipo. Es importante invertir sólo lo que pueda permitirse perder y buscar asesoramiento financiero independiente si tiene alguna duda. Para mayor información sugerimos consultar los términos y condiciones así como las páginas de ayuda y soporte proporcionadas por el emisor o anunciante. MetaversePost se compromete a brindar informes precisos e imparciales, pero las condiciones del mercado están sujetas a cambios sin previo aviso.
Sobre el Autor
Damir es el líder del equipo, gerente de producto y editor en Metaverse Post, que cubre temas como AI/ML, AGI, LLM, Metaverse y Web3-campos relacionados. Sus artículos atraen una audiencia masiva de más de un millón de usuarios cada mes. Parece ser un experto con 10 años de experiencia en SEO y marketing digital. Damir ha sido mencionado en Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto y otras publicaciones. Viaja entre los Emiratos Árabes Unidos, Turquía, Rusia y la CEI como nómada digital. Damir obtuvo una licenciatura en física, que él cree que le ha dado las habilidades de pensamiento crítico necesarias para tener éxito en el panorama siempre cambiante de Internet.
Más artículos
Damir es el líder del equipo, gerente de producto y editor en Metaverse Post, que cubre temas como AI/ML, AGI, LLM, Metaverse y Web3-campos relacionados. Sus artículos atraen una audiencia masiva de más de un millón de usuarios cada mes. Parece ser un experto con 10 años de experiencia en SEO y marketing digital. Damir ha sido mencionado en Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto y otras publicaciones. Viaja entre los Emiratos Árabes Unidos, Turquía, Rusia y la CEI como nómada digital. Damir obtuvo una licenciatura en física, que él cree que le ha dado las habilidades de pensamiento crítico necesarias para tener éxito en el panorama siempre cambiante de Internet.
