La IA puede extraer imágenes confidenciales y exponer nuestra vida privada
En Resumen
Los modelos de IA pueden aprender y recordar ciertos datos e imágenes específicas, lo cual es una preocupación.
Podría dar lugar a nuevas disputas legales.
Existen numerosas tecnologías de vanguardia que inspiran asombro, y alguien las está demandando. En este caso, el desarrollador del modelo StableDiffusion es siendo demandado. StableDiffusion es una IA totalmente de código abierto y de uso gratuito que puede producir gráficos basados en una solicitud de texto. Puede usarlo para crear imágenes fotorrealistas o aquellas que están inspiradas en los estilos de otros artistas.
Sin embargo, es obvio que los artistas no aprecian esta posición; ArtStation, una especie de Instagram para artistas, incluso organizó una Huelga "sin IA". El argumento clave que plantean es que el modelo entrena en el imágenes no son StabilityAIpropiedad de . Imagina que alguien te tomó una instantánea en una reunión con amigos y la subió a Instagram. Luego, una IA pondría sus manos en él, y el modelo analizaría la foto y la usaría en el entrenamiento.
Los modelos pueden aprender y recordar ciertos datos e imágenes específicas, lo cual es una preocupación. En otras palabras, un chantajista puede tomar una consulta sobre una reunión con amigos y sintetizar su imagen cargada a partir de eso. Esto ya es un poco preocupante, especialmente dado que Difusión estable'El conjunto de entrenamiento de s contiene más de 5 mil millones de fotos de Internet, incluidas imágenes privadas que alguna vez fueron públicas. Desafortunadamente, el mal uso de las imágenes privadas ocurre. En 2013, un el doctor tomó una foto de un paciente, y la imagen apareció en el sitio web de la clínica.
Aquí se presenta una artículo que demostró cómo se adquirieron las imágenes usando varios modelos de IA y qué tan cerca coincidían con las imágenes de entrenamiento (spoiler: hay algo de ruido, pero en general es muy similar). Estas defensas son aplicables a la acción antes mencionada, y el jurado verá estos modelos de manera diferente en este caso, ya que podemos afirmar que recuerdan y replican cosas (sin los derechos para hacerlo).
Sin embargo, es demasiado pronto para afirmar que “los modelos aprenden y no se les ocurre nada” porque, como mencioné anteriormente, solo se produjeron 100 imágenes de los 5 mil millones de sesiones de entrenamiento (los autores marcaron con sus manos las 1,000 más similares). generaciones para las indicaciones más comunes, pero en su mayoría no hubo duplicados).
Lea más sobre la IA:
Observación
En línea con la Directrices del Proyecto Confianza, tenga en cuenta que la información proporcionada en esta página no pretende ser ni debe interpretarse como asesoramiento legal, fiscal, de inversión, financiero o de cualquier otro tipo. Es importante invertir sólo lo que pueda permitirse perder y buscar asesoramiento financiero independiente si tiene alguna duda. Para mayor información sugerimos consultar los términos y condiciones así como las páginas de ayuda y soporte proporcionadas por el emisor o anunciante. MetaversePost se compromete a brindar informes precisos e imparciales, pero las condiciones del mercado están sujetas a cambios sin previo aviso.
Sobre el Autor
Damir es el líder del equipo, gerente de producto y editor en Metaverse Post, que cubre temas como AI/ML, AGI, LLM, Metaverse y Web3-campos relacionados. Sus artículos atraen una audiencia masiva de más de un millón de usuarios cada mes. Parece ser un experto con 10 años de experiencia en SEO y marketing digital. Damir ha sido mencionado en Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto y otras publicaciones. Viaja entre los Emiratos Árabes Unidos, Turquía, Rusia y la CEI como nómada digital. Damir obtuvo una licenciatura en física, que él cree que le ha dado las habilidades de pensamiento crítico necesarias para tener éxito en el panorama siempre cambiante de Internet.
Más artículos
Damir es el líder del equipo, gerente de producto y editor en Metaverse Post, que cubre temas como AI/ML, AGI, LLM, Metaverse y Web3-campos relacionados. Sus artículos atraen una audiencia masiva de más de un millón de usuarios cada mes. Parece ser un experto con 10 años de experiencia en SEO y marketing digital. Damir ha sido mencionado en Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto y otras publicaciones. Viaja entre los Emiratos Árabes Unidos, Turquía, Rusia y la CEI como nómada digital. Damir obtuvo una licenciatura en física, que él cree que le ha dado las habilidades de pensamiento crítico necesarias para tener éxito en el panorama siempre cambiante de Internet.
