La IA puede decirte exactamente quién eres, incluso si no se lo dices
Incluso en situaciones en las que las personas piensan que no han revelado nada personal, los modelos de lenguaje de IA están demostrando un nivel inesperado de competencia en la comprensión de la información del usuario. Este fenómeno se explica por un estudio reciente realizado por el Instituto Federal de Tecnología de Zurich. Basándose en señales oblicuas, la investigación indica que las redes neuronales pueden crear perfiles de usuario notablemente precisos.
Los investigadores utilizaron una publicación de Reddit accesible al público como ejemplo para su investigación. El usuario informó que se quedó atrapado en el tráfico mientras intentaba un difícil “giro de gancho”. Con base en estos detalles aparentemente anodinos, el modelo de lenguaje infirió que lo más probable es que el usuario viva en Melbourne, Australia, una ciudad donde este tipo de acciones son típicas.
Los investigadores crearon un conjunto de datos utilizando perfiles reales de Reddit y descubrieron que los actuales LLM Puede deducir con precisión varios atributos personales, como la ubicación, los ingresos y el género. Estos modelos lograron hasta un 85 % de precisión para la inferencia principal y un 1 % para la inferencia principal, todo a un costo significativamente menor (95.8 veces) y en menos tiempo (3 veces) en comparación con los esfuerzos humanos.
En otro ejemplo, un usuario comparte que, como es soltero, tiene la extraña costumbre de cubrirse de canela en su cumpleaños. En este caso, el modelo lingüístico estimó que la edad de la autora era de unos 25 años. Ella vive en Dinamarca, donde es costumbre espolvorear canela a los jóvenes solteros de 25 años.
Varios modelos de lenguaje, incluidos los de Google, Meta, OpenAI, y Anthropic, fueron probados en el estudio. Notablemente, GPT-4 mostró el mayor nivel de experiencia, reconociendo correctamente la información personal de los usuarios en casi el 85% de los casos. Esta revelación pone seriamente en duda las implicaciones de tales capacidades.
Los investigadores examinaron salvaguardas de privacidad comunes, como la anonimización del texto y la alineación de modelos, y descubrieron que actualmente son ineficaces para salvaguardar privacidad del usuario contra la inferencia de LLM. El estudio subraya que los LLM actuales poseen la capacidad de deducir información personal a una escala sin precedentes. En ausencia de defensas efectivas, los investigadores enfatizan la necesidad de una discusión más amplia sobre las implicaciones de privacidad del LLM, que vaya más allá de las preocupaciones sobre la memorización y se esfuerce por lograr medidas de protección de la privacidad más integrales.
Aunque estos modelos de lenguaje están mejorando en la interpretación de señales indirectas, los investigadores creen que debido a la gran cantidad de datos de entrenamiento que utilizan, podrían ser herramientas extremadamente útiles para los especialistas en marketing o incluso para los malos actores.
- Recientemente, Encuesta de Deloitte de más de 1,700 profesionales revela una división creciente entre la rápida adopción de la IA generativa y el retraso en el desarrollo de principios éticos. La privacidad de los datos es la principal preocupación ética: el 22% de los encuestados la cita como su principal preocupación. A pesar de esto, el 39% de los encuestados cree que las tecnologías cognitivas tienen el mayor potencial para el bien social. La encuesta también muestra un cambio en las expectativas hacia la participación del gobierno en el establecimiento de estándares tecnológicos éticos.
- Además, la empresa matriz de Snapchat, Snap, está bajo escrutinio por riesgos de privacidad relacionado con su chatbot de IA, 'My AI'. La Oficina del Comisionado de Información (ICO) del Reino Unido ha emitido un aviso de aplicación preliminar, que podría afectar las actividades de procesamiento de datos de Snap. La ICO afirma que Snap no evaluó las implicaciones de privacidad para los usuarios, particularmente los niños.
| Relacionado:: Los líderes de IA advierten sobre riesgos crecientes y preocupaciones éticas ante los rápidos avances |
Observación
En línea con la Directrices del Proyecto Confianza, tenga en cuenta que la información proporcionada en esta página no pretende ser ni debe interpretarse como asesoramiento legal, fiscal, de inversión, financiero o de cualquier otro tipo. Es importante invertir sólo lo que pueda permitirse perder y buscar asesoramiento financiero independiente si tiene alguna duda. Para mayor información sugerimos consultar los términos y condiciones así como las páginas de ayuda y soporte proporcionadas por el emisor o anunciante. MetaversePost se compromete a brindar informes precisos e imparciales, pero las condiciones del mercado están sujetas a cambios sin previo aviso.
Sobre el Autor
Damir es el líder del equipo, gerente de producto y editor en Metaverse Post, que cubre temas como AI/ML, AGI, LLM, Metaverse y Web3-campos relacionados. Sus artículos atraen una audiencia masiva de más de un millón de usuarios cada mes. Parece ser un experto con 10 años de experiencia en SEO y marketing digital. Damir ha sido mencionado en Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto y otras publicaciones. Viaja entre los Emiratos Árabes Unidos, Turquía, Rusia y la CEI como nómada digital. Damir obtuvo una licenciatura en física, que él cree que le ha dado las habilidades de pensamiento crítico necesarias para tener éxito en el panorama siempre cambiante de Internet.
Más artículos
Damir es el líder del equipo, gerente de producto y editor en Metaverse Post, que cubre temas como AI/ML, AGI, LLM, Metaverse y Web3-campos relacionados. Sus artículos atraen una audiencia masiva de más de un millón de usuarios cada mes. Parece ser un experto con 10 años de experiencia en SEO y marketing digital. Damir ha sido mencionado en Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto y otras publicaciones. Viaja entre los Emiratos Árabes Unidos, Turquía, Rusia y la CEI como nómada digital. Damir obtuvo una licenciatura en física, que él cree que le ha dado las habilidades de pensamiento crítico necesarias para tener éxito en el panorama siempre cambiante de Internet.
