Universidad de Cornell: la IA es el arma definitiva del engaño, contra la cual somos impotentes
En Resumen
El experimento de Stanford ha revelado una insuperable vulnerabilidad de la intuición lingüística de las personas, revelando la baja probabilidad de identificar la autoría de la IA.
Esto se debe a la capacidad de la IA como ChatGPT fabricar falsificaciones con tanta habilidad que la gente no pueda distinguirlas de la verdad.
El nuevo “experimento de Stanford” ha revelado una insuperable vulnerabilidad de la intuición lingüística de las personas. Por ello, la probabilidad de que identifiquemos la autoría de AI se ve muy disminuida.
Hoy en día existen numerosas preocupaciones para el mundo como resultado de la ChatGPT revolución. Lo más evidente es que a la IA le gusta ChatGPT es capaz de fabricar falsificaciones con tanta habilidad que nadie puede distinguirlas de la verdad. Los resultados de los ensayos realizados han demostrado la enorme capacidad de la ChatGPT súper habilidad para engañar. Sin embargo, no estaba claro cómo funcionaba esta superpotencia: ¿qué posee la IA que puede hacer que personas muy inteligentes y educadas crean en lo que está haciendo?
| Más información: Más de 20 mejores chatbots con IA de Telegram de 2023 |
El Laboratorio de Redes Sociales de Stanford, en colaboración con el Centro de Investigación de la Universidad de Cornell, llevó a cabo un nuevo "experimento de Stanford" para responder a esta misma pregunta.
El resultado de una serie de seis experimentos en los que participaron 4,600 personas es sensacional y deprimente.
Las personas tenían la tarea de determinar si las autopresentaciones fueron escritas por una persona o una IA. Según los investigadores, la autopresentación es uno de los elementos más personales y consecuentes de la comunicación lingüística porque nuestra actitud hacia cualquier declaración depende en gran medida de quién (como creemos) es su autor.
En el corazón de la percepción lingüística de las personas están las heurísticas. El término heurística se refiere a los atajos mentales que las personas toman para llegar a decisiones, resolver problemas y emitir juicios. Ayuda a las personas a aliviar su carga de trabajo mental y evitar la sobrecarga cognitiva.
“Un análisis computacional de las características del lenguaje muestra que los juicios humanos del lenguaje generado por IA se ven obstaculizados por heurísticas intuitivas pero defectuosas, como la asociación de pronombres en primera persona, el uso de contracciones o temas familiares con el lenguaje escrito por humanos”, dice el estudio. Los experimentos han demostrado que al percibir un texto escrito por IA, las personas utilizan automáticamente las mismas heurísticas que cuando se comunican con otras personas. Y esto es un error fundamental. El hecho es que estas son heurísticas intuitivas para nosotros, y AI las lee fácilmente y opera con ellas como una tabla de multiplicar.
Como resultado, la IA puede usar la heurística para crear texto que las personas perciben como "más humano que humano". Esto aumenta en gran medida el potencial engañoso de los textos y el habla de la IA, lo que nos anima a confiar más en esta "persona más humana" que en las declaraciones de personas reales.
Las posibilidades de que las personas identifiquen una autopresentación escrita por IA son 50/50. Las cosas son aún peores en las comunicaciones románticas de las personas. Casi 70% de adultos No puedo distinguir entre una carta de amor escrita por ChatGPT y una carta escrita por una persona.
Lea más sobre ChatGPT:
Observación
En línea con la Directrices del Proyecto Confianza, tenga en cuenta que la información proporcionada en esta página no pretende ser ni debe interpretarse como asesoramiento legal, fiscal, de inversión, financiero o de cualquier otro tipo. Es importante invertir sólo lo que pueda permitirse perder y buscar asesoramiento financiero independiente si tiene alguna duda. Para mayor información sugerimos consultar los términos y condiciones así como las páginas de ayuda y soporte proporcionadas por el emisor o anunciante. MetaversePost se compromete a brindar informes precisos e imparciales, pero las condiciones del mercado están sujetas a cambios sin previo aviso.
Sobre el Autor
Damir es el líder del equipo, gerente de producto y editor en Metaverse Post, que cubre temas como AI/ML, AGI, LLM, Metaverse y Web3-campos relacionados. Sus artículos atraen una audiencia masiva de más de un millón de usuarios cada mes. Parece ser un experto con 10 años de experiencia en SEO y marketing digital. Damir ha sido mencionado en Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto y otras publicaciones. Viaja entre los Emiratos Árabes Unidos, Turquía, Rusia y la CEI como nómada digital. Damir obtuvo una licenciatura en física, que él cree que le ha dado las habilidades de pensamiento crítico necesarias para tener éxito en el panorama siempre cambiante de Internet.
Más artículos
Damir es el líder del equipo, gerente de producto y editor en Metaverse Post, que cubre temas como AI/ML, AGI, LLM, Metaverse y Web3-campos relacionados. Sus artículos atraen una audiencia masiva de más de un millón de usuarios cada mes. Parece ser un experto con 10 años de experiencia en SEO y marketing digital. Damir ha sido mencionado en Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto y otras publicaciones. Viaja entre los Emiratos Árabes Unidos, Turquía, Rusia y la CEI como nómada digital. Damir obtuvo una licenciatura en física, que él cree que le ha dado las habilidades de pensamiento crítico necesarias para tener éxito en el panorama siempre cambiante de Internet.
