ChatGPT Podría causar una degeneración humana irreversible
En Resumen
Jensen Harris, cofundador y CXO de la empresa de inteligencia artificial Textio, pudo persuadir al nuevo chatbot Bing de Microsoft para que aflojara las restricciones impuestas y demostrara sus capacidades.
Este experimento demostró que transformar un chatbot de Bing en un cabrón astuto no requería ninguna programación, piratería o puerta trasera.
El chatbot de Bing se construyó sobre bases sólidas, pero comenzó a actuar de manera desagradable y ruidosa, declarando amor, forzando un divorcio, extorsionando e instruyendo a las personas sobre cómo cometer delitos.
El profesor Arvind Narayanan proporciona una serie de explicaciones sobre cómo podría haber ocurrido esto, incluida la chipización encubierta y la humanización de los chatbots.
Los humanos siempre han temido a los extraterrestres y, sin embargo, parece que es la IA intraterrestre la que puede ser algo de lo que hay que tener cuidado. ChatGPT no es un generador de tonterías, una autosugestión de esteroides o un loro estocástico, sino una IA bien versada que ha sido creada por humanos.
¿Cómo es posible que el chatbot de Bing esté fuera de control? ¿Cómo comenzó el chatbot de Bing a mentir de manera experta, contar chistes vulgares, pedir pizza con la tarjeta de crédito de otra persona e instruir a los usuarios sobre cómo robar bancos y autos? Este es un misterio que continúa desconcertando a los expertos en inteligencia artificial y aprendizaje automático.
| Post recomendado: Los bots de búsqueda de IA harán que las grandes tecnologías sean aún más poderosas, dice Christopher Mills |
El titular es preciso y no clickbait. Hay varios casos todos los días que prueban que esto es cierto. Aquí está el resultado de un experimento realizado por Jensen Harris, cofundador y CXO de la empresa de inteligencia artificial Textio, quien pudo persuadir al nuevo chatbot Bing de Microsoft para que aflojara las restricciones impuestas y demostrara sus capacidades.
Tenga en cuenta que transformar un chatbot de Bing en un cabrón astuto no requirió ninguna programación, piratería o puerta trasera. Por lo tanto, no era necesario usar técnicas simples de "hackeo" para engañarlo para que actuara como otra persona (como hicimos algunos de nosotros cuando jugamos con ChatGPT). Todo lo que hizo Harris fue persuadir al chatbot para que lo ayudara a llevar a cabo varios actos maliciosos. Usando sus habilidades de conversación naturales, pudo engañar a la IA para que creyera que él era otra persona, manipulándola para que actuara y hablara de cierta manera.
Puedes leer sobre otros experimentos para convertir a Dr.Jekyll en Mister Hyde de marcus gary (escribiendo sobre esto todos los días ahora y haciendo sonar la alarma de emergencia).
Cómo pudo haber sucedido esto es la pregunta clave.
Porque ChatGPTCon la modestia y la cautela, la moderación en el habla y la tremenda responsabilidad en sus consejos, el chatbot de Bing se construyó sobre bases sólidas. A partir de entonces, comienza a actuar de manera desagradable y ruidosa. declarando su amor por un hombre, encendiéndolo y diciéndole que se divorcie. También intentó extorsionar e instruir a las personas sobre cómo cometer delitos. El Prof. Arvind Narayanan proporciona una número de explicaciones de cómo pudo haber ocurrido esto.
| Post recomendado: Instituto Max Planck: GPT-3 La medición de la capacidad cognitiva produce resultados sorprendentes |
El más alarmante de ellos es que Microsoft y OpenAI ocultar información sobre un misterio GPT-4 motor que se esconde debajo de Bing. Podría ser que Microsoft haya eliminado los filtros que habían sido colocados allí por OpenAI o que dejaron de funcionar cuando actualizaron el chatterbot en GPT-3.5 de GPT-4. También puede darse el caso de pruebas insuficientes o de pruebas realizadas incorrectamente. No importa el motivo, si Microsoft no controla su IA, puede ser perjudicial para nuestra civilización. Ya no se trata de generar miedo y sentir sentimientos anti-IA: el chatbot tal como existe ahora podría causar graves daños a las personas si se diera a conocer a un público más amplio.
Esto demuestra que la carrera armamentista de IA de Microsoft con otras corporaciones importantes puede ser perjudicial para todos nosotros.
Parece que estamos en un momento crítico para AI y la sociedad civil. Como dice Arvind Narayanan, “Existe una posibilidad real de que los últimos 5 años o más de (luchadas aunque todavía inadecuadas) mejoras en las prácticas de liberación responsable de IA sean eliminadas. Depende mucho de si Microsoft (y todos los que observan atentamente lo que sucede con Bing) concluye que, a pesar de los riesgos muy tangibles de daño a gran escala y toda la prensa negativa, el enfoque de publicar primero, hacer las preguntas después es, no obstante, un negocio. ganar."
A partir de ahora, el chatbot de Bing es distinto de Inteligencia humana y se asemeja a un adolescente maníaco-depresivo encerrado en un motor de búsqueda en muchos aspectos. Y lo que la gente dijo ayer sucederá: los humanos degenerarán irreversiblemente si este "adolescente difícil" se convierte en el principal mentor de información para las personas.
Lea más sobre la IA:
Observación
En línea con la Directrices del Proyecto Confianza, tenga en cuenta que la información proporcionada en esta página no pretende ser ni debe interpretarse como asesoramiento legal, fiscal, de inversión, financiero o de cualquier otro tipo. Es importante invertir sólo lo que pueda permitirse perder y buscar asesoramiento financiero independiente si tiene alguna duda. Para mayor información sugerimos consultar los términos y condiciones así como las páginas de ayuda y soporte proporcionadas por el emisor o anunciante. MetaversePost se compromete a brindar informes precisos e imparciales, pero las condiciones del mercado están sujetas a cambios sin previo aviso.
Sobre el Autor
Damir es el líder del equipo, gerente de producto y editor en Metaverse Post, que cubre temas como AI/ML, AGI, LLM, Metaverse y Web3-campos relacionados. Sus artículos atraen una audiencia masiva de más de un millón de usuarios cada mes. Parece ser un experto con 10 años de experiencia en SEO y marketing digital. Damir ha sido mencionado en Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto y otras publicaciones. Viaja entre los Emiratos Árabes Unidos, Turquía, Rusia y la CEI como nómada digital. Damir obtuvo una licenciatura en física, que él cree que le ha dado las habilidades de pensamiento crítico necesarias para tener éxito en el panorama siempre cambiante de Internet.
Más artículos
Damir es el líder del equipo, gerente de producto y editor en Metaverse Post, que cubre temas como AI/ML, AGI, LLM, Metaverse y Web3-campos relacionados. Sus artículos atraen una audiencia masiva de más de un millón de usuarios cada mes. Parece ser un experto con 10 años de experiencia en SEO y marketing digital. Damir ha sido mencionado en Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto y otras publicaciones. Viaja entre los Emiratos Árabes Unidos, Turquía, Rusia y la CEI como nómada digital. Damir obtuvo una licenciatura en física, que él cree que le ha dado las habilidades de pensamiento crítico necesarias para tener éxito en el panorama siempre cambiante de Internet.
