Expertos en tecnología firman una carta abierta pidiendo una pausa temporal en la capacitación de sistemas de inteligencia artificial más avanzados que GPT-4
En Resumen
Más de 1100 signatarios firmaron la carta abierta pidiendo una pausa en los experimentos gigantes de IA.
Los firmantes incluyen a Elon Musk, Steve Wozniak y Emad Mostaque, entre otros.
La carta abierta planteó preocupaciones sobre los sesgos de información por parte de AI, automatización del trabajo y el riesgo de la IA para la civilización humana.
Más de 1,100 signatarios, incluidos destacados expertos en tecnología, han firmado un carta abierta pidiendo una pausa de seis meses en el entrenamiento de sistemas de IA más avanzados que GPT-4.
La carta fue escrita por el Future of Life Institute, una organización sin fines de lucro que trabaja para reducir los riesgos existenciales y catastróficos globales que enfrenta la humanidad, particularmente el riesgo existencial de la inteligencia artificial avanzada.
Citando los Principios de IA de Asilomar ampliamente respaldados, que establecen que "La IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra, y debe planificarse y administrarse con el cuidado y los recursos correspondientes", la carta dice que el nivel de planificación y la gestión no está sucediendo.
La carta continúa diciendo que los laboratorios de IA están en una carrera “fuera de control” para desarrollar una inteligencia artificial cada vez más poderosa que nadie pueda entender, predecir o controlar de manera confiable. Como los sistemas de IA contemporáneos como GPT-4 podemos competir con los humanos sobre tareas generales, la carta plantea preocupaciones sobre los sesgos de información de la IA, la automatización del trabajo y el riesgo de perder el control de la civilización humana.
“Hacemos un llamado a todos los laboratorios de IA para que suspendan inmediatamente durante al menos 6 meses el entrenamiento de sistemas de IA más potentes que GPT-4. Esta pausa debe ser pública y verificable e incluir a todos los actores clave. Si esa pausa no puede implementarse rápidamente, los gobiernos deberían intervenir e instituir una moratoria”.
la carta dice.
La carta implora a los laboratorios de IA y a los expertos en tecnología que utilicen el período de pausa para desarrollar e implementar protocolos de seguridad para el diseño y desarrollo avanzado de IA que sean rigurosamente auditados y supervisados por expertos externos independientes.
Sin embargo, el periodista estadounidense Jeff Jarvis criticó la carta, decir que es un “primer espécimen de pánico moral”.
Algunas de las mentes líderes en tecnología y aprendizaje automático que firmaron la carta junto con los científicos investigadores de DeepMind y varios profesores universitarios de todo el mundo incluyen:
- Yoshua Bengio, Universidad de Montreal, Turing Laureate por desarrollar el aprendizaje profundo, director del Instituto de Algoritmos de Aprendizaje de Montreal
- Stuart Russell, Berkeley, profesor de Ciencias de la Computación, director del Centro de Sistemas Inteligentes y coautor del libro de texto estándar "Inteligencia artificial: un enfoque moderno"
- Elon Musk, CEO de SpaceX, Tesla y Twitter
- Emad Mostaque, director general, Stability AI
- Jaan Tallinn, cofundador de Skype, Centro para el estudio del riesgo existencial, Future of Life Institute
- Gary Marcus, Universidad de Nueva York, investigador de IA, profesor emérito
- Marc Rotenberg, Centro de IA y Política Digital (CAIDP), Presidente
En un carta reciente, Rotenberg escribió que el CAIDP presentará una queja ante la Comisión Federal de Comercio, solicitando una investigación de Open AI y ChatGPT, así como la prohibición de más lanzamientos comerciales del producto hasta que se establezcan salvaguardias.
OpenAI El CEO Sam Altman ha aceptado que "también necesitamos suficiente tiempo para que nuestras instituciones descubran qué hacer" y que la sociedad no está muy lejos de las herramientas de IA generativa "potencialmente aterradoras".
“Le estamos pidiendo a la FTC que “presione el botón de pausa” para que haya una oportunidad para que nuestras instituciones, nuestras leyes y nuestra sociedad se pongan al día. Necesitamos afirmar la agencia sobre las tecnologías que creamos antes de que perdamos el control”, afirma la carta del CAIDP.
En otros lugares, legisladores de la UE tienen como objetivo firmar un acuerdo con los países de la UE para fin de año para implementar las reglas de IA, aunque podría toparse con un cuello de botella a medida que se intensifiquen los debates sobre cómo se debe gobernar la IA.
Más información:
Observación
En línea con la Directrices del Proyecto Confianza, tenga en cuenta que la información proporcionada en esta página no pretende ser ni debe interpretarse como asesoramiento legal, fiscal, de inversión, financiero o de cualquier otro tipo. Es importante invertir sólo lo que pueda permitirse perder y buscar asesoramiento financiero independiente si tiene alguna duda. Para mayor información sugerimos consultar los términos y condiciones así como las páginas de ayuda y soporte proporcionadas por el emisor o anunciante. MetaversePost se compromete a brindar informes precisos e imparciales, pero las condiciones del mercado están sujetas a cambios sin previo aviso.
Sobre el Autor
Cindy es periodista en Metaverse Post, cubriendo temas relacionados con web3, NFT, metaverso e IA, con un enfoque en entrevistas con Web3 actores de la industria. Ha hablado con más de 30 ejecutivos de nivel C y contando, aportando sus valiosos conocimientos a los lectores. Originaria de Singapur, Cindy ahora reside en Tbilisi, Georgia. Tiene una licenciatura en Comunicaciones y Estudios de Medios de la Universidad de Australia del Sur y tiene una década de experiencia en periodismo y escritura. Ponte en contacto con ella a través de [email protected] con lanzamientos de prensa, anuncios y oportunidades de entrevistas.
Más artículos
Cindy es periodista en Metaverse Post, cubriendo temas relacionados con web3, NFT, metaverso e IA, con un enfoque en entrevistas con Web3 actores de la industria. Ha hablado con más de 30 ejecutivos de nivel C y contando, aportando sus valiosos conocimientos a los lectores. Originaria de Singapur, Cindy ahora reside en Tbilisi, Georgia. Tiene una licenciatura en Comunicaciones y Estudios de Medios de la Universidad de Australia del Sur y tiene una década de experiencia en periodismo y escritura. Ponte en contacto con ella a través de [email protected] con lanzamientos de prensa, anuncios y oportunidades de entrevistas.
