Expertos en IA y figuras públicas alertan sobre el riesgo de extinción de la IA
En Resumen
Destacados expertos en IA y figuras influyentes expresan su opinión compartida preocupaciones sobre los riesgos asociados con la IA.
A pesar del progreso significativo en IA, muchos desafíos relacionados con el riesgo de IA siguen sin resolverse.
Destacados expertos en IA y figuras públicas han emitido un comunicado advirtiendo que la IA podría representar una amenaza para la supervivencia de la humanidad, comparable o incluso mayor que los riesgos de pandemias y guerras nucleares. Los 350 signatarios argumentan que la IA podría tener consecuencias imprevistas y catastróficas, como liberar armas autónomas, alterar los sistemas sociales y económicos o crear agentes superinteligentes que podrían burlar y dominar a los humanos.
Hacen un llamado a los formuladores de políticas para que tomen estos riesgos en serio y adopten medidas para garantizar un desarrollo de IA seguro y beneficioso. El ambiental está firmado por algunas de las figuras líderes en investigación y desarrollo de IA, como OpenAI El CEO Sam Altman, el cofundador de Skype Jaan Tallinn, el CEO de DeepMind Demis Hassabis y el científico informático de IA Geoffrey Hinton, así como personalidades públicas influyentes, como el músico Grimes y el podcaster Sam Harris.
Entre los firmantes se encontraban los ganadores del Premio Turing 2018 por sus contribuciones al aprendizaje profundo: Geoffrey Hinton y Yoshua Bengio. A ellos se unieron profesores de prestigiosas universidades como Harvard y la Universidad de Tsinghua en China, así como Max Tegmark del MIT.
“Mitigar el riesgo de extinción de la IA debería ser una prioridad mundial junto con otros riesgos a escala social, como las pandemias y la guerra nuclear”.
afirma la carta publicada por CAIS.
El Centro para la Seguridad de la IA (CAIS), una organización sin fines de lucro con sede en San Francisco, tiene como objetivo abordar las preocupaciones de seguridad relacionadas con la inteligencia artificial. Si bien reconoce los beneficios potenciales de la IA, CAIS enfatiza la necesidad de desarrollarla y usarla de manera segura. A pesar de los avances significativos en la IA, numerosos desafíos fundamentales en la seguridad de la IA siguen sin resolverse, según cree la empresa. Según su sitio web, la misión de CAIS es mitigar los riesgos realizando investigaciones de seguridad, fomentando una comunidad de investigadores de seguridad de IA y defendiendo los estándares de seguridad.
“Hay muchos “riesgos importantes y urgentes de la IA”, no solo el riesgo de extinción; por ejemplo, sesgo sistémico, información errónea, uso malicioso, ciberataques y armamento. Todos estos son riesgos importantes que deben abordarse. Las sociedades pueden gestionar múltiples riesgos a la vez; no es "o esto/o" sino "sí/y". Desde la perspectiva de la gestión de riesgos, así como sería imprudente priorizar exclusivamente los daños presentes, también sería imprudente ignorarlos”.
Dan Hendrycks, director de CAIS escribí en Twitter.
En marzo, más de 1,100 expertos en tecnología firmado una carta abierta exigiendo una suspensión de seis meses del entrenamiento de sistemas de IA superando GPT-4. Los legisladores europeos también recientemente aprobado un proyecto de ley más estricto, conocido como la Ley de IA, que regula las herramientas de IA como ChatGPT. La ley incluye requisitos para controles de seguridad, gobierno de datos y mitigación de riesgos para modelos fundamentales de IA y prohíbe prácticas como técnicas de manipulación y ciertos usos de la biometría.
Más información:
- OpenAI presenta su último enfoque para garantizar la seguridad de la IA
- ¿Google va a anunciar un generador de texto a avatar para jugadores?
- CodeWhisperer de Amazon brinda a los desarrolladores la ventaja que necesitan en el campo de la IA
- Vitalik Buterin y el director de MIRI, Nate Soares, profundizan en los peligros de la IA
Observación
En línea con la Directrices del Proyecto Confianza, tenga en cuenta que la información proporcionada en esta página no pretende ser ni debe interpretarse como asesoramiento legal, fiscal, de inversión, financiero o de cualquier otro tipo. Es importante invertir sólo lo que pueda permitirse perder y buscar asesoramiento financiero independiente si tiene alguna duda. Para mayor información sugerimos consultar los términos y condiciones así como las páginas de ayuda y soporte proporcionadas por el emisor o anunciante. MetaversePost se compromete a brindar informes precisos e imparciales, pero las condiciones del mercado están sujetas a cambios sin previo aviso.
Sobre el Autor
Agne es una periodista que cubre las últimas tendencias y desarrollos en metaverso, IA y Web3 industrias para la Metaverse Post. Su pasión por contar historias la ha llevado a realizar numerosas entrevistas con expertos en estos campos, buscando siempre descubrir historias apasionantes y atrapantes. Agne tiene una licenciatura en literatura y tiene una amplia experiencia escribiendo sobre una amplia gama de temas, incluidos viajes, arte y cultura. También se ofreció como editora voluntaria de la organización de derechos de los animales, donde ayudó a crear conciencia sobre cuestiones de bienestar animal. Contáctala en [email protected].
Más artículos
Agne es una periodista que cubre las últimas tendencias y desarrollos en metaverso, IA y Web3 industrias para la Metaverse Post. Su pasión por contar historias la ha llevado a realizar numerosas entrevistas con expertos en estos campos, buscando siempre descubrir historias apasionantes y atrapantes. Agne tiene una licenciatura en literatura y tiene una amplia experiencia escribiendo sobre una amplia gama de temas, incluidos viajes, arte y cultura. También se ofreció como editora voluntaria de la organización de derechos de los animales, donde ayudó a crear conciencia sobre cuestiones de bienestar animal. Contáctala en [email protected].
