OpenAI Da la alarma sobre la superinteligencia y el potencial de la IA para superar las capacidades humanas en la próxima década
En Resumen
OpenAI hace un llamado a la regulación de la superinteligencia, destacando la necesidad de gobernanza a la luz de los rápidos avances de la IA.
Se prevé que los sistemas de IA superen la experiencia humana y productividad corporativa en una década, de acuerdo con OpenAI.
OpenAI enfatiza la importancia de la supervisión pública y el control democrático de los sistemas de IA potentes.
OpenAI, el creador de ChatGPT, ha hecho un llamamiento que invita a la reflexión a regulación de superinteligencia, trazando paralelismos con la regulación de la energía nuclear. En una reciente del blog, OpenAI destacó las posibles implicaciones de los rápidos avances de la IA y enfatizó la necesidad apremiante de gobernanza en este panorama en evolución. La empresa afirmó que los sistemas de inteligencia artificial superarían a los expertos y a las corporaciones más grandes en productividad y habilidades dentro de diez años.
"También debemos mitigar los riesgos de la tecnología de inteligencia artificial actual, pero la superinteligencia requerirá un tratamiento y coordinación especiales", Sam Altman, Greg Brockman e Ilya Sutskever de OpenAI enfatizado.
La superinteligencia describe una entidad que excede la inteligencia humana en general o algunos aspectos específicos de la inteligencia. Según los autores, la superinteligencia de la IA tendrá un nivel de poder sin precedentes, que abarcará aspectos tanto positivos como negativos.
El desarrollo y los riesgos de la superinteligencia inevitable
OpenAI ha identificado tres ideas importantes que desempeñan un papel fundamental en el desarrollo exitoso de la superinteligencia. Estos incluyen la coordinación entre los principales esfuerzos de desarrollo, el establecimiento de una autoridad internacional similar a la Agencia Internacional de Energía Atómica (OIEA) y el desarrollo de capacidades técnicas para la seguridad.
Aunque la OpenAI reconoce que los sistemas de IA conllevan riesgos, estos riesgos son comparables a los asociados con otras tecnologías relacionadas con Internet. Altman, Brockman y Sutskever también expresan su confianza en que los enfoques actuales de la sociedad para gestionar estos riesgos son adecuados. Sin embargo, la principal preocupación son los sistemas futuros que tendrán una potencia sin precedentes.
“Por el contrario, los sistemas que nos preocupan tendrán un poder más allá de cualquier tecnología creada hasta ahora, y debemos tener cuidado de no diluir el enfoque en ellos aplicando estándares similares a la tecnología muy por debajo de esta barra”, se lee en la publicación del blog.
Los autores sostienen que los sistemas de IA potentes necesitan supervisión pública y control democrático. También explican por qué están construyendo esta tecnología en OpenAI: para crear un mundo mejor y evitar los riesgos de detenerlo. La IA ayuda en diversas áreas, incluidas la educación, la creatividad y la productividad, así como en el crecimiento económico general.
OpenAI piensa que es difícil y arriesgado detener la superinteligencia de ser creado. La superinteligencia tiene beneficios considerables, cada año es más barata, más personas trabajan en ella y es parte del camino tecnológico de la empresa.
Ilman Shazhaev, emprendedor tecnológico en IA y cofundador de Laboratorios Farcana, compartió algunos comentarios con respecto a la noticia. Las proyecciones indican que, si no se gestiona adecuadamente, la superinteligencia puede ser uno de los inventos humanos más destructivos de todos los tiempos. Sin embargo, las conversaciones sobre el despliegue de la tecnología siguen generando divisiones, ya que aún no se ha desarrollado. Presionar para detener el desarrollo basado en el miedo a las predicciones puede privar a la humanidad de las oportunidades que la nueva tecnología podría tener reservadas.
"OpenAIEl enfoque de gobernanza descentralizada de puede ayudar a mantener su seguridad general. Con las regulaciones adecuadas, el programa podría cerrarse en caso de que representa una amenaza. Si se implementan estas salvaguardas, entonces la superinteligencia puede ser una innovación que vale la pena explorar”, dijo Shazhaev.
Al discutir abiertamente sus puntos de vista sobre la superinteligencia de la IA y las medidas regulatorias propuestas, OpenAI parece fomentar debates informados e invitar a diversas perspectivas.
Sam Altman cree firmemente en la disponibilidad generalizada de la IA para el público. Reconociendo que es imposible anticipar todos los problemas de antemano, aboga por abordarlos lo antes posible. Sin embargo, Altman también enfatiza la importancia de auditorías independientes para sistemas como ChatGPT antes del lanzamiento. Reconoce además la posibilidad de implementar medidas como limitar el ritmo de creación de nuevos modelos o establecer un comité para evaluar la seguridad de los modelos de IA antes del lanzamiento al mercado. En particular, Altman predice que la cantidad de inteligencia en el universo se duplicará cada 18 meses.
Más información:
Observación
En línea con la Directrices del Proyecto Confianza, tenga en cuenta que la información proporcionada en esta página no pretende ser ni debe interpretarse como asesoramiento legal, fiscal, de inversión, financiero o de cualquier otro tipo. Es importante invertir sólo lo que pueda permitirse perder y buscar asesoramiento financiero independiente si tiene alguna duda. Para mayor información sugerimos consultar los términos y condiciones así como las páginas de ayuda y soporte proporcionadas por el emisor o anunciante. MetaversePost se compromete a brindar informes precisos e imparciales, pero las condiciones del mercado están sujetas a cambios sin previo aviso.
Sobre el Autor
Agne es una periodista que cubre las últimas tendencias y desarrollos en metaverso, IA y Web3 industrias para la Metaverse Post. Su pasión por contar historias la ha llevado a realizar numerosas entrevistas con expertos en estos campos, buscando siempre descubrir historias apasionantes y atrapantes. Agne tiene una licenciatura en literatura y tiene una amplia experiencia escribiendo sobre una amplia gama de temas, incluidos viajes, arte y cultura. También se ofreció como editora voluntaria de la organización de derechos de los animales, donde ayudó a crear conciencia sobre cuestiones de bienestar animal. Contáctala en [email protected].
Más artículos
Agne es una periodista que cubre las últimas tendencias y desarrollos en metaverso, IA y Web3 industrias para la Metaverse Post. Su pasión por contar historias la ha llevado a realizar numerosas entrevistas con expertos en estos campos, buscando siempre descubrir historias apasionantes y atrapantes. Agne tiene una licenciatura en literatura y tiene una amplia experiencia escribiendo sobre una amplia gama de temas, incluidos viajes, arte y cultura. También se ofreció como editora voluntaria de la organización de derechos de los animales, donde ayudó a crear conciencia sobre cuestiones de bienestar animal. Contáctala en [email protected].
