OpenAIEl equipo de superalineación presenta un método innovador para la supervisión del sistema de IA
En Resumen
OpenAIEl equipo de Superalignment publicó el nuevo artículo de investigación que promete una solución potencial para supervisar sistemas de IA altamente avanzados.
La organización de investigación de inteligencia artificial (IA) OpenAI, equipo de superalineación publicó un nuevo artículo de investigación que presenta el concepto de utilizar modelos de IA más pequeños para supervisar los más avanzados. Este enfoque demuestra resultados impresionantes y promete una posible simplificación de la supervisión de sistemas de IA altamente avanzados para las personas en el futuro.
En el aprendizaje automático convencional, los humanos supervisan sistemas de IA menos inteligentes que ellos. Sin embargo, con la IA superinteligente, los humanos necesitarán supervisar sistemas más inteligentes que ellos mismos.
En la búsqueda de guiar y controlar sistemas de IA superinteligentes, los investigadores propusieron un método en el que un modelo de IA menos potente podría supervisar uno más potente.
Por lo general, es poco probable que un modelo fuerte supere a un supervisor débil, pero los modelos fuertes previamente entrenados poseen capacidades excelentes. Los investigadores aplicaron este enfoque supervisando GPT-4 con un GPT-2-modelo de nivel. El modelo resultante normalmente se realiza entre GPT-3 y GPT-3.5, lo que indica que puede lograr sólidas capacidades de IA con una supervisión más débil.
En general, los resultados sugieren que, si bien la supervisión humana básica podría no adaptarse bien a los modelos superinteligentes, existen formas de mejorar significativamente el aprendizaje de estos modelos de supervisores menos capaces.
Los investigadores creen que su enfoque captura dificultades esenciales para alinear futuros modelos sobrehumanos, permitiéndoles avanzar.
Además de anunciar los resultados de la investigación, OpenAI alentó a estudiantes, académicos y otros investigadores a contribuir al amplio campo de la alineación de la IA sobrehumana. La empresa lanzó un programa de subvenciones de 10 millones de dólares centrado en este problema.
OpenAI Avanza el panorama en evolución de la IA
Según la OpenAI, en la próxima década podrían desarrollarse modelos de IA superinteligentes que superen las capacidades humanas. Sin embargo, gestionar y dirigir estos sofisticados sistemas de IA plantea un desafío considerable para las personas.
Los métodos de alineación existentes, como el aprendizaje reforzado a partir de la retroalimentación humana (RLHF), dependen de la guía humana. Sin embargo, los futuros sistemas de IA serán capaces de adoptar comportamientos extremadamente complejos y creativos que dificultarán que los humanos los supervisen de manera confiable. Por lo tanto, la empresa está explorando activamente soluciones innovadoras para abordar el panorama cambiante del desarrollo de la IA.
Recientemente, OpenAI supuestamente anunciado el lanzamiento del último desarrollo de la compañía: el GPT-4.5 modelo. La supuesta captura de pantalla sugería capacidades avanzadas que abarcan lenguaje, audio, visión, video, 3D, razonamiento complejo y comprensión entre modelos. Sin embargo, Sam Altman, el fundador de OpenAI, negó los rumores.
Aviso
En línea con la Directrices del Proyecto Confianza, tenga en cuenta que la información proporcionada en esta página no pretende ser ni debe interpretarse como asesoramiento legal, fiscal, de inversión, financiero o de cualquier otro tipo. Es importante invertir sólo lo que pueda permitirse perder y buscar asesoramiento financiero independiente si tiene alguna duda. Para mayor información sugerimos consultar los términos y condiciones así como las páginas de ayuda y soporte proporcionadas por el emisor o anunciante. MetaversePost se compromete a brindar informes precisos e imparciales, pero las condiciones del mercado están sujetas a cambios sin previo aviso.
Sobre el Autor
Alisa, una dedicada periodista del MPost, se especializa en criptomonedas, pruebas de conocimiento cero, inversiones y el amplio ámbito de Web3. Con buen ojo para las tendencias y tecnologías emergentes, ofrece una cobertura completa para informar e involucrar a los lectores en el panorama en constante evolución de las finanzas digitales.
Más artículos
Alisa, una dedicada periodista del MPost, se especializa en criptomonedas, pruebas de conocimiento cero, inversiones y el amplio ámbito de Web3. Con buen ojo para las tendencias y tecnologías emergentes, ofrece una cobertura completa para informar e involucrar a los lectores en el panorama en constante evolución de las finanzas digitales.
