Una pausa de 6 meses en el entrenamiento de IA es una buena idea, pero puede no ser suficiente
En Resumen
La historia de la petición y la publicación del artículo de Yudkovsky han polarizado a la sociedad.
El dilema del prisionero y la teoría de juegos sugieren que se necesita una masa crítica de personas cuerdas en diferentes lugares para resolver tales problemas.
Sin embargo, esta idea tiene algunos peros, como la falta de conciencia, voluntad y agencia en la evolución digital.
La historia del Petición para dejar de desarrollar sistemas de IA más avanzados que GPT-4 ha polarizado notablemente a la sociedad. El lanzamiento de Yudkovsky. artículo pidiendo que se detenga el desarrollo futuro de GPT Los modelos echaron más leña al fuego, especialmente sus pasajes sobre los bombardeos de centros de datos.
Por lo que se puede observar en línea, parece haber muchos menos partidarios de la petición que opositores, quienes tienen tres argumentos principales:
| 1 | – El progreso no se puede detener. – La petición fue inventada por OpenAI competidores. – China no esperará. |
| 2 | – No hay que tenerle miedo a la IA sino a las personas. – GPT no tiene conciencia, voluntad, aspiraciones ni agencia, por lo que no hay nada que temer. – GPT-4 está increíblemente lejos de esclavizar al mundo porque no entiende nada, comete errores tontos y, en general, es bastante estúpido. – GPT-4 No podrá manejar el mundo porque no tiene brazos ni piernas. |
| 3 | – El tercer grupo no entiende cómo GPT-4 opera en primer lugar. |
No nos concentraremos en el tercer grupo porque su postura proviene de la ignorancia. Eso no quiere decir que todos los oponentes de la IA lo sepan todo sobre la IA; puedes encontrar muchas personas anti-IA que carecen de comprensión de la tecnología y lo que implica, aunque el mismo Yudkovsky es mucho más profundo en el tema de la IA, por lo que no se le puede acusar de ignorancia.
Echemos un vistazo al primer grupo de personas: aquellos que creen que el progreso no se puede detener. Ofrecen argumentos diferentes pero similares y, en general, esas personas no niegan las capacidades de la IA y las perspectivas que trae su adopción y creen que el desarrollo de la IA continuará sin importar qué.
La primera tesis sobre el progreso imparable es un eslogan que no tiene por qué ser cierto. La gente parece haber detenido algunos experimentos científicos, y muchos proyectos de investigación que alguna vez fueron aceptados ya no se consideran éticos, y otros similares nunca se permitirían en la actualidad. Sin embargo, ¿cuánto más progreso en el pasado fue detenido por la Inquisición y otras persecuciones religiosas, prohibiciones de libros y asesinatos de científicos en China (y otros países)? Eso es algo que nunca podremos comprender por completo debido al sesgo de supervivencia.
Otras tesis involucran el enfoque que se puede resumir en “si no somos nosotros, serán ellos”. Si bien esta línea de pensamiento puede ser más comprensible, tampoco parece ser la solución correcta. Es muy similar al dilema del prisionero en la teoría de juegos.
El segundo grupo de argumentos es el más interesante. Si bien personalmente estoy de acuerdo con esto hasta cierto punto, hay algunos peros que deben abordarse. Sí, la IA no tiene conciencia, voluntad, agencia, etc. Tampoco la COVID-19 y, sin embargo, causó estragos en todo el mundo. Algo no necesita tener un sentido de agencia y conciencia para volverse peligroso; un escenario en el que la vida en la tierra desaparece debido a un virus no es inimaginable. Una vez hecho su trabajo, puede poner las sillas sobre las mesas, apagar las luces y marcharse para siempre.
Continuando con la analogía biológica, hay un artículo maravilloso, "La sorprendente creatividad de la evolución digital: una colección de anécdotas de las comunidades de investigación de vida artificial y computación evolutiva", que proporciona muchos ejemplos de cuando los procesos van en una dirección inesperada. Incluso sin un proceso evolutivo, todo puede terminar en la generalización incorrecta "Generalización errónea de objetivos: por qué las especificaciones correctas no son suficientes para los objetivos correctos". Dar rienda suelta a un proceso de optimización puede salir mal se trata en “Riesgos de la optimización aprendida en sistemas avanzados de aprendizaje automático."
Al mismo tiempo, generalmente no consideramos los riesgos de uso malicioso de la IA y cualquier mal uso, que solo alimenta el argumento de que debemos tener miedo de las personas y no de la propia IA. Sin embargo, la verdad del asunto es que la IA puede ser mala incluso sin personas malintencionadas.
También estoy de acuerdo en que el modelo comete errores estúpidos, pero también los humanos, y aun así sabemos que pueden causar daño. Si bien los modelos cometen muchos errores, también pueden resolver muchos problemas asombrosos, interesantes y complejos que la persona promedio no puede resolver. Del famoso trabajo “Chispas de inteligencia general artificial: primeros experimentos con GPT-4”, Me sorprendió que la IA pudiera resolver, aunque no siempre correctamente, problemas de Fermi, problemas matemáticos bastante complejos. Su teoría de la mente y "algo así como la capacidad de comprender" las acciones de los demás también son muy impresionantes. Todas estas cosas apuntan hacia la inteligencia de la IA; existentes, pero no del todo parecidas a las nuestras.
Eliminar al menos algunos de los errores que cometen los modelos de IA es generalmente factible, por lo que su inteligencia solo puede crecer. Todo lo que necesita hacer es agregar un módulo para cálculos precisos, una base de hechos y validación con otro modelo.
Lo más importante de toda esta historia es la velocidad del desarrollo de la IA. GPT modelos han crecido enormemente a un ritmo vertiginoso. Ahora hay ChatGPT plugins disponible, puedes usar GPT modelos para escribir código, las API están disponibles para el gran público y puede utilizar herramientas externas sin ninguna formación previa.
GPT-4, por supuesto, no conquistará el mundo, pero puede sacudir mucho la economía. GPT-5, y la futura iteración del modelo, pueden no estar muy lejos y probablemente vendrán con habilidades mucho más fuertes. Y seamos realistas, no podemos esperar comprender los modelos que aún no existen; ni siquiera nos hemos acercado a comprender los modelos que ya existen. En este sentido, un descanso de seis meses puede ser una buena idea, pero simplemente puede no ser suficiente.
Y dado que el carrera de IA Ha comenzado, no hay tiempo para aprender.
En general, en vista de todo esto, también firmé la petición. Aunque no creo que sirva de nada.
Leer más temas relacionados:
Observación
En línea con la Directrices del Proyecto Confianza, tenga en cuenta que la información proporcionada en esta página no pretende ser ni debe interpretarse como asesoramiento legal, fiscal, de inversión, financiero o de cualquier otro tipo. Es importante invertir sólo lo que pueda permitirse perder y buscar asesoramiento financiero independiente si tiene alguna duda. Para mayor información sugerimos consultar los términos y condiciones así como las páginas de ayuda y soporte proporcionadas por el emisor o anunciante. MetaversePost se compromete a brindar informes precisos e imparciales, pero las condiciones del mercado están sujetas a cambios sin previo aviso.
Sobre el Autor
Damir es el líder del equipo, gerente de producto y editor en Metaverse Post, que cubre temas como AI/ML, AGI, LLM, Metaverse y Web3-campos relacionados. Sus artículos atraen una audiencia masiva de más de un millón de usuarios cada mes. Parece ser un experto con 10 años de experiencia en SEO y marketing digital. Damir ha sido mencionado en Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto y otras publicaciones. Viaja entre los Emiratos Árabes Unidos, Turquía, Rusia y la CEI como nómada digital. Damir obtuvo una licenciatura en física, que él cree que le ha dado las habilidades de pensamiento crítico necesarias para tener éxito en el panorama siempre cambiante de Internet.
Más artículos
Damir es el líder del equipo, gerente de producto y editor en Metaverse Post, que cubre temas como AI/ML, AGI, LLM, Metaverse y Web3-campos relacionados. Sus artículos atraen una audiencia masiva de más de un millón de usuarios cada mes. Parece ser un experto con 10 años de experiencia en SEO y marketing digital. Damir ha sido mencionado en Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto y otras publicaciones. Viaja entre los Emiratos Árabes Unidos, Turquía, Rusia y la CEI como nómada digital. Damir obtuvo una licenciatura en física, que él cree que le ha dado las habilidades de pensamiento crítico necesarias para tener éxito en el panorama siempre cambiante de Internet.
