Dario Amodei advierte sobre la brecha de gobernanza a medida que los avances en IA superan las políticas, e insta a implementar reformas económicas y de seguridad vinculantes.
En Resumen
El director ejecutivo de Anthropic, Dario Amodei, describe los riesgos de la IA y propone una regulación más estricta, salvaguardias económicas y una coordinación global para gestionar el rápido avance de la IA.
Dario Amodei, director ejecutivo de AntrópicoEn un nuevo ensayo, afirmó que la IA avanza mucho más rápido de lo que los sistemas políticos pueden responder, y argumentó que los responsables políticos deben adaptarse rápidamente a medida que los modelos de vanguardia comienzan a transformar la seguridad, la economía y las instituciones públicas. Comparó la brecha entre el desarrollo de la IA y la legislación con el contraste entre los veloces hobbits y el lento Bárbol, señalando que esta discrepancia se ha vuelto cada vez más urgente a medida que los modelos mejoran en programación, ciencia y otros campos del conocimiento.
El empresario hizo hincapié en que las políticas anteriores se limitaban principalmente a medidas de transparencia, controles de exportación y recopilación de datos, dado que los riesgos aún eran incipientes e inciertos. Afirmó que la situación ha cambiado, señalando las capacidades de los modelos de vanguardia que han revelado graves problemas de ciberseguridad y han demostrado que los sistemas avanzados de IA pueden afectar la estabilidad financiera, la infraestructura crítica y la seguridad nacional. Sostuvo que la siguiente etapa de las políticas debería ir más allá de la mera divulgación y avanzar hacia normas vinculantes para los modelos de alto riesgo.
Regulación, disrupción económica y prioridades políticas emergentes en la era de la IA.
En materia de regulación y seguridad pública, Dario Amodei propuso un marco similar al de la supervisión aeronáutica, con pruebas obligatorias por parte de terceros para los modelos avanzados antes de su implementación. Indicó que los modelos que superen un determinado umbral de capacidad de procesamiento deberían evaluarse para detectar riesgos en ciberseguridad, uso indebido de sistemas biológicos, pérdida de control e investigación automatizada que pudiera amplificar dichas amenazas. Asimismo, señaló que los gobiernos deberían poder retrasar o bloquear la implementación si consideran que estos riesgos son inaceptables, al tiempo que exigen prácticas de seguridad rigurosas, simulacros de ataque periódicos, pruebas de penetración e informes de incidentes inmediatos por parte de los desarrolladores de IA.
El ensayo también se centró en la disrupción económica. Amodei afirmó que la IA potente podría acelerar el crecimiento, pero también desplazar a un gran número de trabajadores al sustituir la mano de obra cognitiva humana con mayor rapidez que las tecnologías anteriores. Advirtió que esto podría generar un mundo de crecimiento muy rápido junto con una desigualdad persistente, lo que dificultaría garantizar una distribución equitativa de los beneficios. Indicó que las políticas deberían centrarse en la evaluación, el apoyo a la fuerza laboral, el seguro salarial, la reconversión profesional y, posiblemente, el apoyo a los ingresos a largo plazo si la demanda laboral disminuye significativamente.
En otra sección, el director ejecutivo de Anthropic afirmó que la IA podría acelerar el progreso científico, especialmente en biomedicina, pero que los sistemas regulatorios actuales podrían ser demasiado lentos para gestionar una oleada de innovación asistida por IA. Propuso preparar a agencias de aprobación como la FDA y la EMA para que acepten la simulación basada en IA, los grupos de control sintéticos y otros métodos que podrían acortar el desarrollo de fármacos sin comprometer la seguridad.
Dario Amodei también advirtió que la IA podría incrementar el poder estatal y generar nuevos riesgos para las libertades civiles, como armas autónomas, vigilancia masiva y el uso indebido de la IA por parte del gobierno. Instó a exigir normas de rendición de cuentas más estrictas, limitaciones al uso interno de armas totalmente autónomas y una mayor protección de la privacidad.
Finalmente, afirmó que las democracias deberían colaborar en las cadenas de suministro de IA, las normas de seguridad y la coordinación económica, argumentando que la IA se está convirtiendo en una tecnología estratégica comparable a la energía nuclear por su importancia geopolítica.
Renuncia de responsabilidad:
En línea con la Directrices del Proyecto Confianza, tenga en cuenta que la información proporcionada en esta página no pretende ser ni debe interpretarse como asesoramiento legal, fiscal, de inversión, financiero o de cualquier otro tipo. Es importante invertir sólo lo que pueda permitirse perder y buscar asesoramiento financiero independiente si tiene alguna duda. Para mayor información sugerimos consultar los términos y condiciones así como las páginas de ayuda y soporte proporcionadas por el emisor o anunciante. MetaversePost se compromete a brindar informes precisos e imparciales, pero las condiciones del mercado están sujetas a cambios sin previo aviso.
Sobre la autora
Alisa, una dedicada periodista del MPost, se especializa en criptomonedas, IA, inversiones y el amplio campo de Web3. Con buen ojo para las tendencias y tecnologías emergentes, ofrece una cobertura completa para informar e involucrar a los lectores en el panorama en constante evolución de las finanzas digitales.
Más artículos
Alisa, una dedicada periodista del MPost, se especializa en criptomonedas, IA, inversiones y el amplio campo de Web3. Con buen ojo para las tendencias y tecnologías emergentes, ofrece una cobertura completa para informar e involucrar a los lectores en el panorama en constante evolución de las finanzas digitales.
