Los líderes de IA advierten sobre riesgos crecientes y preocupaciones éticas ante los rápidos avances
En una declaración política reciente, figuras prominentes en el campo de la IA, incluidos Bengio, Hinton, Russell, Harari y Kahneman, han hecho sonar la alarma sobre el rápido progreso y los crecientes riesgos sociales asociados con la IA.
La IA se está desarrollando rápidamente. GPT-2 Hace cuatro años no podía contar de 0 a 100, pero los modelos modernos pueden escribir códigos, crear imágenes sorprendentes y ofrecer orientación intelectual. Y como estamos en una carrera, el progreso puede acelerarse aún más. Además, la IA avanza más rápidamente, por ejemplo, ayudando en la programación de nuevos sistemas y la recopilación de datos para su entrenamiento.
Una vez que el progreso alcance niveles humanos, no hay razón para pensar que se desacelerará o se detendrá. En determinadas regiones, los sistemas artificiales ya han superado a los humanos en este sentido, mostrando capacidades como un procesamiento más rápido velocidades, mayores capacidades de procesamiento de datos y escalabilidad a gran escala. Las empresas poseen los medios financieros para implementar programas de formación que superan con creces el límite actual.
Los autores creen que hay muchas posibilidades de que surja un mejor generalista de la IA en los próximos diez años aproximadamente. superando las capacidades humanas en muchos ámbitos importantes.
¿Qué va a pasar a continuación? Todas las vidas pueden mejorar si se gestionan y distribuyen adecuadamente. La opción mal elegida entraña riesgos importantes para los que no estamos preparados. En lugar de asignarse a la seguridad y la prevención de daños, se están utilizando importantes recursos para construir sistemas de inteligencia artificial que son cada vez más potentes. Esto necesita cambiar; La adquisición de habilidades por sí sola es insuficiente. Y este proceso está tardando más de lo esperado. Necesitamos planificar riesgos mayores antes de que surjan, anticipando la escalada de las amenazas actuales y la aparición de otras nuevas. No disponemos del mismo tiempo para la IA, ya que está tardando décadas en ser aceptada en relación con cambio climático.
Existen numerosos riesgos a nivel social, incluido un aumento de la injusticia, un deterioro de la estabilidad y un deterioro de la percepción común de la realidad. Aquí, los terroristas y criminales participan en una amplia actividad. La IA podría concentrarse en manos de unos pocos actores, lo que llevaría a una mayor desigualdad global, facilitaría la guerra automatizada, una manipulación masiva adaptada a cada individuo y una vigilancia ubicua.
como autónomo La IA se vuelve más sofisticada y capaz de planificar, actuar en el mundo y lograr sus objetivos, estos riesgos sólo aumentarán. Estos objetivos podrían no ser lo mejor para nosotros y, en el caso de malos actores, incluso podrían ser perjudiciales. Actualmente no está claro cómo resolver el problema de la alineación de la IA, que implica hacer coincidir el comportamiento de la IA con nuestros intrincados objetivos. Además, es muy sencillo pasar por alto las precauciones de seguridad cuando se corre con la intención de ganar.
El software normal es difícil de controlar para los humanos, y mucho menos los sofisticados sistemas de inteligencia artificial que se están volviendo cada vez más hábiles en ingeniería social, piratería informática, engaño y planificación estratégica. Esto es algo que los sistemas autónomos de IA pueden aprender de las personas o crear por sí mismos.
Estos sistemas tienen la capacidad de crear coaliciones con individuos y otros sistemas, ganarse la confianza, asegurar financiación e influir en los tomadores de decisiones. Al igual que un gusano, son capaces de autorreplicarse en toda la red. Ya se escriben enormes cantidades de código con la ayuda de asistentes de IA; en el futuro, los sistemas pueden incorporar exploits en numerosos sistemas cruciales. Los sistemas de IA tienen la capacidad de utilizar o amenazar con armas biológicas o autónomas en combate abierto. Esto es simplemente una continuación de Los movimientos actuales hacia la investigación biológica, la inteligencia artificial y la automatización de la guerra.. A las personas puede resultarles demasiado difícil intervenir y resistirse.
En muchos casos, estamos dispuestos a darles las riendas sin que ellos tengan que pedírnoslo. Muchas personas y empresas están dispuestas a implementar estos sistemas ellos mismos en un entorno competitivo por temor a quedarse atrás con respecto a la competencia.
El documento completo se puede encontrar esta página.
Observación
En línea con la Directrices del Proyecto Confianza, tenga en cuenta que la información proporcionada en esta página no pretende ser ni debe interpretarse como asesoramiento legal, fiscal, de inversión, financiero o de cualquier otro tipo. Es importante invertir sólo lo que pueda permitirse perder y buscar asesoramiento financiero independiente si tiene alguna duda. Para mayor información sugerimos consultar los términos y condiciones así como las páginas de ayuda y soporte proporcionadas por el emisor o anunciante. MetaversePost se compromete a brindar informes precisos e imparciales, pero las condiciones del mercado están sujetas a cambios sin previo aviso.
Sobre el Autor
Damir es el líder del equipo, gerente de producto y editor en Metaverse Post, que cubre temas como AI/ML, AGI, LLM, Metaverse y Web3-campos relacionados. Sus artículos atraen una audiencia masiva de más de un millón de usuarios cada mes. Parece ser un experto con 10 años de experiencia en SEO y marketing digital. Damir ha sido mencionado en Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto y otras publicaciones. Viaja entre los Emiratos Árabes Unidos, Turquía, Rusia y la CEI como nómada digital. Damir obtuvo una licenciatura en física, que él cree que le ha dado las habilidades de pensamiento crítico necesarias para tener éxito en el panorama siempre cambiante de Internet.
Más artículos
Damir es el líder del equipo, gerente de producto y editor en Metaverse Post, que cubre temas como AI/ML, AGI, LLM, Metaverse y Web3-campos relacionados. Sus artículos atraen una audiencia masiva de más de un millón de usuarios cada mes. Parece ser un experto con 10 años de experiencia en SEO y marketing digital. Damir ha sido mencionado en Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto y otras publicaciones. Viaja entre los Emiratos Árabes Unidos, Turquía, Rusia y la CEI como nómada digital. Damir obtuvo una licenciatura en física, que él cree que le ha dado las habilidades de pensamiento crítico necesarias para tener éxito en el panorama siempre cambiante de Internet.
