Antrópico, Google, Microsoft y OpenAI Designe director ejecutivo para el Foro Modelo Frontier y presente un fondo de seguridad de IA de 10 millones de dólares
En Resumen
Antrópico, Google, Microsoft y OpenAI han presentado a Chris Meserole como el director ejecutivo inaugural del Frontier Model Forum.
Al mismo tiempo, han anunciado un importante Fondo de Seguridad de la IA, con más de 10 millones de dólares de financiación.
Antrópico, Google, Microsoft y OpenAI deben acudir son fijados Chris Meserole como director ejecutivo inaugural del Frontier Model Forum. El consorcio industrial se dedica a promover la progresión segura y ética de modelos de IA de vanguardia a nivel mundial. Al mismo tiempo, Forum introdujo un Fondo de Seguridad de IA de más de 10 millones de dólares. El objetivo del fondo es impulsar avances en la investigación de seguridad de la IA.
Directo Ejecutivo Chris Meserole aporta una amplia experiencia en política tecnológica y gobernanza de tecnologías emergentes. Antes de su nombramiento, se desempeñó como Director de la Iniciativa de Inteligencia Artificial y Tecnología Emergente en la Brookings Institution. En su nuevo cargo, Meserole liderará los esfuerzos para avanzar en la investigación de seguridad de la IA, identificar las mejores prácticas para el desarrollo seguro de modelos de IA, difundir conocimientos entre las partes interesadas y apoyar iniciativas que aprovechen la IA para abordar los desafíos sociales.
“Los modelos de IA más potentes son enormemente prometedores para la sociedad, pero para aprovechar su potencial necesitamos comprender mejor cómo desarrollarlos y evaluarlos de forma segura. Estoy entusiasmado de asumir ese desafío con el Foro Modelo Frontier”.
dijo Meserole.
El Fondo de Seguridad de la IA surgió en respuesta a la rápida progresión de las capacidades de la IA durante el año pasado, lo que requiere más investigación académica sobre la seguridad de la IA. Este fondo, una colaboración entre Frontier Model Forum y socios filantrópicos, brindará apoyo a investigadores independientes de todo el mundo afiliados a instituciones académicas, organizaciones de investigación y nuevas empresas.
Los principales contribuyentes a esta iniciativa son Anthropic, Google, Microsoft y OpenAI, junto con organizaciones filantrópicas como la Fundación Patrick J. McGovern, la Fundación David y Lucile Packard, Eric Schmidt y Jaan Tallinn. Sus contribuciones combinadas superan los $10 millones, con la anticipación de donaciones adicionales de otros socios.
A principios de este año, los miembros del Foro asumieron compromisos voluntarios en la Casa Blanca, incluida la posibilidad de que terceros descubran e informen sobre vulnerabilidades en sus sistemas de inteligencia artificial. El Fondo de Seguridad de la IA se alinea con este compromiso al ofrecer a las comunidades externas financiación para examinar los sistemas de IA de vanguardia. Una diversidad de voces y perspectivas enriquecerá el discurso global sobre la seguridad de la IA y ampliará la base general de conocimientos sobre la IA.
Impulsar la seguridad y la colaboración de la IA
El Fondo de Seguridad de la IA se concentra principalmente en impulsar el desarrollo de nuevas técnicas de evaluación y enfoques de equipos rojos para modelos de IA, con el objetivo de descubrir peligros potenciales. El equipo rojo es un proceso estructurado para examinar los sistemas de IA con el fin de identificar capacidades, resultados o amenazas a la infraestructura dañinos. Una mayor financiación en este ámbito podría elevar los estándares de seguridad y protección y proporcionar información valiosa para mitigar los desafíos que plantean los sistemas de IA.
Además, el Fondo buscará propuestas de investigación pronto y será administrado por el Meridian Institute con el asesoramiento de un comité asesor que incluirá expertos independientes, profesionales de la inteligencia artificial y expertos en concesión de subvenciones.
Se está llevando a cabo un proceso de divulgación responsable que permite a los laboratorios de Frontier AI compartir información sobre vulnerabilidades y capacidades peligrosas en los modelos de Frontier AI, junto con sus soluciones. Algunas empresas del Foro ya han identificado estos problemas en el contexto de la seguridad nacional, sirviendo como estudios de caso para guiar a otros laboratorios en la implementación de procedimientos de divulgación responsable.
De cara al futuro, el Frontier Model Forum planea establecer un Consejo Asesor en los próximos meses, encargado de dirigir sus prioridades estratégicas y representar diversos conocimientos y perspectivas. El Foro publicará actualizaciones periódicamente, incluida la incorporación de nuevos miembros. Al mismo tiempo, el Fondo de Seguridad de la IA publicará su primera convocatoria de propuestas y las subvenciones se otorgarán poco después. Además, el Foro seguirá publicando resultados técnicos a medida que estén disponibles.
El objetivo general del Foro es colaborar con Chris Meserole y ampliar el compromiso con la comunidad de investigación en general. Esto incluye asociaciones con organizaciones como Partnership on AI, MLCommons y otras ONG, entidades gubernamentales y organizaciones multinacionales líderes. Juntos, su objetivo es aprovechar el potencial de la IA y al mismo tiempo garantizar su desarrollo y utilización seguros y éticos.
| Relacionado: Cinco ideas clave sobre el futuro de la IA y los LLM de Dario Amodei, director ejecutivo de Anthropic |
Renuncia de responsabilidad:
En línea con la Directrices del Proyecto Confianza, tenga en cuenta que la información proporcionada en esta página no pretende ser ni debe interpretarse como asesoramiento legal, fiscal, de inversión, financiero o de cualquier otro tipo. Es importante invertir sólo lo que pueda permitirse perder y buscar asesoramiento financiero independiente si tiene alguna duda. Para mayor información sugerimos consultar los términos y condiciones así como las páginas de ayuda y soporte proporcionadas por el emisor o anunciante. MetaversePost se compromete a brindar informes precisos e imparciales, pero las condiciones del mercado están sujetas a cambios sin previo aviso.
Sobre la autora
Agne es una periodista que cubre las últimas tendencias y desarrollos en metaverso, IA y Web3 industrias para la Metaverse Post. Su pasión por contar historias la ha llevado a realizar numerosas entrevistas con expertos en estos campos, buscando siempre descubrir historias apasionantes y atrapantes. Agne tiene una licenciatura en literatura y tiene una amplia experiencia escribiendo sobre una amplia gama de temas, incluidos viajes, arte y cultura. También se ofreció como editora voluntaria de la organización de derechos de los animales, donde ayudó a crear conciencia sobre cuestiones de bienestar animal. Contáctala en [email protected].
Más artículos
Agne es una periodista que cubre las últimas tendencias y desarrollos en metaverso, IA y Web3 industrias para la Metaverse Post. Su pasión por contar historias la ha llevado a realizar numerosas entrevistas con expertos en estos campos, buscando siempre descubrir historias apasionantes y atrapantes. Agne tiene una licenciatura en literatura y tiene una amplia experiencia escribiendo sobre una amplia gama de temas, incluidos viajes, arte y cultura. También se ofreció como editora voluntaria de la organización de derechos de los animales, donde ayudó a crear conciencia sobre cuestiones de bienestar animal. Contáctala en [email protected].
