OpenAI presenta su último enfoque para garantizar la seguridad de la IA
En Resumen
OpenAI ha publicado una publicación de blog que describe su enfoque mejorado de la seguridad luego de las preocupaciones recientes con respecto a la seguridad y la privacidad y las investigaciones.
La empresa se compromete a realizar pruebas rigurosas, contratar expertos externos para recibir comentarios y trabajar con los gobiernos para determinar la mejor enfoque para las regulaciones de IA.
Después de enfrentar preocupaciones con respecto a la seguridad y la privacidad y seguir investigaciones recientes en algunos países europeos, OpenAI tiene liberado una publicación de blog que describe el enfoque mejorado de la empresa en materia de seguridad.
OpenAI se compromete a realizar pruebas rigurosas, contratar expertos externos para obtener comentarios antes de lanzar cualquier sistema nuevo y trabajar con los gobiernos para determinar el mejor enfoque para las regulaciones de IA.
Anteriormente, la empresa pasó más de seis meses trabajando en la seguridad y alineación de su último modelo, GPT-4, antes de publicarlo públicamente. Para garantizar la seguridad de su modelo de lenguaje más nuevo, GPT-4, OpenAI contratado un equipo de más de 50 expertos: especialistas en seguridad, ética y políticas de IA, incluidos investigadores e ingenieros.
“Cricialmente, creemos que la sociedad debe tener tiempo para actualizarse y adaptarse a una IA cada vez más capaz, y que todos los que se ven afectados por esta tecnología deben tener una voz importante en cómo se desarrolla la IA”.
OpenAI escribió.
OpenAIEnfoque en la seguridad y privacidad de los niños
Italia prohibido ChatGPT, citando OpenAILa falla de verificar la edad de sus usuarios, a pesar de estar diseñado para personas mayores de 13 años, es una de las razones. Un enfoque crítico de los esfuerzos de seguridad de la compañía se ha desplazado hacia la protección de los niños mediante la implementación de opciones de verificación de edad, que OpenAI ahora está explorando, especialmente porque las herramientas de IA están destinadas a personas mayores de 18 años o mayores de 13 años con la aprobación de los padres.
La empresa prohíbe estrictamente la generación de contenidos que inciten al odio, acosen, sean violentos o para adultos, y GPT-4 ya tiene un 82% menos de probabilidad de responder a solicitudes de contenido no permitido en comparación con GPT-3.5.
OpenAI ha establecido un sistema sólido para monitorear el abuso y espera hacer GPT-4 disponible para más personas con el tiempo. La compañía trabaja con desarrolladores en mitigaciones de seguridad personalizadas, como la Khan Academy, una organización sin fines de lucro, y está trabajando en características que permitan estándares más estrictos para los resultados de los modelos.
Mejorar la privacidad es otro aspecto de la seguridad OpenAI se está enfocando, especialmente después de la reciente violaciones de datos. Los grandes modelos lingüísticos de la empresa de inteligencia artificial se entrenan en una enorme cantidad de texto que incluye contenido disponible para el público, contenido con licencia y contenido generado por revisores humanos; utiliza datos para hacer que los modelos de IA sean más útiles para las personas.
OpenAI está tomando medidas para proteger la privacidad de las personas mediante la eliminación de información personal de sus datos de capacitación, el ajuste de modelos para rechazar solicitudes de información personal y la eliminación de información personal de sus sistemas a pedido. Esto reduce la posibilidad de que los modelos de IA generen respuestas que incluyan información personal.
OpenAIenfoque de para abordar las preocupaciones de seguridad de la IA es investigar mitigaciones efectivas y técnicas de alineación y probarlas contra el abuso del mundo real. También se compromete a ser cada vez más cauteloso al crear y desplegar modelos más capaces y mejorar las precauciones de seguridad. La gobernanza eficaz del desarrollo y despliegue de la IA es esencial para garantizar la seguridad, lo que requiere innovación técnica e institucional.
Más información:
Observación
En línea con la Directrices del Proyecto Confianza, tenga en cuenta que la información proporcionada en esta página no pretende ser ni debe interpretarse como asesoramiento legal, fiscal, de inversión, financiero o de cualquier otro tipo. Es importante invertir sólo lo que pueda permitirse perder y buscar asesoramiento financiero independiente si tiene alguna duda. Para mayor información sugerimos consultar los términos y condiciones así como las páginas de ayuda y soporte proporcionadas por el emisor o anunciante. MetaversePost se compromete a brindar informes precisos e imparciales, pero las condiciones del mercado están sujetas a cambios sin previo aviso.
Sobre el Autor
Agne es una periodista que cubre las últimas tendencias y desarrollos en metaverso, IA y Web3 industrias para la Metaverse Post. Su pasión por contar historias la ha llevado a realizar numerosas entrevistas con expertos en estos campos, buscando siempre descubrir historias apasionantes y atrapantes. Agne tiene una licenciatura en literatura y tiene una amplia experiencia escribiendo sobre una amplia gama de temas, incluidos viajes, arte y cultura. También se ofreció como editora voluntaria de la organización de derechos de los animales, donde ayudó a crear conciencia sobre cuestiones de bienestar animal. Contáctala en [email protected].
Más artículos
Agne es una periodista que cubre las últimas tendencias y desarrollos en metaverso, IA y Web3 industrias para la Metaverse Post. Su pasión por contar historias la ha llevado a realizar numerosas entrevistas con expertos en estos campos, buscando siempre descubrir historias apasionantes y atrapantes. Agne tiene una licenciatura en literatura y tiene una amplia experiencia escribiendo sobre una amplia gama de temas, incluidos viajes, arte y cultura. También se ofreció como editora voluntaria de la organización de derechos de los animales, donde ayudó a crear conciencia sobre cuestiones de bienestar animal. Contáctala en [email protected].
