OpenAI Présente un « cadre de préparation » pour faire face aux risques liés au développement de l’IA
En bref
OpenAI a déployé son « Cadre de préparation » – un ensemble d’outils et de processus pour répondre aux préoccupations concernant la sécurité du développement de modèles d’IA.
Entreprise d'IA soutenue par Microsoft OpenAI, a déployé son « Cadre de préparation » – un ensemble d’outils et de processus pour répondre aux préoccupations croissantes concernant les implications en matière de sécurité du développement de modèles avancés d’intelligence artificielle (IA).
L'espace Sam AltmanLa société gérée a fait cette annonce via un plan détaillé publié sur son site Internet, visant à mettre en valeur OpenAIl’engagement de à gérer les risques potentiels associés à ses technologies de pointe. La société a également fourni plus de détails sur le cadre sur les réseaux sociaux. plateforme X .
OpenAILe cadre de permet au conseil d'administration d'annuler les décisions de sécurité prises par les dirigeants, introduisant ainsi un niveau de surveillance dans le déploiement de sa dernière technologie. En outre, l'entreprise a défini des conditions de déploiement strictes, en mettant l'accent sur les évaluations de sécurité dans des domaines critiques tels que la cybersécurité et les menaces nucléaires.
L’un des éléments importants de la stratégie de l’entreprise implique la création d’un groupe consultatif chargé d’examiner les rapports de sécurité. Les conclusions de ce groupe seront communiquées aux dirigeants et au conseil d’administration de l’entreprise, mettant en avant une approche collaborative pour résoudre Les préoccupations de sécurité.
Approche responsable face aux préoccupations de l’industrie
Le déménagement par OpenAI fait suite aux inquiétudes croissantes au sein de la communauté de l’IA concernant les risques potentiels associés à des modèles de plus en plus puissants. En avril, une coalition de leaders et d'experts du secteur de l'IA a plaidé en faveur d'une pause de six mois dans le développement de systèmes plus puissants que OpenAI's GPT-4, citant des risques sociétaux potentiels.
Sous la direction de Sam Altman, OpenAI renforce ses processus de sécurité internes pour lutter de manière proactive contre les menaces évolutives posées par l’IA nuisible. Une équipe dédiée supervisera les travaux techniques et la prise de décision en matière de sécurité, avec une structure opérationnelle en place pour faciliter des réponses efficaces aux risques émergents.
Ce cadre comprend l’élaboration de « cartes de pointage » des risques pour suivre divers indicateurs de préjudice potentiel, déclenchant des examens et des interventions lorsque des seuils de risque spécifiques sont atteints.
« Nous effectuerons des évaluations et mettrons continuellement à jour les « tableaux de bord » de nos modèles. Nous évaluerons tous nos modèles frontières, y compris à chaque augmentation de calcul efficace de 2 fois pendant les cycles d'entraînement. Nous pousserons les modèles jusqu’à leurs limites », a déclaré le ChatGPT fabricant.
« Dans nos références de sécurité, seuls les modèles avec un score post-atténuation moyen ou inférieur peuvent être déployés, et seuls les modèles avec un score post-atténuation élevé ou inférieur peuvent être développés davantage. Nous augmentons également les protections de sécurité en fonction du risque de modèle », ajoute-t-il.
De plus, l'entreprise met l'accent sur la nature dynamique de son cadre, en s'engageant à un perfectionnement continu basé sur de nouvelles données, commentaires et recherches. Il s'engage également à collaborer étroitement avec des parties externes et des équipes internes pour suivre les abus dans le monde réel, démontrant ainsi son engagement en faveur de la responsabilité et de la responsabilité. IA responsable
As OpenAI prend des mesures proactives pour répondre aux problèmes de sécurité, les entreprises doivent créer un précédent en matière de développement éthique et sécurisé de l’IA à une époque où les capacités de la technologie de l’IA générative continuent de captiver et, simultanément, soulever des questions importantes sur leur impact potentiel sur la société.
Clause de non-responsabilité
En ligne avec la Lignes directrices du projet de confiance, veuillez noter que les informations fournies sur cette page ne sont pas destinées à être et ne doivent pas être interprétées comme des conseils juridiques, fiscaux, d'investissement, financiers ou toute autre forme de conseil. Il est important d’investir uniquement ce que vous pouvez vous permettre de perdre et de demander des conseils financiers indépendants en cas de doute. Pour plus d'informations, nous vous suggérons de vous référer aux conditions générales ainsi qu'aux pages d'aide et de support mises à disposition par l'émetteur ou l'annonceur. MetaversePost s'engage à fournir des rapports précis et impartiaux, mais les conditions du marché sont susceptibles de changer sans préavis.
A propos de l'auteur
Kumar est un journaliste technologique expérimenté spécialisé dans les intersections dynamiques de l'IA/ML, de la technologie marketing et des domaines émergents tels que la cryptographie, la blockchain et NFTsFort de plus de 3 ans d'expérience dans le secteur, Kumar a fait ses preuves en matière d'élaboration de récits convaincants, de conduite d'entretiens approfondis et de fourniture d'informations complètes. L'expertise de Kumar réside dans la production de contenu à fort impact, notamment des articles, des rapports et des publications de recherche pour des plateformes industrielles de premier plan. Doté d'un ensemble de compétences uniques qui combine connaissances techniques et narration, Kumar excelle dans la communication de concepts technologiques complexes à des publics divers de manière claire et engageante.
Plus d'articles
Kumar est un journaliste technologique expérimenté spécialisé dans les intersections dynamiques de l'IA/ML, de la technologie marketing et des domaines émergents tels que la cryptographie, la blockchain et NFTsFort de plus de 3 ans d'expérience dans le secteur, Kumar a fait ses preuves en matière d'élaboration de récits convaincants, de conduite d'entretiens approfondis et de fourniture d'informations complètes. L'expertise de Kumar réside dans la production de contenu à fort impact, notamment des articles, des rapports et des publications de recherche pour des plateformes industrielles de premier plan. Doté d'un ensemble de compétences uniques qui combine connaissances techniques et narration, Kumar excelle dans la communication de concepts technologiques complexes à des publics divers de manière claire et engageante.
