OpenAI dévoile sa dernière approche pour assurer la sécurité de l'IA
En bref
OpenAI a publié un article de blog décrivant son approche améliorée de la sécurité à la suite de récentes préoccupations concernant la sécurité et la confidentialité et les enquêtes.
L'entreprise s'engage à effectuer des tests rigoureux, à engager des experts externes pour obtenir des commentaires et à travailler avec les gouvernements pour déterminer le meilleur approche pour la réglementation de l'IA.
Après avoir fait face à des préoccupations concernant la sécurité et la confidentialité et après avoir suivi enquêtes récentes dans certains pays européens, OpenAI a libéré un article de blog décrivant l'approche améliorée de l'entreprise en matière de sécurité.
OpenAI s'engage à effectuer des tests rigoureux, à engager des experts externes pour obtenir des commentaires avant de publier tout nouveau système et à travailler avec les gouvernements pour déterminer la meilleure approche pour la réglementation de l'IA.
Auparavant, l'entreprise avait passé plus de six mois à travailler sur la sécurité et l'alignement de son dernier modèle, GPT-4, avant de le rendre public. Pour garantir la sécurité de son nouveau modèle de langage, GPT-4, OpenAI embauché une équipe de plus de 50 experts : spécialistes de la sécurité, de l'éthique et des politiques en matière d'IA, y compris des chercheurs et des ingénieurs.
« Fondamentalement, nous pensons que la société doit avoir le temps de se mettre à jour et de s'adapter à une IA de plus en plus performante, et que tous ceux qui sont touchés par cette technologie devraient avoir leur mot à dire sur la manière dont l'IA se développe davantage »,
OpenAI a écrit.
OpenAIL'accent est mis sur la sécurité et la confidentialité des enfants
L'Italie interdite ChatGPT, citant OpenAIL'incapacité de vérifier l'âge de ses utilisateurs, bien qu'il soit conçu pour les personnes âgées de 13 ans et plus, est l'une des raisons. L'un des principaux objectifs des efforts de sécurité de l'entreprise s'est déplacé vers la protection des enfants en mettant en œuvre des options de vérification de l'âge, qui OpenAI est en train d'explorer, d'autant plus que les outils d'IA sont destinés aux personnes âgées de 18 ans ou plus ou de 13 ans et plus avec l'approbation parentale.
La société interdit strictement la génération de contenu haineux, harcelant, violent ou réservé aux adultes, et GPT-4 a déjà une probabilité 82 % inférieure de répondre aux demandes de contenu non autorisé par rapport à GPT-3.5.
OpenAI a mis en place un système robuste pour surveiller les abus et espère faire en sorte que GPT-4 accessible à un plus grand nombre de personnes au fil du temps. La société travaille avec des développeurs sur des mesures d'atténuation de sécurité sur mesure, telles que la Khan Academy à but non lucratif, et travaille sur des fonctionnalités permettant des normes plus strictes pour les sorties des modèles.
L'amélioration de la confidentialité est un autre aspect de la sécurité OpenAI se concentre sur, surtout après le récent les violations de données. Les grands modèles de langage de la société d'intelligence artificielle sont formés sur une énorme quantité de texte qui comprend du contenu accessible au public, du contenu sous licence et du contenu généré par des réviseurs humains ; il utilise des données pour rendre les modèles d'IA plus utiles aux gens.
OpenAI prend des mesures pour protéger la vie privée des individus en supprimant les informations personnelles de ses données de formation, en affinant les modèles pour rejeter les demandes d'informations personnelles et en supprimant les informations personnelles de ses systèmes sur demande. Cela réduit le risque que les modèles d'IA génèrent des réponses contenant des informations personnelles.
OpenAIl'approche résoudre les problèmes de sécurité liés à l'IA consiste à rechercher des mesures d'atténuation efficaces et les techniques d'alignement et testez-les contre les abus du monde réel. Il s'engage également à être de plus en plus prudent dans la création et le déploiement de modèles plus performants et à renforcer les mesures de sécurité. Une gouvernance efficace du développement et du déploiement de l'IA est essentielle pour assurer la sécurité, ce qui nécessite une innovation technique et institutionnelle.
Lire la suite:
Clause de non-responsabilité
En ligne avec la Lignes directrices du projet de confiance, veuillez noter que les informations fournies sur cette page ne sont pas destinées à être et ne doivent pas être interprétées comme des conseils juridiques, fiscaux, d'investissement, financiers ou toute autre forme de conseil. Il est important d’investir uniquement ce que vous pouvez vous permettre de perdre et de demander des conseils financiers indépendants en cas de doute. Pour plus d'informations, nous vous suggérons de vous référer aux conditions générales ainsi qu'aux pages d'aide et de support mises à disposition par l'émetteur ou l'annonceur. MetaversePost s'engage à fournir des rapports précis et impartiaux, mais les conditions du marché sont susceptibles de changer sans préavis.
A propos de l'auteur
Agne est une journaliste qui couvre les dernières tendances et développements dans le métaverse, l'IA et Web3 industries pour la Metaverse Post. Sa passion pour la narration l'a amenée à mener de nombreux entretiens avec des experts dans ces domaines, cherchant toujours à découvrir des histoires passionnantes et engageantes. Agne est titulaire d'un baccalauréat en littérature et possède une vaste expérience en rédaction sur un large éventail de sujets, notamment les voyages, l'art et la culture. Elle s'est également portée volontaire en tant que rédactrice pour une organisation de défense des droits des animaux, où elle a contribué à sensibiliser les gens aux problèmes de bien-être animal. Contactez-la au [email protected].
Plus d'articles
Agne est une journaliste qui couvre les dernières tendances et développements dans le métaverse, l'IA et Web3 industries pour la Metaverse Post. Sa passion pour la narration l'a amenée à mener de nombreux entretiens avec des experts dans ces domaines, cherchant toujours à découvrir des histoires passionnantes et engageantes. Agne est titulaire d'un baccalauréat en littérature et possède une vaste expérience en rédaction sur un large éventail de sujets, notamment les voyages, l'art et la culture. Elle s'est également portée volontaire en tant que rédactrice pour une organisation de défense des droits des animaux, où elle a contribué à sensibiliser les gens aux problèmes de bien-être animal. Contactez-la au [email protected].
