OpenAIL'équipe Superalignment de dévoile une méthode innovante pour la surveillance du système d'IA
En bref
OpenAIL'équipe Superalignment de a publié un nouveau document de recherche qui promet une solution potentielle pour superviser des systèmes d'IA très avancés.
L'organisme de recherche en intelligence artificielle (IA) OpenAI's Équipe de superalignement a publié un nouveau document de recherche introduisant le concept d'utilisation de modèles d'IA plus petits pour superviser des modèles plus avancés. Cette approche donne des résultats impressionnants, promettant une simplification potentielle de la supervision des systèmes d’IA très avancés pour les personnes à l’avenir.
Dans l’apprentissage automatique conventionnel, les humains supervisent des systèmes d’IA moins intelligents qu’eux. Cependant, avec l’IA superintelligente, les humains devront superviser des systèmes plus intelligents qu’eux.
Dans le but de guider et de contrôler les systèmes d’IA superintelligents, les chercheurs ont proposé une méthode dans laquelle un modèle d’IA moins puissant pourrait en superviser un plus puissant.
Habituellement, il est peu probable qu’un modèle fort surpasse un superviseur faible, mais les modèles pré-entraînés forts possèdent d’excellentes capacités. Les chercheurs ont appliqué cette approche en supervisant GPT-4 avec une GPT-2modèle de niveau. Le modèle résultant est généralement réalisé entre GPT-3 et de GPT-3.5, indiquant qu’il peut atteindre de fortes capacités d’IA avec une supervision plus faible.
Dans l’ensemble, les résultats suggèrent que même si la supervision humaine de base ne s’adapte pas bien aux modèles superintelligents, il existe des moyens d’améliorer considérablement la capacité de ces modèles à apprendre auprès de superviseurs moins compétents.
Les chercheurs pensent que leur approche capture les difficultés essentielles liées à l’alignement des futurs modèles surhumains, leur permettant ainsi de progresser.
En plus d'annoncer les résultats de la recherche, OpenAI a encouragé les étudiants, les universitaires et autres chercheurs à contribuer au vaste domaine de l’alignement de l’IA surhumaine. L'entreprise a lancé un programme de subventions de 10 millions de dollars axé sur ce problème.
OpenAI Fait progresser le paysage évolutif de l’IA
Selon OpenAI, des modèles d’IA superintelligents dépassant les capacités humaines pourraient être développés au cours de la prochaine décennie. Cependant, gérer et diriger ces systèmes d’IA sophistiqués représente un défi considérable pour les individus.
Les méthodes d'alignement existantes, telles que l'apprentissage par renforcement à partir de la rétroaction humaine (RLHF), dépendent du guidage humain. Cependant, les futurs systèmes d’IA seront capables de comportements extrêmement complexes et créatifs qui rendront difficile leur supervision fiable par les humains. Ainsi, l’entreprise explore activement des solutions innovantes pour répondre au paysage changeant du développement de l’IA.
Récemment, OpenAI aurait annoncé la sortie du dernier développement de l’entreprise – le GPT-4Modèle .5. La prétendue capture d'écran suggérait des capacités avancées englobant le langage, l'audio, la vision, la vidéo, la 3D, le raisonnement complexe et la compréhension inter-modèles. Cependant, Sam Altman, le fondateur de OpenAI, a démenti les rumeurs.
Clause de non-responsabilité
En ligne avec la Lignes directrices du projet de confiance, veuillez noter que les informations fournies sur cette page ne sont pas destinées à être et ne doivent pas être interprétées comme des conseils juridiques, fiscaux, d'investissement, financiers ou toute autre forme de conseil. Il est important d’investir uniquement ce que vous pouvez vous permettre de perdre et de demander des conseils financiers indépendants en cas de doute. Pour plus d'informations, nous vous suggérons de vous référer aux conditions générales ainsi qu'aux pages d'aide et de support mises à disposition par l'émetteur ou l'annonceur. MetaversePost s'engage à fournir des rapports précis et impartiaux, mais les conditions du marché sont susceptibles de changer sans préavis.
A propos de l'auteur
Alisa, journaliste dévouée au MPost, se spécialise dans les crypto-monnaies, les preuves sans connaissance, les investissements et le vaste domaine de Web3. Avec un œil attentif sur les tendances et technologies émergentes, elle propose une couverture complète pour informer et impliquer les lecteurs dans le paysage en constante évolution de la finance numérique.
Plus d'articles
Alisa, journaliste dévouée au MPost, se spécialise dans les crypto-monnaies, les preuves sans connaissance, les investissements et le vaste domaine de Web3. Avec un œil attentif sur les tendances et technologies émergentes, elle propose une couverture complète pour informer et impliquer les lecteurs dans le paysage en constante évolution de la finance numérique.
