OpenAI: L'IA pourrait potentiellement faire beaucoup de mal aux gens, mais essayer d'arrêter le progrès n'est pas une option
En bref
OpenAILe document de « Planning for AGI and Beyond » suggère une introduction progressive et lente de modèles plus complexes et « intelligents », organisant des audits indépendants des grands systèmes et limitant les ressources informatiques.
OpenAI veut que l’IA soit ouverte à tous de manière égale et crée des modèles gérables pour réduire les préjugés et les comportements indésirables.
OpenAI a récemment publié un document intitulé « Planning for AGI and Beyond ». Il présente les grandes idées qui guident les actions de l'entreprise à mesure que le monde se rapproche du développement de l'AGI (intelligence générale artificielle).
OpenAI with estime que même si l’IA est susceptible de causer des dommages importants aux personnes, tenter d’arrêter les progrès n’est pas une option. Par conséquent, nous devons apprendre à maintenir cette amélioration afin qu’elle ne se détériore pas de manière significative.
Le document se trouve ici. Soulignons-en quelques éléments cruciaux :
- OpenAI souhaite qu'AGI aide les gens à s'épanouir dans tous les aspects de leur vie, tant sur le plan économique que scientifique.
Au lieu de créer une grande IA super cool et de la diffuser immédiatement dans le monde, OpenAI introduira progressivement des modèles plus compliqués et « intelligents ». L’hypothèse est que l’augmentation progressive des capacités de l’IA ne choquera pas le monde, donnant aux humains le temps de s’adapter, d’adapter l’économie et d’élaborer des procédures pour interagir avec l’IA. - OpenAI invite toutes les organisations à adopter formellement le principe évoqué ci-dessus (déployer progressivement une IA puissante). Altman recommande également de limiter la quantité de ressources informatiques pouvant être utilisées pour former des modèles et de mettre en place des audits impartiaux des principaux systèmes avant qu'ils ne soient mis à la disposition du grand public. Au lieu de se lancer dans des compétitions du type « qui sera le premier à déployer un modèle plus cool et plus grand ? » OpenAI demande aux entreprises de travailler ensemble pour améliorer la sécurité de l'IA.
- OpenAI estime qu'il est essentiel que les gouvernements soient informés des formations qui dépassent une échelle particulière. C'est un concept fascinant, et nous aimerions en savoir plus sur le plans OpenAI a à cet égard. Cette proposition ne me semble pas si géniale au premier abord.
- OpenAI tentera de développer des modèles plus fiables et plus contrôlables, les plus susceptibles de limiter les biais et les comportements défavorables dans l'IA. L'approche adoptée par OpenAI dans ce cas, il s'agit de rendre le modèle accessible au grand public sous une forme très contrainte tout en donnant également la possibilité aux utilisateurs de le personnaliser. Étant donné que les consommateurs ne pourront rien « personnaliser » là-bas, je ne suis pas sûr de la manière dont cela aidera le modèle dans son ensemble à devenir moins biaisé. A moins que cela n'exonère l'entreprise de toute responsabilité pour les actes du modèle.
Dans l'ensemble, le document pointe dans la bonne direction. Cependant, il y avait un conflit mineur entre "nous ne montrerons pas immédiatement des modèles sympas au public, mais nous en parlerons aux États" et "les gens devraient savoir sur les progrès de l’IA. Bref, nous attendrons des éclaircissements détaillés de OpenAI sur tous les sujets.
En savoir plus sur l'IA :
Clause de non-responsabilité
En ligne avec la Lignes directrices du projet de confiance, veuillez noter que les informations fournies sur cette page ne sont pas destinées à être et ne doivent pas être interprétées comme des conseils juridiques, fiscaux, d'investissement, financiers ou toute autre forme de conseil. Il est important d’investir uniquement ce que vous pouvez vous permettre de perdre et de demander des conseils financiers indépendants en cas de doute. Pour plus d'informations, nous vous suggérons de vous référer aux conditions générales ainsi qu'aux pages d'aide et de support mises à disposition par l'émetteur ou l'annonceur. MetaversePost s'engage à fournir des rapports précis et impartiaux, mais les conditions du marché sont susceptibles de changer sans préavis.
A propos de l'auteur
Damir est chef d'équipe, chef de produit et rédacteur en chef chez Metaverse Post, couvrant des sujets tels que l'IA/ML, l'AGI, les LLM, le métaverse et Web3-domaines connexes. Ses articles attirent une audience massive de plus d'un million d'utilisateurs chaque mois. Il semble être un expert avec 10 ans d'expérience dans le référencement et le marketing numérique. Damir a été mentionné dans Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto et d'autres publications. Il voyage entre les Émirats arabes unis, la Turquie, la Russie et la CEI en tant que nomade numérique. Damir a obtenu un baccalauréat en physique, ce qui, selon lui, lui a donné les compétences de pensée critique nécessaires pour réussir dans le paysage en constante évolution d'Internet.
Plus d'articles
Damir est chef d'équipe, chef de produit et rédacteur en chef chez Metaverse Post, couvrant des sujets tels que l'IA/ML, l'AGI, les LLM, le métaverse et Web3-domaines connexes. Ses articles attirent une audience massive de plus d'un million d'utilisateurs chaque mois. Il semble être un expert avec 10 ans d'expérience dans le référencement et le marketing numérique. Damir a été mentionné dans Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto et d'autres publications. Il voyage entre les Émirats arabes unis, la Turquie, la Russie et la CEI en tant que nomade numérique. Damir a obtenu un baccalauréat en physique, ce qui, selon lui, lui a donné les compétences de pensée critique nécessaires pour réussir dans le paysage en constante évolution d'Internet.
