OpenAI Sonne l'alarme sur la superintelligence et le potentiel de l'IA à dépasser les capacités humaines au cours de la prochaine décennie
En bref
OpenAI lance un appel à la réglementation de la superintelligence, soulignant le besoin de gouvernance à la lumière des progrès rapides de l'IA.
Les systèmes d’IA devraient surpasser l’expertise humaine et productivité des entreprises d’ici une décennie, According To OpenAI.
OpenAI souligne l'importance de la surveillance publique et du contrôle démocratique pour les puissants systèmes d'IA.
OpenAI, le créateur de ChatGPT, a lancé un appel stimulant à la réglementation de superintelligence, établissant des parallèles avec la réglementation de l'énergie nucléaire. Dans un récent blog récents, OpenAI a souligné les implications potentielles des progrès rapides de l'IA et a souligné le besoin urgent de gouvernance dans ce paysage en évolution. La société a déclaré que les systèmes d'IA dépasseraient les experts et les plus grandes entreprises en termes de productivité et de compétences d'ici dix ans.
"Nous devons également atténuer les risques de la technologie d'intelligence artificielle d'aujourd'hui, mais la superintelligence nécessitera un traitement et une coordination spéciaux", ont déclaré Sam Altman, Greg Brockman et Ilya Sutskever de OpenAI souligné.
La superintelligence décrit une entité qui dépasse l'intelligence humaine globale ou certains aspects spécifiques de l'intelligence. Selon les auteurs, la superintelligence de l'IA aura un niveau de puissance inégalé, englobant à la fois des aspects positifs et négatifs.
Le développement et les risques de l'inévitable surintelligence
OpenAI a identifié trois idées importantes qui jouent un rôle central dans le développement réussi de la superintelligence. Il s'agit notamment de la coordination des principaux efforts de développement, de la création d'une autorité internationale semblable à l'Agence internationale de l'énergie atomique (AIEA) et du développement des capacités techniques de sécurité.
Tandis que OpenAI reconnaît que les systèmes d'IA comportent des risques, ces risques sont comparables à ceux associés à d'autres technologies liées à Internet. Altman, Brockman et Sutskever sont également convaincus que les approches actuelles de la société pour gérer ces risques sont appropriées. Cependant, la principale préoccupation concerne les futurs systèmes qui auront une puissance sans précédent.
"En revanche, les systèmes qui nous préoccupent auront un pouvoir au-delà de toute technologie encore créée, et nous devons veiller à ne pas diluer l'attention sur eux en appliquant des normes similaires à une technologie bien en deçà de cette barre", lit-on sur le blog.
Les auteurs soutiennent que les systèmes d'IA puissants ont besoin d'une surveillance publique et d'un contrôle démocratique. Ils expliquent également pourquoi ils construisent cette technologie à OpenAI: créer un monde meilleur et éviter les risques de l'arrêter. L'IA aide dans divers domaines, notamment l'éducation, la créativité et la productivité, ainsi que la croissance économique générale.
OpenAI pense qu'il est difficile et risqué de arrêter la superintelligence d'être créé. La superintelligence présente des avantages considérables, devient moins chère chaque année, de plus en plus de personnes y travaillent et fait partie du parcours technologique de l'entreprise.
Ilman Shajaev, techpreneur en IA et co-fondateur de Laboratoires Farcana, a partagé quelques commentaires concernant l'actualité. Les projections indiquent que si elle n'est pas correctement gérée, la superintelligence pourrait être l'une des inventions humaines les plus destructrices de tous les temps. Cependant, les conversations sur le déploiement de la technologie continuent de diviser, car elle n'a pas encore été développée. Pousser à un arrêt du développement basé sur la peur des prédictions peut priver l'humanité des opportunités que la nouvelle technologie pourrait avoir en réserve.
"OpenAIL'approche de gouvernance décentralisée de peut aider à maintenir sa sécurité générale. Avec la bonne réglementation, le programme pourrait être interrompu s'il représente une menace. Si ces garanties sont en place, alors la superintelligence pourrait être une innovation à explorer », a déclaré Shazhaev.
En discutant ouvertement de son point de vue sur la superintelligence de l'IA et les mesures réglementaires proposées, OpenAI semble favoriser des discussions éclairées et inviter diverses perspectives.
Sam Altman croit fermement dans la disponibilité généralisée de l'IA pour le public. Reconnaissant qu'il est impossible d'anticiper tous les problèmes à l'avance, il préconise de régler les problèmes le plus tôt possible. Cependant, Altman souligne également l'importance des audits indépendants pour des systèmes tels que ChatGPT avant la sortie. Il reconnaît en outre la possibilité de mettre en œuvre des mesures telles que la limitation du rythme de création de nouveaux modèles ou l'établissement d'un comité pour évaluer la sécurité des modèles d'IA avant la mise sur le marché. Notamment, Altman prédit que la quantité d'intelligence dans l'univers doublera tous les 18 mois.
Lire la suite:
Clause de non-responsabilité
En ligne avec la Lignes directrices du projet de confiance, veuillez noter que les informations fournies sur cette page ne sont pas destinées à être et ne doivent pas être interprétées comme des conseils juridiques, fiscaux, d'investissement, financiers ou toute autre forme de conseil. Il est important d’investir uniquement ce que vous pouvez vous permettre de perdre et de demander des conseils financiers indépendants en cas de doute. Pour plus d'informations, nous vous suggérons de vous référer aux conditions générales ainsi qu'aux pages d'aide et de support mises à disposition par l'émetteur ou l'annonceur. MetaversePost s'engage à fournir des rapports précis et impartiaux, mais les conditions du marché sont susceptibles de changer sans préavis.
A propos de l'auteur
Agne est une journaliste qui couvre les dernières tendances et développements dans le métaverse, l'IA et Web3 industries pour la Metaverse Post. Sa passion pour la narration l'a amenée à mener de nombreux entretiens avec des experts dans ces domaines, cherchant toujours à découvrir des histoires passionnantes et engageantes. Agne est titulaire d'un baccalauréat en littérature et possède une vaste expérience en rédaction sur un large éventail de sujets, notamment les voyages, l'art et la culture. Elle s'est également portée volontaire en tant que rédactrice pour une organisation de défense des droits des animaux, où elle a contribué à sensibiliser les gens aux problèmes de bien-être animal. Contactez-la au [email protected].
Plus d'articles
Agne est une journaliste qui couvre les dernières tendances et développements dans le métaverse, l'IA et Web3 industries pour la Metaverse Post. Sa passion pour la narration l'a amenée à mener de nombreux entretiens avec des experts dans ces domaines, cherchant toujours à découvrir des histoires passionnantes et engageantes. Agne est titulaire d'un baccalauréat en littérature et possède une vaste expérience en rédaction sur un large éventail de sujets, notamment les voyages, l'art et la culture. Elle s'est également portée volontaire en tant que rédactrice pour une organisation de défense des droits des animaux, où elle a contribué à sensibiliser les gens aux problèmes de bien-être animal. Contactez-la au [email protected].
