Des experts techniques signent une lettre ouverte appelant à une pause temporaire dans la formation des systèmes d'IA plus avancés que GPT-4
En bref
Plus de 1100 signataires ont signé la lettre ouverte appelant à une pause dans les expériences géantes d'IA.
Les signataires incluent Elon Musk, Steve Wozniak et Emad Mostaque, entre autres.
La lettre ouverte a soulevé des inquiétudes concernant les biais d'information de l'IA, automatisation du travail et le risque de l’IA sur la civilisation humaine.
Plus de 1,100 XNUMX signataires, dont des experts technologiques de premier plan, ont signé un lettre ouverte appelant à une pause de six mois dans la formation des systèmes d'IA plus avancés que GPT-4.
La lettre a été rédigée par le Future of Life Institute, une organisation à but non lucratif qui s'efforce de réduire les risques catastrophiques et existentiels mondiaux auxquels l'humanité est confrontée, en particulier le risque existentiel de l'intelligence artificielle avancée.
Citant les principes d'Asilomar AI largement approuvés, qui stipulent que "l'IA avancée pourrait représenter un changement profond dans l'histoire de la vie sur Terre, et devrait être planifiée et gérée avec un soin et des ressources proportionnés", la lettre indique que le niveau de planification et la gestion ne se fait pas.
La lettre poursuit en disant que les laboratoires d’IA sont engagés dans une course « incontrôlable » pour développer une intelligence artificielle de plus en plus puissante que personne ne peut comprendre, prédire ou contrôler de manière fiable. Comme les systèmes d'IA contemporains comme GPT-4 vous rivaliser avec les humains sur les tâches générales, la lettre soulève des inquiétudes concernant les biais d'information par l'IA, l'automatisation des tâches et le risque de perdre le contrôle de la civilisation humaine.
« Nous appelons tous les laboratoires d’IA à suspendre immédiatement pendant au moins 6 mois la formation de systèmes d’IA plus puissants que GPT-4. Cette pause doit être publique et vérifiable, et inclure tous les acteurs clés. Si une telle pause ne peut être adoptée rapidement, les gouvernements devraient intervenir et instaurer un moratoire. »
la lettre indique.
La lettre implore les laboratoires d'IA et les experts techniques d'utiliser la période de pause pour développer et mettre en œuvre des protocoles de sécurité pour la conception et le développement avancés d'IA qui sont rigoureusement audités et supervisés par des experts externes indépendants.
Cependant, le journaliste américain Jeff Jarvis a critiqué la lettre, dire qu'il s'agit d'un "premier spécimen de panique morale".
Certains des plus grands esprits de la technologie et de l'apprentissage automatique qui ont signé la lettre aux côtés des chercheurs de DeepMind et de plusieurs professeurs d'université du monde entier incluent :
- Yoshua Bengio, Université de Montréal, Lauréat Turing pour le développement de l'apprentissage profond, responsable de l'Institut des algorithmes d'apprentissage de Montréal
- Stuart Russell, Berkeley, professeur d'informatique, directeur du Center for Intelligent Systems et co-auteur du manuel standard "Artificial Intelligence: a Modern Approach"
- Elon Musk, PDG de SpaceX, Tesla et Twitter
- Emad Mostaque, PDG, Stability AI
- Jaan Tallinn, co-fondateur de Skype, Centre d'étude du risque existentiel, Future of Life Institute
- Gary Marcus, Université de New York, chercheur en intelligence artificielle, professeur émérite
- Marc Rotenberg, Centre pour l'IA et la politique numérique (CAIDP), président
Dans un lettre récente, Rotenberg a écrit que le CAIDP déposerait une plainte auprès de la Federal Trade Commission, appelant à une enquête sur Open AI et ChatGPT, ainsi qu'une interdiction de toute nouvelle commercialisation du produit jusqu'à ce que des garanties soient établies.
OpenAI Le PDG Sam Altman a admis que "nous avons également besoin de suffisamment de temps pour que nos institutions sachent quoi faire" et que la société n'est pas loin des outils d'IA générative "potentiellement effrayants".
« Nous demandons à la FTC de « appuyer sur le bouton pause » afin que nos institutions, nos lois et notre société aient la possibilité de rattraper leur retard. Nous devons affirmer notre autorité sur les technologies que nous créons avant de perdre le contrôle », indique la lettre du CAIDP.
Ailleurs, Législateurs de l'UE visent à signer un accord avec les pays de l'UE d'ici la fin de l'année pour mettre en œuvre les règles de l'IA, même si cela pourrait se heurter à un goulot d'étranglement alors que les débats sur la manière dont l'IA devrait être régie s'intensifient.
Lire la suite:
Clause de non-responsabilité
En ligne avec la Lignes directrices du projet de confiance, veuillez noter que les informations fournies sur cette page ne sont pas destinées à être et ne doivent pas être interprétées comme des conseils juridiques, fiscaux, d'investissement, financiers ou toute autre forme de conseil. Il est important d’investir uniquement ce que vous pouvez vous permettre de perdre et de demander des conseils financiers indépendants en cas de doute. Pour plus d'informations, nous vous suggérons de vous référer aux conditions générales ainsi qu'aux pages d'aide et de support mises à disposition par l'émetteur ou l'annonceur. MetaversePost s'engage à fournir des rapports précis et impartiaux, mais les conditions du marché sont susceptibles de changer sans préavis.
A propos de l'auteur
Cindy est journaliste à Metaverse Post, traitant de sujets liés à web3, NFT, métavers et IA, avec un focus sur des entretiens avec Web3 acteurs du secteur. Elle a parlé à plus de 30 cadres supérieurs et ce n'est pas fini, apportant leurs précieuses informations aux lecteurs. Originaire de Singapour, Cindy est désormais basée à Tbilissi, en Géorgie. Elle est titulaire d'un baccalauréat en communications et études médiatiques de l'Université d'Australie du Sud et possède une décennie d'expérience dans le journalisme et l'écriture. Contactez-la via [email protected] avec des pitchs de presse, des annonces et des opportunités d'interview.
Plus d'articles
Cindy est journaliste à Metaverse Post, traitant de sujets liés à web3, NFT, métavers et IA, avec un focus sur des entretiens avec Web3 acteurs du secteur. Elle a parlé à plus de 30 cadres supérieurs et ce n'est pas fini, apportant leurs précieuses informations aux lecteurs. Originaire de Singapour, Cindy est désormais basée à Tbilissi, en Géorgie. Elle est titulaire d'un baccalauréat en communications et études médiatiques de l'Université d'Australie du Sud et possède une décennie d'expérience dans le journalisme et l'écriture. Contactez-la via [email protected] avec des pitchs de presse, des annonces et des opportunités d'interview.
