Des experts en IA et des personnalités publiques sonnent l'alarme sur le risque d'extinction de l'IA
En bref
D’éminents experts en IA et personnalités influentes expriment leur point de vue commun inquiétudes concernant les risques associés à l’IA.
Malgré des progrès significatifs en matière d'IA, de nombreux défis liés au risque lié à l'IA restent non résolus.
D'éminents experts de l'IA et des personnalités publiques ont publié une déclaration avertissant que l'IA pourrait constituer une menace pour la survie de l'humanité, comparable ou même supérieure aux risques de pandémie et de guerre nucléaire. Les 350 signataires affirment que l'IA pourrait avoir des conséquences imprévues et catastrophiques, telles que le déclenchement d'armes autonomes, la perturbation des systèmes sociaux et économiques ou la création d'agents superintelligents qui pourraient déjouer et maîtriser les humains.
Ils appellent les décideurs politiques à prendre ces risques au sérieux et à adopter des mesures pour assurer un développement sûr et bénéfique de l'IA. Le déclaration est signée par certaines des figures de proue de la recherche et du développement en IA, telles que OpenAI Le PDG Sam Altman, le co-fondateur de Skype Jaan Tallinn, le PDG de DeepMind Demis Hassabis et l'informaticien de l'IA Geoffrey Hinton, ainsi que des personnalités publiques influentes, telles que le musicien Grimes et le podcasteur Sam Harris.
Parmi les signataires figuraient les lauréats du prix Turing 2018 pour leurs contributions à l'apprentissage en profondeur : Geoffrey Hinton et Yoshua Bengio. Ils ont été rejoints par des professeurs d'universités prestigieuses telles que Harvard et l'Université Tsinghua en Chine, ainsi que Max Tegmark du MIT.
"Atténuer le risque d'extinction de l'IA devrait être une priorité mondiale aux côtés d'autres risques à l'échelle de la société tels que les pandémies et la guerre nucléaire",
la lettre publiée par le PCSRA indique.
Le Centre pour la sécurité de l'IA (CAIS), une organisation à but non lucratif basée à San Francisco, vise à répondre aux problèmes de sécurité liés à l'intelligence artificielle. Tout en reconnaissant les avantages potentiels de l'IA, le PCSRA insiste sur la nécessité de la développer et de l'utiliser en toute sécurité. Malgré des avancées significatives dans le domaine de l'IA, de nombreux défis fondamentaux en matière de sécurité de l'IA restent non résolus, estime l'entreprise. Selon son site Web, la mission du CAIS est d'atténuer les risques en menant des recherches sur la sécurité, en favorisant une communauté de chercheurs en sécurité de l'IA et en préconisant des normes de sécurité.
«Il existe de nombreux« risques importants et urgents liés à l'IA », pas seulement le risque d'extinction; par exemple, les biais systémiques, la désinformation, l'utilisation malveillante, les cyberattaques et la militarisation. Ce sont tous des risques importants qui doivent être traités. Les sociétés peuvent gérer plusieurs risques à la fois ; ce n'est pas "soit/ou" mais "oui/et". Du point de vue de la gestion des risques, tout comme il serait imprudent de prioriser exclusivement les dommages actuels, il serait également imprudent de les ignorer également »,
Dan Hendrycks, directeur du PCSRA écrit sur Twitter.
En mars, plus de 1,100 XNUMX experts techniques signé une lettre ouverte exigeant un arrêt de six mois de la formation des systèmes d'IA dépassant GPT-4. Les législateurs européens ont également récemment , un projet de loi plus strict, connu sous le nom de loi sur l'IA, réglementant les outils d'IA comme ChatGPT. La loi comprend des exigences en matière de contrôles de sécurité, de gouvernance des données et d'atténuation des risques pour les modèles d'IA fondamentaux et interdit des pratiques telles que les techniques de manipulation et certaines utilisations de la biométrie.
Lire la suite:
- OpenAI dévoile sa dernière approche pour assurer la sécurité de l'IA
- Google va-t-il annoncer un générateur de text-to-avatar pour les gamers ?
- CodeWhisperer d'Amazon donne aux développeurs l'avantage dont ils ont besoin dans l'arène de l'IA
- Vitalik Buterin et le directeur du MIRI, Nate Soares, se penchent sur les dangers de l'IA
Clause de non-responsabilité
En ligne avec la Lignes directrices du projet de confiance, veuillez noter que les informations fournies sur cette page ne sont pas destinées à être et ne doivent pas être interprétées comme des conseils juridiques, fiscaux, d'investissement, financiers ou toute autre forme de conseil. Il est important d’investir uniquement ce que vous pouvez vous permettre de perdre et de demander des conseils financiers indépendants en cas de doute. Pour plus d'informations, nous vous suggérons de vous référer aux conditions générales ainsi qu'aux pages d'aide et de support mises à disposition par l'émetteur ou l'annonceur. MetaversePost s'engage à fournir des rapports précis et impartiaux, mais les conditions du marché sont susceptibles de changer sans préavis.
A propos de l'auteur
Agne est une journaliste qui couvre les dernières tendances et développements dans le métaverse, l'IA et Web3 industries pour la Metaverse Post. Sa passion pour la narration l'a amenée à mener de nombreux entretiens avec des experts dans ces domaines, cherchant toujours à découvrir des histoires passionnantes et engageantes. Agne est titulaire d'un baccalauréat en littérature et possède une vaste expérience en rédaction sur un large éventail de sujets, notamment les voyages, l'art et la culture. Elle s'est également portée volontaire en tant que rédactrice pour une organisation de défense des droits des animaux, où elle a contribué à sensibiliser les gens aux problèmes de bien-être animal. Contactez-la au [email protected].
Plus d'articles
Agne est une journaliste qui couvre les dernières tendances et développements dans le métaverse, l'IA et Web3 industries pour la Metaverse Post. Sa passion pour la narration l'a amenée à mener de nombreux entretiens avec des experts dans ces domaines, cherchant toujours à découvrir des histoires passionnantes et engageantes. Agne est titulaire d'un baccalauréat en littérature et possède une vaste expérience en rédaction sur un large éventail de sujets, notamment les voyages, l'art et la culture. Elle s'est également portée volontaire en tant que rédactrice pour une organisation de défense des droits des animaux, où elle a contribué à sensibiliser les gens aux problèmes de bien-être animal. Contactez-la au [email protected].
