Les experts en IA plaident pour la nécessité d’investir davantage dans la sécurité de l’IA de la part des gouvernements et des entreprises
En bref
Un groupe de chercheurs en IA a publié une lettre commune appelant les entreprises d’intelligence artificielle et les gouvernements à allouer davantage de fonds pour donner la priorité à une utilisation sûre et éthique des systèmes d’IA.
Les experts expriment leurs inquiétudes quant aux progrès rapides de la technologie de l’IA et à son potentiel à exacerber les injustices sociales, à déstabiliser la société et à constituer des menaces pour la sécurité mondiale.
D’éminents chercheurs en IA, notamment les lauréats du prix Turing et du prix Nobel, exhortent les entreprises d’intelligence artificielle et les gouvernements à allouer au moins un tiers de leur financement de recherche et de développement en IA pour garantir une utilisation sûre et éthique des systèmes d’IA.
Dans une lettre conjointe Publié juste avant le sommet international sur la sécurité de l'IA à Londres, les experts ont présenté des mesures pour faire face aux risques liés à l'IA. Ils plaident également pour que les gouvernements tiennent légalement les entreprises responsables des dommages prévisibles causés par leurs systèmes d’IA avancés.
« Les systèmes d’IA pourraient rapidement surpasser les humains dans un nombre croissant de tâches… Ils menacent d’amplifier l’injustice sociale, d’éroder la stabilité sociale et d’affaiblir notre compréhension commune de la réalité qui est fondamentale pour la société », ont déclaré des personnalités éminentes du domaine de l’IA, telles que Geoffrey Hinton, Andrew Yao, Daniel Kahneman, Dawn Song et Yuval Noah Harari, ont écrit dans la lettre.
« Ils pourraient également permettre des activités criminelles ou terroristes à grande échelle. Surtout entre les mains de quelques acteurs puissants, l’IA pourrait cimenter ou exacerber les inégalités mondiales, ou faciliter la guerre automatisée, la manipulation de masse personnalisée et la surveillance omniprésente.
Actions urgentes requises pour un développement sûr et éthique de l’IA
L’urgence de ce plaidoyer vient de la conviction que les réglementations actuelles ne parviennent pas à répondre de manière adéquate aux progrès rapides de la technologie de l’IA.
Dans le développement de l’IA, les experts reconnaissent la nécessité urgente de relever des défis complexes. Ils soutiennent que le simple fait de renforcer les capacités de l’IA ne suffira pas. Ces défis englobent la surveillance et l'honnêteté, dans lesquelles l'IA avancée peut exploiter les vulnérabilités des tests, ainsi que les problèmes liés à la robustesse, à l'interprétabilité, à l'évaluation des risques et aux défis émergents.
Les futurs systèmes d’IA pourraient manifester des modes de défaillance imprévus, soulignant l’importance pour les grandes entreprises technologiques et les bailleurs de fonds publics d’allouer une part importante de leur budget de recherche et développement en IA à donner la priorité à la sécurité et à l’éthique parallèlement à l’amélioration des capacités de l’IA.
Selon la lettre, l’absence de gouvernance de l’IA pourrait inciter les entreprises et les nations à donner la priorité aux capacités plutôt qu’à la sécurité ou à déléguer des fonctions sociétales importantes à des systèmes d’IA avec une surveillance humaine limitée.
Pour une réglementation efficace, les gouvernements ont besoin de toute urgence d’informations complètes sur le développement de l’IA. De plus, des mesures supplémentaires sont essentielles pour les systèmes d’IA très puissants, notamment l’octroi de licences pour leur développement, des arrêts temporaires en réponse à des capacités préoccupantes, des contrôles d’accès et une solide sécurité des informations.
Malgré certaines inquiétudes des entreprises d’IA concernant les coûts de conformité et les risques de responsabilité, les partisans soutiennent qu’une réglementation solide est essentielle pour atténuer les risques potentiels associés au développement incontrôlé de l’IA.
« L’IA est peut-être la technologie qui façonnera ce siècle. Même si les capacités de l’IA progressent rapidement, les progrès en matière de sécurité et de gouvernance restent à la traîne. Pour orienter l’IA vers des résultats positifs et éviter la catastrophe, nous devons nous réorienter. Il existe une voie responsable, si nous avons la sagesse de la suivre », conclut la lettre.
Lire la suite:
- Que recherchent les leaders technologiques en matière d’intelligence artificielle ? Des visionnaires de la technologie partagent leurs idées
- OpenAI: L'IA pourrait potentiellement faire beaucoup de mal aux gens, mais essayer d'arrêter le progrès n'est pas une option
- L'IA est en transition vers les systèmes d'exploitation, selon Sequoia
- Le lauréat du prix Nobel Paul Krugman dit que le boom de la crypto ressemble à la bulle immobilière
Clause de non-responsabilité
En ligne avec la Lignes directrices du projet de confiance, veuillez noter que les informations fournies sur cette page ne sont pas destinées à être et ne doivent pas être interprétées comme des conseils juridiques, fiscaux, d'investissement, financiers ou toute autre forme de conseil. Il est important d’investir uniquement ce que vous pouvez vous permettre de perdre et de demander des conseils financiers indépendants en cas de doute. Pour plus d'informations, nous vous suggérons de vous référer aux conditions générales ainsi qu'aux pages d'aide et de support mises à disposition par l'émetteur ou l'annonceur. MetaversePost s'engage à fournir des rapports précis et impartiaux, mais les conditions du marché sont susceptibles de changer sans préavis.
A propos de l'auteur
Agne est une journaliste qui couvre les dernières tendances et développements dans le métaverse, l'IA et Web3 industries pour la Metaverse Post. Sa passion pour la narration l'a amenée à mener de nombreux entretiens avec des experts dans ces domaines, cherchant toujours à découvrir des histoires passionnantes et engageantes. Agne est titulaire d'un baccalauréat en littérature et possède une vaste expérience en rédaction sur un large éventail de sujets, notamment les voyages, l'art et la culture. Elle s'est également portée volontaire en tant que rédactrice pour une organisation de défense des droits des animaux, où elle a contribué à sensibiliser les gens aux problèmes de bien-être animal. Contactez-la au [email protected].
Plus d'articles
Agne est une journaliste qui couvre les dernières tendances et développements dans le métaverse, l'IA et Web3 industries pour la Metaverse Post. Sa passion pour la narration l'a amenée à mener de nombreux entretiens avec des experts dans ces domaines, cherchant toujours à découvrir des histoires passionnantes et engageantes. Agne est titulaire d'un baccalauréat en littérature et possède une vaste expérience en rédaction sur un large éventail de sujets, notamment les voyages, l'art et la culture. Elle s'est également portée volontaire en tant que rédactrice pour une organisation de défense des droits des animaux, où elle a contribué à sensibiliser les gens aux problèmes de bien-être animal. Contactez-la au [email protected].
