Les leaders de l’IA mettent en garde contre les risques croissants et les préoccupations éthiques liés aux progrès rapides
Dans une récente déclaration politique, des personnalités éminentes du domaine de l’IA, dont Bengio, Hinton, Russell, Harari et Kahneman, ont tiré la sonnette d’alarme sur les progrès rapides et les risques sociétaux croissants associés à l’IA.
L’IA se développe rapidement. GPT-2 Il y a quatre ans, on ne pouvait pas compter de 0 à 100, mais les modèles modernes peuvent écrire du code, créer des images étonnantes et offrir des conseils intellectuels. Et parce que nous sommes dans une course, les progrès peuvent s’accélérer encore plus. De plus, l’IA progresse plus rapidement en aidant, par exemple, à la programmation de nouveaux systèmes et à la collecte de données pour leur formation.
Une fois que le progrès atteint le niveau humain, il n’y a aucune raison de penser qu’il ralentira ou s’arrêtera. Dans certaines régions, les systèmes artificiels ont déjà surpassé les humains à cet égard, démontrant des capacités telles qu'un traitement plus rapide vitesses, de plus grandes capacités de traitement des données et une évolutivité à grande échelle. Les entreprises disposent des moyens financiers pour mettre en œuvre des programmes de formation qui dépassent largement le plafond actuel.
Les auteurs pensent qu’il y a de fortes chances qu’un meilleur généraliste de l’IA émerge d’ici une dizaine d’années. dépasser les capacités humaines dans de nombreux domaines importants.
Que va-t-il se passer ensuite ? Toutes les vies peuvent être améliorées si elles sont correctement gérées et distribuées. L’option mal choisie comporte des risques importants auxquels nous sommes mal préparés. Plutôt que d’être allouées à la sécurité et à la prévention des risques, des ressources importantes sont utilisées pour créer des systèmes d’IA toujours plus puissants. Cela doit changer ; acquérir des compétences par eux-mêmes est insuffisant. Et ce processus prend plus de temps que prévu. Nous devons nous préparer aux risques plus élevés avant qu’ils ne surviennent, en anticipant l’escalade des menaces actuelles et l’apparition de nouvelles. Nous ne disposons pas du même temps pour l’IA, car il faut des décennies pour qu’elle soit acceptée en relation avec le changement climatique.
De nombreux risques existent au niveau sociétal, notamment une montée des injustices, une détérioration de la stabilité et une détérioration de la perception commune de la réalité. Ici, les terroristes et les criminels mènent une activité intense. L’IA pourrait se concentrer entre les mains d’un petit nombre d’acteurs, ce qui entraînerait une augmentation des inégalités mondiales, faciliterait la guerre automatisée, la manipulation de masse adaptée à chaque individu et la surveillance omniprésente.
Comme autonome L'IA devient plus sophistiquée et est capable de planifier, agir dans le monde et atteindre ses objectifs, ces risques ne feront qu'augmenter. Ces objectifs pourraient ne pas être dans notre meilleur intérêt et, dans le cas de mauvais acteurs, pourraient même être préjudiciables. On ne sait pas encore comment résoudre le problème de l’alignement de l’IA, qui implique de faire correspondre le comportement de l’IA avec nos objectifs complexes. De plus, il est très simple de négliger les précautions de sécurité lors d’une course avec l’intention de gagner.
Les logiciels classiques sont difficiles à contrôler pour les humains, sans parler des systèmes d’IA sophistiqués qui sont de plus en plus adeptes de l’ingénierie sociale, du piratage informatique, de la tromperie et de la planification stratégique. C’est quelque chose que les systèmes d’IA autonomes peuvent récupérer auprès des personnes ou créer eux-mêmes.
Ces systèmes ont la capacité de construire des coalitions avec des individus et d’autres systèmes, de gagner la confiance, d’obtenir des financements et d’influencer les décideurs. Comme un ver, ils sont capables de s’auto-répliquer sur tout le réseau. D’énormes quantités de code sont déjà écrites avec l’aide d’assistants IA ; à l’avenir, les systèmes pourraient intégrer des exploits dans de nombreux systèmes cruciaux. Les systèmes d’IA ont la capacité d’utiliser ou de menacer des armes biologiques ou autonomes en combat ouvert. Ceci n'est qu'une continuation de les mouvements actuels vers la recherche biologique, l’intelligence artificielle et l’automatisation de la guerre. Les gens pourraient trouver trop difficile d’intervenir et de résister.
Dans de nombreux cas, nous sommes prêts à leur donner les rênes sans même qu’ils aient à le demander. De nombreux particuliers et entreprises sont prêts à mettre eux-mêmes en place de tels systèmes dans un environnement concurrentiel, craignant de prendre du retard par rapport à la concurrence.
Le document complet est disponible ici.
Clause de non-responsabilité
En ligne avec la Lignes directrices du projet de confiance, veuillez noter que les informations fournies sur cette page ne sont pas destinées à être et ne doivent pas être interprétées comme des conseils juridiques, fiscaux, d'investissement, financiers ou toute autre forme de conseil. Il est important d’investir uniquement ce que vous pouvez vous permettre de perdre et de demander des conseils financiers indépendants en cas de doute. Pour plus d'informations, nous vous suggérons de vous référer aux conditions générales ainsi qu'aux pages d'aide et de support mises à disposition par l'émetteur ou l'annonceur. MetaversePost s'engage à fournir des rapports précis et impartiaux, mais les conditions du marché sont susceptibles de changer sans préavis.
A propos de l'auteur
Damir est chef d'équipe, chef de produit et rédacteur en chef chez Metaverse Post, couvrant des sujets tels que l'IA/ML, l'AGI, les LLM, le métaverse et Web3-domaines connexes. Ses articles attirent une audience massive de plus d'un million d'utilisateurs chaque mois. Il semble être un expert avec 10 ans d'expérience dans le référencement et le marketing numérique. Damir a été mentionné dans Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto et d'autres publications. Il voyage entre les Émirats arabes unis, la Turquie, la Russie et la CEI en tant que nomade numérique. Damir a obtenu un baccalauréat en physique, ce qui, selon lui, lui a donné les compétences de pensée critique nécessaires pour réussir dans le paysage en constante évolution d'Internet.
Plus d'articles
Damir est chef d'équipe, chef de produit et rédacteur en chef chez Metaverse Post, couvrant des sujets tels que l'IA/ML, l'AGI, les LLM, le métaverse et Web3-domaines connexes. Ses articles attirent une audience massive de plus d'un million d'utilisateurs chaque mois. Il semble être un expert avec 10 ans d'expérience dans le référencement et le marketing numérique. Damir a été mentionné dans Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto et d'autres publications. Il voyage entre les Émirats arabes unis, la Turquie, la Russie et la CEI en tant que nomade numérique. Damir a obtenu un baccalauréat en physique, ce qui, selon lui, lui a donné les compétences de pensée critique nécessaires pour réussir dans le paysage en constante évolution d'Internet.
