Une pause de 6 mois dans la formation en IA est une bonne idée, mais cela peut ne pas suffire
En bref
L'histoire de la pétition et la publication de l'article de Yudkovsky ont polarisé la société.
Le dilemme du prisonnier et la théorie des jeux suggèrent qu'une masse critique de personnes sensées dans différents endroits est nécessaire pour résoudre de tels problèmes.
Cependant, il y a quelques mais à cette idée, comme le manque de conscience, de volonté et d'agence dans l'évolution numérique.
L'histoire du pétition pour arrêter de développer des systèmes d’IA plus avancés que GPT-4 a sensiblement polarisé la société. La sortie de Yudkovsky article demander l'arrêt du développement ultérieur de GPT Les mannequins ont mis de l'huile sur le feu, notamment ses passages sur le bombardement des centres de données.
D'après ce que l'on peut observer en ligne, il semble y avoir beaucoup moins de partisans de la pétition que d'opposants, qui ont trois arguments principaux :
| 1 | – La progression ne peut pas être arrêtée. – La pétition a été inventée par OpenAI concurrents. – La Chine n'attendra pas. |
| 2 | – Il ne faut pas avoir peur de l'IA mais des gens. - GPT n'a ni conscience, ni volonté, ni aspirations, ni agence, il n'y a donc rien à craindre. - GPT-4 est incroyablement loin d’asservir le monde car il ne comprend rien, fait des erreurs stupides et est généralement assez stupide. - GPT-4 ne pourra pas diriger le monde parce qu’il n’a ni bras ni jambes. |
| 3 | – Le troisième groupe ne comprend pas comment GPT-4 opère en premier lieu. |
Nous ne nous concentrerons pas sur le troisième groupe car leur position vient de l'ignorance. Cela ne veut pas dire que tous les adversaires de l'IA savent tout sur l'IA ; vous pouvez trouver beaucoup de personnes anti-IA qui ne comprennent pas la technologie et ce qu'elle implique, bien que Yudkovsky lui-même soit très impliqué dans le sujet de l'IA, il ne peut donc pas être accusé d'ignorance.
Jetons un coup d'œil au premier groupe de personnes – ceux qui croient que le progrès ne peut pas être arrêté. Ils offrent des arguments différents mais similaires, et dans l'ensemble, ces personnes ne nient pas les capacités de l'IA et les perspectives que son adoption apporte et pensent que le développement de l'IA se poursuivra quoi qu'il arrive.
La première thèse sur le progrès imparable est un slogan qui n'a pas à être vrai. Les gens semblent avoir arrêté certaines expériences scientifiques, et de nombreux projets de recherche autrefois acceptés ne sont plus considérés comme éthiques, et des projets similaires ne seraient jamais autorisés aujourd'hui. Cependant, combien de progrès dans le passé ont été stoppés par l'Inquisition et d'autres persécutions religieuses, les interdictions de livres et les meurtres de scientifiques en Chine (et dans d'autres pays) ? C'est quelque chose que nous ne pourrons jamais saisir pleinement en raison du biais de survie.
D'autres thèses impliquent l'approche qui peut se résumer par « si ce n'est nous, ce sera eux ». Bien que cette ligne de pensée puisse être plus compréhensible, elle ne semble pas non plus être la bonne solution. C'est très similaire au dilemme du prisonnier dans la théorie des jeux.
Le deuxième groupe d'arguments est le plus intéressant. Bien que je sois personnellement d'accord avec cela dans une certaine mesure, il y a quelques mais qui doivent être résolus. Oui, l'IA n'a pas de conscience, de volonté, d'agence, etc. Le COVID-19 non plus, et pourtant il a fait des ravages dans le monde entier. Quelque chose n'a pas besoin d'avoir le sens de l'action et de la conscience pour devenir dangereux ; un scénario où la vie sur terre est anéantie à cause d'un virus n'est pas inimaginable. Une fois son travail terminé, il peut mettre les chaises sur les tables, éteindre les lumières et partir pour toujours.
Poursuivant l'analogie biologique, il y a un article merveilleux, "La créativité surprenante de l'évolution numérique : une collection d'anecdotes des communautés de recherche sur le calcul évolutif et la vie artificielle", qui fournit de nombreux exemples de processus qui vont dans une direction inattendue. Même sans processus évolutif, tout peut aller dans la mauvaise généralisation "Mauvaise généralisation des objectifs : pourquoi des spécifications correctes ne suffisent pas pour des objectifs corrects." Laisser libre cours à un processus d'optimisation peut mal tourner est abordé dans "Risques liés à l'optimisation apprise dans les systèmes d'apprentissage automatique avancés. »
En même temps, nous ne considérons généralement pas les risques de utilisation malveillante de l'IA et n'importe quel une mauvaise utilisation, qui ne fait qu'alimenter l'argument selon lequel nous devons avoir peur des gens et non de l'IA elle-même. Cependant, la vérité est que l'IA peut être mauvaise même sans personnes malveillantes.
Je suis également d’accord sur le fait que le modèle fait des erreurs stupides, mais les humains aussi, et pourtant nous savons qu’ils peuvent faire du mal. Même si les modèles font de nombreuses erreurs, ils peuvent également résoudre de nombreux problèmes impressionnants, intéressants et complexes que la personne moyenne ne peut pas résoudre. Tiré de l’ouvrage notoire « Sparks of Artificial General Intelligence : Early Experiments with GPT-4" J'ai été frappé par la capacité de l'IA à résoudre, même si pas toujours correctement, des problèmes de Fermi, des problèmes mathématiques plutôt complexes. Sa théorie de l’esprit et « un peu comme la capacité de comprendre » les actions des autres sont également très impressionnantes. Toutes ces choses pointent vers l’intelligence de l’IA ; existant, mais pas tout à fait comme le nôtre.
Éliminer au moins certaines des erreurs commises par les modèles d'IA est généralement faisable, de sorte que leur intelligence ne peut que croître. Tout ce que vous avez à faire est d'ajouter un module pour des calculs précis, une base de faits et une validation avec un autre modèle.
La chose la plus importante dans toute cette histoire est la vitesse de développement de l’IA. GPT numériques jumeaux (digital twin models) ont connu une croissance considérable à un rythme vertigineux. Maintenant il y a ChatGPT plugins disponible, vous pouvez utiliser GPT modèles pour écrire du code, les API sont accessibles au grand public et vous pouvez utiliser des outils externes sans aucune formation préalable.
GPT-4, bien sûr, ne conquérira pas le monde, mais cela peut grandement ébranler l’économie. GPT-5, et la future itération du modèle, ne sont peut-être pas très avancées et viendront probablement avec des capacités beaucoup plus fortes. Et avouons-le, nous ne pouvons pas espérer comprendre les modèles qui n'existent pas encore ; nous sommes même loin de comprendre les modèles qui existent déjà. En ce sens, une pause de six mois pourrait être une bonne idée, mais cela ne suffira peut-être tout simplement pas.
Et étant donné que le course IA a commencé, nous n’avons pas le temps d’apprendre.
En général, au vu de tout cela, j'ai également signé la pétition. Bien que je ne pense pas que cela aidera en aucune façon.
Lire d'autres sujets connexes :
Clause de non-responsabilité
En ligne avec la Lignes directrices du projet de confiance, veuillez noter que les informations fournies sur cette page ne sont pas destinées à être et ne doivent pas être interprétées comme des conseils juridiques, fiscaux, d'investissement, financiers ou toute autre forme de conseil. Il est important d’investir uniquement ce que vous pouvez vous permettre de perdre et de demander des conseils financiers indépendants en cas de doute. Pour plus d'informations, nous vous suggérons de vous référer aux conditions générales ainsi qu'aux pages d'aide et de support mises à disposition par l'émetteur ou l'annonceur. MetaversePost s'engage à fournir des rapports précis et impartiaux, mais les conditions du marché sont susceptibles de changer sans préavis.
A propos de l'auteur
Damir est chef d'équipe, chef de produit et rédacteur en chef chez Metaverse Post, couvrant des sujets tels que l'IA/ML, l'AGI, les LLM, le métaverse et Web3-domaines connexes. Ses articles attirent une audience massive de plus d'un million d'utilisateurs chaque mois. Il semble être un expert avec 10 ans d'expérience dans le référencement et le marketing numérique. Damir a été mentionné dans Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto et d'autres publications. Il voyage entre les Émirats arabes unis, la Turquie, la Russie et la CEI en tant que nomade numérique. Damir a obtenu un baccalauréat en physique, ce qui, selon lui, lui a donné les compétences de pensée critique nécessaires pour réussir dans le paysage en constante évolution d'Internet.
Plus d'articles
Damir est chef d'équipe, chef de produit et rédacteur en chef chez Metaverse Post, couvrant des sujets tels que l'IA/ML, l'AGI, les LLM, le métaverse et Web3-domaines connexes. Ses articles attirent une audience massive de plus d'un million d'utilisateurs chaque mois. Il semble être un expert avec 10 ans d'expérience dans le référencement et le marketing numérique. Damir a été mentionné dans Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto et d'autres publications. Il voyage entre les Émirats arabes unis, la Turquie, la Russie et la CEI en tant que nomade numérique. Damir a obtenu un baccalauréat en physique, ce qui, selon lui, lui a donné les compétences de pensée critique nécessaires pour réussir dans le paysage en constante évolution d'Internet.
