Ross Anderson discute de l'effondrement du modèle d'IA comme un problème croissant dans le contenu en ligne
En bref
Ross Anderson met en garde contre les risques potentiels associés au déclin intellectuel des générations futures de grands modèles de langage (LLM), qui sont devenus le principal outil d’édition et de création de nouveaux textes.
L'effondrement du modèle peut être évité en comprenant et en atténuant les risques associés à IA générative.
En seulement six mois, l'IA générative a fait des progrès significatifs, captant l'attention du monde entier. ChatGPT, un exemple frappant de cette technologie, a rapidement gagné en popularité et a été largement utilisée. Cependant, le célèbre expert Ross Anderson met en garde contre le Riques potentiels associée au déclin intellectuel des futures générations de modèles.
Ross Anderson est un pionnier de l'ingénierie de la sécurité et une autorité de premier plan dans la recherche de vulnérabilités dans les systèmes et algorithmes de sécurité. En tant que membre de la Royal Academy of Engineering et professeur à l'Université de Cambridge, il a largement contribué au domaine de la sécurité de l'information, façonnant des modèles de menace dans divers secteurs.
Maintenant, Anderson tire la sonnette d'alarme sur une menace mondiale pour l'humanité...l'effondrement des grands modèles linguistiques (LLM). Jusqu'à récemment, la plupart des textes sur Internet étaient générés par des humains. Les LLM sont désormais devenus le principal outil d'édition et de création de nouveaux textes, remplaçant le contenu généré par l'homme.
Ce changement soulève des questions importantes : où cette tendance mènera-t-elle et que se passera-t-il lorsque les LLM domineront Internet ? Les implications vont au-delà du texte seul. Par exemple, si un modèle musical est formé avec des compositions de Mozart, les générations suivantes peuvent manquer de l'éclat de l'original et produire des résultats inférieurs, comparables à un "Salieri" musical. À chaque génération suivante, le risque de déclin de la qualité et de l'intelligence augmente.
Ce concept peut vous rappeler le film "Multiplicité», mettant en vedette Michael Keaton, où le clonage entraîne une baisse de l'intelligence et une augmentation de la stupidité de chaque clone ultérieur.
Le même phénomène peut se produire avec les LLM. La formation d'un modèle avec un contenu généré par le modèle entraîne des défauts irréversibles et la dégradation de la qualité du texte au fil des générations. La distribution originale du contenu est déformée, ce qui entraîne un afflux d'informations absurdes. Les distributions gaussiennes convergent et, dans les cas extrêmes, le texte peut perdre son sens. Les générations suivantes peuvent même mal percevoir la réalité sur la base des erreurs commises par leurs prédécesseurs. Ce phénomène est connu sous le nom de « effondrement du modèle ».
Les conséquences de l'effondrement du modèle sont importantes :
✔️ Internet devient de plus en plus rempli de contenu absurde.
✔️ Les personnes consommant ce contenu peuvent involontairement devenir moins informées et perdre leurs capacités intellectuelles.
Heureusement, il y a de l'espoir. Anderson suggère que l'effondrement du modèle peut être évité, offrant une lueur d'optimisme au milieu des préoccupations. Pour en savoir plus sur les solutions potentielles et sur la manière d'éviter la baisse de la qualité des informations en ligne, nous vous encourageons à explorer davantage.
Si l'IA générative est prometteuse, il est essentiel de rester vigilant et de relever les défis qu'elle présente. En comprenant et en atténuant les risques associés à l'effondrement des modèles, nous pouvons travailler à exploiter les avantages de cette technologie tout en préservant l'intégrité des informations sur Internet.
En savoir plus sur l'IA :
Clause de non-responsabilité
En ligne avec la Lignes directrices du projet de confiance, veuillez noter que les informations fournies sur cette page ne sont pas destinées à être et ne doivent pas être interprétées comme des conseils juridiques, fiscaux, d'investissement, financiers ou toute autre forme de conseil. Il est important d’investir uniquement ce que vous pouvez vous permettre de perdre et de demander des conseils financiers indépendants en cas de doute. Pour plus d'informations, nous vous suggérons de vous référer aux conditions générales ainsi qu'aux pages d'aide et de support mises à disposition par l'émetteur ou l'annonceur. MetaversePost s'engage à fournir des rapports précis et impartiaux, mais les conditions du marché sont susceptibles de changer sans préavis.
A propos de l'auteur
Damir est chef d'équipe, chef de produit et rédacteur en chef chez Metaverse Post, couvrant des sujets tels que l'IA/ML, l'AGI, les LLM, le métaverse et Web3-domaines connexes. Ses articles attirent une audience massive de plus d'un million d'utilisateurs chaque mois. Il semble être un expert avec 10 ans d'expérience dans le référencement et le marketing numérique. Damir a été mentionné dans Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto et d'autres publications. Il voyage entre les Émirats arabes unis, la Turquie, la Russie et la CEI en tant que nomade numérique. Damir a obtenu un baccalauréat en physique, ce qui, selon lui, lui a donné les compétences de pensée critique nécessaires pour réussir dans le paysage en constante évolution d'Internet.
Plus d'articles
Damir est chef d'équipe, chef de produit et rédacteur en chef chez Metaverse Post, couvrant des sujets tels que l'IA/ML, l'AGI, les LLM, le métaverse et Web3-domaines connexes. Ses articles attirent une audience massive de plus d'un million d'utilisateurs chaque mois. Il semble être un expert avec 10 ans d'expérience dans le référencement et le marketing numérique. Damir a été mentionné dans Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto et d'autres publications. Il voyage entre les Émirats arabes unis, la Turquie, la Russie et la CEI en tant que nomade numérique. Damir a obtenu un baccalauréat en physique, ce qui, selon lui, lui a donné les compétences de pensée critique nécessaires pour réussir dans le paysage en constante évolution d'Internet.
