Ross Anderson parla del col·lapse del model d'IA com un problema creixent al contingut en línia
En breu
Ross Anderson adverteix dels riscos potencials associats al declivi intel·lectual de les generacions futures de grans models lingüístics (LLM), que s'han convertit en l'eina principal per editar i crear nous textos.
El col·lapse del model es pot prevenir comprenent i mitigant els riscos associats IA generativa.
En només sis mesos, la IA generativa ha fet avenços significatius, captant l'atenció del món. ChatGPT, un exemple destacat d'aquesta tecnologia, va guanyar ràpidament popularitat i ús generalitzat. No obstant això, el reconegut expert Ross Anderson adverteix sobre el riscos potencials associat al declivi intel·lectual de les generacions futures de models.
Ross Anderson és un pioner en enginyeria de seguretat i una autoritat líder en la recerca de vulnerabilitats en sistemes i algorismes de seguretat. Com a membre de la Royal Academy of Engineering i professor de la Universitat de Cambridge, ha contribuït àmpliament al camp de la seguretat de la informació, configurant models d'amenaça en diversos sectors.
Ara, Anderson dóna l'alarma sobre una amenaça global per a la humanitat:el col·lapse dels grans models lingüístics (LLM). Fins fa poc, la major part del text a Internet era generat per humans. Els LLM s'han convertit en l'eina principal per editar i crear nous textos, substituint el contingut generat per humans.
Aquest canvi planteja preguntes importants: cap a on portarà aquesta tendència i què passarà quan els LLM dominen Internet? Les implicacions van més enllà del text. Per exemple, si a model musical està entrenat amb composicions de Mozart, les generacions posteriors poden no tenir la brillantor de l'original i produir resultats inferiors, comparables a un musical "Salieri". Amb cada generació posterior, augmenta el risc de disminuir la qualitat i la intel·ligència.
Aquest concepte us pot recordar a la pel·lícula "Multiplicitat”, protagonitzada per Michael Keaton, on la clonació comporta una disminució de la intel·ligència i un augment de l'estupidesa de cada clon posterior.
El mateix fenomen es pot produir amb els LLM. L'entrenament d'un model amb contingut generat pel model comporta defectes irreversibles i la degradació de la qualitat del text al llarg de generacions. La distribució original del contingut es distorsiona, donant lloc a una afluència d'informació sense sentit. Les distribucions gaussianes convergeixen i, en casos extrems, el text pot perdre sentit. Les generacions posteriors poden fins i tot percebre malament la realitat a partir dels errors comesos pels seus predecessors. Aquest fenomen es coneix com a "col·lapse del model".
Les conseqüències del col·lapse del model són importants:
✔️ Internet s'omple cada cop més de contingut sense sentit.
✔️ Les persones que consumeixen aquest contingut poden, sense voler, estar menys informades i perdre capacitats intel·lectuals.
Afortunadament, hi ha esperança. Anderson suggereix que es pot prevenir el col·lapse del model, oferint una mica d'optimisme enmig de les preocupacions. Per obtenir més informació sobre possibles solucions i com evitar la disminució de la qualitat de la informació en línia, us animem a explorar-ne més.
Tot i que la IA generativa és prometedora, és essencial mantenir-se vigilant i abordar els reptes que presenta. Mitjançant la comprensió i la mitigació dels riscos associats al col·lapse del model, podem treballar per aprofitar els beneficis d'aquesta tecnologia alhora que es preserva la integritat de la informació a Internet.
Llegeix més sobre AI:
renúncia
En línia amb la Directrius del projecte Trust, si us plau, tingueu en compte que la informació proporcionada en aquesta pàgina no pretén ni s'ha d'interpretar com a assessorament legal, fiscal, d'inversió, financer o de cap altra forma. És important invertir només el que et pots permetre perdre i buscar assessorament financer independent si tens dubtes. Per obtenir més informació, us suggerim que feu referència als termes i condicions, així com a les pàgines d'ajuda i assistència proporcionades per l'emissor o l'anunciant. MetaversePost es compromet a fer informes precisos i imparcials, però les condicions del mercat estan subjectes a canvis sense previ avís.
About The Autor
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
més articles
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
