Una pausa de 6 mesos en l'entrenament en IA és una bona idea, però pot ser que no sigui suficient
En breu
La història de la petició i la publicació de l'article de Iudkovski han polaritzat la societat.
El dilema del presoner i la teoria de jocs suggereixen que es necessita una massa crítica de persones sensates en diferents llocs per resoldre aquests problemes.
Tanmateix, aquesta idea té alguns peròs, com ara la manca de consciència, voluntat i agència en l'evolució digital.
La història de la petició per deixar de desenvolupar sistemes d'IA més avançats que GPT-4 ha polaritzat notablement la societat. L'alliberament de Yudkovsky article demanant tancar el desenvolupament posterior de GPT models van afegir combustible al foc, especialment els seus passatges sobre el bombardeig de centres de dades.
Pel que es pot observar en línia, sembla que hi ha molts menys partidaris de la petició que opositors, que tenen tres arguments principals:
| 1 | - El progrés no es pot aturar. – La petició va ser inventada per OpenAI competidors. – La Xina no esperarà. |
| 2 | – No hauries de tenir por de la IA sinó de les persones. - GPT no té consciència, voluntat, aspiracions o agència, així que no hi ha res a témer. - GPT-4 està molt lluny d'esclavitzar el món perquè no entén res, comet errors estúpids i, en general, és bastant estúpid. - GPT-4 no podrà córrer el món perquè no té braços/cames. |
| 3 | – El tercer grup no entén com GPT-4 opera en primer lloc. |
No ens concentrarem en el tercer grup perquè la seva postura prové de la ignorància. Això no vol dir que tots els oponents a la IA ho sàpiguen tot; podeu trobar moltes persones anti-IA que no entenen la tecnologia i què implica, tot i que el mateix Yudkovsky està molt més aprofundit en el tema de la IA, de manera que no se'l pot acusar d'ignorància.
Fem una ullada al primer grup de persones: aquells que creuen que el progrés no es pot aturar. Ofereixen arguments diferents però similars i, en general, aquestes persones no neguen les capacitats de la IA i les perspectives que comporta la seva adopció i creuen que el desenvolupament de la IA continuarà, passi el que passi.
La primera tesi sobre el progrés imparable és un eslògan que no ha de ser cert. Sembla que la gent ha aturat alguns experiments científics, i molts projectes d'investigació acceptats en el passat ja no es consideren ètics, i avui dia mai no es permetrien de semblants. Tanmateix, quant més progrés es va aturar en el passat per la Inquisició i altres persecucions religioses, prohibicions de llibres i assassinats de científics a la Xina (i altres països)? Això és una cosa que mai podrem comprendre completament a causa del biaix de supervivència.
Altres tesis impliquen l'enfocament que es pot resumir com "si no nosaltres, seran ells". Tot i que aquesta línia de pensament pot ser més comprensible, tampoc sembla ser la solució adequada. És molt semblant al dilema del presoner en teoria de jocs.
El segon grup d'arguments és el més interessant. Tot i que personalment hi estic d'acord fins a cert punt, hi ha alguns però que cal abordar. Sí, la IA no té consciència, voluntat, agència, etc. Tampoc la COVID-19, i, tanmateix, va causar estralls a tot el món. Alguna cosa no necessita tenir un sentit d'agència i consciència per esdevenir perillós; No és inimaginable un escenari en què la vida a la terra s'extermina a causa d'un virus. Un cop feta la seva feina, pot posar les cadires a les taules, apagar els llums i marxar per sempre.
Continuant amb l'analogia biològica, hi ha un article meravellós, "La sorprenent creativitat de l'evolució digital: una col·lecció d'anècdotes de les comunitats de recerca de la computació evolutiva i la vida artificial", que proporciona molts exemples de quan els processos van en una direcció inesperada. Fins i tot sense un procés evolutiu, tot pot anar cap a la generalització incorrecta "Generalització errònia de l'objectiu: per què les especificacions correctes no són suficients per a objectius correctes". Donar via lliure a un procés d'optimització pot anar malament es parla a "Riscos de l'optimització apresa en sistemes avançats d'aprenentatge automàtic".
Al mateix temps, generalment no tenim en compte els riscos de ús maliciós de la IA i qualsevol mal ús, que només alimenta l'argument que hem de tenir por de les persones i no de la pròpia IA. Tanmateix, la veritat és que la IA pot ser dolenta fins i tot sense persones malintencionades.
També estic d'acord en el fet que el model comet errors estúpids, però els humans també, i, tanmateix, sabem que poden fer mal. Tot i que els models cometen molts errors, també poden resoldre molts problemes fantàstics, genials i complexos que la persona mitjana no pot resoldre. De la coneguda obra “Sparks of Artificial General Intelligence: Early Experiments with GPT-4”, em va sorprendre que la IA fos capaç de resoldre, encara que no sempre correctament, problemes de Fermi, problemes matemàtics més aviat complexos. La seva teoria de la ment i "una mica com la capacitat d'entendre" les accions dels altres també són molt impressionants. Totes aquestes coses apunten cap a la intel·ligència de la IA; existent, però no com la nostra.
Eliminar almenys alguns dels errors que cometen els models d'IA és generalment factible, de manera que la seva intel·ligència només pot créixer. Tot el que heu de fer és afegir un mòdul per a càlculs precisos, una base de dades i validació amb un altre model.
El més important de tota aquesta història és la velocitat del desenvolupament de la IA. GPT models han crescut enormement a un ritme vertiginós. Ara, n'hi ha ChatGPT plugins disponible, podeu utilitzar GPT models per escriure codi, les API estan disponibles per al gran públic i podeu utilitzar eines externes sense cap formació prèvia.
GPT-4, és clar, no conquistarà el món, però pot sacsejar molt l'economia. GPT-5, i la futura iteració del model, pot ser que no estigui molt per davant i probablement vingui amb habilitats molt més fortes. I reconeixem-ho, no podem esperar comprendre els models que encara no existeixen; ni tan sols hem arribat a entendre els models que ja existeixen. En aquest sentit, un descans de sis mesos pot ser una bona idea, però simplement pot ser que no sigui suficient.
I tenint en compte que el carrera d'IA ha començat, no hi ha temps per aprendre.
En general, davant tot això, també vaig signar la petició. Encara que no crec que ajudi de cap manera.
Llegeix més temes relacionats:
renúncia
En línia amb la Directrius del projecte Trust, si us plau, tingueu en compte que la informació proporcionada en aquesta pàgina no pretén ni s'ha d'interpretar com a assessorament legal, fiscal, d'inversió, financer o de cap altra forma. És important invertir només el que et pots permetre perdre i buscar assessorament financer independent si tens dubtes. Per obtenir més informació, us suggerim que feu referència als termes i condicions, així com a les pàgines d'ajuda i assistència proporcionades per l'emissor o l'anunciant. MetaversePost es compromet a fer informes precisos i imparcials, però les condicions del mercat estan subjectes a canvis sense previ avís.
About The Autor
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
més articles
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
