Els líders d'IA adverteixen dels riscos creixents i de les preocupacions ètiques en els avenços ràpids
En una declaració política recent, figures destacades en el camp de la IA, com Bengio, Hinton, Russell, Harari i Kahneman, han donat l'alarma sobre el ràpid progrés i els creixents riscos socials associats a la IA.
La IA s'està desenvolupant ràpidament. GPT-2 No podia comptar de 0 a 100 fa quatre anys, però els models moderns poden escriure codi, fer imatges sorprenents i oferir orientació intel·lectual. I com que estem en una carrera, el progrés pot agafar encara més velocitat. A més, la IA avança més ràpidament, per exemple, ajudant en la programació de nous sistemes i en la recollida de dades per a la seva formació.
Una vegada que el progrés arriba als nivells humans, no hi ha cap raó per pensar que es frenarà o s'aturarà. En determinades regions, els sistemes artificials ja han superat els humans en aquest sentit, exhibint capacitats com ara un processament més ràpid velocitats, majors capacitats de processament de dades i escalabilitat a gran escala. Les empreses tenen els mitjans econòmics per implementar programes de formació que superen amb escreix el límit actual.
Els autors pensen que hi ha una bona probabilitat que sorgeixi un millor generalista d'IA en els propers deu anys més o menys. superant les capacitats humanes en molts àmbits importants.
Què passarà després? Totes les vides es poden millorar si es gestionen i es distribueixen adequadament. L'opció mal triada comporta riscos importants per als quals estem mal preparats. En lloc de destinar-se a la seguretat i la prevenció de danys, s'estan utilitzant recursos importants per construir sistemes d'IA que siguin cada cop més potents. Això ha de canviar; per si mateixes les habilitats és insuficient. I aquest procés està trigant més del previst. Hem de planificar els riscos més alts abans que sorgeixin anticipant-nos a l'escalada de les amenaces actuals i l'aparició de noves. No tenim la mateixa quantitat de temps per a la IA que està trigant dècades a ser acceptada en relació el canvi climàtic.
Existeixen nombrosos riscos a nivell social, com ara un augment de la injustícia, un deteriorament de l'estabilitat i un deteriorament de la percepció comuna de la realitat. Aquí, terroristes i delinqüents es dediquen a una àmplia activitat. La IA podria concentrar-se en mans d'uns quants jugadors, cosa que condueix a una major desigualtat global, facilitant la guerra automatitzada, la manipulació massiva que s'adapta a cada individu i la vigilància omnipresent.
Com a autònoms La IA es torna més sofisticada i és capaç de planificar, actuar en el món, i assolir els seus objectius, aquests riscos només augmentaran. Aquests objectius poden no ser del nostre millor interès i, en el cas dels mals actors, fins i tot poden ser perjudicials. Actualment no està clar com resoldre el problema de l'alineació de l'IA, que implica fer coincidir el comportament de l'IA amb els nostres complexos objectius. A més, és molt senzill passar per alt les precaucions de seguretat quan es corre amb la intenció de guanyar.
El programari normal és difícil de controlar per als humans, i molt menys els sistemes d'IA sofisticats que són cada cop més hàbils en l'enginyeria social, la pirateria, l'engany i la planificació estratègica. Això és una cosa que els sistemes d'IA autònoms poden recollir de les persones o crear ells mateixos.
Aquests sistemes tenen la capacitat de crear coalicions amb individus i altres sistemes, guanyar-se la confiança, assegurar el finançament i influir en els qui prenen decisions. Com un cuc, són capaços d'autoreplicar-se a tota la xarxa. Ja s'escriuen quantitats massives de codi amb l'ajuda d'assistents d'IA; en el futur, els sistemes poden incorporar explotacions en nombrosos sistemes crucials. Els sistemes d'IA tenen la capacitat d'utilitzar o amenaçar armes biològiques o autònomes en combat obert. Això és només una continuació de els moviments actuals cap a la investigació biològica, la intel·ligència artificial i l'automatització de la guerra. A la gent pot ser massa difícil intervenir i resistir.
En molts casos, estem disposats a donar-los les regnes sense que els hagin de demanar. Molts individus i empreses estan disposats a posar en marxa aquests sistemes ells mateixos en un entorn competitiu per preocupar-se que quedaran per darrere de la competència.
Es pot trobar el document complet aquí.
renúncia
En línia amb la Directrius del projecte Trust, si us plau, tingueu en compte que la informació proporcionada en aquesta pàgina no pretén ni s'ha d'interpretar com a assessorament legal, fiscal, d'inversió, financer o de cap altra forma. És important invertir només el que et pots permetre perdre i buscar assessorament financer independent si tens dubtes. Per obtenir més informació, us suggerim que feu referència als termes i condicions, així com a les pàgines d'ajuda i assistència proporcionades per l'emissor o l'anunciant. MetaversePost es compromet a fer informes precisos i imparcials, però les condicions del mercat estan subjectes a canvis sense previ avís.
About The Autor
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
més articles
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
