Experts en IA i personatges públics alerten sobre el risc d'extinció de la IA
En breu
Experts destacats en IA i figures influents expressen el seu compartit preocupacions sobre els riscos associats a la IA.
Malgrat els avenços significatius en IA, molts reptes relacionats amb el risc d'IA continuen sense resoldre's.
Destacats experts en IA i personatges públics han emès un comunicat advertint que la IA podria suposar una amenaça per a la supervivència de la humanitat, comparable o fins i tot més gran que els riscos de pandèmies i guerra nuclear. Els 350 signants argumenten que la IA podria tenir conseqüències imprevistes i catastròfiques, com ara l'alliberament d'armes autònomes, la interrupció dels sistemes socials i econòmics o la creació d'agents superintel·ligents que poguessin superar i dominar els humans.
Demanen als responsables polítics que es prenguin seriosament aquests riscos i que adoptin mesures per garantir un desenvolupament segur i beneficiós de la IA. El declaració està signat per algunes de les figures líders en recerca i desenvolupament d'IA, com ara OpenAI El CEO Sam Altman, el cofundador d'Skype Jaan Tallinn, el CEO de DeepMind Demis Hassabis i el científic informàtic d'IA Geoffrey Hinton, així com personalitats públiques influents, com el músic Grimes i el podcaster Sam Harris.
Entre els signants hi havia els guanyadors del premi Turing 2018 per les seves contribucions a l'aprenentatge profund: Geoffrey Hinton i Yoshua Bengio. A ells s'hi van unir professors d'universitats prestigioses com Harvard i la Universitat de Tsinghua a la Xina, així com Max Tegmark del MIT.
"Mitigar el risc d'extinció de la IA hauria de ser una prioritat global juntament amb altres riscos a escala social com les pandèmies i la guerra nuclear".
diu la carta publicada pel CAIS.
Centre per a la seguretat de la IA (CAIS), una organització sense ànim de lucre amb seu a San Francisco, té com a objectiu abordar els problemes de seguretat relacionats amb la intel·ligència artificial. Tot i que reconeix els beneficis potencials de la IA, CAIS posa l'accent en la necessitat de desenvolupar-la i utilitzar-la de manera segura. Tot i els avenços significatius en IA, la companyia creu que nombrosos reptes fonamentals en la seguretat de la IA continuen sense resoldre. Segons el seu lloc web, la missió del CAIS és mitigar els riscos realitzant investigacions sobre seguretat, fomentant una comunitat d'investigadors de seguretat d'IA i defensant les normes de seguretat.
"Hi ha molts "riscos importants i urgents de la IA", no només el risc d'extinció; per exemple, biaix sistèmic, desinformació, ús maliciós, ciberatacs i armament. Tots aquests són riscos importants que cal abordar. Les societats poden gestionar múltiples riscos alhora; no és "o/o" sinó "sí/i". Des d'una perspectiva de gestió de riscos, de la mateixa manera que seria una temeritat prioritzar exclusivament els danys actuals, també seria una temeritat ignorar-los.
Dan Hendrycks, el director del CAIS escriure a Twitter.
Al març, més de 1,100 experts en tecnologia signat una carta oberta exigint una aturada de sis mesos a la superació de la formació de sistemes d'IA GPT-4. Els legisladors europeus també recentment aprovat esborrany de legislació més estricte, conegut com a Llei d'IA, que regula eines d'IA com ara ChatGPT. La llei inclou requisits per a controls de seguretat, governança de dades i mitigació de riscos per als models d'IA fonamentals i prohibeix pràctiques com les tècniques de manipulació i certs usos de la biometria.
Llegir més:
- OpenAI Presenta el seu últim enfocament per garantir la seguretat de la IA
- Google anunciarà un generador de text a avatar per als jugadors?
- CodeWhisperer d'Amazon ofereix als desenvolupadors l'avantatge que necessiten a l'AI Arena
- Vitalik Buterin i el director de MIRI, Nate Soares, aprofundeixen en els perills de la IA
renúncia
En línia amb la Directrius del projecte Trust, si us plau, tingueu en compte que la informació proporcionada en aquesta pàgina no pretén ni s'ha d'interpretar com a assessorament legal, fiscal, d'inversió, financer o de cap altra forma. És important invertir només el que et pots permetre perdre i buscar assessorament financer independent si tens dubtes. Per obtenir més informació, us suggerim que feu referència als termes i condicions, així com a les pàgines d'ajuda i assistència proporcionades per l'emissor o l'anunciant. MetaversePost es compromet a fer informes precisos i imparcials, però les condicions del mercat estan subjectes a canvis sense previ avís.
About The Autor
L'Agne és una periodista que cobreix les últimes tendències i desenvolupaments en el metavers, IA i Web3 indústries per a Metaverse Post. La seva passió per la narració l'ha portat a realitzar nombroses entrevistes amb experts en aquests camps, sempre buscant descobrir històries apassionants i atractives. L'Agne és llicenciada en literatura i té una àmplia experiència en l'escriptura sobre una àmplia gamma de temes, com ara viatges, art i cultura. També ha estat voluntaria com a editora de l'organització dels drets dels animals, on va ajudar a conscienciar sobre els problemes de benestar animal. Contacta amb ella [protegit per correu electrònic].
més articles
L'Agne és una periodista que cobreix les últimes tendències i desenvolupaments en el metavers, IA i Web3 indústries per a Metaverse Post. La seva passió per la narració l'ha portat a realitzar nombroses entrevistes amb experts en aquests camps, sempre buscant descobrir històries apassionants i atractives. L'Agne és llicenciada en literatura i té una àmplia experiència en l'escriptura sobre una àmplia gamma de temes, com ara viatges, art i cultura. També ha estat voluntaria com a editora de l'organització dels drets dels animals, on va ajudar a conscienciar sobre els problemes de benestar animal. Contacta amb ella [protegit per correu electrònic].
