Els experts tècnics signen una carta oberta demanant una pausa temporal en la formació de sistemes d'IA més avançats que GPT-4
En breu
Més de 1100 signants han signat la carta oberta demanant una pausa en els experiments d'IA gegants.
Entre els signants hi ha Elon Musk, Steve Wozniak i Emad Mostaque, entre d'altres.
La carta oberta va plantejar preocupacions sobre els biaixos informatius per part de la IA, automatització de treballs i el risc de la IA sobre la civilització humana.
Més de 1,100 signants, inclosos els principals experts en tecnologia, han signat un carta oberta demanant una pausa de sis mesos en la formació de sistemes d'IA més avançats que GPT-4.
La carta va ser escrita pel Future of Life Institute, una organització sense ànim de lucre que treballa per reduir els riscos catastròfics i existencials globals als quals s'enfronta la humanitat, especialment el risc existencial de la intel·ligència artificial avançada.
Citant els principis d'IA d'Asilomar, àmpliament aprovats, que diuen que "la IA avançada podria representar un canvi profund en la història de la vida a la Terra i s'hauria de planificar i gestionar amb una cura i recursos proporcionats", la carta diu que el nivell de planificació i la gestió no està passant.
La carta continua dient que els laboratoris d'IA es troben en una carrera "fora de control" per desenvolupar una intel·ligència artificial cada cop més potent que ningú pot entendre, predir o controlar de manera fiable. Com els sistemes d'IA contemporanis GPT-4 llauna competir amb els humans En tasques generals, la carta planteja preocupacions sobre els biaixos de la informació per part de la IA, l'automatització del treball i el risc de perdre el control de la civilització humana.
"Demanem a tots els laboratoris d'IA que posin en pausa immediatament durant almenys 6 mesos la formació de sistemes d'IA més potents que GPT-4. Aquesta pausa ha de ser pública i verificable, i incloure tots els actors clau. Si aquesta pausa no es pot promulgar ràpidament, els governs haurien d'intervenir i instituir una moratòria".
la lletra indica.
La carta implora als laboratoris d'IA i als experts en tecnologia que utilitzin el període de pausa per desenvolupar i implementar protocols de seguretat per al disseny i desenvolupament avançats d'IA que siguin rigorosament auditats i supervisats per experts externs independents.
No obstant això, el periodista nord-americà Jeff Jarvis va criticar la carta, dir que és un "primer exemplar de pànic moral".
Algunes de les ments líders en tecnologia i aprenentatge automàtic que han signat la carta juntament amb científics investigadors de DeepMind i diversos professors universitaris d'arreu del món inclouen:
- Yoshua Bengio, Universitat de Mont-real, Premi Turing per desenvolupar l'aprenentatge profund, cap de l'Institut d'Algoritmes d'Aprenentatge de Montreal
- Stuart Russell, Berkeley, professor d'informàtica, director del Centre de Sistemes Intel·ligents i coautor del llibre de text estàndard "Intel·ligència artificial: un enfocament modern"
- Elon Musk, CEO de SpaceX, Tesla i Twitter
- Emad Mostaque, CEO, Stability AI
- Jaan Tallinn, cofundador d'Skype, Centre per a l'estudi del risc existencial, Future of Life Institute
- Gary Marcus, Universitat de Nova York, investigador d'IA, professor emèrit
- Marc Rotenberg, Centre d'IA i Política Digital (CAIDP), president
En una carta recent, Rotenberg va escriure que el CAIDP presentarà una queixa davant la Comissió Federal de Comerç, demanant una investigació sobre Open AI i ChatGPT, així com la prohibició de més llançaments comercials del producte fins que s'estableixin garanties.
OpenAI El CEO Sam Altman ho té admès que "també necessitem prou temps perquè les nostres institucions esbringuin què han de fer" i que la societat no està lluny de les eines generatives d'IA "potencialment espantoses".
"Demanem a la FTC que "prem el botó de pausa" perquè hi hagi una oportunitat perquè les nostres institucions, les nostres lleis i la nostra societat es posin al dia. Hem de fer valer l'agència sobre les tecnologies que creem abans de perdre el control", afirma la carta del CAIDP.
En una altra part, legisladors de la UE pretenen signar un acord amb els països de la UE a finals d'any per implementar les normes d'IA, tot i que podria arribar a un coll d'ampolla a mesura que s'intensifiquen els debats sobre com s'ha de governar la IA.
Llegir més:
renúncia
En línia amb la Directrius del projecte Trust, si us plau, tingueu en compte que la informació proporcionada en aquesta pàgina no pretén ni s'ha d'interpretar com a assessorament legal, fiscal, d'inversió, financer o de cap altra forma. És important invertir només el que et pots permetre perdre i buscar assessorament financer independent si tens dubtes. Per obtenir més informació, us suggerim que feu referència als termes i condicions, així com a les pàgines d'ajuda i assistència proporcionades per l'emissor o l'anunciant. MetaversePost es compromet a fer informes precisos i imparcials, però les condicions del mercat estan subjectes a canvis sense previ avís.
About The Autor
Cindy és periodista a Metaverse Post, tractant temes relacionats amb web3, NFT, metavers i IA, amb un focus en les entrevistes amb Web3 actors del sector. Ha parlat amb més de 30 executius de nivell C i comptant, aportant els seus valuosos coneixements als lectors. Cindy, originària de Singapur, ara té la seu a Tbilisi, Geòrgia. Té una llicenciatura en Comunicació i Estudis de Mitjans de Comunicació per la Universitat d'Austràlia Meridional i té una dècada d'experiència en periodisme i escriptura. Posa't en contacte amb ella via [protegit per correu electrònic] amb presentacions de premsa, anuncis i oportunitats d'entrevistes.
més articles
Cindy és periodista a Metaverse Post, tractant temes relacionats amb web3, NFT, metavers i IA, amb un focus en les entrevistes amb Web3 actors del sector. Ha parlat amb més de 30 executius de nivell C i comptant, aportant els seus valuosos coneixements als lectors. Cindy, originària de Singapur, ara té la seu a Tbilisi, Geòrgia. Té una llicenciatura en Comunicació i Estudis de Mitjans de Comunicació per la Universitat d'Austràlia Meridional i té una dècada d'experiència en periodisme i escriptura. Posa't en contacte amb ella via [protegit per correu electrònic] amb presentacions de premsa, anuncis i oportunitats d'entrevistes.
