OpenAI Aixeca l'alarma sobre el potencial de la superintel·ligència i la IA per superar les capacitats humanes en la propera dècada
En breu
OpenAI fa una crida per a la regulació de la superintel·ligència, destacant la necessitat de governança a la llum dels ràpids avenços de la IA.
Es preveu que els sistemes d'IA superin l'experiència humana i productivitat corporativa en una dècada, Segons OpenAI.
OpenAI posa l'accent en la importància de la supervisió pública i el control democràtic per als sistemes d'IA potents.
OpenAI, el creador de ChatGPT, ha fet una crida a la reflexió per al regulació de superintel·ligència, fent paral·lelismes a la regulació de l'energia nuclear. En un recent entrada de bloc, OpenAI va destacar les implicacions potencials dels avenços ràpids de la IA i va emfatitzar la necessitat imperiosa de governança en aquest panorama en evolució. La companyia va afirmar que els sistemes d'IA superarien els experts i les corporacions més grans en productivitat i habilitats en un termini de deu anys.
"També hem de mitigar els riscos de la tecnologia d'IA actual, però la superintel·ligència requerirà un tractament i una coordinació especials", va dir Sam Altman, Greg Brockman i Ilya Sutskever de OpenAI va subratllar.
La superintel·ligència descriu una entitat que supera la intel·ligència humana global o alguns aspectes específics de la intel·ligència. Segons els autors, la superintel·ligència de la intel·ligència artificial tindrà un nivell de poder inigualable, que abasta aspectes tant positius com negatius.
El desenvolupament i els riscos de la superintel·ligència inevitable
OpenAI ha identificat tres idees importants que tenen un paper fonamental en la navegació pel desenvolupament reeixit de la superintel·ligència. Aquests inclouen la coordinació entre els principals esforços de desenvolupament, l'establiment d'una autoritat internacional semblant a l'Agència Internacional d'Energia Atòmica (OIEA) i el desenvolupament de capacitats tècniques per a la seguretat.
Mentre que OpenAI reconeix que els sistemes d'IA comporten riscos, aquests riscos són comparables als associats amb altres tecnologies relacionades amb Internet. Altman, Brockman i Sutskever també confien que els enfocaments actuals de la societat per gestionar aquests riscos són adequats. Tanmateix, la principal preocupació és sobre sistemes futurs que tindran un poder sense precedents.
"Per contra, els sistemes que ens preocupen tindran una potència més enllà de qualsevol tecnologia encara creada, i hauríem de tenir cura de no disminuir l'atenció en ells aplicant estàndards similars a la tecnologia molt per sota d'aquesta barra", deia la publicació del blog.
Els autors argumenten que els potents sistemes d'IA necessiten supervisió pública i control democràtic. També expliquen per què estan construint aquesta tecnologia a OpenAI: crear un món millor i evitar els riscos d'aturar-lo. La IA ajuda en diverses àrees, com ara l'educació, la creativitat i la productivitat, així com el creixement econòmic general.
OpenAI creu que és difícil i arriscat atura la superintel·ligència de ser creat. La superintel·ligència té avantatges considerables, s'abarati cada any, hi treballa més gent i forma part del camí tecnològic de l'empresa.
Ilman Shazhaev, emprenedor tecnològic en IA i cofundador de Farcana Labs, va compartir alguns comentaris sobre la notícia. Les projeccions indiquen que si no es gestiona adequadament, la superintel·ligència pot ser un dels invents més destructius de tots els temps. No obstant això, les converses sobre el desplegament de la tecnologia continuen divisòries, ja que encara no s'ha desenvolupat. Impulsar per aturar el desenvolupament basant-se en la por a les prediccions pot privar la humanitat de les oportunitats que la nova tecnologia podria tenir reservades.
"OpenAIL'enfocament de govern descentralitzat pot ajudar a mantenir la seva àmplia seguretat. Amb la normativa adequada, el programa es podria tancar en el cas que ho faci suposa una amenaça. Si s'estableixen aquestes garanties, la Superintel·ligència pot ser una innovació que val la pena explorar", va dir Shazhaev.
En discutir obertament les seves opinions sobre la superintel·ligència d'IA i les mesures reguladores proposades, OpenAI sembla fomentar debats informats i convidar perspectives diverses.
Sam Altman creu fermament en la disponibilitat generalitzada de la IA per al públic. Reconeixent que és impossible preveure tots els problemes amb antelació, advoca per abordar els problemes el més aviat possible. Tanmateix, Altman també subratlla la importància de les auditories independents per a sistemes com ChatGPT abans de l'alliberament. A més, reconeix la possibilitat d'implementar mesures com limitar el ritme de creació de nous models o establir un comitè per avaluar la seguretat dels models d'IA abans del llançament al mercat. En particular, Altman prediu que la quantitat d'intel·ligència a l'univers es duplicarà cada 18 mesos.
Llegir més:
renúncia
En línia amb la Directrius del projecte Trust, si us plau, tingueu en compte que la informació proporcionada en aquesta pàgina no pretén ni s'ha d'interpretar com a assessorament legal, fiscal, d'inversió, financer o de cap altra forma. És important invertir només el que et pots permetre perdre i buscar assessorament financer independent si tens dubtes. Per obtenir més informació, us suggerim que feu referència als termes i condicions, així com a les pàgines d'ajuda i assistència proporcionades per l'emissor o l'anunciant. MetaversePost es compromet a fer informes precisos i imparcials, però les condicions del mercat estan subjectes a canvis sense previ avís.
About The Autor
L'Agne és una periodista que cobreix les últimes tendències i desenvolupaments en el metavers, IA i Web3 indústries per a Metaverse Post. La seva passió per la narració l'ha portat a realitzar nombroses entrevistes amb experts en aquests camps, sempre buscant descobrir històries apassionants i atractives. L'Agne és llicenciada en literatura i té una àmplia experiència en l'escriptura sobre una àmplia gamma de temes, com ara viatges, art i cultura. També ha estat voluntaria com a editora de l'organització dels drets dels animals, on va ajudar a conscienciar sobre els problemes de benestar animal. Contacta amb ella [protegit per correu electrònic].
més articles
L'Agne és una periodista que cobreix les últimes tendències i desenvolupaments en el metavers, IA i Web3 indústries per a Metaverse Post. La seva passió per la narració l'ha portat a realitzar nombroses entrevistes amb experts en aquests camps, sempre buscant descobrir històries apassionants i atractives. L'Agne és llicenciada en literatura i té una àmplia experiència en l'escriptura sobre una àmplia gamma de temes, com ara viatges, art i cultura. També ha estat voluntaria com a editora de l'organització dels drets dels animals, on va ajudar a conscienciar sobre els problemes de benestar animal. Contacta amb ella [protegit per correu electrònic].
