OpenAI: La IA podria fer molt mal a les persones, però intentar aturar el progrés no és una opció
En breu
OpenAIEl document de "Planificació per a AGI i més enllà" suggereix una introducció gradual i lenta de models més complexos i "intel·ligents", organitzant auditories independents de grans sistemes i limitant els recursos informàtics.
OpenAI vol que la IA estigui oberta a tothom per igual i que creï més coherent i models manejables per reduir el biaix i el comportament indesitjable.
OpenAI recentment va publicar un document titulat "Planificació de l'AGI i més enllà". Esbossa les grans idees que guien les accions de l'empresa a mesura que el món s'acosta al desenvolupament de l'AGI (intel·ligència general artificial).
OpenAI with creu que, tot i que la IA té el potencial de causar danys importants a les persones, intentar aturar el progrés no és una opció. En conseqüència, hem d'aprendre a mantenir aquesta millora perquè no es deteriori de manera significativa.
El document es pot trobar aquí. Destaquem-ne alguns elements crucials:
- OpenAI vol que AGI ajudi les persones a prosperar en tots els aspectes de la seva vida, tant econòmicament com científicament.
En lloc de crear una intel·ligència intel·ligent gran i genial i llançar-la immediatament al món, OpenAI introduirà models més complicats i "intel·ligents" gradualment. La hipòtesi és que l'augment gradual de les capacitats d'IA no impactarà el món, donant temps als humans per ajustar-se, adaptar l'economia i crear procediments per interactuar amb la IA. - OpenAI convida totes les organitzacions a adoptar formalment el principi esmentat (desplegar gradualment una IA potent). Altman també recomana limitar la quantitat de recursos informàtics que es poden utilitzar per entrenar models i establir auditories imparcials dels sistemes principals abans que estiguin disponibles al públic en general. En lloc de participar en competicions com "qui serà el primer a llançar un model més fresc i més gran?" OpenAI demana a les empreses treballar junts per millorar la seguretat de la IA.
- OpenAI creu que és fonamental que els governs estiguin informats sobre les sessions de formació que superen una escala determinada. Aquest és un concepte intrigant i ens agradaria saber-ne més plans OpenAI té en aquest sentit. Aquesta proposta no em sembla gens genial al principi.
- OpenAI intentarà desenvolupar models que siguin més fiables i controlables, amb més probabilitats de limitar el biaix i el comportament desfavorable en IA. L'enfocament adoptat per OpenAI en aquest cas és posar el model a disposició del públic en general d'una forma molt limitada alhora que ofereix als usuaris l'opció de personalitzar-lo. Com que els consumidors no podran "personalitzar" res allà, no estic segur de com això ajudarà a que el model en conjunt es torni menys esbiaixat. Llevat que eximeix la firma de responsabilitat per les accions del model.
En general, el document apunta de la manera correcta. No obstant això, hi va haver un petit conflicte entre "no mostrarem immediatament models genials al públic, sinó que en parlarem als estats" i "la gent ho hauria de saber sobre el progrés de la IA". En resum, estarem a l'espera d'aclariments detallats OpenAI sobre tots els temes.
Llegeix més sobre AI:
renúncia
En línia amb la Directrius del projecte Trust, si us plau, tingueu en compte que la informació proporcionada en aquesta pàgina no pretén ni s'ha d'interpretar com a assessorament legal, fiscal, d'inversió, financer o de cap altra forma. És important invertir només el que et pots permetre perdre i buscar assessorament financer independent si tens dubtes. Per obtenir més informació, us suggerim que feu referència als termes i condicions, així com a les pàgines d'ajuda i assistència proporcionades per l'emissor o l'anunciant. MetaversePost es compromet a fer informes precisos i imparcials, però les condicions del mercat estan subjectes a canvis sense previ avís.
About The Autor
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
més articles
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
