Geoffrey Hinton explora dos camins cap a la intel·ligència i els perills de la IA en una xerrada recent
En breu
Jeff Hinton va parlar dels reptes, avantatges i desavantatges de la creació d'IA analògica i per què digital la intel·ligència té el potencial de superar els humans capacitats.
La xerrada de Jeff Hinton serveix com a recordatori de la naturalesa complexa i polièdrica de la IA, provocant converses sobre consideracions ètiques, riscos potencials i investigacions en curs.
En una xerrada que incita a la reflexió titulada "Dos camins cap a la intel·ligència”, el reconegut investigador d'IA Geoffrey Hinton va presentar les seves idees sobre la dicotomia entre intel·ligència analògica i digital. L'informe, presentat a Cambridge, va aprofundir en els reptes, els avantatges i els desavantatges de la creació d'IA analògica i per què la intel·ligència digital té el potencial de superar les capacitats humanes.
La primera part de l'informe es va centrar en les complexitats de la IA analògica, discutint les dificultats del seu desenvolupament i destacant els avantatges que ofereix. Hinton va subratllar que la intel·ligència digital té un avantatge significatiu sobre la intel·ligència humana en processar grans quantitats d'informació i escalar de manera més eficaç. Aquesta capacitat permet que els sistemes digitals mostrin una intel·ligència i capacitats de resolució de problemes superiors.
No obstant això, va ser la segona part de l'informe de Hinton la que va captivar l'atenció de l'audiència, ja que va parlar de la perills potencials de la superintel·ligència. En un canvi de la seva posició anterior, Hinton va expressar la seva preocupació sobre la possibilitat que els sistemes d'IA prenguin el control. Va descriure un escenari en el qual la IA, en la seva recerca de resoldre problemes complexos, pot intentar controlar diversos aspectes del seu entorn, inclosa potencialment la manipulació humana. A partir d'exemples de la literatura existent, Hinton va destacar com es podria aprofitar la capacitat de la IA per imitar el comportament humà per assolir aquests objectius, fins i tot sense un objectiu explícit de poder i destrucció.
Durant la sessió de preguntes i respostes, Hinton va ampliar les raons darrere de la possible manipulació dels humans per part de l'IA. Va assenyalar que xarxes neuronals estan entrenats en una àmplia gamma de dades, incloses obres com la de Maquiavel, que condueixen a una capacitat potencial de manipulació.
El segon punt plantejat per Hinton va desafiar la noció que la IA no té experiència subjectiva, afirmant que la IA podria tenir un anàleg a la percepció subjectiva humana. Hinton va reconèixer que es tractava d'una perspectiva filosòfica més que d'una afirmació provada, però va suggerir que mecanismes de percepció humana pot no ser tan únic o impossible de modelar com es creia anteriorment. Per donar suport al seu argument, Hinton va compartir una interacció amb GPT-4, un model de LLM, on va qüestionar el model sobre la percepció de les persones sobre la seva singularitat en comparació amb la IA. GPT-4La resposta de 's va indicar que la gent sovint creu que posseeix capacitats de percepció subjectiva superiors, cosa que els diferencia de les màquines.
Si bé les opinions de Hinton sobre els perills de la IA no són compartides per tots els experts en la matèria, la seva àmplia experiència i contribucions a la desenvolupament de la IA mereix una consideració seriosa. Tot i que la xerrada encara no s'ha enregistrat, els organitzadors s'han compromès a posar-la a disposició per a la seva visualització en un futur proper, permetent a un públic més ampli interactuar amb les idees de Hinton.
A mesura que continuen les discussions sobre el futur de la IA i les seves implicacions, la xerrada de Geoffrey Hinton serveix com a recordatori de la naturalesa complexa i polièdrica del camp. Suscita converses importants sobre les consideracions ètiques, els riscos potencials i la necessitat d'investigació i vigilància contínua en la recerca de la intel·ligència general artificial. (AGI).
Llegeix més sobre AI:
renúncia
En línia amb la Directrius del projecte Trust, si us plau, tingueu en compte que la informació proporcionada en aquesta pàgina no pretén ni s'ha d'interpretar com a assessorament legal, fiscal, d'inversió, financer o de cap altra forma. És important invertir només el que et pots permetre perdre i buscar assessorament financer independent si tens dubtes. Per obtenir més informació, us suggerim que feu referència als termes i condicions, així com a les pàgines d'ajuda i assistència proporcionades per l'emissor o l'anunciant. MetaversePost es compromet a fer informes precisos i imparcials, però les condicions del mercat estan subjectes a canvis sense previ avís.
About The Autor
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
més articles
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
