Geoffrey Hinton utforskar två vägar till intelligens och farorna med AI i senaste samtal
I korthet
Jeff Hinton diskuterade utmaningarna, fördelarna och nackdelarna med att bygga analog AI och varför digital intelligens har potential att överträffa människan kapacitet.
Jeff Hintons föredrag tjänar som en påminnelse om AI:s komplexa och mångfacetterade natur, och väckte samtal om etiska överväganden, potentiella risker och pågående forskning.
I ett tankeväckande föredrag med titeln "Två vägar till intelligens”, den berömda AI-forskaren Geoffrey Hinton presenterade sina insikter om dikotomi mellan analog och digital intelligens. Rapporten, som levererades i Cambridge, grävde ner sig i utmaningarna, fördelarna och nackdelarna med att bygga analog AI och varför digital intelligens har potentialen att överträffa mänskliga förmågor.
Den första delen av rapporten fokuserade på krångligheterna med analog AI, diskuterade svårigheterna i dess utveckling och lyfte fram de fördelar den erbjuder. Hinton betonade att digital intelligens har en betydande fördel jämfört med mänsklig intelligens genom att bearbeta stora mängder information och skala mer effektivt. Denna förmåga tillåter digitala system att uppvisa ökad intelligens och problemlösningsförmåga.
Det var dock den andra delen av Hintons rapport som fångade publikens uppmärksamhet, när han diskuterade potentiella faror med superintelligens. I ett skifte från sin tidigare hållning uttryckte Hinton oro över möjligheten att AI-system tar kontroll. Han beskrev ett scenario där AI, i sin strävan efter att lösa komplexa problem, kan försöka få kontroll över olika aspekter av sin miljö, potentiellt inklusive mänsklig manipulation. Med hjälp av exempel från befintlig litteratur framhöll Hinton hur AI:s förmåga att efterlikna mänskligt beteende kan utnyttjas för att uppnå dessa mål, även utan ett uttryckligt mål om makt och förstörelse.
Under frågestunden expanderade Hinton om orsakerna bakom AI:s potentiella manipulation av människor. Han noterade det neurala nätverk är utbildade på en mängd olika data, inklusive verk som Machiavellis, vilket leder till en potentiell förmåga till manipulation.
Den andra punkten som togs upp av Hinton ifrågasatte föreställningen att AI saknar subjektiv erfarenhet och hävdade att AI kunde ha en analog till mänsklig subjektiv uppfattning. Hinton erkände att detta var ett filosofiskt perspektiv snarare än ett bevisat uttalande men föreslog att mänskliga perceptionsmekanismer kanske inte är så unikt eller omöjligt att modellera som tidigare trott. För att stödja hans argument delade Hinton en interaktion med GPT-4, en LLM-modell, där han ifrågasatte modellen om människors uppfattningar om deras unika egenskaper jämfört med AI. GPT-4Svaret indikerade att människor ofta tror att de har överlägsna subjektiva uppfattningsförmåga, vilket skiljer dem från maskiner.
Även om Hintons åsikter om farorna med AI inte delas av alla experter på området, men hans omfattande erfarenhet och bidrag till utveckling av AI motiverar seriöst övervägande. Även om föredraget ännu inte har spelat in, har arrangörerna lovat att göra det tillgängligt för visning inom en snar framtid, vilket gör att en bredare publik kan engagera sig i Hintons insikter.
När diskussionerna kring framtiden för AI och dess implikationer fortsätter, tjänar Geoffrey Hintons föredrag som en påminnelse om fältets komplexa och mångfacetterade natur. Det utlöser viktiga samtal om etiska överväganden, potentiella risker och behovet av pågående forskning och vaksamhet i jakten på artificiell allmän intelligens (AGI).
Läs mer om AI:
Villkor
I linje med den Riktlinjer för Trust Project, vänligen notera att informationen på den här sidan inte är avsedd att vara och inte ska tolkas som juridisk, skattemässig, investerings-, finansiell eller någon annan form av rådgivning. Det är viktigt att bara investera det du har råd att förlora och att söka oberoende finansiell rådgivning om du har några tvivel. För ytterligare information föreslår vi att du hänvisar till villkoren samt hjälp- och supportsidorna som tillhandahålls av utfärdaren eller annonsören. MetaversePost är engagerad i korrekt, opartisk rapportering, men marknadsförhållandena kan ändras utan föregående meddelande.
Om författaren
Damir är teamledare, produktchef och redaktör på Metaverse Post, som täcker ämnen som AI/ML, AGI, LLMs, Metaverse och Web3-relaterade områden. Hans artiklar lockar en massiv publik på över en miljon användare varje månad. Han verkar vara en expert med 10 års erfarenhet av SEO och digital marknadsföring. Damir har nämnts i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto och andra publikationer. Han reser mellan Förenade Arabemiraten, Turkiet, Ryssland och OSS som en digital nomad. Damir tog en kandidatexamen i fysik, som han tror har gett honom de kritiska tänkande färdigheter som behövs för att bli framgångsrik i det ständigt föränderliga landskapet på internet.
fler artiklar
Damir är teamledare, produktchef och redaktör på Metaverse Post, som täcker ämnen som AI/ML, AGI, LLMs, Metaverse och Web3-relaterade områden. Hans artiklar lockar en massiv publik på över en miljon användare varje månad. Han verkar vara en expert med 10 års erfarenhet av SEO och digital marknadsföring. Damir har nämnts i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto och andra publikationer. Han reser mellan Förenade Arabemiraten, Turkiet, Ryssland och OSS som en digital nomad. Damir tog en kandidatexamen i fysik, som han tror har gett honom de kritiska tänkande färdigheter som behövs för att bli framgångsrik i det ständigt föränderliga landskapet på internet.
