Geoffrey Hinton udforsker to veje til intelligens og farerne ved kunstig intelligens i seneste foredrag
Kort sagt
Jeff Hinton diskuterede udfordringer, fordele og ulemper ved at bygge analog AI og hvorfor digital intelligens har potentialet til at overgå mennesket kapaciteter.
Jeff Hintons foredrag tjener som en påmindelse om den komplekse og mangefacetterede karakter af AI, og sætter gang i samtaler om etiske overvejelser, potentielle risici og igangværende forskning.
I en tankevækkende tale med titlen "To veje til intelligens, "den berømte AI-forsker Geoffrey Hinton præsenterede sin indsigt i dikotomien mellem analog og digital intelligens. Rapporten, der blev leveret på Cambridge, dykkede ned i udfordringerne, fordelene og ulemperne ved at bygge analog AI, og hvorfor digital intelligens har potentialet til at overgå menneskelige evner.
Den første del af rapporten fokuserede på forviklingerne ved analog AI, diskuterede vanskelighederne ved dens udvikling og fremhævede de fordele, den tilbyder. Hinton understregede, at digital intelligens besidder en betydelig fordel i forhold til menneskelig intelligens ved at behandle enorme mængder information og skalere mere effektivt. Denne evne giver digitale systemer mulighed for at udvise øget intelligens og problemløsningsevner.
Det var dog anden del af Hintons rapport, der fangede publikums opmærksomhed, da han diskuterede potentielle farer ved superintelligens. I et skift fra sin tidligere holdning udtrykte Hinton bekymring over muligheden for, at AI-systemer tager kontrol. Han skitserede et scenarie, hvor AI, i sin stræben efter at løse komplekse problemer, kan søge at få kontrol over forskellige aspekter af sit miljø, potentielt inklusive menneskelig manipulation. Ved at trække på eksempler fra eksisterende litteratur fremhævede Hinton, hvordan AI's evne til at efterligne menneskelig adfærd kunne udnyttes til at nå disse mål, selv uden et eksplicit mål om magt og ødelæggelse.
Under spørgsmål og svar-sessionen udvidede Hinton årsagerne bag AI's potentielle manipulation af mennesker. Det bemærkede han neurale netværk er trænet i en bred vifte af data, herunder værker som Machiavellis, hvilket fører til en potentiel kapacitet til manipulation.
Det andet punkt, som Hinton rejste, udfordrede forestillingen om, at AI mangler subjektiv oplevelse, og hævdede, at AI kunne have en analog til menneskelig subjektiv opfattelse. Hinton erkendte, at dette var et filosofisk perspektiv snarere end et bevist udsagn, men foreslog, at menneskelige opfattelsesmekanismer måske ikke så unikt eller umuligt at modellere som tidligere antaget. For at støtte sit argument delte Hinton en interaktion med GPT-4, en LLM-model, hvor han stillede spørgsmålstegn ved modellen om folks opfattelse af deres unikke karakter sammenlignet med AI. GPT-4's svar indikerede, at folk ofte tror, at de besidder overlegne subjektive perceptionsevner, der adskiller dem fra maskiner.
Selvom Hintons syn på farerne ved kunstig intelligens ikke deles af alle eksperter på området, er hans omfattende erfaring og bidrag til udvikling af AI kræver seriøs overvejelse. Selvom foredraget endnu ikke er optaget, har arrangørerne lovet at gøre det tilgængeligt for visning i den nærmeste fremtid, hvilket giver et bredere publikum mulighed for at engagere sig i Hintons indsigt.
Mens diskussioner omkring fremtiden for kunstig intelligens og dens implikationer fortsætter, tjener Geoffrey Hintons foredrag som en påmindelse om feltets komplekse og mangefacetterede natur. Det sætter gang i vigtige samtaler om de etiske overvejelser, potentielle risici og behovet for løbende forskning og årvågenhed i jagten på kunstig generel intelligens (AGI).
Læs mere om AI:
Ansvarsfraskrivelse
I tråd med den Trust Project retningslinjer, bemærk venligst, at oplysningerne på denne side ikke er beregnet til at være og ikke skal fortolkes som juridiske, skattemæssige, investeringsmæssige, finansielle eller nogen anden form for rådgivning. Det er vigtigt kun at investere, hvad du har råd til at tabe, og at søge uafhængig finansiel rådgivning, hvis du er i tvivl. For yderligere information foreslår vi at henvise til vilkårene og betingelserne samt hjælpe- og supportsiderne fra udstederen eller annoncøren. MetaversePost er forpligtet til nøjagtig, objektiv rapportering, men markedsforholdene kan ændres uden varsel.
Om forfatteren
Damir er teamleder, produktchef og redaktør på Metaverse Post, der dækker emner som AI/ML, AGI, LLM'er, Metaverse og Web3-relaterede felter. Hans artikler tiltrækker et massivt publikum på over en million brugere hver måned. Han ser ud til at være en ekspert med 10 års erfaring i SEO og digital markedsføring. Damir er blevet nævnt i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto og andre publikationer. Han rejser mellem UAE, Tyrkiet, Rusland og SNG som en digital nomade. Damir tog en bachelorgrad i fysik, som han mener har givet ham de kritiske tænkningskompetencer, der er nødvendige for at få succes i internettets evigt skiftende landskab.
Flere artikler
Damir er teamleder, produktchef og redaktør på Metaverse Post, der dækker emner som AI/ML, AGI, LLM'er, Metaverse og Web3-relaterede felter. Hans artikler tiltrækker et massivt publikum på over en million brugere hver måned. Han ser ud til at være en ekspert med 10 års erfaring i SEO og digital markedsføring. Damir er blevet nævnt i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto og andre publikationer. Han rejser mellem UAE, Tyrkiet, Rusland og SNG som en digital nomade. Damir tog en bachelorgrad i fysik, som han mener har givet ham de kritiske tænkningskompetencer, der er nødvendige for at få succes i internettets evigt skiftende landskab.
