Mængden af intelligens i universet vil fordobles hver 18. måned, siger Sam Altman
Kort sagt
AI-apokalypsen er begyndt, hvor mængden af intelligens i universet fordobles hver 18. måned.
OpenAISam Altman jokede engang med, at kunstig intelligens ville føre til verdens ende, men før det ville det være en kæmpe forretning.
Eric Hoel, en amerikansk neurovidenskabsmand og filosof ved Tufts University, hævder, at AI-systemer ikke kan betragtes som intelligente på dette tidspunkt, da de ikke forstår verden og ikke har en personlighed, der viser sig i deres hensigter og handlinger.
Den Bayesianske hjernehypotese siger, at hjernens primære funktion er at minimere overraskelse. Hvis dette er sandt, er AI-apokalypsen måske allerede begyndt.
Dette antyder det ChatGPT og andre er allerede mere alsidige i deres intelligens end noget menneske.
AI-apokalypsen er begyndt og ændrer betydningen af Moores lov. Nu vil mængden af intelligens i universet fordobles hver 18. måned, iflg Sam Altman, Administrerende direktør for OpenAI, selskabet bagved ChatGPT. For bare syv år siden jokede Sam: "AI vil højst sandsynligt føre til verdens ende, men før det vil der være en enorm forretning." Nu joker folk han skiller sig ikke af med en "atomrygsæk", så han kan fjerndetonere datacentre, hvis GPT kommer ud af kontrol.
| Anbefalet indlæg: ChatGPT Kan forårsage irreversibel menneskelig degeneration |
For bedre at forstå, hvad Altman refererer til i sit tweet, og for at finde ud af, hvordan man ikke bliver skør under AI-boomet, anbefaler vi at læse Eric Hoels "Sådan navigerer du i AI-apokalypsen som en fornuftig person." Hoel er en amerikansk neurovidenskabsmand og filosof ved Tufts University. Det er god læsning, da Hoel er en fantastisk forfatter, så vi defikan varmt anbefale at tjekke dette indlæg ud.
Lad os lige se på et af nøglepunkterne, da det opsummerer en dyb forståelse af, hvad der sker, og den nære fremtid for apokalypsen, der allerede er kommet. Hovedargumentet for "rationelle teknooptimister", som mener, at der ikke skete noget ekstraordinært og alt for risikabelt med fremkomsten af ChatGPT, er som følgende:
- På trods af de fremragende resultater af generativ samtale-AI (som ChatGPT, Bing osv.), kan disse AI-systemer ikke betragtes som intelligente. De forstår ikke verden og har ikke en agents motivation. De har ikke en personlighed, der manifesterer sig i deres hensigter og handlinger, og deres opfattede intellekt er intet andet end en simulacrum af intellekt. I sin kerne er dette simulacrum blot en auto-filler for de næste ord, og afspejler i sit sandsynlige spejl det kolossale, ufiltrerede korpus af menneskeskrevne tekster fra internettet.
- Hvis det er tilfældet, så er der hverken en nær udsigt til udseendet af en superintelligens eller de risici, der er forbundet med den (selvom du selvfølgelig skal forberede dig på dette, højst sandsynligt i årtiers horisont).
| Anbefalet indlæg: AI Search Bots vil gøre Big Tech endnu mere kraftfuld, siger Christopher Millsation |
Hoels svar på denne argumentation er som følger:
- Det faktum, at ChatGPT, for eksempel, blot er en autofuldførelse af de næste ord, betyder det ikke, at den ikke kan blive (eller allerede er blevet) en intelligent agent. I modsætning til bevidsthed er intelligens et fuldt funktionelt begreb: Hvis noget handler intelligent, er det intelligent. Hvis den fungerer som en agent, er den en agent.
- Her er et forklarende eksempel. Der er en indflydelsesrig kohorte af videnskabsmænd - Carl Friston (den mest citerede neurovidenskabsmand) og en lang række andre berømte navne - som hævder, at formålet med vores hjerne er at minimere overraskelse. Denne "bayesianske hjernehypotese" er en af de almindelige i dag. Teorien siger, at minimering af overraskelse på globalt plan er hjernens primære funktion. Og selvom dette blot er en af flere ledende hypoteser om, hvordan hjernen fungerer, så lad os antage, at det er sandt. Forestil dig nu, at aliens finder en menneskelig hjerne, ser på den og siger: "Åh, denne ting minimerer bare overraskelse! Det kan ikke være grundlaget for intellektet og kan derfor ikke være farligt for de sande bærere af sindet. Tænk: Er "minimering af overraskelser" virkelig et meget sværere mål end automatisk udfyldelse af tekst? Eller er det faktisk meget ens?
- Og hvis ja, så er den ikke-menneskelige superintelligens måske allerede i nærheden. Og de dermed forbundne risici er allerede ret reelle. Hvad er der ellers at tilføje? Måske ChatGPT og andre er allerede mere alsidige i deres intelligens end noget menneske. ChatGPT og andre vil sandsynligvis være aktive på samme tid af følgende grunde: rimelig, upålidelig og ikke lig det menneskelige sind, ukontrollerbar i nogen grundlæggende forstand, bortset fra nogle hastigt designede hegn.
Og hvis alt dette er sandt, så er AI-apokalypsen allerede begyndt.
Læs flere relaterede emner:
Ansvarsfraskrivelse
I tråd med den Trust Project retningslinjer, bemærk venligst, at oplysningerne på denne side ikke er beregnet til at være og ikke skal fortolkes som juridiske, skattemæssige, investeringsmæssige, finansielle eller nogen anden form for rådgivning. Det er vigtigt kun at investere, hvad du har råd til at tabe, og at søge uafhængig finansiel rådgivning, hvis du er i tvivl. For yderligere information foreslår vi at henvise til vilkårene og betingelserne samt hjælpe- og supportsiderne fra udstederen eller annoncøren. MetaversePost er forpligtet til nøjagtig, objektiv rapportering, men markedsforholdene kan ændres uden varsel.
Om forfatteren
Damir er teamleder, produktchef og redaktør på Metaverse Post, der dækker emner som AI/ML, AGI, LLM'er, Metaverse og Web3-relaterede felter. Hans artikler tiltrækker et massivt publikum på over en million brugere hver måned. Han ser ud til at være en ekspert med 10 års erfaring i SEO og digital markedsføring. Damir er blevet nævnt i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto og andre publikationer. Han rejser mellem UAE, Tyrkiet, Rusland og SNG som en digital nomade. Damir tog en bachelorgrad i fysik, som han mener har givet ham de kritiske tænkningskompetencer, der er nødvendige for at få succes i internettets evigt skiftende landskab.
Flere artikler
Damir er teamleder, produktchef og redaktør på Metaverse Post, der dækker emner som AI/ML, AGI, LLM'er, Metaverse og Web3-relaterede felter. Hans artikler tiltrækker et massivt publikum på over en million brugere hver måned. Han ser ud til at være en ekspert med 10 års erfaring i SEO og digital markedsføring. Damir er blevet nævnt i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto og andre publikationer. Han rejser mellem UAE, Tyrkiet, Rusland og SNG som en digital nomade. Damir tog en bachelorgrad i fysik, som han mener har givet ham de kritiske tænkningskompetencer, der er nødvendige for at få succes i internettets evigt skiftende landskab.
