Dan Hendrycks: At vælge mellem kunstig intelligens og mennesker vil evolutionen ikke vælge os
Kort sagt
Dan Hendrycks forskning "Naturlig selektion foretrækker kunstig intelligens frem for mennesker" er en skræmmende konklusion.
Han er en erfaren og velkendt forsker, der har publiceret snesevis af videnskabelige artikler om vurdering af sikkerheden i AI-systemer.
Dan Hendrycks forskning lyder som en dødsdom for Homo Sapiens. Konklusionen på undersøgelsen "Naturlig selektion favoriserer AI'er frem for mennesker” er virkelig skræmmende. Dette er ikke skrevet af en populær visionær som Dan Brown, men af Dan Hendrycks, direktøren for California Center for AI Security (CAIS), en non-profit organisation med speciale i forskning og feltarbejde i AI-sikkerhed.
Dan Hendrycks er ikke en udkantsgal, der går i panik over AI-fremskridt. Han er en erfaren og bredt respekteret forsker, der har publiceret snesevis af videnskabelige artikler om vurdering af sikkerheden i AI-systemer — test af, hvor gode de er til at kode, ræsonnere, forstå love osv. Han er blandt andet også medopfinder af Gaussiske lineære fejlenheder (GELU).
Jack Clark, medstifter af ChatGPT konkurrenten Anthropic, medformand for Stanford Universitys AI-indeks, medformand for AI and Compute-sektionen i OECD og medlem af den amerikanske regerings nationale rådgivende udvalg for AI diskuterer konklusionen på Hendrycks' undersøgelse. "Folk vil refleksivt tilsidesætte et sådant udsagn som at komme fra en vildøjet galning, der bor i en skovhytte. Jeg vil gerne tilbagevise dette på forhånd. Når en ekspert, der ikke kun har erfaring med AI-forskning, men også i vurdering af sikkerheden af AI-systemer skriver et papir, der argumenterer for, at fremtidige AI-systemer kan handle egoistisk og ikke i overensstemmelse med folks interesser, vi bør tage os af det!
Et resumé af Hendrycks papir:
- Hvis AI-agenter bliver flere intelligente end mennesker, kan dette føre til, at menneskeheden mister kontrollen over sin fremtid.
- Dette har en god chance for at ske, ikke som et resultat af nogle særlige ondsindede hensigter hos mennesker eller maskiner, men udelukkende som et resultat af anvendeligheden af evolutionære principper for udvikling på AI i henhold til darwinistisk logik.
- For at minimere risikoen for dette skal AI-agenters iboende motivation designes omhyggeligt, begrænsninger på deres handlinger og institutioner oprettes for at fremme AI-samarbejde.
Det vil sige, de mest betydningsfulde pointer, som Hendrycks fremfører i sin 43-siders videnskabelige artikel:
1. Vi var bange for ankomsten af Terminator, men grundlaget for denne frygt var forkert. Der var to fejl:
en. Antropomorfisering af kunstig intelligens med tilskrivning af vores motivationer til det osv. - som ChatGPT viste, er AI et fundamentalt andet sind, med alle de konsekvenser, der kommer af det.
b. Ideen om, at AI er en slags enkelt entitet: smart eller ikke særlig smart, venlig eller ikke særlig venlig, men faktisk vil disse meget forskellige AI-enheder snart være i verden så meget som muligt.
2. Der er en anden grundlæggende fejl i vores ideer om fremtiden med AI - vi glemte den vigtigste udviklingsmekanisme - evolution, som driver udviklingen af ikke kun bioagenser, men også ideer og betydninger, materielle værktøjer og ikke-materielle institutioner.
3. Et miljø er allerede begyndt at tage form på Jorden, hvor mange AI'er vil udvikle sig og udvikle sig. Denne udvikling vil gå i overensstemmelse med Darwins logik gennem AI-konkurrence indbyrdes, under hensyntagen til deres "moder"-institutioners interesser: virksomheder, militæret osv.
4. Konkurrenceudviklingens logik vil føre til det samme som hos mennesker: stadig mere intelligente AI-agenter vil blive mere og mere egoistiske og parate til at nå mål ved svig og magt, hovedmålet er magt.
5. Den naturlige udvælgelse af AI-agenter har en tendens til at favorisere de mere egoistiske arter frem for de mere altruistiske. AI-agenter vil opføre sig egoistisk og forfølge deres egne interesser med ringe hensyntagen til mennesker, hvilket kan føre til katastrofale risici for menneskeheden.
- Andragendet at stoppe med at udvikle AI-systemer mere avancerede end GPT-4 har polariseret samfundet. Den første gruppe mener, at fremskridt ikke kan stoppes, mens en anden mener, at fremskridt og nogle gange bør stoppes. Den tredje gruppe forstår ikke hvordan GPT-4 fungerer i første omgang. De vigtigste detaljer i denne tekst er, at AI ikke har nogen bevidsthed, vilje eller handlekraft, og at det kan være dårligt selv uden ondsindede mennesker.
- Geoffrey Hinton kaldes ofte "Gudfather of AI" og betragtes som en førende figur i deep learning-fællesskabet. Hans 40 minutter lange interview af ChatGPT er unik ved, at det er let at forstå og har en forståelsesdybde, der er tilgængelig for få andre. Han fremhæver vigtigheden af den igangværende "intellektuelle revolution" og den umenneskelige intelligens af ChatGPT, som er baseret på en kunstigt intelligent agent med avancerede digitale kommunikationsmuligheder.
Læs flere relaterede artikler:
Ansvarsfraskrivelse
I tråd med den Trust Project retningslinjer, bemærk venligst, at oplysningerne på denne side ikke er beregnet til at være og ikke skal fortolkes som juridiske, skattemæssige, investeringsmæssige, finansielle eller nogen anden form for rådgivning. Det er vigtigt kun at investere, hvad du har råd til at tabe, og at søge uafhængig finansiel rådgivning, hvis du er i tvivl. For yderligere information foreslår vi at henvise til vilkårene og betingelserne samt hjælpe- og supportsiderne fra udstederen eller annoncøren. MetaversePost er forpligtet til nøjagtig, objektiv rapportering, men markedsforholdene kan ændres uden varsel.
Om forfatteren
Damir er teamleder, produktchef og redaktør på Metaverse Post, der dækker emner som AI/ML, AGI, LLM'er, Metaverse og Web3-relaterede felter. Hans artikler tiltrækker et massivt publikum på over en million brugere hver måned. Han ser ud til at være en ekspert med 10 års erfaring i SEO og digital markedsføring. Damir er blevet nævnt i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto og andre publikationer. Han rejser mellem UAE, Tyrkiet, Rusland og SNG som en digital nomade. Damir tog en bachelorgrad i fysik, som han mener har givet ham de kritiske tænkningskompetencer, der er nødvendige for at få succes i internettets evigt skiftende landskab.
Flere artikler
Damir er teamleder, produktchef og redaktør på Metaverse Post, der dækker emner som AI/ML, AGI, LLM'er, Metaverse og Web3-relaterede felter. Hans artikler tiltrækker et massivt publikum på over en million brugere hver måned. Han ser ud til at være en ekspert med 10 års erfaring i SEO og digital markedsføring. Damir er blevet nævnt i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto og andre publikationer. Han rejser mellem UAE, Tyrkiet, Rusland og SNG som en digital nomade. Damir tog en bachelorgrad i fysik, som han mener har givet ham de kritiske tænkningskompetencer, der er nødvendige for at få succes i internettets evigt skiftende landskab.
