6-måneders pause i AI-træning er en god idé, men det er måske ikke nok
Kort sagt
Historien om andragendet og udgivelsen af Yudkovskys artikel har polariseret samfundet.
Fangens dilemma og spilteori tyder på, at der skal en kritisk masse af fornuftige mennesker forskellige steder til, for at sådanne problemer kan løses.
Der er dog et par men til denne idé, såsom manglen på bevidsthed, vilje og handlefrihed i den digitale udvikling.
Historien om andragende om at stoppe med at udvikle AI-systemer mere avancerede end GPT-4 har mærkbart polariseret samfundet. Udgivelsen af Yudkovskys artikel beder om at nedlægge yderligere udvikling af GPT modeller tilføjede brændstof til ilden, især hans passager om bombningen af datacentre.
Ud fra hvad der kan observeres online, synes der at være meget færre tilhængere af andragendet end modstandere, som har tre hovedargumenter:
| 1 | – Fremskridt kan ikke stoppes. – Andragendet er opfundet af OpenAI konkurrenter. – Kina vil ikke vente. |
| 2 | – Du skal ikke være bange for AI, men for mennesker. - GPT har ingen bevidsthed, vilje, forhåbninger eller handlefrihed, så der er intet at frygte. - GPT-4 er sindssygt langt fra at slavebinde verden, fordi den ikke forstår noget, laver dumme fejl og generelt er ret dum. - GPT-4 vil ikke være i stand til at køre verden, fordi den ikke har arme/ben. |
| 3 | – Den tredje gruppe forstår ikke hvordan GPT-4 fungerer i første omgang. |
Vi vil ikke koncentrere os om den tredje flok, fordi deres holdning kommer fra uvidenhed. Dermed ikke sagt, at alle AI-modstandere ved alt om AI; du kan finde masser af anti-AI-mennesker, der mangler en forståelse af teknologien og hvad den indebærer, selvom Yudkovsky selv er meget dybere ind i emnet AI, så han kan ikke beskyldes for uvidenhed.
Lad os se på den første gruppe mennesker – dem, der tror på, at fremskridt ikke kan stoppes. De tilbyder forskellige, men alligevel lignende argumenter, og overordnet set benægter disse mennesker ikke AI's evner og de udsigter, dens vedtagelse bringer, og tror, at AI-udviklingen vil fortsætte uanset hvad.
Den første tese om ustoppelige fremskridt er et slogan, der ikke behøver at være sandt. Folk ser ud til at have stoppet nogle videnskabelige eksperimenter, og mange engang accepterede forskningsprojekter betragtes ikke længere som etiske, og lignende ville aldrig blive tilladt i dag. Men hvor meget mere fremskridt i fortiden blev stoppet af inkvisitionen og anden religiøs forfølgelse, bogforbud og mord på videnskabsmænd i Kina (og andre lande)? Det er noget, vi aldrig vil være i stand til fuldt ud at forstå på grund af overlevelsesbias.
Andre afhandlinger involverer den tilgang, der kan opsummeres som "hvis ikke os, så bliver det dem." Selvom denne tankegang måske er mere forståelig, ser det heller ikke ud til at være den rigtige løsning. Det minder meget om fangens dilemma i spilteori.
Den anden gruppe af argumenter er den mest interessante. Selvom jeg personligt er enig i det til en vis grad, er der et par men, der skal løses. Ja, kunstig intelligens har ingen bevidsthed, vilje, handlekraft osv. Det har COVID-19 heller ikke, og alligevel skabte den kaos verden over. Noget behøver ikke at have en følelse af handlefrihed og bevidsthed for at blive farligt; et scenarie, hvor livet på jorden er udslettet på grund af en virus, er ikke utænkeligt. Når dens arbejde er udført, kan den sætte stolene på bordene, slukke lyset og forlade den for evigt.
For at fortsætte den biologiske analogi er der en vidunderlig artikel, "The Surprising Creativity of Digital Evolution: A Collection of Anecdotes from the Evolutionary Computation and Artificial Life Research Communities", som giver mange eksempler på, hvornår processer går i en uventet retning. Selv uden en evolutionær proces, kan alt gå ind i den forkerte generalisering "Misgeneralisering af mål: Hvorfor korrekte specifikationer ikke er nok til korrekte mål." At give frie tøjler til en optimeringsproces kan gå galt er diskuteret i "Risici fra indlært optimering i avancerede maskinlæringssystemer".
Samtidig overvejer vi generelt ikke risiciene ved ondsindet brug af kunstig intelligens og enhver misbruge, som kun nærer argumentet om, at vi skal være bange for mennesker og ikke AI selv. Sandheden i sagen er dog, at AI kan være dårligt selv uden ondsindede mennesker.
Jeg er også enig i, at modellen laver dumme fejl, men det gør mennesker også, og alligevel ved vi, at de kan gøre skade. Mens modeller begår mange fejl, kan de også løse mange fantastiske, seje og komplekse problemer, som den gennemsnitlige person ikke kan løse. Fra det berygtede værk "Sparks of Artificial General Intelligence: Early Experiments with GPT-4,” blev jeg slået af, at AI kunne løse, omend ikke altid korrekt, Fermi-problemer, ret komplekse matematiske problemer. Dens teori om sindet og "en slags evne til at forstå" andres handlinger er også meget imponerende. Alle disse ting peger mod AI's intelligens; eksisterende, men ikke helt som vores.
At eliminere i det mindste nogle af de fejl, AI-modeller laver, er generelt muligt, så deres intelligens vokser muligvis kun. Alt du skal gøre er at tilføje et modul til nøjagtige beregninger, en faktabase og validering med en anden model.
Det vigtigste i hele denne historie er hastigheden af AI's udvikling. GPT modeller er vokset gevaldigt i et svimlende tempo. Nu er der ChatGPT Plugins tilgængelig, kan du bruge GPT modeller til at skrive kode, API'er er tilgængelige for den store offentlighed, og du kan bruge eksterne værktøjer uden forudgående træning.
GPT-4vil selvfølgelig ikke erobre verden, men det kan ryste økonomien meget. GPT-5, og den fremtidige iteration af modellen, er muligvis ikke særlig langt fremme og vil sandsynligvis komme med meget stærkere evner. Og lad os se det i øjnene, vi kan ikke håbe på at forstå de endnu ikke-eksisterende modeller; vi er ikke engang kommet i nærheden af at forstå de modeller, der allerede eksisterer. I denne forstand kan en pause på seks måneder være en god idé, men det kan simpelthen ikke være nok.
Og givet at AI-løb er startet, er der ikke tid til at lære.
I lyset af alt dette har jeg generelt også underskrevet andragendet. Selvom jeg ikke tror på det vil hjælpe på nogen måde.
Læs flere relaterede emner:
Ansvarsfraskrivelse
I tråd med den Trust Project retningslinjer, bemærk venligst, at oplysningerne på denne side ikke er beregnet til at være og ikke skal fortolkes som juridiske, skattemæssige, investeringsmæssige, finansielle eller nogen anden form for rådgivning. Det er vigtigt kun at investere, hvad du har råd til at tabe, og at søge uafhængig finansiel rådgivning, hvis du er i tvivl. For yderligere information foreslår vi at henvise til vilkårene og betingelserne samt hjælpe- og supportsiderne fra udstederen eller annoncøren. MetaversePost er forpligtet til nøjagtig, objektiv rapportering, men markedsforholdene kan ændres uden varsel.
Om forfatteren
Damir er teamleder, produktchef og redaktør på Metaverse Post, der dækker emner som AI/ML, AGI, LLM'er, Metaverse og Web3-relaterede felter. Hans artikler tiltrækker et massivt publikum på over en million brugere hver måned. Han ser ud til at være en ekspert med 10 års erfaring i SEO og digital markedsføring. Damir er blevet nævnt i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto og andre publikationer. Han rejser mellem UAE, Tyrkiet, Rusland og SNG som en digital nomade. Damir tog en bachelorgrad i fysik, som han mener har givet ham de kritiske tænkningskompetencer, der er nødvendige for at få succes i internettets evigt skiftende landskab.
Flere artikler
Damir er teamleder, produktchef og redaktør på Metaverse Post, der dækker emner som AI/ML, AGI, LLM'er, Metaverse og Web3-relaterede felter. Hans artikler tiltrækker et massivt publikum på over en million brugere hver måned. Han ser ud til at være en ekspert med 10 års erfaring i SEO og digital markedsføring. Damir er blevet nævnt i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto og andre publikationer. Han rejser mellem UAE, Tyrkiet, Rusland og SNG som en digital nomade. Damir tog en bachelorgrad i fysik, som han mener har givet ham de kritiske tænkningskompetencer, der er nødvendige for at få succes i internettets evigt skiftende landskab.
