OpenAI Slår alarm om superintelligens og AI's potentiale til at overgå menneskelige evner i det næste årti
Kort sagt
OpenAI udsender en opfordring til regulering af superintelligens, der fremhæver behovet for styring i lyset af AI's hurtige fremskridt.
AI-systemer forventes at overgå menneskelig ekspertise og virksomhedens produktivitet inden for et årtiIfølge OpenAI.
OpenAI understreger vigtigheden af offentligt tilsyn og demokratisk kontrol for kraftfulde AI-systemer.
OpenAI, Skaberen af ChatGPT, har lavet en tankevækkende opfordring til regulering af superintelligens, der trækker paralleller til atomenergireguleringen. I en nylig blogindlæg, OpenAI fremhævede de potentielle implikationer af AI's hurtige fremskridt og understregede det presserende behov for styring i dette landskab under udvikling. Virksomheden udtalte, at AI-systemer ville overgå eksperter og de største virksomheder i produktivitet og færdigheder inden for ti år.
"Vi skal også mindske risiciene ved nutidens kunstig intelligens-teknologi, men superintelligens vil kræve særlig behandling og koordinering," Sam Altman, Greg Brockman og Ilya Sutskever fra OpenAI understregede.
Superintelligens beskriver en enhed, der overstiger den samlede menneskelige intelligens eller nogle specifikke aspekter af intelligens. Ifølge forfatterne vil AI-superintelligens have et uovertruffent niveau af kraft, der omfatter både positive og negative aspekter.
Udviklingen og risiciene ved den uundgåelige superintelligens
OpenAI har identificeret tre vigtige ideer, der spiller en central rolle i at navigere i den vellykkede udvikling af superintelligens. Disse omfatter koordinering mellem førende udviklingsindsatser, etablering af en international myndighed i lighed med Det Internationale Atomenergiagentur (IAEA) og udvikling af tekniske kapaciteter til sikkerhed.
Mens OpenAI anerkender, at AI-systemer er forbundet med risici, disse risici er sammenlignelige med dem, der er forbundet med andre internet-relaterede teknologier. Altman, Brockman og Sutskever udtrykker også tillid til, at samfundets nuværende tilgange til at håndtere disse risici er passende. Den største bekymring drejer sig dog om fremtidige systemer, der vil have hidtil uset magt.
"Derimod vil de systemer, vi er bekymrede for, have magt ud over enhver teknologi, der endnu er skabt, og vi bør være forsigtige med ikke at udvande fokus på dem ved at anvende lignende standarder for teknologi langt under denne bar," lød blogindlægget.
Forfatterne hævder, at kraftfulde AI-systemer har brug for offentligt tilsyn og demokratisk kontrol. De forklarer også, hvorfor de bygger denne teknologi på OpenAI: at skabe en bedre verden og undgå risikoen ved at stoppe den. AI hjælper på forskellige områder, herunder uddannelse, kreativitet og produktivitet, samt generel økonomisk vækst.
OpenAI synes det er svært og risikabelt at stoppe superintelligens fra at blive skabt. Superintelligens har betydelige fordele, bliver billigere hvert år, flere mennesker arbejder på det, og det er en del af virksomhedens teknologiske vej.
Ilman Shazhaev, techpreneur i AI og medstifter af Farcana Labs, delte et par kommentarer vedrørende nyheden. Fremskrivninger indikerer, at hvis den ikke styres ordentligt, kan superintelligens være en af menneskets mest ødelæggende opfindelser nogensinde. Samtaler om implementeringen af teknologien er dog stadig splittende, da den endnu ikke er udviklet. At presse på for et stop i udviklingen baseret på frygten for forudsigelser kan fratage menneskeheden de muligheder, som den nye teknologi kan have i vente.
"OpenAI's decentraliserede styringstilgang kan hjælpe med at opretholde dens brede sikkerhed. Med de rigtige regler kan programmet lukkes ned i tilfælde af det udgør en trussel. Skulle disse sikkerhedsforanstaltninger være på plads, så kan Superintelligens være en innovation, der er værd at udforske,” sagde Shazhaev.
Ved åbent at diskutere sine synspunkter om AI-superintelligens og foreslåede reguleringsforanstaltninger, OpenAI synes at fremme informerede diskussioner og indbyde til forskellige perspektiver.
Sam Altman tror stærkt på i udbredt AI tilgængelighed for offentligheden. I erkendelse af, at det er umuligt at forudse alle problemer på forhånd, slår han til lyd for at løse problemer på det tidligst mulige tidspunkt. Altman understreger dog også vigtigheden af uafhængige revisioner for systemer som f.eks ChatGPT før frigivelse. Han anerkender endvidere muligheden for at implementere foranstaltninger såsom at begrænse tempoet i oprettelse af nye modeller eller nedsætte et udvalg til vurdere sikkerheden af AI-modeller før markedsudgivelse. Altman forudsiger især, at mængden af intelligens i universet vil fordobles hver 18. måned.
Læs mere:
Ansvarsfraskrivelse
I tråd med den Trust Project retningslinjer, bemærk venligst, at oplysningerne på denne side ikke er beregnet til at være og ikke skal fortolkes som juridiske, skattemæssige, investeringsmæssige, finansielle eller nogen anden form for rådgivning. Det er vigtigt kun at investere, hvad du har råd til at tabe, og at søge uafhængig finansiel rådgivning, hvis du er i tvivl. For yderligere information foreslår vi at henvise til vilkårene og betingelserne samt hjælpe- og supportsiderne fra udstederen eller annoncøren. MetaversePost er forpligtet til nøjagtig, objektiv rapportering, men markedsforholdene kan ændres uden varsel.
Om forfatteren
Agne er en journalist, der dækker de seneste trends og udviklinger inden for metaverset, AI og Web3 industrier for Metaverse Post. Hendes passion for historiefortælling har fået hende til at gennemføre adskillige interviews med eksperter inden for disse områder, hvor hun altid søger at afdække spændende og engagerende historier. Agne er uddannet bachelor i litteratur og har en omfattende baggrund i at skrive om en bred vifte af emner, herunder rejser, kunst og kultur. Hun har også været frivillig som redaktør for dyrerettighedsorganisationen, hvor hun var med til at skabe opmærksomhed omkring dyrevelfærdsspørgsmål. Kontakt hende på [e-mail beskyttet].
Flere artikler
Agne er en journalist, der dækker de seneste trends og udviklinger inden for metaverset, AI og Web3 industrier for Metaverse Post. Hendes passion for historiefortælling har fået hende til at gennemføre adskillige interviews med eksperter inden for disse områder, hvor hun altid søger at afdække spændende og engagerende historier. Agne er uddannet bachelor i litteratur og har en omfattende baggrund i at skrive om en bred vifte af emner, herunder rejser, kunst og kultur. Hun har også været frivillig som redaktør for dyrerettighedsorganisationen, hvor hun var med til at skabe opmærksomhed omkring dyrevelfærdsspørgsmål. Kontakt hende på [e-mail beskyttet].
