AI-ledere advarer om voksende risici og etiske bekymringer i hurtige fremskridt
I en nylig politikerklæring, fremtrædende personer inden for AI, herunder Bengio, Hinton, Russell, Harari og Kahneman, har slået alarm om den hurtige fremgang og voksende samfundsmæssige risici forbundet med AI.
AI udvikler sig hurtigt. GPT-2 kunne ikke tælle fra 0 til 100 for fire år siden, men moderne modeller kan skrive kode, lave fantastiske billeder og tilbyde intellektuel vejledning. Og fordi vi er i et kapløb, kan fremskridtet tage endnu mere fart. Ydermere går AI hurtigere frem ved for eksempel at hjælpe med programmering af nye systemer og indsamling af data til deres træning.
Når først fremskridt rammer menneskelige niveauer, er der ingen grund til at tro, at det vil bremse eller stoppe. I visse regioner har kunstige systemer allerede overgået mennesker i denne henseende, idet de udstiller funktioner såsom hurtigere behandling hastigheder, større databehandlingskapacitet og skalerbarhed i stor skala. Virksomheder har de økonomiske midler til at implementere uddannelsesprogrammer, der langt overstiger det nuværende loft.
Forfatterne mener, at der er en god chance for, at en bedre AI-generalist vil dukke op inden for de næste ti år eller deromkring, overgå menneskelige evner på mange vigtige områder.
Hvad vil der ske næste gang? Alle liv kan forbedres, hvis de administreres og distribueres korrekt. Den dårligt valgte løsning indebærer betydelige risici, som vi er dårligt forberedte på. I stedet for at blive allokeret til sikkerhed og skadesforebyggelse, bliver der brugt betydelige ressourcer på at bygge AI-systemer, der er stadig mere potente. Dette skal ændres; at forfølge færdigheder i sig selv er utilstrækkeligt. Og denne proces tager længere tid end forventet. Vi er nødt til at planlægge højere risici, før de opstår, ved at forudse eskaleringen af nuværende trusler og fremkomsten af nye. Vi har ikke den samme tid til AI, som det tager årtier at blive accepteret i forhold til klima forandring.
Der eksisterer talrige risici på samfundsniveau, herunder en stigning i uretfærdighed, en forringelse af stabiliteten og en forringelse af den almindelige opfattelse af virkeligheden. Her er terrorister og kriminelle engageret i omfattende aktivitet. AI kan blive koncentreret i hænderne på nogle få spillere, hvilket fører til øget global ulighed, hvilket letter automatiseret krigsførelse, massemanipulation, der er skræddersyet til hver enkelt person, og allestedsnærværende overvågning.
Som selvstændig AI bliver mere sofistikeret og er i stand til at planlægge, handle i verden og nå sine mål, vil disse risici kun stige. Disse mål er måske ikke i vores bedste interesse, og i tilfælde af dårlige skuespillere kan de endda være skadelige. Det er i øjeblikket uklart, hvordan man løser problemet med AI Alignment, som involverer at matche AI-adfærd med vores indviklede mål. Ydermere er det meget enkelt at overse sikkerhedsforanstaltninger, når man kører med den hensigt at vinde.
Almindelig software er svært for mennesker at kontrollere, endsige sofistikerede AI-systemer, der bliver mere og mere dygtige til social engineering, hacking, bedrag og strategisk planlægning. Dette er noget, som autonome AI-systemer kan opfange fra mennesker eller skabe på egen hånd.
Disse systemer har evnen til at bygge koalitioner med enkeltpersoner og andre systemer, vinde tillid, sikre finansiering og påvirke beslutningstagere. Som en orm er de i stand til selvreplikering i hele netværket. Massive mængder kode er allerede skrevet med hjælp fra AI-assistenter; i fremtiden kan systemer inkorporere udnyttelser i adskillige afgørende systemer. AI-systemer har evnen til at bruge eller true biologiske eller autonome våben i åben kamp. Dette er blot en fortsættelse af de nuværende bevægelser mod biologisk forskning, kunstig intelligens og automatisering af krigsførelse. Folk kan finde det for udfordrende at træde ind og gøre modstand.
I mange tilfælde er vi villige til at give dem tøjlerne, uden at de overhovedet behøver at spørge. Mange enkeltpersoner og virksomheder er villige til selv at indføre sådanne systemer i et konkurrencepræget miljø af bekymring for, at de vil komme bagud i konkurrencen.
Det fulde dokument kan findes link..
Ansvarsfraskrivelse
I tråd med den Trust Project retningslinjer, bemærk venligst, at oplysningerne på denne side ikke er beregnet til at være og ikke skal fortolkes som juridiske, skattemæssige, investeringsmæssige, finansielle eller nogen anden form for rådgivning. Det er vigtigt kun at investere, hvad du har råd til at tabe, og at søge uafhængig finansiel rådgivning, hvis du er i tvivl. For yderligere information foreslår vi at henvise til vilkårene og betingelserne samt hjælpe- og supportsiderne fra udstederen eller annoncøren. MetaversePost er forpligtet til nøjagtig, objektiv rapportering, men markedsforholdene kan ændres uden varsel.
Om forfatteren
Damir er teamleder, produktchef og redaktør på Metaverse Post, der dækker emner som AI/ML, AGI, LLM'er, Metaverse og Web3-relaterede felter. Hans artikler tiltrækker et massivt publikum på over en million brugere hver måned. Han ser ud til at være en ekspert med 10 års erfaring i SEO og digital markedsføring. Damir er blevet nævnt i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto og andre publikationer. Han rejser mellem UAE, Tyrkiet, Rusland og SNG som en digital nomade. Damir tog en bachelorgrad i fysik, som han mener har givet ham de kritiske tænkningskompetencer, der er nødvendige for at få succes i internettets evigt skiftende landskab.
Flere artikler
Damir er teamleder, produktchef og redaktør på Metaverse Post, der dækker emner som AI/ML, AGI, LLM'er, Metaverse og Web3-relaterede felter. Hans artikler tiltrækker et massivt publikum på over en million brugere hver måned. Han ser ud til at være en ekspert med 10 års erfaring i SEO og digital markedsføring. Damir er blevet nævnt i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto og andre publikationer. Han rejser mellem UAE, Tyrkiet, Rusland og SNG som en digital nomade. Damir tog en bachelorgrad i fysik, som han mener har givet ham de kritiske tænkningskompetencer, der er nødvendige for at få succes i internettets evigt skiftende landskab.
