Dario Amodei advarer om styringskløfter, da AI fremskrider overhaler politik, og opfordrer til bindende sikkerheds- og økonomiske reformer.
Kort sagt
Anthropics administrerende direktør, Dario Amodei, skitserer AI-risici og foreslår strengere regulering, økonomiske sikkerhedsforanstaltninger og global koordinering for at håndtere hurtige AI-fremskridt.
Dario Amodei, administrerende direktør for Antropisk, sagde i et nyt essay, at AI udvikler sig langt hurtigere, end de politiske systemer kan reagere, og argumenterede for, at politikere skal tilpasse sig hurtigt, efterhånden som frontlinjemodeller begynder at omforme sikkerhed, økonomi og offentlige institutioner. Han sammenlignede tempoforskellen mellem AI-udvikling og lovgivning med kontrasten mellem de hurtigt udviklende hobbitter og den langsomme Træskæg og sagde, at uoverensstemmelsen er blevet stadig mere presserende, efterhånden som modeller forbedres på tværs af kodning, videnskab og andet vidensarbejde.
Iværksætteren understregede, at tidligere politiske bestræbelser i vid udstrækning var begrænset til gennemsigtighedsforanstaltninger, eksportkontrol og dataindsamling, fordi risiciene stadig var nye og uklare. Han sagde, at billedet nu har ændret sig, og pegede på frontlinjemodellers kapaciteter, der har afsløret alvorlige cybersikkerhedsproblemer og vist, at avancerede AI-systemer kan påvirke finansiel stabilitet, kritisk infrastruktur og national sikkerhed. Han argumenterede for, at den næste fase af politikken bør bevæge sig ud over blot at offentliggøre oplysninger og hen imod bindende regler for højrisikomodeller.
Regulering, økonomisk forstyrrelse og nye politiske prioriteter i AI-æraen
Inden for regulering og offentlig sikkerhed foreslog Dario Amodei en ramme svarende til luftfartstilsyn, med obligatorisk tredjepartstestning af avancerede modeller før implementering. Han sagde, at modeller over en vis beregningstærskel bør evalueres for risici inden for cybersikkerhed, biologisk misbrug, tab af kontrol og automatiseret forskning, der kan forstærke disse trusler. Han sagde også, at regeringer bør kunne forsinke eller blokere implementeringen, hvis disse risici anses for uacceptable, samtidig med at der kræves stærke sikkerhedspraksisser, regelmæssig red-teaming, penetrationstest og hurtig rapportering af hændelser fra AI-udviklere.
Essayet fokuserede også på økonomisk disruption. Amodei sagde, at kraftfuld kunstig intelligens kunne accelerere væksten og samtidig fortrænge et stort antal arbejdere ved at erstatte menneskelig kognitiv arbejdskraft hurtigere end tidligere teknologier. Han advarede om, at dette kunne skabe en verden med meget hurtig vækst sideløbende med vedvarende ulighed, hvilket ville gøre det sværere at sikre, at fordelene deles bredt. Han sagde, at politikken bør fokusere på måling, støtte til arbejdsstyrken, lønforsikring, omskoling og muligvis langsigtet indkomststøtte, hvis efterspørgslen efter arbejdskraft falder betydeligt.
I et andet afsnit sagde Anthropics administrerende direktør, at kunstig intelligens kunne fremskynde videnskabelige fremskridt, især inden for biomedicin, men at eksisterende reguleringssystemer muligvis er for langsomme til at håndtere en bølge af kunstig intelligens-assisteret innovation. Han foreslog at forberede godkendelsesagenturer som FDA og EMA på at acceptere kunstig intelligens-baseret simulering, syntetiske kontrolarme og andre metoder, der kunne forkorte lægemiddeludviklingen uden at reducere sikkerheden.
Dario Amodei advarede også om, at kunstig intelligens kunne øge statens magt og skabe nye risici for borgerrettighederne, herunder autonome våben, masseovervågning og urimelig statslig brug af kunstig intelligens. Han opfordrede til stærkere regler for ansvarlighed, begrænsninger på indenlandsk brug af fuldt autonome våben og strammere beskyttelse af privatlivets fred.
Endelig sagde han, at demokratier bør arbejde sammen om AI-forsyningskæder, sikkerhedsstandarder og økonomisk koordinering, og argumenterede for, at AI er ved at blive en strategisk teknologi, der kan sammenlignes med atomkraft i sin geopolitiske betydning.
Ansvarsfraskrivelse
I tråd med den Trust Project retningslinjer, bemærk venligst, at oplysningerne på denne side ikke er beregnet til at være og ikke skal fortolkes som juridiske, skattemæssige, investeringsmæssige, finansielle eller nogen anden form for rådgivning. Det er vigtigt kun at investere, hvad du har råd til at tabe, og at søge uafhængig finansiel rådgivning, hvis du er i tvivl. For yderligere information foreslår vi at henvise til vilkårene og betingelserne samt hjælpe- og supportsiderne fra udstederen eller annoncøren. MetaversePost er forpligtet til nøjagtig, objektiv rapportering, men markedsforholdene kan ændres uden varsel.
Om forfatteren
Alisa, en dedikeret journalist ved MPost, specialiserer sig i krypto, AI, investeringer og det omfattende område af Web3. Med et skarpt øje for nye trends og teknologier leverer hun omfattende dækning for at informere og engagere læserne i det stadigt udviklende landskab af digital finans.
Flere artikler
Alisa, en dedikeret journalist ved MPost, specialiserer sig i krypto, AI, investeringer og det omfattende område af Web3. Med et skarpt øje for nye trends og teknologier leverer hun omfattende dækning for at informere og engagere læserne i det stadigt udviklende landskab af digital finans.
