Dario Amodei varnar för styrningsgap då AI-utvecklingen överträffar policyn och uppmanar till bindande säkerhets- och ekonomiska reformer.
I korthet
Anthropics VD Dario Amodei beskriver AI-risker och föreslår strängare reglering, ekonomiska skyddsåtgärder och global samordning för att hantera snabba AI-framsteg.
Dario Amodei, VD för Antropisk, sade i en ny essä att AI utvecklas mycket snabbare än vad politiska system kan reagera på, och menade att beslutsfattare måste anpassa sig snabbt när frontmodeller börjar omforma säkerhet, ekonomi och offentliga institutioner. Han jämförde skillnaden i takt mellan AI-utveckling och lagstiftning med kontrasten mellan de snabbrörliga hobbitarna och den långsamma trädskägget, och sade att skillnaden har blivit alltmer akut i takt med att modeller förbättras inom kodning, vetenskap och annat kunskapsarbete.
Entreprenören betonade att tidigare politiska insatser till stor del begränsades till transparensåtgärder, exportkontroller och datainsamling eftersom riskerna fortfarande var framväxande och oklara. Han sa att bilden nu har förändrats och pekade på kapaciteten hos frontlinjemodeller som har avslöjat allvarliga cybersäkerhetsproblem och visat att avancerade AI-system kan påverka finansiell stabilitet, kritisk infrastruktur och nationell säkerhet. Han menade att nästa steg i politiken bör gå bortom enbart offentliggörande och mot bindande regler för högriskmodeller.
Reglering, ekonomisk störning och framväxande politiska prioriteringar i AI-eran
När det gäller reglering och allmän säkerhet föreslog Dario Amodei ett ramverk liknande det inom flygtillsyn, med obligatorisk tredjepartstestning av avancerade modeller före driftsättning. Han sa att modeller över en viss beräkningströskel bör utvärderas för risker inom cybersäkerhet, biologiskt missbruk, kontrollförlust och automatiserad forskning som kan förstärka dessa hot. Han sa också att regeringar bör kunna fördröja eller blockera driftsättning om dessa risker anses oacceptabla, samtidigt som det krävs starka säkerhetsrutiner, regelbunden red-teaming, penetrationstester och snabb incidentrapportering från AI-utvecklare.
Essän fokuserade också på ekonomisk störning. Amodei sa att kraftfull AI skulle kunna accelerera tillväxten samtidigt som den fördriver ett stort antal arbetare genom att ersätta mänskligt kognitivt arbete snabbare än tidigare teknologier. Han varnade för att detta skulle kunna skapa en värld med mycket snabb tillväxt tillsammans med ihållande ojämlikhet, vilket skulle göra det svårare att säkerställa att fördelarna delas i stor utsträckning. Han sa att politiken bör fokusera på mätning, arbetskraftsstöd, löneförsäkring, omskolning och eventuellt långsiktigt inkomststöd om efterfrågan på arbetskraft minskar avsevärt.
I ett annat avsnitt sa Anthropics VD att AI skulle kunna påskynda vetenskapliga framsteg, särskilt inom biomedicin, men att befintliga regelverk kan vara för långsamma för att hantera en våg av AI-assisterad innovation. Han föreslog att godkännandemyndigheter som FDA och EMA skulle förberedas för att acceptera AI-baserad simulering, syntetiska kontrollarmar och andra metoder som skulle kunna förkorta läkemedelsutvecklingen utan att minska säkerheten.
Dario Amodei varnade också för att AI skulle kunna öka statens makt och skapa nya risker för medborgerliga friheter, inklusive autonoma vapen, massövervakning och orättvis statlig användning av AI. Han efterlyste starkare ansvarsskyldighetsregler, begränsningar av inhemsk användning av helt autonoma vapen och ett striktare integritetsskydd.
Slutligen sa han att demokratier bör samarbeta kring AI-leveranskedjor, säkerhetsstandarder och ekonomisk samordning, och menade att AI håller på att bli en strategisk teknik som är jämförbar med kärnkraft i sin geopolitiska betydelse.
Ansvarsfriskrivning
I linje med den Riktlinjer för Trust Project, vänligen notera att informationen på den här sidan inte är avsedd att vara och inte ska tolkas som juridisk, skattemässig, investerings-, finansiell eller någon annan form av rådgivning. Det är viktigt att bara investera det du har råd att förlora och att söka oberoende finansiell rådgivning om du har några tvivel. För ytterligare information föreslår vi att du hänvisar till villkoren samt hjälp- och supportsidorna som tillhandahålls av utfärdaren eller annonsören. MetaversePost är engagerad i korrekt, opartisk rapportering, men marknadsförhållandena kan ändras utan föregående meddelande.
Om författaren
Alisa, en engagerad journalist på MPost, specialiserar sig på krypto, AI, investeringar och det expansiva området av Web3. Med ett skarpt öga för nya trender och tekniker levererar hon omfattande täckning för att informera och engagera läsare i det ständigt föränderliga landskapet för digital ekonomi.
fler artiklar
Alisa, en engagerad journalist på MPost, specialiserar sig på krypto, AI, investeringar och det expansiva området av Web3. Med ett skarpt öga för nya trender och tekniker levererar hon omfattande täckning för att informera och engagera läsare i det ständigt föränderliga landskapet för digital ekonomi.
