AI-ledare varnar för växande risker och etiska farhågor i snabba framsteg
I en nyligen publicerad policyförklaring, har framstående figurer inom AI-området, inklusive Bengio, Hinton, Russell, Harari och Kahneman, slagit larm om de snabba framstegen och växande samhällsrisker som är förknippade med AI.
AI utvecklas snabbt. GPT-2 kunde inte räkna från 0 till 100 för fyra år sedan, men moderna modeller kan skriva kod, göra fantastiska bilder och erbjuda intellektuell vägledning. Och eftersom vi är i ett lopp kan utvecklingen ta ännu mer fart. Dessutom avancerar AI snabbare genom att till exempel hjälpa till med programmering av nya system och insamling av data för deras träning.
När väl framsteg når mänskliga nivåer, finns det ingen anledning att tro att det kommer att sakta ner eller stoppa. I vissa regioner har artificiella system redan presterat bättre än människor i detta avseende, och ställer ut funktioner som snabbare bearbetning hastigheter, större databehandlingskapacitet och storskalig skalbarhet. Företag har ekonomiska medel att genomföra utbildningsprogram som vida överstiger det nuvarande taket.
Författarna tror att det finns en god chans att en bättre AI-generalist kommer att dyka upp inom de närmaste tio åren eller så, överträffa mänskliga förmågor inom många viktiga områden.
Vad kommer att hända härnäst? Alla liv kan förbättras om de hanteras och distribueras på rätt sätt. Det dåligt valda alternativet innebär betydande risker som vi är dåligt förberedda på. Istället för att allokeras till säkerhet och skadeförebyggande, används betydande resurser för att bygga AI-system som blir allt mer potenta. Detta måste förändras; det är otillräckligt att söka färdigheter på egen hand. Och denna process tar längre tid än väntat. Vi måste planera för högre risker innan de uppstår genom att förutse eskaleringen av nuvarande hot och uppkomsten av nya. Vi har inte samma tid för AI som det tar decennier att bli accepterade i förhållande till klimatförändringar.
Det finns många risker på samhällsnivå, inklusive en ökning av orättvisor, en försämring av stabiliteten och en försämring av den vanliga verklighetsuppfattningen. Här är terrorister och kriminella engagerade i omfattande verksamhet. AI kan bli koncentrerad i händerna på ett fåtal spelare, vilket leder till ökad global ojämlikhet, underlättar automatiserad krigföring, massmanipulation som är skräddarsydd för varje individ och allestädes närvarande övervakning.
Som autonom AI blir mer sofistikerad och kan planeraagera i världen och uppnå sina mål, kommer dessa risker bara att öka. Dessa mål kanske inte ligger i vårt bästa och, i fallet med dåliga aktörer, kan de till och med vara skadliga. Det är för närvarande oklart hur man ska lösa problemet med AI Alignment, som innebär att matcha AI-beteende med våra intrikata mål. Dessutom är det väldigt enkelt att förbise säkerhetsåtgärder när man tävlar med avsikten att vinna.
Vanlig programvara är svår för människor att kontrollera, än mindre sofistikerade AI-system som blir allt skickligare på social ingenjörskonst, hacking, bedrägeri och strategisk planering. Detta är något som autonoma AI-system kan plocka upp från människor eller skapa på egen hand.
Dessa system har förmågan att bygga koalitioner med individer och andra system, vinna förtroende, säkra finansiering och påverka beslutsfattare. Som en mask är de kapabla till självreplikering i hela nätverket. Stora mängder kod är redan skriven med hjälp av AI-assistenter; i framtiden kan system införliva exploateringar i många viktiga system. AI-system har förmågan att använda eller hota biologiska eller autonoma vapen i öppen strid. Detta är bara en fortsättning på de nuvarande rörelserna mot biologisk forskning, artificiell intelligens och automatisering av krigföring. Människor kanske tycker att det är för utmanande att gå in och göra motstånd.
I många fall är vi villiga att ge dem tyglarna utan att de ens behöver fråga. Många individer och företag är villiga att själva införa sådana system i en konkurrensutsatt miljö av oro för att de kommer att hamna efter konkurrenterna.
Hela dokumentet finns här..
Villkor
I linje med den Riktlinjer för Trust Project, vänligen notera att informationen på den här sidan inte är avsedd att vara och inte ska tolkas som juridisk, skattemässig, investerings-, finansiell eller någon annan form av rådgivning. Det är viktigt att bara investera det du har råd att förlora och att söka oberoende finansiell rådgivning om du har några tvivel. För ytterligare information föreslår vi att du hänvisar till villkoren samt hjälp- och supportsidorna som tillhandahålls av utfärdaren eller annonsören. MetaversePost är engagerad i korrekt, opartisk rapportering, men marknadsförhållandena kan ändras utan föregående meddelande.
Om författaren
Damir är teamledare, produktchef och redaktör på Metaverse Post, som täcker ämnen som AI/ML, AGI, LLMs, Metaverse och Web3-relaterade områden. Hans artiklar lockar en massiv publik på över en miljon användare varje månad. Han verkar vara en expert med 10 års erfarenhet av SEO och digital marknadsföring. Damir har nämnts i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto och andra publikationer. Han reser mellan Förenade Arabemiraten, Turkiet, Ryssland och OSS som en digital nomad. Damir tog en kandidatexamen i fysik, som han tror har gett honom de kritiska tänkande färdigheter som behövs för att bli framgångsrik i det ständigt föränderliga landskapet på internet.
fler artiklar
Damir är teamledare, produktchef och redaktör på Metaverse Post, som täcker ämnen som AI/ML, AGI, LLMs, Metaverse och Web3-relaterade områden. Hans artiklar lockar en massiv publik på över en miljon användare varje månad. Han verkar vara en expert med 10 års erfarenhet av SEO och digital marknadsföring. Damir har nämnts i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto och andra publikationer. Han reser mellan Förenade Arabemiraten, Turkiet, Ryssland och OSS som en digital nomad. Damir tog en kandidatexamen i fysik, som han tror har gett honom de kritiska tänkande färdigheter som behövs för att bli framgångsrik i det ständigt föränderliga landskapet på internet.
