AI-experter och offentliga personer larmar om AI-utrotningsrisk
I korthet
Framstående AI-experter och inflytelserika figurer uttrycker sitt delade oro angående riskerna med AI.
Trots betydande framsteg inom AI förblir många utmaningar relaterade till AI-risk olösta.
Framstående AI-experter och offentliga personer har utfärdat ett uttalande som varnar för att AI kan utgöra ett hot mot mänsklighetens överlevnad, jämförbart med eller till och med större än riskerna för pandemier och kärnvapenkrig. De 350 undertecknarna hävdar att AI kan få oförutsedda och katastrofala konsekvenser, som att släppa lös autonoma vapen, störa sociala och ekonomiska system eller skapa superintelligenta agenter som kan överlista och övermanna människor.
De uppmanar beslutsfattare att ta dessa risker på allvar och att vidta åtgärder för att säkerställa säker och fördelaktig AI-utveckling. De meddelandet är signerad av några av de ledande figurerna inom AI-forskning och -utveckling, som t.ex OpenAI VD Sam Altman, medgrundare av Skype Jaan Tallinn, DeepMind VD Demis Hassabis och AI-datavetare Geoffrey Hinton, samt inflytelserika offentliga personligheter, som musikern Grimes och podcastaren Sam Harris.
Bland undertecknarna fanns vinnare av 2018 års Turing Award för sina bidrag till djupinlärning: Geoffrey Hinton och Yoshua Bengio. De fick sällskap av professorer från prestigefyllda universitet som Harvard och Tsinghua University i Kina, samt MIT:s Max Tegmark.
"Att mildra risken för utrotning från AI bör vara en global prioritet vid sidan av andra samhällsrisker som pandemier och kärnvapenkrig,"
brevet publicerat av CAIS.
Center for AI Safety (CAIS), en ideell organisation baserad i San Francisco, syftar till att ta itu med säkerhetsproblemen relaterade till artificiell intelligens. Samtidigt som CAIS inser de potentiella fördelarna med AI, betonar CAIS behovet av att utveckla och använda det på ett säkert sätt. Trots betydande framsteg inom AI förblir många grundläggande utmaningar inom AI-säkerhet olösta, tror företaget. Enligt sin webbplats är CAIS uppdrag att minska risker genom att bedriva säkerhetsforskning, främja en gemenskap av AI-säkerhetsforskare och förespråka säkerhetsstandarder.
"Det finns många "viktiga och akuta risker från AI", inte bara risken för utrotning; till exempel systemisk fördom, desinformation, skadlig användning, cyberattacker och vapentillverkning. Dessa är alla viktiga risker som måste åtgärdas. Samhällen kan hantera flera risker samtidigt; det är inte "antingen/eller" utan "ja/och." Ur ett riskhanteringsperspektiv, precis som det skulle vara hänsynslöst att uteslutande prioritera nuvarande skador, skulle det också vara hänsynslöst att ignorera dem också.”
Dan Hendrycks, chef för CAIS skrev på Twitter.
I mars över 1,100 XNUMX tekniska experter signerad ett öppet brev som kräver ett sex månaders stopp för utbildningen av AI-system som överträffar GPT-4. Europeiska lagstiftare också nyligen godkänd striktare lagförslag, känd som AI-lagen, som reglerar AI-verktyg som ChatGPT. Lagen innehåller krav på säkerhetskontroller, datastyrning och riskreducering för grundläggande AI-modeller och förbjuder metoder som manipulationstekniker och viss användning av biometri.
Läs mer:
- OpenAI Avslöjar sitt senaste tillvägagångssätt för att säkerställa AI-säkerhet
- Kommer Google att tillkännage en text-till-avatar-generator för spelare?
- Amazons CodeWhisperer ger utvecklare den kant de behöver i AI-arenan
- Vitalik Buterin och MIRI-regissören Nate Soares fördjupar sig i farorna med AI
Villkor
I linje med den Riktlinjer för Trust Project, vänligen notera att informationen på den här sidan inte är avsedd att vara och inte ska tolkas som juridisk, skattemässig, investerings-, finansiell eller någon annan form av rådgivning. Det är viktigt att bara investera det du har råd att förlora och att söka oberoende finansiell rådgivning om du har några tvivel. För ytterligare information föreslår vi att du hänvisar till villkoren samt hjälp- och supportsidorna som tillhandahålls av utfärdaren eller annonsören. MetaversePost är engagerad i korrekt, opartisk rapportering, men marknadsförhållandena kan ändras utan föregående meddelande.
Om författaren
Agne är en journalist som täcker de senaste trenderna och utvecklingen inom metaversen, AI och Web3 industrier för Metaverse Post. Hennes passion för berättande har lett till att hon har genomfört ett flertal intervjuer med experter inom dessa områden och alltid försökt avslöja spännande och engagerande berättelser. Agne har en kandidatexamen i litteratur och har en omfattande bakgrund i att skriva om ett brett spektrum av ämnen, inklusive resor, konst och kultur. Hon har också varit volontär som redaktör för djurrättsorganisationen, där hon hjälpt till att öka medvetenheten om djurskyddsfrågor. Kontakta henne på [e-postskyddad].
fler artiklar
Agne är en journalist som täcker de senaste trenderna och utvecklingen inom metaversen, AI och Web3 industrier för Metaverse Post. Hennes passion för berättande har lett till att hon har genomfört ett flertal intervjuer med experter inom dessa områden och alltid försökt avslöja spännande och engagerande berättelser. Agne har en kandidatexamen i litteratur och har en omfattande bakgrund i att skriva om ett brett spektrum av ämnen, inklusive resor, konst och kultur. Hon har också varit volontär som redaktör för djurrättsorganisationen, där hon hjälpt till att öka medvetenheten om djurskyddsfrågor. Kontakta henne på [e-postskyddad].
