OpenAI Larmar om superintelligens och AI:s potential att överträffa mänskliga förmågor under det kommande decenniet
I korthet
OpenAI utfärdar en uppmaning till reglering av superintelligens, och lyfter fram behovet av styrning i ljuset av AI:s snabba framsteg.
AI-system förväntas överträffa mänsklig expertis och företagens produktivitet inom ett decennium, Enligt OpenAI.
OpenAI betonar vikten av offentlig tillsyn och demokratisk kontroll för kraftfulla AI-system.
OpenAI, skaparen av ChatGPT, har gjort en tankeväckande uppmaning till reglering av superintelligens, som drar paralleller till kärnenergiförordningen. I en nyligen blogginlägg, OpenAI lyfte fram de potentiella konsekvenserna av AI:s snabba framsteg och betonade det trängande behovet av styrning i detta föränderliga landskap. Företaget uppgav att AI-systemen skulle överträffa experter och de största företagen i produktivitet och kompetens inom tio år.
"Vi måste minska riskerna med dagens AI-teknik också, men superintelligens kommer att kräva särskild behandling och samordning," Sam Altman, Greg Brockman och Ilya Sutskever från OpenAI betonade.
Superintelligens beskriver en enhet som överskrider den övergripande mänskliga intelligensen eller vissa specifika aspekter av intelligens. Enligt författarna kommer AI-superintelligens att ha en oöverträffad kraftnivå, som omfattar både positiva och negativa aspekter.
Utvecklingen och riskerna med den oundvikliga superintelligensen
OpenAI har identifierat tre viktiga idéer som spelar en avgörande roll för att navigera i den framgångsrika utvecklingen av superintelligens. Dessa inkluderar samordning mellan ledande utvecklingsinsatser, inrättandet av en internationell myndighet besläktad med Internationella atomenergiorganet (IAEA) och utveckling av teknisk kapacitet för säkerhet.
Medan OpenAI erkänner att AI-system kommer med risker, dessa risker är jämförbara med de som är förknippade med andra internetrelaterade tekniker. Altman, Brockman och Sutskever uttrycker också förtroende för att samhällets nuvarande tillvägagångssätt för att hantera dessa risker är lämpliga. Den största oro är dock om framtida system som kommer att ha oöverträffad kraft.
"Däremot kommer de system vi är oroade över att ha kraft bortom all teknik som ännu har skapats, och vi bör vara försiktiga så att vi inte urvattnar fokus på dem genom att tillämpa liknande standarder för teknik långt under den här ribban," stod det i blogginlägget.
Författarna hävdar att kraftfulla AI-system behöver offentlig tillsyn och demokratisk kontroll. De förklarar också varför de bygger den här tekniken OpenAI: att skapa en bättre värld och undvika riskerna med att stoppa den. AI hjälper inom olika områden, inklusive utbildning, kreativitet och produktivitet, såväl som allmän ekonomisk tillväxt.
OpenAI tycker att det är svårt och riskabelt att stoppa superintelligensen från att skapas. Superintelligens har avsevärda fördelar, blir billigare för varje år, fler arbetar med det, och det är en del av företagets teknikväg.
Ilman Shazhaev, techpreneur inom AI och medgrundare av Farcana Labs, delade några kommentarer angående nyheterna. Prognoser indikerar att om den inte hanteras på rätt sätt kan superintelligens vara en av människans mest destruktiva uppfinningar genom tiderna. Diskussionerna om utbyggnaden av tekniken förblir dock splittrande, eftersom den ännu inte har utvecklats. Att driva på för ett stopp i utvecklingen baserat på rädsla för förutsägelser kan beröva mänskligheten de möjligheter som den nya tekniken kan ha i beredskap.
"OpenAIs decentraliserade förvaltningsstrategi kan bidra till att upprätthålla dess breda säkerhet. Med rätt regler kan programmet stängas av i händelse av det utgör ett hot. Skulle dessa skyddsåtgärder vara på plats, så kan Superintelligens vara en innovation värd att utforska, säger Shazhaev.
Genom att öppet diskutera sina åsikter om AI-superintelligens och föreslagna regleringsåtgärder, OpenAI verkar främja informerade diskussioner och bjuda in olika perspektiv.
Sam Altman tror starkt i utbredd AI-tillgänglighet för allmänheten. Han erkänner att det är omöjligt att förutse alla problem i förväg, och förespråkar för att ta itu med frågor i ett så tidigt skede som möjligt. Men Altman betonar också vikten av oberoende revisioner för system som ChatGPT innan släppet. Han erkänner vidare möjligheten att genomföra åtgärder som att begränsa takten för att skapa nya modeller eller inrätta en kommitté för att bedöma säkerheten hos AI-modeller innan marknadssläppet. Noterbart förutspår Altman att mängden intelligens i universum kommer att fördubblas var 18:e månad.
Läs mer:
Villkor
I linje med den Riktlinjer för Trust Project, vänligen notera att informationen på den här sidan inte är avsedd att vara och inte ska tolkas som juridisk, skattemässig, investerings-, finansiell eller någon annan form av rådgivning. Det är viktigt att bara investera det du har råd att förlora och att söka oberoende finansiell rådgivning om du har några tvivel. För ytterligare information föreslår vi att du hänvisar till villkoren samt hjälp- och supportsidorna som tillhandahålls av utfärdaren eller annonsören. MetaversePost är engagerad i korrekt, opartisk rapportering, men marknadsförhållandena kan ändras utan föregående meddelande.
Om författaren
Agne är en journalist som täcker de senaste trenderna och utvecklingen inom metaversen, AI och Web3 industrier för Metaverse Post. Hennes passion för berättande har lett till att hon har genomfört ett flertal intervjuer med experter inom dessa områden och alltid försökt avslöja spännande och engagerande berättelser. Agne har en kandidatexamen i litteratur och har en omfattande bakgrund i att skriva om ett brett spektrum av ämnen, inklusive resor, konst och kultur. Hon har också varit volontär som redaktör för djurrättsorganisationen, där hon hjälpt till att öka medvetenheten om djurskyddsfrågor. Kontakta henne på [e-postskyddad].
fler artiklar
Agne är en journalist som täcker de senaste trenderna och utvecklingen inom metaversen, AI och Web3 industrier för Metaverse Post. Hennes passion för berättande har lett till att hon har genomfört ett flertal intervjuer med experter inom dessa områden och alltid försökt avslöja spännande och engagerande berättelser. Agne har en kandidatexamen i litteratur och har en omfattande bakgrund i att skriva om ett brett spektrum av ämnen, inklusive resor, konst och kultur. Hon har också varit volontär som redaktör för djurrättsorganisationen, där hon hjälpt till att öka medvetenheten om djurskyddsfrågor. Kontakta henne på [e-postskyddad].
