Tekniska experter undertecknar ett öppet brev och uppmanar till tillfällig paus i utbildning av AI-system mer avancerade än GPT-4
I korthet
Mer än 1100 undertecknare har skrivit på det öppna brevet där de uppmanar till en paus i gigantiska AI-experiment.
Undertecknarna inkluderar bland andra Elon Musk, Steve Wozniak och Emad Mostaque.
Det öppna brevet väckte oro över informationsfördomar från AI, jobbautomatisering och risken för AI på mänsklig civilisation.
Mer än 1,100 XNUMX undertecknare inklusive ledande tekniska experter har skrivit på en öppet brev kräver en sexmånaders paus för att träna AI-system mer avancerade än GPT-4.
Brevet skrevs av Future of Life Institute, en ideell organisation som arbetar för att minska globala katastrofala och existentiella risker som mänskligheten står inför, särskilt den existentiella risken från avancerad artificiell intelligens.
Med hänvisning till de allmänt godkända Asilomar AI-principerna, som säger att "Avancerad AI skulle kunna representera en djupgående förändring i livets historia på jorden, och bör planeras för och hanteras med lämplig omsorg och resurser", säger brevet att planeringsnivån och förvaltning sker inte.
Brevet fortsätter med att säga att AI-laboratorier är i en "utom kontroll" kapplöpning för att utveckla allt kraftfullare artificiell intelligens som ingen kan förstå, förutsäga eller tillförlitligt kontrollera. Som samtida AI-system gillar GPT-4 Kan konkurrera med människor om allmänna uppgifter väcker brevet oro över informationsfördomar från AI, jobbautomatisering och risken att förlora kontrollen över den mänskliga civilisationen.
"Vi uppmanar alla AI-labb att omedelbart pausa i minst 6 månader utbildningen av AI-system som är kraftfullare än GPT-4. Denna paus bör vara offentlig och verifierbar och omfatta alla nyckelaktörer. Om en sådan paus inte kan genomföras snabbt, bör regeringar gå in och införa ett moratorium.”
står det i brevet.
I brevet uppmanas AI-laboratorier och tekniska experter att använda pausperioden för att utveckla och implementera säkerhetsprotokoll för avancerad AI-design och utveckling som granskas noggrant och övervakas av oberoende externa experter.
Den amerikanske journalisten Jeff Jarvis kritiserade dock brevet, säger att det är ett "primärt exemplar av moralisk panik".
Några av de ledande hjärnorna inom teknik och maskininlärning som har skrivit under brevet tillsammans med DeepMind-forskare och flera universitetsprofessorer från hela världen inkluderar:
- Yoshua Bengio, University of Montréal, Turingpristagare för utveckling av djupinlärning, chef för Montreal Institute for Learning Algorithms
- Stuart Russell, Berkeley, professor i datavetenskap, chef för Center for Intelligent Systems och medförfattare till standardläroboken "Artificial Intelligence: a Modern Approach"
- Elon Musk, vd för SpaceX, Tesla och Twitter
- Emad Mostaque, VD, Stability AI
- Jaan Tallinn, medgrundare av Skype, Center for the Study of Existential Risk, Future of Life Institute
- Gary Marcus, New York University, AI-forskare, professor emeritus
- Marc Rotenberg, Center for AI and Digital Policy (CAIDP), ordförande
I en ny bokstav, skrev Rotenberg att CAIDP kommer att lämna in ett klagomål till Federal Trade Commission och kräver en utredning av Open AI och ChatGPT, samt ett förbud mot ytterligare kommersiella utsläpp av produkten tills skyddsåtgärder har fastställts.
OpenAI VD Sam Altman har medgav att "vi också behöver tillräckligt med tid för våra institutioner att ta reda på vad de ska göra" och att samhället inte är långt borta från "potentiellt läskiga" generativa AI-verktyg.
"Vi ber FTC att "trycka på pausknappen" så att det finns en möjlighet för våra institutioner, våra lagar och vårt samhälle att komma ikapp. Vi måste hävda byråkrati över de teknologier vi skapar innan vi tappar kontrollen”, står det i CAIDP-brevet.
Någon annanstans, EU:s lagstiftare siktar på att teckna ett avtal med EU-länder i slutet av året för att implementera AI-regler, även om det kan slå en flaskhals när debatterna om hur AI bör styras intensifieras.
Läs mer:
Villkor
I linje med den Riktlinjer för Trust Project, vänligen notera att informationen på den här sidan inte är avsedd att vara och inte ska tolkas som juridisk, skattemässig, investerings-, finansiell eller någon annan form av rådgivning. Det är viktigt att bara investera det du har råd att förlora och att söka oberoende finansiell rådgivning om du har några tvivel. För ytterligare information föreslår vi att du hänvisar till villkoren samt hjälp- och supportsidorna som tillhandahålls av utfärdaren eller annonsören. MetaversePost är engagerad i korrekt, opartisk rapportering, men marknadsförhållandena kan ändras utan föregående meddelande.
Om författaren
Cindy är journalist på Metaverse Post, som täcker ämnen relaterade till web3, NFT, metaverse och AI, med fokus på intervjuer med Web3 branschaktörer. Hon har pratat med över 30 chefer på C-nivå och har gett sina värdefulla insikter till läsarna. Cindy kommer ursprungligen från Singapore och är nu baserad i Tbilisi, Georgia. Hon har en kandidatexamen i kommunikations- och mediestudier från University of South Australia och har ett decenniums erfarenhet av journalistik och skrivande. Ta kontakt med henne via [e-postskyddad] med presstitlar, tillkännagivanden och intervjutillfällen.
fler artiklar
Cindy är journalist på Metaverse Post, som täcker ämnen relaterade till web3, NFT, metaverse och AI, med fokus på intervjuer med Web3 branschaktörer. Hon har pratat med över 30 chefer på C-nivå och har gett sina värdefulla insikter till läsarna. Cindy kommer ursprungligen från Singapore och är nu baserad i Tbilisi, Georgia. Hon har en kandidatexamen i kommunikations- och mediestudier från University of South Australia och har ett decenniums erfarenhet av journalistik och skrivande. Ta kontakt med henne via [e-postskyddad] med presstitlar, tillkännagivanden och intervjutillfällen.
