Tekniske eksperter underskriver åbent brev med opfordring til midlertidig pause i træning af AI-systemer mere avanceret end GPT-4
Kort sagt
Mere end 1100 underskrivere har underskrevet det åbne brev, hvor de opfordrer til en pause i gigantiske AI-eksperimenter.
Underskriverne omfatter blandt andre Elon Musk, Steve Wozniak og Emad Mostaque.
Det åbne brev rejste bekymring over informationsforstyrrelser fra AI, jobautomatisering og risikoen for kunstig intelligens på den menneskelige civilisation.
Mere end 1,100 underskrivere inklusive førende tekniske eksperter har underskrevet en åbent brev opfordrer til en pause på seks måneder med at træne AI-systemer mere avancerede end GPT-4.
Brevet er skrevet af Future of Life Institute, en nonprofitorganisation, der arbejder på at reducere globale katastrofale og eksistentielle risici, som menneskeheden står over for, især den eksistentielle risiko fra avanceret kunstig intelligens.
Med henvisning til de bredt godkendte Asilomar AI-principper, som siger, at "Avanceret AI kunne repræsentere en dybtgående ændring i livets historie på Jorden og bør planlægges og styres med passende omhu og ressourcer," siger brevet, at niveauet for planlægning og ledelse sker ikke.
Brevet fortsætter med at sige, at AI-laboratorier er i et "ude af kontrol" kapløb om at udvikle stadig mere kraftfuld kunstig intelligens, som ingen kan forstå, forudsige eller pålideligt kontrollere. Som nutidige AI-systemer kan lide GPT-4 kan konkurrere med mennesker om generelle opgaver rejser brevet bekymringer om informationsforstyrrelser fra AI, jobautomatisering og risikoen for at miste kontrollen over den menneskelige civilisation.
"Vi opfordrer alle AI-laboratorier til øjeblikkeligt at holde pause i mindst 6 måneder i træningen af AI-systemer, der er stærkere end GPT-4. Denne pause bør være offentlig og verificerbar og omfatte alle nøgleaktører. Hvis en sådan pause ikke kan gennemføres hurtigt, bør regeringerne træde til og indføre et moratorium."
står der i brevet.
Brevet bønfalder AI-laboratorier og tekniske eksperter om at bruge pauseperioden til at udvikle og implementere sikkerhedsprotokoller til avanceret AI-design og -udvikling, som er strengt revideret og overvåget af uafhængige eksterne eksperter.
Den amerikanske journalist Jeff Jarvis kritiserede dog brevet, siger at det er et "primært eksemplar af moralsk panik."
Nogle af de førende hjerner inden for teknologi og maskinlæring, der har underskrevet brevet sammen med DeepMind-forskere og adskillige universitetsprofessorer fra hele verden, inkluderer:
- Yoshua Bengio, University of Montréal, Turing-pristager for udvikling af dyb læring, leder af Montreal Institute for Learning Algorithms
- Stuart Russell, Berkeley, professor i datalogi, direktør for Center for Intelligente Systemer og medforfatter af standardlærebogen "Artificial Intelligence: a Modern Approach"
- Elon Musk, CEO for SpaceX, Tesla & Twitter
- Emad Mostaque, administrerende direktør, Stability AI
- Jaan Tallinn, medstifter af Skype, Center for Studiet af Eksistentiel Risk, Future of Life Institute
- Gary Marcus, New York University, AI-forsker, professor emeritus
- Marc Rotenberg, Center for kunstig intelligens og digital politik (CAIDP), formand
I en nyligt brev, skrev Rotenberg, at CAIDP vil indgive en klage til Federal Trade Commission og opfordre til en undersøgelse af Open AI og ChatGPT, samt et forbud mod yderligere kommercielle udgivelser af produktet, indtil sikkerhedsforanstaltninger er etableret.
OpenAI CEO Sam Altman har indrømmede at "vi har også brug for tid nok til, at vores institutioner kan finde ud af, hvad de skal gøre", og at samfundet ikke er langt væk fra "potentielt skræmmende" generative AI-værktøjer.
"Vi beder FTC om at "trykke på pauseknappen", så der er mulighed for, at vores institutioner, vores love og vores samfund kan indhente det. Vi er nødt til at hævde handlekraft over de teknologier, vi skaber, før vi mister kontrollen,” hedder det i CAIDP-brevet.
Andre steder, EU-lovgivere sigter mod at underskrive en aftale med EU-lande inden udgangen af året om at implementere AI-regler, selvom det kan ramme en flaskehals, efterhånden som debatter om, hvordan AI skal styres, intensiveres.
Læs mere:
Ansvarsfraskrivelse
I tråd med den Trust Project retningslinjer, bemærk venligst, at oplysningerne på denne side ikke er beregnet til at være og ikke skal fortolkes som juridiske, skattemæssige, investeringsmæssige, finansielle eller nogen anden form for rådgivning. Det er vigtigt kun at investere, hvad du har råd til at tabe, og at søge uafhængig finansiel rådgivning, hvis du er i tvivl. For yderligere information foreslår vi at henvise til vilkårene og betingelserne samt hjælpe- og supportsiderne fra udstederen eller annoncøren. MetaversePost er forpligtet til nøjagtig, objektiv rapportering, men markedsforholdene kan ændres uden varsel.
Om forfatteren
Cindy er journalist på Metaverse Post, der dækker emner relateret til web3, NFT, metaverse og AI, med fokus på interviews med Web3 industriens aktører. Hun har talt med over 30 ledere på C-niveau, og hun har bragt deres værdifulde indsigt til læserne. Oprindeligt fra Singapore, Cindy er nu baseret i Tbilisi, Georgia. Hun har en bachelorgrad i kommunikations- og mediestudier fra University of South Australia og har ti års erfaring med journalistik og forfatterskab. Kontakt hende via [e-mail beskyttet] med pressepitches, annonceringer og interviewmuligheder.
Flere artikler
Cindy er journalist på Metaverse Post, der dækker emner relateret til web3, NFT, metaverse og AI, med fokus på interviews med Web3 industriens aktører. Hun har talt med over 30 ledere på C-niveau, og hun har bragt deres værdifulde indsigt til læserne. Oprindeligt fra Singapore, Cindy er nu baseret i Tbilisi, Georgia. Hun har en bachelorgrad i kommunikations- og mediestudier fra University of South Australia og har ti års erfaring med journalistik og forfatterskab. Kontakt hende via [e-mail beskyttet] med pressepitches, annonceringer og interviewmuligheder.
