AI-eksperter og offentlige personer alarmerer AI-udslettelsesrisiko
Kort sagt
Fremtrædende kunstig intelligens-eksperter og indflydelsesrige personer udtrykker deres fælles holdning bekymringer vedrørende risici forbundet med kunstig intelligens.
På trods af betydelige fremskridt inden for AI er mange udfordringer relateret til AI-risiko stadig uløste.
Fremtrædende AI-eksperter og offentlige personer har udsendt en erklæring, der advarer om, at AI kan udgøre en trussel mod menneskehedens overlevelse, sammenlignelig med eller endda større end risikoen for pandemier og atomkrig. De 350 underskrivere hævder, at kunstig intelligens kan have uforudsete og katastrofale konsekvenser, såsom at frigøre autonome våben, forstyrre sociale og økonomiske systemer eller skabe superintelligente agenter, der kan overliste og overmande mennesker.
De opfordrer politikerne til at tage disse risici alvorligt og vedtage foranstaltninger for at sikre sikker og gavnlig AI-udvikling. Det erklæring er underskrevet af nogle af de førende personer inden for AI forskning og udvikling, som f.eks OpenAI CEO Sam Altman, medstifter af Skype Jaan Tallinn, DeepMind CEO Demis Hassabis, og AI-datamatiker Geoffrey Hinton, samt indflydelsesrige offentlige personligheder, såsom musikeren Grimes og podcasteren Sam Harris.
Blandt underskriverne var vindere af Turing-prisen 2018 for deres bidrag til dyb læring: Geoffrey Hinton og Yoshua Bengio. De fik selskab af professorer fra prestigefyldte universiteter som Harvard og Tsinghua University i Kina, samt MIT's Max Tegmark.
"At mindske risikoen for udryddelse fra AI bør være en global prioritet sammen med andre samfundsmæssige risici såsom pandemier og atomkrig,"
står der i brevet offentliggjort af CAIS.
Center for AI-sikkerhed (CAIS), en nonprofitorganisation baseret i San Francisco, sigter mod at løse sikkerhedsproblemerne i forbindelse med kunstig intelligens. Mens CAIS erkender de potentielle fordele ved AI, understreger CAIS behovet for at udvikle og bruge det sikkert. På trods af betydelige fremskridt inden for AI forbliver adskillige grundlæggende udfordringer inden for AI-sikkerhed uløste, mener virksomheden. Ifølge deres hjemmeside er CAIS' mission at mindske risici ved at udføre sikkerhedsforskning, fremme et fællesskab af AI-sikkerhedsforskere og slå til lyd for sikkerhedsstandarder.
"Der er mange "vigtige og presserende risici fra AI", ikke kun risikoen for udryddelse; for eksempel systemisk skævhed, misinformation, ondsindet brug, cyberangreb og våben. Det er alle vigtige risici, der skal håndteres. Samfund kan håndtere flere risici på én gang; det er ikke "enten/eller", men "ja/og." Fra et risikostyringsperspektiv, ligesom det ville være hensynsløst udelukkende at prioritere nuværende skader, ville det også være hensynsløst også at ignorere dem.”
Dan Hendrycks, direktør for CAIS skrev på Twitter.
I marts over 1,100 tekniske eksperter underskrevet et åbent brev med krav om seks måneders stop for træningen af AI-systemer, der overgår GPT-4. Europæiske lovgivere også for nylig godkendt strengere lovudkast, kendt som AI-loven, der regulerer AI-værktøjer som f.eks ChatGPT. Loven omfatter krav til sikkerhedstjek, datastyring og risikobegrænsninger for grundlæggende AI-modeller og forbyder praksis som manipulerende teknikker og visse former for brug af biometri.
Læs mere:
- OpenAI Afslører sin seneste tilgang til at sikre AI-sikkerhed
- Kommer Google til at annoncere en tekst-til-avatar-generator til gamere?
- Amazons CodeWhisperer giver udviklere den kant, de har brug for i AI Arena
- Vitalik Buterin og MIRI-direktør Nate Soares dykker ned i farerne ved AI
Ansvarsfraskrivelse
I tråd med den Trust Project retningslinjer, bemærk venligst, at oplysningerne på denne side ikke er beregnet til at være og ikke skal fortolkes som juridiske, skattemæssige, investeringsmæssige, finansielle eller nogen anden form for rådgivning. Det er vigtigt kun at investere, hvad du har råd til at tabe, og at søge uafhængig finansiel rådgivning, hvis du er i tvivl. For yderligere information foreslår vi at henvise til vilkårene og betingelserne samt hjælpe- og supportsiderne fra udstederen eller annoncøren. MetaversePost er forpligtet til nøjagtig, objektiv rapportering, men markedsforholdene kan ændres uden varsel.
Om forfatteren
Agne er en journalist, der dækker de seneste trends og udviklinger inden for metaverset, AI og Web3 industrier for Metaverse Post. Hendes passion for historiefortælling har fået hende til at gennemføre adskillige interviews med eksperter inden for disse områder, hvor hun altid søger at afdække spændende og engagerende historier. Agne er uddannet bachelor i litteratur og har en omfattende baggrund i at skrive om en bred vifte af emner, herunder rejser, kunst og kultur. Hun har også været frivillig som redaktør for dyrerettighedsorganisationen, hvor hun var med til at skabe opmærksomhed omkring dyrevelfærdsspørgsmål. Kontakt hende på [e-mail beskyttet].
Flere artikler
Agne er en journalist, der dækker de seneste trends og udviklinger inden for metaverset, AI og Web3 industrier for Metaverse Post. Hendes passion for historiefortælling har fået hende til at gennemføre adskillige interviews med eksperter inden for disse områder, hvor hun altid søger at afdække spændende og engagerende historier. Agne er uddannet bachelor i litteratur og har en omfattende baggrund i at skrive om en bred vifte af emner, herunder rejser, kunst og kultur. Hun har også været frivillig som redaktør for dyrerettighedsorganisationen, hvor hun var med til at skabe opmærksomhed omkring dyrevelfærdsspørgsmål. Kontakt hende på [e-mail beskyttet].
