OpenAI: AI kan potentielt gøre meget skade på mennesker, men at forsøge at stoppe fremskridt er ikke en mulighed
Kort sagt
OpenAI's dokument "Planning for AGI and Beyond" foreslår en gradvis, langsom introduktion af mere komplekse og "smarte" modeller, organisering af uafhængige revisioner af store systemer og begrænsning af computerressourcer.
OpenAI ønsker, at AI skal være åben for alle ligeligt og skabe mere konsistente og håndterbare modeller at reducere bias og uønsket adfærd.
OpenAI for nylig udgivet et dokument med titlen "Planning for AGI and Beyond." Den skitserer de brede ideer, der styrer virksomhedens handlinger, efterhånden som verden bevæger sig tættere på udviklingen af AGI (kunstig generel intelligens).
OpenAI with mener, at selvom kunstig intelligens har potentialet til at forårsage betydelig skade på mennesker, er forsøg på at standse fremskridt ikke en mulighed. Som følge heraf skal vi lære at fastholde denne forbedring, så den ikke forringes væsentligt.
Dokumentet kan findes link.. Lad os fremhæve et par afgørende elementer fra det:
- OpenAI ønsker, at AGI hjælper mennesker med at trives i alle aspekter af deres liv, både økonomisk og videnskabeligt.
I stedet for at skabe superfed stor AI og straks frigive den til verden, OpenAI vil introducere mere komplicerede og "smarte" modeller gradvist. Antagelsen er, at gradvist stigende AI-kapaciteter ikke vil chokere verden, hvilket giver mennesker tid til at tilpasse sig, tilpasse økonomien og opbygge procedurer til at interagere med AI. - OpenAI opfordrer alle organisationer til formelt at vedtage det førnævnte princip (gradvis udrulle kraftfuld AI). Altman anbefaler også at begrænse mængden af computerressourcer, der kan bruges til at træne modeller, og at opsætte upartiske revisioner af større systemer, før de gøres tilgængelige for offentligheden. I stedet for at deltage i konkurrencer som "hvem vil være den første til at udrulle en køligere og større model?" OpenAI beder virksomhederne om det arbejde sammen at forbedre sikkerheden ved AI.
- OpenAI mener, at det er afgørende, at regeringer informeres om træningsforløb, der overstiger en bestemt skala. Dette er et spændende koncept, og vi vil gerne vide mere om planer OpenAI har i denne forbindelse. Dette forslag forekommer mig i første omgang ikke så godt.
- OpenAI vil forsøge at udvikle modeller, der er mere pålidelige og kontrollerbare, mest tilbøjelige til at begrænse bias og ugunstig adfærd i AI. Den tilgang, som OpenAI i dette tilfælde er at gøre modellen tilgængelig for offentligheden i en meget begrænset form, samtidig med at brugerne får mulighed for at tilpasse den. Da forbrugerne ikke vil være i stand til at "personalisere" noget der, er jeg ikke sikker på, hvordan dette vil hjælpe modellen som helhed til at blive mindre forudindtaget. Medmindre det fritager virksomheden for ansvar for modellens handlinger.
Samlet set peger dokumentet på den rigtige måde. Der var dog en mindre konflikt mellem "vi vil ikke umiddelbart vise seje modeller til offentligheden, men vi vil tale om dem til stater" og "Folk burde vide det om udviklingen af kunstig intelligens." Kort sagt afventer vi nærmere afklaringer fra OpenAI om alle emner.
Læs mere om AI:
Ansvarsfraskrivelse
I tråd med den Trust Project retningslinjer, bemærk venligst, at oplysningerne på denne side ikke er beregnet til at være og ikke skal fortolkes som juridiske, skattemæssige, investeringsmæssige, finansielle eller nogen anden form for rådgivning. Det er vigtigt kun at investere, hvad du har råd til at tabe, og at søge uafhængig finansiel rådgivning, hvis du er i tvivl. For yderligere information foreslår vi at henvise til vilkårene og betingelserne samt hjælpe- og supportsiderne fra udstederen eller annoncøren. MetaversePost er forpligtet til nøjagtig, objektiv rapportering, men markedsforholdene kan ændres uden varsel.
Om forfatteren
Damir er teamleder, produktchef og redaktør på Metaverse Post, der dækker emner som AI/ML, AGI, LLM'er, Metaverse og Web3-relaterede felter. Hans artikler tiltrækker et massivt publikum på over en million brugere hver måned. Han ser ud til at være en ekspert med 10 års erfaring i SEO og digital markedsføring. Damir er blevet nævnt i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto og andre publikationer. Han rejser mellem UAE, Tyrkiet, Rusland og SNG som en digital nomade. Damir tog en bachelorgrad i fysik, som han mener har givet ham de kritiske tænkningskompetencer, der er nødvendige for at få succes i internettets evigt skiftende landskab.
Flere artikler
Damir er teamleder, produktchef og redaktør på Metaverse Post, der dækker emner som AI/ML, AGI, LLM'er, Metaverse og Web3-relaterede felter. Hans artikler tiltrækker et massivt publikum på over en million brugere hver måned. Han ser ud til at være en ekspert med 10 års erfaring i SEO og digital markedsføring. Damir er blevet nævnt i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto og andre publikationer. Han rejser mellem UAE, Tyrkiet, Rusland og SNG som en digital nomade. Damir tog en bachelorgrad i fysik, som han mener har givet ham de kritiske tænkningskompetencer, der er nødvendige for at få succes i internettets evigt skiftende landskab.
