OpenAI Afslører sin seneste tilgang til at sikre AI-sikkerhed
Kort sagt
OpenAI har udgivet et blogindlæg, der beskriver dens forbedrede tilgang til sikkerhed efter nylige bekymringer vedrørende sikkerhed og privatliv og undersøgelser.
Virksomheden forpligter sig til at udføre strenge tests, engagere eksterne eksperter til feedback og arbejde sammen med regeringer for at bestemme det bedste tilgang til AI-regler.
Efter at have stået over for bekymringer vedrørende sikkerhed og privatliv og følge nylige undersøgelser i nogle europæiske lande, OpenAI har frigivet et blogindlæg, der beskriver virksomhedens forbedrede tilgang til sikkerhed.
OpenAI forpligter sig til at udføre strenge tests, engagere eksterne eksperter til feedback, før et nyt system frigives, og arbejde sammen med regeringer for at bestemme den bedste tilgang til AI-regler.
Tidligere har virksomheden brugt over seks måneder på at arbejde på sikkerheden og tilpasningen af sin seneste model, GPT-4, før den udgives offentligt. For at sikre sikkerheden ved sin nyeste sprogmodel, GPT-4, OpenAI hyret et team på over 50 eksperter: AI-sikkerheds-, etik- og politikspecialister, herunder forskere og ingeniører.
"Det er afgørende, at vi mener, at samfundet skal have tid til at opdatere og tilpasse sig til stadig mere dygtig AI, og at alle, der er berørt af denne teknologi, bør have en betydelig indflydelse på, hvordan AI udvikler sig yderligere."
OpenAI skrev.
OpenAI's fokus på børns sikkerhed og privatliv
Italien forbudt ChatGPT, citerer OpenAIs manglende verificering af alderen på sine brugere, på trods af at den er designet til personer på 13 år og derover, som en af årsagerne. Et kritisk fokus på virksomhedens sikkerhedsindsats er flyttet til at beskytte børn ved at implementere muligheder for aldersbekræftelse, hvilket OpenAI udforsker nu, især da AI-værktøjerne er beregnet til personer på 18 år eller ældre eller 13 og ældre med forældres godkendelse.
Virksomheden forbyder strengt generering af hadefuldt, chikanerende, voldeligt eller voksent indhold, og GPT-4 har allerede en 82 % lavere sandsynlighed for at reagere på anmodninger om ikke tilladt indhold sammenlignet med GPT-3. 5.
OpenAI har etableret et robust system til at overvåge for misbrug og håber at lave GPT-4 tilgængelig for flere mennesker over tid. Virksomheden arbejder med udviklere om skræddersyede sikkerhedsreduktioner, såsom non-profit Khan Academy, og arbejder på funktioner, der muliggør strengere standarder for modeloutput.
Forbedring af privatlivets fred er et andet sikkerhedsaspekt OpenAI fokuserer på, især efter det seneste overtrædelse af data. AI-virksomhedens store sprogmodeller er trænet på en enorm mængde tekst, der inkluderer tilgængeligt for offentligt indhold, licenseret indhold og indhold genereret af menneskelige anmeldere; den bruger data til at gøre AI-modeller mere nyttige for folk.
OpenAI tager skridt til at beskytte privatlivets fred for enkeltpersoner ved at fjerne personlige oplysninger fra dets træningsdata, finjustere modeller til at afvise anmodninger om personlige oplysninger og slette personlige oplysninger fra sine systemer efter anmodning. Dette reducerer chancen for, at AI-modeller genererer svar, der inkluderer personlige oplysninger.
OpenAI's tilgang at løse AI-sikkerhedsproblemer er at forske i effektive afbødninger og tilpasningsteknikker og test dem mod misbrug i den virkelige verden. Den lover også at være stadig mere forsigtig med at skabe og implementere mere dygtige modeller og at forbedre sikkerhedsforanstaltningerne. Effektiv styring af AI-udvikling og -implementering er afgørende for at sikre sikkerhed, hvilket kræver teknisk og institutionel innovation.
Læs mere:
Ansvarsfraskrivelse
I tråd med den Trust Project retningslinjer, bemærk venligst, at oplysningerne på denne side ikke er beregnet til at være og ikke skal fortolkes som juridiske, skattemæssige, investeringsmæssige, finansielle eller nogen anden form for rådgivning. Det er vigtigt kun at investere, hvad du har råd til at tabe, og at søge uafhængig finansiel rådgivning, hvis du er i tvivl. For yderligere information foreslår vi at henvise til vilkårene og betingelserne samt hjælpe- og supportsiderne fra udstederen eller annoncøren. MetaversePost er forpligtet til nøjagtig, objektiv rapportering, men markedsforholdene kan ændres uden varsel.
Om forfatteren
Agne er en journalist, der dækker de seneste trends og udviklinger inden for metaverset, AI og Web3 industrier for Metaverse Post. Hendes passion for historiefortælling har fået hende til at gennemføre adskillige interviews med eksperter inden for disse områder, hvor hun altid søger at afdække spændende og engagerende historier. Agne er uddannet bachelor i litteratur og har en omfattende baggrund i at skrive om en bred vifte af emner, herunder rejser, kunst og kultur. Hun har også været frivillig som redaktør for dyrerettighedsorganisationen, hvor hun var med til at skabe opmærksomhed omkring dyrevelfærdsspørgsmål. Kontakt hende på [e-mail beskyttet].
Flere artikler
Agne er en journalist, der dækker de seneste trends og udviklinger inden for metaverset, AI og Web3 industrier for Metaverse Post. Hendes passion for historiefortælling har fået hende til at gennemføre adskillige interviews med eksperter inden for disse områder, hvor hun altid søger at afdække spændende og engagerende historier. Agne er uddannet bachelor i litteratur og har en omfattende baggrund i at skrive om en bred vifte af emner, herunder rejser, kunst og kultur. Hun har også været frivillig som redaktør for dyrerettighedsorganisationen, hvor hun var med til at skabe opmærksomhed omkring dyrevelfærdsspørgsmål. Kontakt hende på [e-mail beskyttet].
