WHO udgiver retningslinjer for etisk brug af generativ AI i sundhedsvæsenet
I et skridt hen imod den etiske styring af fremme generative kunstig intelligens (AI) teknologi i sundhedsvæsenet, har Verdenssundhedsorganisationen (WHO) udgivet omfattende vejledning om store multimodale modeller (LMM'er). Disse modeller, der er i stand til at acceptere forskellige datainput såsom tekst, videoer og billeder, har været vidne til en hidtil uset adoption med platforme som f.eks. ChatGPT, Bard og Bert på vej ind i den offentlige bevidsthed i 2023.
WHO's vejledning, der omfatter over 40 anbefalinger, er rettet mod regeringer, teknologivirksomheder og sundhedsudbydere med det formål at sikre ansvarlig brug af LMM'er til fremme og beskyttelse af befolkningens sundhed. Dr. Jeremy Farrar, WHOs chefforsker, understregede de potentielle fordele ved generativ AI teknologier i sundhedsvæsenet, men understregede behovet for gennemsigtig information og politikker til at håndtere de tilknyttede risici.
LMM'er, der er kendt for deres efterligning af menneskelig kommunikation og evne til at udføre opgaver, der ikke er eksplicit programmerede, udviser fem brede anvendelser i sundhedsvæsenet, som skitseret af WHO. Disse omfatter diagnose og klinisk pleje, patientstyret brug til undersøgelse af symptomer og behandling, gejstlige og administrative opgaver inden for elektroniske sundhedsjournaler, medicinsk og sygeplejerskeuddannelse gennem simulerede patientmøder og videnskabelig forskning og lægemiddeludvikling for at identificere nye forbindelser.
Vejledningen fremhæver dog dokumenterede risici forbundet med LMM'er, herunder produktion af falsk, unøjagtig eller partisk information. Dette udgør potentiel skade for personer, der er afhængige af sådanne oplysninger til at træffe kritiske sundhedsbeslutninger. Kvaliteten og skævheden af træningsdata, vedrørende faktorer som race, etnicitet, herkomst, køn, kønsidentitet eller alder, kan kompromittere integriteten af LMM-output.
Ud over individuelle risici anerkender WHO bredere udfordringer for sundhedssystemer som følge af LMM'er. Disse omfatter bekymringer om tilgængeligheden og overkommeligheden af de mest avancerede LMM'er, potentiel "automatiseringsbias" fra sundhedspersonale og patienter, og cybersikkerhed sårbarheder, der bringer patientinformation og troværdigheden af AI-algoritmer i fare inden for sundhedsydelser.
Har brug for interessentengagement til implementering af LLM'er
For at løse disse udfordringer understreger WHO behovet for engagement fra forskellige interessenter i hele udviklingen og implementeringen af LMM'er. Regeringer, teknologivirksomheder, sundhedsudbydere, patienter og civilsamfundet opfordres til at deltage aktivt i at sikre ansvarlig brug af AI-teknologier.
Vejledningen giver specifikke anbefalinger til regeringer og placerer det primære ansvar på dem for at sætte standarder for udvikling, implementering og integration af LMM'er i offentlig sundhed og medicinsk praksis.
Regeringer opfordres indtrængende til at investere i eller levere ikke-for-profit eller offentlig infrastruktur, herunder computerkraft og offentlige datasæt, tilgængelig for udviklere i forskellige sektorer. Disse ressourcer vil være betinget af, at brugerne overholder etiske principper og værdier. Love, politikker og regler skal anvendes til at sikre, at LMM'er i sundhedsvæsenet opfylder etiske forpligtelser og menneskerettighedsstandarder, og sikrer aspekter som værdighed, autonomi og privatliv.
Vejledningen foreslår også, at tilsynsmyndigheder, eksisterende eller nye, tildeles til at vurdere og godkende LMM'er og applikationer beregnet til sundhedspleje inden for begrænsningerne af tilgængelige ressourcer. Desuden anbefales obligatorisk revision efter frigivelse og konsekvensanalyser foretaget af uafhængige tredjeparter til storstilet LMM-udrulning. Disse vurderinger bør omfatte overvejelser om databeskyttelse og menneskerettigheder, med resultater og påvirkninger opdelt efter brugeregenskaber, såsom alder, race eller handicap.
Udviklere af LMM'er er også betroet nøgleansvar. De opfordres indtrængende til at sikre, at potentielle brugere og alle direkte og indirekte interessenter, herunder læger, videnskabelige forskere, sundhedspersonale og patienter, er engageret fra de tidlige stadier af AI udvikling. Gennemsigtige, inkluderende og strukturerede designprocesser bør give interessenter mulighed for at rejse etiske spørgsmål, give udtryk for bekymringer og give input.
Derudover bør LMM'er designes til at fungere godtdefinedlagt opgaver med nødvendig nøjagtighed og pålidelighed for at styrke sundhedssystemerne og fremme patientinteresser. Udviklere skal også have evnen til at forudsige og forstå potentielle sekundære resultater af deres AI-applikationer.
Ansvarsfraskrivelse
I tråd med den Trust Project retningslinjer, bemærk venligst, at oplysningerne på denne side ikke er beregnet til at være og ikke skal fortolkes som juridiske, skattemæssige, investeringsmæssige, finansielle eller nogen anden form for rådgivning. Det er vigtigt kun at investere, hvad du har råd til at tabe, og at søge uafhængig finansiel rådgivning, hvis du er i tvivl. For yderligere information foreslår vi at henvise til vilkårene og betingelserne samt hjælpe- og supportsiderne fra udstederen eller annoncøren. MetaversePost er forpligtet til nøjagtig, objektiv rapportering, men markedsforholdene kan ændres uden varsel.
Om forfatteren
Kumar er en erfaren teknisk journalist med speciale i de dynamiske skæringspunkter mellem AI/ML, marketingteknologi og nye områder som krypto, blockchain og NFTs. Med over 3 års erfaring i branchen har Kumar etableret en dokumenteret track record i at skabe overbevisende fortællinger, udføre indsigtsfulde interviews og levere omfattende indsigt. Kumars ekspertise ligger i at producere indhold med stor gennemslagskraft, herunder artikler, rapporter og forskningspublikationer til fremtrædende industriplatforme. Med et unikt færdighedssæt, der kombinerer teknisk viden og historiefortælling, udmærker Kumar sig ved at kommunikere komplekse teknologiske koncepter til forskellige målgrupper på en klar og engagerende måde.
Flere artikler
Kumar er en erfaren teknisk journalist med speciale i de dynamiske skæringspunkter mellem AI/ML, marketingteknologi og nye områder som krypto, blockchain og NFTs. Med over 3 års erfaring i branchen har Kumar etableret en dokumenteret track record i at skabe overbevisende fortællinger, udføre indsigtsfulde interviews og levere omfattende indsigt. Kumars ekspertise ligger i at producere indhold med stor gennemslagskraft, herunder artikler, rapporter og forskningspublikationer til fremtrædende industriplatforme. Med et unikt færdighedssæt, der kombinerer teknisk viden og historiefortælling, udmærker Kumar sig ved at kommunikere komplekse teknologiske koncepter til forskellige målgrupper på en klar og engagerende måde.
