WHO släpper riktlinjer för etisk användning av generativ AI i sjukvården
I ett steg mot den etiska styrningen av att avancera generativt artificiell intelligens (AI)-teknik inom hälso- och sjukvården, Världshälsoorganisationen (WHO) har gett ut omfattande vägledning om stora multimodala modeller (LMM). Dessa modeller, som är kapabla att acceptera olika datainmatningar som text, videor och bilder, har fått en aldrig tidigare skådad adoption, med plattformar som ChatGPT, Bard och Bert kommer in i det allmänna medvetandet 2023.
WHO:s vägledning, som omfattar över 40 rekommendationer, riktar sig till regeringar, teknikföretag och hälsovårdsleverantörer, som syftar till att säkerställa en ansvarsfull användning av LMM för att främja och skydda befolkningens hälsa. Dr Jeremy Farrar, WHO:s chefsforskare, betonade de potentiella fördelarna med generativ AI teknologier inom hälso- och sjukvården, men underströk behovet av transparent information och policyer för att hantera riskerna.
LMMs, kända för sin efterlikning av mänsklig kommunikation och förmåga att utföra uppgifter som inte är explicit programmerade, uppvisar fem breda tillämpningar inom hälso- och sjukvården, enligt WHO. Dessa inkluderar diagnos och klinisk vård, patientstyrd användning för att undersöka symtom och behandling, kontorsuppgifter och administrativa uppgifter inom elektroniska journaler, medicinsk och sjuksköterskeutbildning genom simulerade patientmöten samt vetenskaplig forskning och läkemedelsutveckling för att identifiera nya substanser.
Men vägledningen belyser dokumenterade risker förknippade med LMM, inklusive produktion av falsk, felaktig eller partisk information. Detta innebär potentiell skada för individer som förlitar sig på sådan information för att fatta kritiska hälsobeslut. Kvaliteten och partiskheten hos träningsdata, avseende faktorer som ras, etnicitet, härkomst, kön, könsidentitet eller ålder, kan äventyra integriteten hos LMM-utdata.
Utöver individuella risker erkänner WHO bredare utmaningar för hälsosystemen som härrör från LMM. Dessa inkluderar oro över tillgängligheten och överkomligheten för de mest avancerade LMM:erna, potentiell "automatiseringsbias" från vårdpersonal och patienter, och Cybersäkerhet sårbarheter som äventyrar patientinformation och tillförlitligheten hos AI-algoritmer inom hälso- och sjukvård.
Behöver engagemang från intressenter för implementering av LLM
För att ta itu med dessa utmaningar betonar WHO behovet av engagemang från olika intressenter under utvecklingen och distributionen av LMM. Regeringar, teknikföretag, vårdgivare, patienter och civilsamhället uppmanas att aktivt delta i att säkerställa en ansvarsfull användning av AI-teknik.
Vägledningen ger specifika rekommendationer för regeringar, och lägger huvudansvaret på dem att sätta standarder för utveckling, distribution och integrering av LMM i folkhälso- och medicinsk praxis.
Regeringar uppmanas att investera i eller tillhandahålla icke-vinstdrivande eller offentlig infrastruktur, inklusive datorkraft och offentliga datauppsättningar, tillgänglig för utvecklare inom olika sektorer. Dessa resurser skulle vara beroende av att användarna följer etiska principer och värderingar. Lagar, policyer och förordningar ska användas för att säkerställa att LMMs inom hälso- och sjukvården uppfyller etiska skyldigheter och mänskliga rättigheter, och skyddar aspekter som värdighet, autonomi och integritet.
Vägledningen föreslår också uppdraget för tillsynsmyndigheter, befintliga eller nya, att bedöma och godkänna LMM och applikationer avsedda för användning inom sjukvård, inom begränsningarna av tillgängliga resurser. Vidare rekommenderas obligatorisk granskning efter utgivning och konsekvensbedömningar av oberoende tredje parter för storskaliga LMM-utbyggnader. Dessa bedömningar bör inkludera överväganden för dataskydd och mänskliga rättigheter, med resultat och effekter uppdelade efter användaregenskaper, såsom ålder, ras eller funktionshinder.
Utvecklare av LMM:er anförtros också nyckelansvar. De uppmanas att se till att potentiella användare och alla direkta och indirekta intressenter, inklusive medicinska leverantörer, vetenskapliga forskare, vårdpersonal och patienter, engageras från de tidiga stadierna av AI-utveckling. Transparenta, inkluderande och strukturerade designprocesser bör göra det möjligt för intressenter att ta upp etiska frågor, uttrycka oro och ge input.
Dessutom bör LMM:er utformas för att fungera väldefined uppgifter med nödvändig noggrannhet och tillförlitlighet för att förbättra hälsosystemen och främja patientintressen. Utvecklare måste också ha förmågan att förutsäga och förstå potentiella sekundära resultat av sina AI-applikationer.
Villkor
I linje med den Riktlinjer för Trust Project, vänligen notera att informationen på den här sidan inte är avsedd att vara och inte ska tolkas som juridisk, skattemässig, investerings-, finansiell eller någon annan form av rådgivning. Det är viktigt att bara investera det du har råd att förlora och att söka oberoende finansiell rådgivning om du har några tvivel. För ytterligare information föreslår vi att du hänvisar till villkoren samt hjälp- och supportsidorna som tillhandahålls av utfärdaren eller annonsören. MetaversePost är engagerad i korrekt, opartisk rapportering, men marknadsförhållandena kan ändras utan föregående meddelande.
Om författaren
Kumar är en erfaren teknisk journalist med specialisering på de dynamiska skärningspunkterna mellan AI/ML, marknadsföringsteknologi och framväxande områden som krypto, blockchain och NFTs. Med över 3 års erfarenhet i branschen har Kumar etablerat en bevisad meritlista i att skapa övertygande berättelser, genomföra insiktsfulla intervjuer och leverera omfattande insikter. Kumars expertis ligger i att producera innehåll med hög effekt, inklusive artiklar, rapporter och forskningspublikationer för framstående industriplattformar. Med en unik kompetens som kombinerar teknisk kunskap och berättande, utmärker Kumar sig på att kommunicera komplexa tekniska koncept till olika publik på ett tydligt och engagerande sätt.
fler artiklar
Kumar är en erfaren teknisk journalist med specialisering på de dynamiska skärningspunkterna mellan AI/ML, marknadsföringsteknologi och framväxande områden som krypto, blockchain och NFTs. Med över 3 års erfarenhet i branschen har Kumar etablerat en bevisad meritlista i att skapa övertygande berättelser, genomföra insiktsfulla intervjuer och leverera omfattande insikter. Kumars expertis ligger i att producera innehåll med hög effekt, inklusive artiklar, rapporter och forskningspublikationer för framstående industriplattformar. Med en unik kompetens som kombinerar teknisk kunskap och berättande, utmärker Kumar sig på att kommunicera komplexa tekniska koncept till olika publik på ett tydligt och engagerande sätt.
