WHO objavljuje Smjernice za etičku upotrebu generativne umjetne inteligencije u zdravstvu
U kretanju prema etičkom upravljanju napredujućim generativnim umjetna inteligencija (AI) tehnologije u zdravstvu, Svjetska zdravstvena organizacija (WHO) izdala je sveobuhvatne smjernice o velikim multimodalnim modelima (LMM). Ovi modeli, sposobni prihvatiti različite unose podataka kao što su tekst, videozapisi i slike, doživjeli su usvajanje bez presedana, s platformama poput ChatGPT, Bard i Bert ulaze u javnu svijest 2023.
Smjernice WHO-a, koje se sastoje od preko 40 preporuka, usmjerene su na vlade, tehnološke tvrtke i pružatelje zdravstvenih usluga, s ciljem osiguravanja odgovorne upotrebe LMM-a za promicanje i zaštitu zdravlja stanovništva. Dr. Jeremy Farrar, glavni znanstvenik WHO-a, naglasio je potencijalne prednosti generativni AI tehnologije u zdravstvu, ali je naglasio potrebu za transparentnim informacijama i politikama za upravljanje povezanim rizicima.
LMM, poznati po oponašanju ljudske komunikacije i sposobnosti obavljanja zadataka koji nisu eksplicitno programirani, pokazuju pet širokih primjena u zdravstvu, kako je navela WHO. To uključuje dijagnozu i kliničku skrb, upotrebu vođenu od strane pacijenta za ispitivanje simptoma i liječenja, službeničke i administrativne zadatke unutar elektroničkih zdravstvenih zapisa, medicinsku i medicinsku edukaciju putem simuliranih susreta s pacijentima te znanstveno istraživanje i razvoj lijekova za identifikaciju novih spojeva.
Međutim, smjernice ističu dokumentirane rizike povezane s LMM-ovima, uključujući proizvodnju lažnih, netočnih ili pristranih informacija. To predstavlja potencijalnu štetu za pojedince koji se oslanjaju na takve informacije za donošenje kritičnih zdravstvenih odluka. Kvaliteta i pristranost podataka o obuci, koji se tiču čimbenika kao što su rasa, etnička pripadnost, podrijetlo, spol, rodni identitet ili dob, mogli bi ugroziti integritet rezultata LMM-a.
Osim pojedinačnih rizika, WHO priznaje šire izazove za zdravstvene sustave koji proizlaze iz LMM-a. To uključuje zabrinutost oko dostupnosti i cjenovne dostupnosti najnaprednijih LMM-ova, potencijalnu "pristranost automatizacije" zdravstvenih radnika i pacijenata, i Cybersecurity ranjivosti koje ugrožavaju informacije o pacijentima i pouzdanost algoritama umjetne inteligencije u pružanju zdravstvene skrbi.
Potreban je angažman dionika za implementaciju LLM-a
Za rješavanje ovih izazova, WHO naglašava potrebu za angažmanom različitih dionika tijekom razvoja i primjene LMM-a. Vlade, tehnološke tvrtke, pružatelji zdravstvenih usluga, pacijenti i civilno društvo pozvani su da aktivno sudjeluju u osiguravanju odgovorne upotrebe AI tehnologija.
Smjernice daju posebne preporuke za vlade, stavljajući im primarnu odgovornost za postavljanje standarda za razvoj, implementaciju i integraciju LMM-a u javno zdravstvo i medicinsku praksu.
Vlade se pozivaju da ulažu ili osiguraju neprofitnu ili javnu infrastrukturu, uključujući računalnu snagu i skupove javnih podataka, dostupnih programerima u različitim sektorima. Ti bi resursi ovisili o tome da se korisnici pridržavaju etičkih načela i vrijednosti. Zakoni, politike i propisi moraju se primijeniti kako bi se osiguralo da LMM-ovi u zdravstvu ispunjavaju etičke obveze i standarde ljudskih prava, štiteći aspekte poput dostojanstva, autonomije i privatnosti.
Smjernice također predlažu imenovanje regulatornih agencija, postojećih ili novih, za procjenu i odobravanje LMM-ova i aplikacija namijenjenih za upotrebu u zdravstvu, unutar ograničenja dostupnih resursa. Nadalje, obvezna revizija nakon izdavanja i procjene utjecaja od strane neovisnih trećih strana preporučuju se za velike LMM implementacije. Te bi procjene trebale uključivati razmatranja zaštite podataka i ljudskih prava, s ishodima i učincima raščlanjenim prema karakteristikama korisnika, kao što su dob, rasa ili invaliditet.
Programerima LMM-ova također su povjerene ključne odgovornosti. Pozivaju se da osiguraju da potencijalni korisnici i svi izravni i neizravni dionici, uključujući pružatelje medicinskih usluga, znanstvene istraživače, zdravstvene djelatnike i pacijente, budu uključeni od ranih faza razvoj umjetne inteligencije. Transparentni, uključivi i strukturirani procesi dizajna trebali bi omogućiti dionicima da pokrenu etička pitanja, izraze zabrinutost i daju svoje mišljenje.
Osim toga, LMM-ovi bi trebali biti dizajnirani za dobru izvedbudefiobavljanje zadataka s potrebnom točnošću i pouzdanošću za poboljšanje zdravstvenih sustava i unapređenje interesa pacijenata. Programeri također moraju imati sposobnost predviđanja i razumijevanja potencijalnih sekundarnih ishoda svojih AI aplikacija.
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Kumar je iskusan tehnološki novinar sa specijalizacijom u dinamičkim raskrižjima AI/ML-a, marketinške tehnologije i novih područja kao što su kripto, blockchain i NFTs. S više od 3 godine iskustva u industriji, Kumar ima dokazanu reputaciju u izradi uvjerljivih priča, provođenju pronicljivih intervjua i pružanju sveobuhvatnih uvida. Kumarova stručnost leži u izradi sadržaja visokog utjecaja, uključujući članke, izvješća i istraživačke publikacije za istaknute industrijske platforme. S jedinstvenim skupom vještina koje kombiniraju tehničko znanje i pripovijedanje, Kumar se ističe u komuniciranju složenih tehnoloških koncepata različitoj publici na jasan i privlačan način.
Više članaka
Kumar je iskusan tehnološki novinar sa specijalizacijom u dinamičkim raskrižjima AI/ML-a, marketinške tehnologije i novih područja kao što su kripto, blockchain i NFTs. S više od 3 godine iskustva u industriji, Kumar ima dokazanu reputaciju u izradi uvjerljivih priča, provođenju pronicljivih intervjua i pružanju sveobuhvatnih uvida. Kumarova stručnost leži u izradi sadržaja visokog utjecaja, uključujući članke, izvješća i istraživačke publikacije za istaknute industrijske platforme. S jedinstvenim skupom vještina koje kombiniraju tehničko znanje i pripovijedanje, Kumar se ističe u komuniciranju složenih tehnoloških koncepata različitoj publici na jasan i privlačan način.
