WHO izdaja smernice za etično uporabo generativne umetne inteligence v zdravstvu
V premiku k etičnemu vladanju napredovanja generativnih Umetna inteligenca (AI) tehnologije v zdravstvu, je Svetovna zdravstvena organizacija (WHO) izdala obsežne smernice o velikih multimodalnih modelih (LMM). Ti modeli, ki lahko sprejmejo različne vnose podatkov, kot so besedilo, videoposnetki in slike, so bili priča sprejetju brez primere s platformami, kot je ChatGPT, Bard in Bert leta 2023 vstopajo v javno zavest.
Smernice SZO, ki obsegajo več kot 40 priporočil, so namenjene vladam, tehnološkim podjetjem in ponudnikom zdravstvenega varstva, da bi zagotovili odgovorno uporabo LMM za promocijo in zaščito zdravja prebivalstva. Dr. Jeremy Farrar, glavni znanstvenik WHO, je poudaril možne koristi generativni AI tehnologije v zdravstvu, vendar je poudaril potrebo po preglednih informacijah in politikah za obvladovanje s tem povezanih tveganj.
LMM, znani po svojem posnemanju človeške komunikacije in zmožnosti opravljanja nalog, ki niso izrecno programirane, kažejo pet širokih aplikacij v zdravstvu, kot je opisala WHO. Ti vključujejo diagnozo in klinično oskrbo, uporabo s strani pacienta za raziskovanje simptomov in zdravljenja, pisarniške in administrativne naloge v elektronskih zdravstvenih kartotekah, medicinsko in negovalno izobraževanje prek simuliranih srečanj s pacienti ter znanstvene raziskave in razvoj zdravil za prepoznavanje novih spojin.
Vendar smernice poudarjajo dokumentirana tveganja, povezana z LMM, vključno s proizvodnjo lažnih, netočnih ali pristranskih informacij. To predstavlja potencialno škodo za posameznike, ki se zanašajo na takšne informacije pri sprejemanju kritičnih zdravstvenih odločitev. Kakovost in pristranskost podatkov o usposabljanju, ki zadevajo dejavnike, kot so rasa, etnična pripadnost, predniki, spol, spolna identiteta ali starost, bi lahko ogrozili celovitost rezultatov LMM.
Poleg posameznih tveganj WHO priznava širše izzive za zdravstvene sisteme, ki izhajajo iz LMM. Ti vključujejo pomisleke glede dostopnosti in cenovne dostopnosti najnaprednejših LMM, morebitno "avtomatsko pristranskost" zdravstvenih delavcev in bolnikov ter kibernetske varnosti ranljivosti, ki ogrožajo informacije o pacientih in zanesljivost algoritmov umetne inteligence pri zagotavljanju zdravstvenega varstva.
Za uvedbo LLM potrebujete sodelovanje zainteresiranih strani
Za obravnavo teh izzivov WHO poudarja potrebo po sodelovanju različnih zainteresiranih strani v celotnem razvoju in uvajanju LMM. Vlade, tehnološka podjetja, izvajalci zdravstvenih storitev, bolniki in civilna družba so pozvani k dejavnemu sodelovanju pri zagotavljanju odgovorne uporabe tehnologij umetne inteligence.
Smernice podajajo posebna priporočila za vlade, pri čemer jim nalagajo glavno odgovornost za določitev standardov za razvoj, uvajanje in integracijo LMM v javno zdravje in medicinske prakse.
Vlade so pozvane, naj vlagajo ali zagotovijo neprofitno ali javno infrastrukturo, vključno z računalniško močjo in javnimi nabori podatkov, ki so dostopni razvijalcem v različnih sektorjih. Ti viri bi bili odvisni od uporabnikov, ki spoštujejo etična načela in vrednote. Zakone, politike in predpise je treba uporabiti za zagotovitev, da LMM v zdravstvu izpolnjujejo etične obveznosti in standarde človekovih pravic ter varujejo vidike, kot so dostojanstvo, avtonomija in zasebnost.
Smernice tudi predlagajo dodelitev regulativnim agencijam, obstoječim ali novim, za ocenjevanje in odobritev LMM in aplikacij, namenjenih za uporabo v zdravstvu, v okviru omejitev razpoložljivih virov. Poleg tega se za obsežne uvedbe LMM priporoča obvezna revizija po izdaji in ocene učinka s strani neodvisnih tretjih oseb. Te ocene bi morale vključevati vidike varstva podatkov in človekovih pravic, pri čemer so rezultati in učinki razčlenjeni glede na značilnosti uporabnika, kot so starost, rasa ali invalidnost.
Razvijalcem LMM-jev so zaupane tudi ključne odgovornosti. Pozivamo jih, naj zagotovijo, da bodo potencialni uporabniki ter vse neposredne in posredne zainteresirane strani, vključno z zdravstvenimi delavci, znanstvenimi raziskovalci, zdravstvenimi delavci in bolniki, vključeni že v zgodnjih fazah Razvoj AI. Transparentni, vključujoči in strukturirani procesi načrtovanja bi morali zainteresiranim stranem omogočiti, da izpostavijo etična vprašanja, izrazijo pomisleke in posredujejo prispevke.
Poleg tega morajo biti LMM oblikovani tako, da dobro delujejo.definaloge s potrebno natančnostjo in zanesljivostjo za izboljšanje zdravstvenih sistemov in spodbujanje interesov bolnikov. Razvijalci morajo imeti tudi sposobnost predvidevanja in razumevanja morebitnih sekundarnih rezultatov svojih aplikacij AI.
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Kumar je izkušen tehnični novinar, specializiran za dinamična presečišča AI/ML, marketinške tehnologije in nastajajočih področij, kot so kripto, blockchain in NFTs. Z več kot 3 leti izkušenj v panogi je Kumar pridobil dokazane rezultate pri oblikovanju privlačnih pripovedi, vodenju pronicljivih intervjujev in zagotavljanju celovitih vpogledov. Kumarjevo strokovno znanje je v izdelavi odmevnih vsebin, vključno s članki, poročili in raziskovalnimi publikacijami za pomembne industrijske platforme. Z edinstvenim naborom spretnosti, ki združuje tehnično znanje in pripovedovanje zgodb, se Kumar odlikuje pri sporočanju zapletenih tehnoloških konceptov različnim občinstvom na jasen in privlačen način.
več člankovKumar je izkušen tehnični novinar, specializiran za dinamična presečišča AI/ML, marketinške tehnologije in nastajajočih področij, kot so kripto, blockchain in NFTs. Z več kot 3 leti izkušenj v panogi je Kumar pridobil dokazane rezultate pri oblikovanju privlačnih pripovedi, vodenju pronicljivih intervjujev in zagotavljanju celovitih vpogledov. Kumarjevo strokovno znanje je v izdelavi odmevnih vsebin, vključno s članki, poročili in raziskovalnimi publikacijami za pomembne industrijske platforme. Z edinstvenim naborom spretnosti, ki združuje tehnično znanje in pripovedovanje zgodb, se Kumar odlikuje pri sporočanju zapletenih tehnoloških konceptov različnim občinstvom na jasen in privlačen način.