L'OMS publica directrius per a l'ús ètic de la intel·ligència artificial generativa a l'assistència sanitària
En un pas cap a la governança ètica d'avançar generativa intel·ligència artificial (AI) en l'assistència sanitària, l'Organització Mundial de la Salut (OMS) ha publicat una guia completa sobre grans models multimodals (LMM). Aquests models, capaços d'acceptar diverses entrades de dades com ara text, vídeos i imatges, han estat testimonis d'una adopció sense precedents, amb plataformes com ChatGPT, Bard i Bert van entrar a la consciència pública el 2023.
La guia de l'OMS, que inclou més de 40 recomanacions, s'adreça a governs, empreses tecnològiques i proveïdors d'atenció sanitària, amb l'objectiu de garantir un ús responsable dels LMM per a la promoció i protecció de la salut de la població. El doctor Jeremy Farrar, científic en cap de l'OMS, va subratllar els possibles beneficis IA generativa tecnologies sanitàries, però va subratllar la necessitat d'una informació i polítiques transparents per gestionar els riscos associats.
Els LMM, coneguts per la seva imitació de la comunicació humana i la seva capacitat per realitzar tasques no programades explícitament, presenten cinc aplicacions àmplies en l'assistència sanitària, tal com va assenyalar l'OMS. Aquests inclouen el diagnòstic i l'atenció clínica, l'ús guiat pel pacient per investigar símptomes i tractament, tasques administratives i administratives dins dels registres sanitaris electrònics, educació mèdica i d'infermeria mitjançant trobades simulades amb pacients i investigació científica i desenvolupament de fàrmacs per identificar nous compostos.
Tanmateix, la guia destaca els riscos documentats associats als LMM, inclosa la producció d'informació falsa, inexacta o esbiaixada. Això suposa un dany potencial per a les persones que confien en aquesta informació per prendre decisions de salut crítiques. La qualitat i el biaix de les dades d'entrenament, relacionades amb factors com la raça, l'ètnia, l'ascendència, el sexe, la identitat de gènere o l'edat, podrien comprometre la integritat dels resultats del LMM.
Més enllà dels riscos individuals, l'OMS reconeix reptes més amplis per als sistemes de salut derivats dels LMM. Aquests inclouen preocupacions sobre l'accessibilitat i l'assequibilitat dels LMM més avançats, el potencial "biaix d'automatització" per part dels professionals de la salut i els pacients, i seguretat cibernètica vulnerabilitats que posen en perill la informació del pacient i la fiabilitat dels algorismes d'IA en la prestació d'assistència sanitària.
Necessiteu la participació de les parts interessades per al desplegament de LLM
Per abordar aquests reptes, l'OMS posa l'accent en la necessitat de la implicació de diverses parts interessades durant el desenvolupament i el desplegament dels LMM. Els governs, les empreses tecnològiques, els proveïdors de salut, els pacients i la societat civil estan cridats a participar activament per garantir l'ús responsable de les tecnologies d'IA.
La guia ofereix recomanacions específiques per als governs, posant-los la responsabilitat principal d'establir estàndards per al desenvolupament, el desplegament i la integració de LMM a les pràctiques mèdiques i de salut pública.
Es demana als governs que inverteixin en infraestructures públiques o sense ànim de lucre, inclosa la potència de càlcul i els conjunts de dades públiques, accessibles per als desenvolupadors de diversos sectors. Aquests recursos estarien condicionats a que els usuaris s'adhereixin als principis i valors ètics. S'han d'utilitzar lleis, polítiques i regulacions per garantir que els LMM en l'assistència sanitària compleixin les obligacions ètiques i els estàndards de drets humans, salvaguardant aspectes com la dignitat, l'autonomia i la privadesa.
La guia també suggereix l'assignació d'agències reguladores, existents o noves, per avaluar i aprovar LMM i aplicacions destinades a l'ús sanitari, dins de les limitacions dels recursos disponibles. A més, es recomanen auditories i avaluacions d'impacte posteriors al llançament obligatòries per part de tercers independents per als desplegaments de LMM a gran escala. Aquestes avaluacions haurien d'incloure consideracions per a la protecció de dades i els drets humans, amb resultats i impactes desagregats per característiques de l'usuari, com ara l'edat, la raça o la discapacitat.
Els desenvolupadors de LMM també tenen responsabilitats clau. Se'ls insta a garantir que els usuaris potencials i totes les parts interessades directes i indirectes, inclosos els proveïdors mèdics, els investigadors científics, els professionals de la salut i els pacients, estiguin implicats des de les primeres etapes de Desenvolupament de la IA. Els processos de disseny transparents, inclusius i estructurats haurien de permetre a les parts interessades plantejar qüestions ètiques, expressar preocupacions i aportar aportacions.
A més, els LMM s'han de dissenyar per funcionar bédefitasques necessàries amb la precisió i la fiabilitat necessàries per millorar els sistemes de salut i avançar en els interessos dels pacients. Els desenvolupadors també han de tenir la capacitat de predir i comprendre els resultats secundaris potencials de les seves aplicacions d'IA.
renúncia
En línia amb la Directrius del projecte Trust, si us plau, tingueu en compte que la informació proporcionada en aquesta pàgina no pretén ni s'ha d'interpretar com a assessorament legal, fiscal, d'inversió, financer o de cap altra forma. És important invertir només el que et pots permetre perdre i buscar assessorament financer independent si tens dubtes. Per obtenir més informació, us suggerim que feu referència als termes i condicions, així com a les pàgines d'ajuda i assistència proporcionades per l'emissor o l'anunciant. MetaversePost es compromet a fer informes precisos i imparcials, però les condicions del mercat estan subjectes a canvis sense previ avís.
About The Autor
Kumar és un periodista tecnològic experimentat amb una especialització en les interseccions dinàmiques d'IA/ML, tecnologia de màrqueting i camps emergents com ara cripto, blockchain i NFTs. Amb més de 3 anys d'experiència en el sector, Kumar ha establert una trajectòria demostrada en l'elaboració de narracions convincents, la realització d'entrevistes minucioses i l'oferiment d'informació exhaustiva. L'experiència de Kumar rau en la producció de contingut d'alt impacte, inclosos articles, informes i publicacions de recerca per a plataformes de la indústria destacades. Amb un conjunt d'habilitats únics que combina coneixements tècnics i narració, Kumar destaca per comunicar conceptes tecnològics complexos a diversos públics d'una manera clara i atractiva.
més articles
Kumar és un periodista tecnològic experimentat amb una especialització en les interseccions dinàmiques d'IA/ML, tecnologia de màrqueting i camps emergents com ara cripto, blockchain i NFTs. Amb més de 3 anys d'experiència en el sector, Kumar ha establert una trajectòria demostrada en l'elaboració de narracions convincents, la realització d'entrevistes minucioses i l'oferiment d'informació exhaustiva. L'experiència de Kumar rau en la producció de contingut d'alt impacte, inclosos articles, informes i publicacions de recerca per a plataformes de la indústria destacades. Amb un conjunt d'habilitats únics que combina coneixements tècnics i narració, Kumar destaca per comunicar conceptes tecnològics complexos a diversos públics d'una manera clara i atractiva.
