OMS lansează orientări pentru utilizarea etică a IA generativă în asistența medicală
Într-o mișcare către guvernarea etică a avansării generative inteligență artificială (AI) în domeniul sănătății, Organizația Mondială a Sănătății (OMS) a emis îndrumări cuprinzătoare privind modelele mari multimodale (LMM). Aceste modele, capabile să accepte diverse intrări de date, cum ar fi text, videoclipuri și imagini, au fost martorii unei adoptări fără precedent, cu platforme precum ChatGPT, Bard și Bert au intrat în conștiința publică în 2023.
Ghidul OMS, care cuprinde peste 40 de recomandări, vizează guvernele, companiile tehnologice și furnizorii de servicii medicale, având ca scop să asigure utilizarea responsabilă a LMM-urilor pentru promovarea și protecția sănătății populației. Dr. Jeremy Farrar, om de știință șef al OMS, a subliniat potențialele beneficii ale AI generativă tehnologii în domeniul sănătății, dar a subliniat necesitatea unor informații și politici transparente pentru a gestiona riscurile asociate.
LMM-urile, cunoscute pentru imitarea comunicării umane și capacitatea de a îndeplini sarcini care nu sunt programate în mod explicit, prezintă cinci aplicații largi în asistența medicală, așa cum a subliniat OMS. Acestea includ diagnosticul și îngrijirea clinică, utilizarea ghidată de pacient pentru investigarea simptomelor și tratamentului, sarcini administrative și administrative în dosarele electronice de sănătate, educație medicală și asistență medicală prin întâlniri simulate cu pacienții și cercetarea științifică și dezvoltarea de medicamente pentru a identifica noi compuși.
Cu toate acestea, ghidul evidențiază riscurile documentate asociate cu LMM-urile, inclusiv producerea de informații false, inexacte sau părtinitoare. Acest lucru prezintă un potențial prejudiciu persoanelor care se bazează pe astfel de informații pentru a lua decizii critice privind sănătatea. Calitatea și părtinirea datelor de antrenament, referitoare la factori precum rasa, etnia, ascendența, sexul, identitatea de gen sau vârsta, ar putea compromite integritatea rezultatelor LMM.
Dincolo de riscurile individuale, OMS recunoaște provocările mai largi pentru sistemele de sănătate care decurg din LMM. Acestea includ preocupări cu privire la accesibilitatea și accesibilitatea celor mai avansate LMM-uri, potențiala „prejudecată de automatizare” din partea profesioniștilor din domeniul sănătății și a pacienților și securitate cibernetică vulnerabilități care pun în pericol informațiile pacientului și fiabilitatea algoritmilor AI în furnizarea de asistență medicală.
Aveți nevoie de implicarea părților interesate pentru implementarea LLM-urilor
Pentru a aborda aceste provocări, OMS subliniază necesitatea implicării diverselor părți interesate pe parcursul dezvoltării și implementării LMM-urilor. Guvernele, companiile de tehnologie, furnizorii de servicii medicale, pacienții și societatea civilă sunt chemați să participe activ la asigurarea utilizării responsabile a tehnologiilor AI.
Ghidul oferă recomandări specifice pentru guverne, punându-le responsabilitatea principală de a stabili standarde pentru dezvoltarea, implementarea și integrarea LMM-urilor în sănătatea publică și practicile medicale.
Guvernele sunt îndemnate să investească sau să furnizeze infrastructură publică sau non-profit, inclusiv putere de calcul și seturi de date publice, accesibile dezvoltatorilor din diverse sectoare. Aceste resurse ar depinde de aderarea utilizatorilor la principiile și valorile etice. Legile, politicile și reglementările trebuie utilizate pentru a se asigura că LMM-urile din domeniul sănătății îndeplinesc obligațiile etice și standardele privind drepturile omului, salvând aspecte precum demnitatea, autonomia și confidențialitatea.
Ghidul sugerează, de asemenea, desemnarea agențiilor de reglementare, existente sau noi, pentru a evalua și a aproba LMM-uri și aplicații destinate utilizării în domeniul sănătății, în limitele resurselor disponibile. În plus, auditul obligatoriu după lansare și evaluările de impact de către terți independenți sunt recomandate pentru implementările LMM la scară largă. Aceste evaluări ar trebui să includă considerații pentru protecția datelor și drepturile omului, cu rezultate și impacturi dezagregate în funcție de caracteristicile utilizatorului, cum ar fi vârsta, rasa sau handicapul.
Dezvoltatorii de LMM-uri sunt, de asemenea, încredințați cu responsabilități cheie. Aceștia sunt îndemnați să se asigure că utilizatorii potențiali și toate părțile interesate directe și indirecte, inclusiv furnizorii de servicii medicale, cercetătorii științifici, profesioniștii din domeniul sănătății și pacienții, sunt implicați încă din primele etape ale Dezvoltarea AI. Procesele de proiectare transparente, incluzive și structurate ar trebui să permită părților interesate să ridice probleme etice, să își exprime preocupările și să ofere contribuții.
În plus, LMM-urile ar trebui să fie proiectate să funcționeze bine-defisarcinile necesare cu acuratețea și fiabilitatea necesare pentru a îmbunătăți sistemele de sănătate și a promova interesele pacienților. Dezvoltatorii trebuie să aibă, de asemenea, capacitatea de a prezice și înțelege potențialele rezultate secundare ale aplicațiilor lor AI.
Declinare a responsabilităţii
În conformitate cu Ghidurile proiectului Trust, vă rugăm să rețineți că informațiile furnizate pe această pagină nu sunt destinate și nu trebuie interpretate ca fiind consiliere juridică, fiscală, investițională, financiară sau orice altă formă de consiliere. Este important să investești doar ceea ce îți poți permite să pierzi și să cauți sfaturi financiare independente dacă ai îndoieli. Pentru informații suplimentare, vă sugerăm să consultați termenii și condițiile, precum și paginile de ajutor și asistență furnizate de emitent sau agent de publicitate. MetaversePost se angajează să raporteze corecte, imparțial, dar condițiile de piață pot fi modificate fără notificare.
Despre autor
Kumar este un jurnalist tehnic cu experiență, cu o specializare în intersecțiile dinamice ale AI/ML, tehnologie de marketing și domenii emergente, cum ar fi cripto, blockchain și NFTs. Cu peste 3 ani de experiență în industrie, Kumar și-a stabilit o experiență dovedită în elaborarea de narațiuni convingătoare, realizarea de interviuri perspicace și furnizarea de informații cuprinzătoare. Expertiza lui Kumar constă în producerea de conținut de mare impact, inclusiv articole, rapoarte și publicații de cercetare pentru platforme proeminente din industrie. Cu un set unic de abilități care combină cunoștințele tehnice și povestirea, Kumar excelează în comunicarea conceptelor tehnologice complexe către diverse audiențe într-o manieră clară și captivantă.
Mai multe articole
Kumar este un jurnalist tehnic cu experiență, cu o specializare în intersecțiile dinamice ale AI/ML, tehnologie de marketing și domenii emergente, cum ar fi cripto, blockchain și NFTs. Cu peste 3 ani de experiență în industrie, Kumar și-a stabilit o experiență dovedită în elaborarea de narațiuni convingătoare, realizarea de interviuri perspicace și furnizarea de informații cuprinzătoare. Expertiza lui Kumar constă în producerea de conținut de mare impact, inclusiv articole, rapoarte și publicații de cercetare pentru platforme proeminente din industrie. Cu un set unic de abilități care combină cunoștințele tehnice și povestirea, Kumar excelează în comunicarea conceptelor tehnologice complexe către diverse audiențe într-o manieră clară și captivantă.
