WHO vydáva usmernenia pre etické používanie generatívnej AI v zdravotníctve
V pohybe smerom k etickému riadeniu pokrokových generatívnych umelá inteligencia (AI) v zdravotníctve, Svetová zdravotnícka organizácia (WHO) vydala komplexné usmernenie o veľkých multimodálnych modeloch (LMM). Tieto modely, schopné prijímať rôzne vstupy údajov, ako je text, videá a obrázky, boli svedkami bezprecedentného prijatia s platformami ako ChatGPT, Bard a Bert vstupujú do povedomia verejnosti v roku 2023.
Usmernenie WHO, ktoré obsahuje viac ako 40 odporúčaní, sa zameriava na vlády, technologické spoločnosti a poskytovateľov zdravotnej starostlivosti s cieľom zabezpečiť zodpovedné používanie LMM na podporu a ochranu zdravia obyvateľstva. Dr. Jeremy Farrar, hlavný vedec WHO, zdôraznil potenciálne výhody generatívna AI technológie v zdravotníctve, ale zdôraznil potrebu transparentných informácií a politík na riadenie súvisiacich rizík.
LMM, známe svojou mimikou ľudskej komunikácie a schopnosťou vykonávať úlohy, ktoré nie sú explicitne naprogramované, vykazujú päť širokých aplikácií v zdravotníctve, ako uvádza WHO. Patria sem diagnostika a klinická starostlivosť, pacientom riadené použitie na skúmanie symptómov a liečby, administratívne a administratívne úlohy v rámci elektronických zdravotných záznamov, lekárske a ošetrovateľské vzdelávanie prostredníctvom simulovaných stretnutí s pacientmi a vedecký výskum a vývoj liekov na identifikáciu nových zlúčenín.
Usmernenie však zdôrazňuje zdokumentované riziká spojené s LMM vrátane produkcie nepravdivých, nepresných alebo skreslených informácií. To predstavuje potenciálne poškodenie jednotlivcov, ktorí sa spoliehajú na takéto informácie pri prijímaní kritických zdravotných rozhodnutí. Kvalita a zaujatosť tréningových údajov, ktoré sa týkajú faktorov ako rasa, etnická príslušnosť, pôvod, pohlavie, rodová identita alebo vek, by mohla ohroziť integritu výstupov LMM.
Okrem individuálnych rizík WHO uznáva aj širšie výzvy pre zdravotné systémy vyplývajúce z LMM. Patria medzi ne obavy o dostupnosť a cenovú dostupnosť najpokročilejších LMM, potenciálne „automatizačné skreslenie“ zo strany zdravotníckych pracovníkov a pacientov a kyber ochrana zraniteľnosti ohrozujúce informácie o pacientoch a dôveryhodnosť algoritmov AI pri poskytovaní zdravotnej starostlivosti.
Potrebujete zapojenie zainteresovaných strán pre nasadenie LLM
Na riešenie týchto výziev WHO zdôrazňuje potrebu zapojenia rôznych zainteresovaných strán do vývoja a nasadzovania LMM. Vlády, technologické spoločnosti, poskytovatelia zdravotnej starostlivosti, pacienti a občianska spoločnosť sa vyzývajú, aby sa aktívne podieľali na zabezpečení zodpovedného používania technológií AI.
Usmernenie poskytuje konkrétne odporúčania pre vlády, pričom na ne kladie primárnu zodpovednosť za stanovenie noriem pre vývoj, nasadenie a integráciu LMM do verejného zdravia a medicínskych postupov.
Vlády sa vyzývajú, aby investovali alebo poskytovali neziskovú alebo verejnú infraštruktúru, vrátane výpočtového výkonu a verejných dátových súborov, prístupných vývojárom v rôznych sektoroch. Tieto zdroje budú závisieť od toho, či používatelia budú dodržiavať etické princípy a hodnoty. Aby sa zabezpečilo, že LMM v zdravotníctve budú spĺňať etické záväzky a štandardy ľudských práv, musia sa uplatniť zákony, zásady a predpisy, ktoré zabezpečia aspekty ako dôstojnosť, autonómia a súkromie.
Usmernenie tiež navrhuje poverenie regulačných agentúr, existujúcich alebo nových, aby posudzovali a schvaľovali LMM a aplikácie určené na použitie v zdravotníctve v rámci obmedzení dostupných zdrojov. Okrem toho sa pre rozsiahle nasadzovanie LMM odporúča povinný audit po vydaní a hodnotenia vplyvu nezávislými tretími stranami. Tieto hodnotenia by mali zahŕňať úvahy o ochrane údajov a ľudských právach s výsledkami a vplyvmi rozčlenenými podľa charakteristík používateľa, ako je vek, rasa alebo zdravotné postihnutie.
Vývojári LMM sú tiež poverení kľúčovými zodpovednosťami. Vyzývame ich, aby zabezpečili, že potenciálni používatelia a všetky priame a nepriame zainteresované strany, vrátane poskytovateľov zdravotnej starostlivosti, vedeckých výskumníkov, zdravotníckych pracovníkov a pacientov, budú zapojení už od raných štádií vývoj AI. Transparentné, inkluzívne a štruktúrované procesy navrhovania by mali umožniť zainteresovaným stranám upozorniť na etické problémy, vyjadriť obavy a poskytnúť vstupné informácie.
Okrem toho by LMM mali byť navrhnuté tak, aby fungovali dobredefiúlohy s potrebnou presnosťou a spoľahlivosťou na zlepšenie zdravotných systémov a presadzovanie záujmov pacientov. Vývojári musia mať tiež schopnosť predpovedať a pochopiť potenciálne sekundárne výsledky svojich aplikácií AI.
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Kumar je skúsený technický novinár so špecializáciou na dynamické prieniky AI/ML, marketingových technológií a nových oblastí, ako sú krypto, blockchain a NFTs. S viac ako 3-ročnými skúsenosťami v tomto odvetví má Kumar preukázané výsledky pri vytváraní pútavých príbehov, vedení dômyselných rozhovorov a poskytovaní komplexných poznatkov. Kumarova odbornosť spočíva vo vytváraní vysoko účinného obsahu vrátane článkov, správ a výskumných publikácií pre prominentné priemyselné platformy. Vďaka jedinečnému súboru zručností, ktorý kombinuje technické znalosti a rozprávanie príbehov, Kumar vyniká v komunikácii zložitých technologických konceptov pre rôzne publikum jasným a pútavým spôsobom.
Ďalšie články
Kumar je skúsený technický novinár so špecializáciou na dynamické prieniky AI/ML, marketingových technológií a nových oblastí, ako sú krypto, blockchain a NFTs. S viac ako 3-ročnými skúsenosťami v tomto odvetví má Kumar preukázané výsledky pri vytváraní pútavých príbehov, vedení dômyselných rozhovorov a poskytovaní komplexných poznatkov. Kumarova odbornosť spočíva vo vytváraní vysoko účinného obsahu vrátane článkov, správ a výskumných publikácií pre prominentné priemyselné platformy. Vďaka jedinečnému súboru zručností, ktorý kombinuje technické znalosti a rozprávanie príbehov, Kumar vyniká v komunikácii zložitých technologických konceptov pre rôzne publikum jasným a pútavým spôsobom.
