WHO vydává směrnice pro etické používání generativní umělé inteligence ve zdravotnictví
V pohybu směrem k etické správě progresivních generativních umělá inteligence (AI) ve zdravotnictví vydala Světová zdravotnická organizace (WHO) komplexní pokyny k velkým multimodálním modelům (LMM). Tyto modely, schopné přijímat různé datové vstupy, jako je text, videa a obrázky, byly svědky bezprecedentního přijetí s platformami jako ChatGPT, Bard a Bert vstoupili do povědomí veřejnosti v roce 2023.
Pokyny WHO obsahující více než 40 doporučení se zaměřují na vlády, technologické společnosti a poskytovatele zdravotní péče s cílem zajistit odpovědné používání LMM pro podporu a ochranu zdraví populace. Dr. Jeremy Farrar, hlavní vědec WHO, zdůraznil potenciální přínosy generativní AI technologie ve zdravotnictví, ale zdůraznila potřebu transparentních informací a politik pro řízení souvisejících rizik.
LMM, známé svou mimikou lidské komunikace a schopností provádět úkoly, které nejsou explicitně naprogramovány, vykazují pět širokých aplikací ve zdravotnictví, jak uvádí WHO. Patří mezi ně diagnostika a klinická péče, pacientem řízené použití pro vyšetřování symptomů a léčby, administrativní a administrativní úkoly v rámci elektronických zdravotních záznamů, lékařské a ošetřovatelské vzdělávání prostřednictvím simulovaných setkání s pacienty a vědecký výzkum a vývoj léků k identifikaci nových sloučenin.
Pokyny však zdůrazňují zdokumentovaná rizika spojená s LMM, včetně produkce nepravdivých, nepřesných nebo zkreslených informací. To představuje potenciální újmu pro jednotlivce, kteří se na takové informace spoléhají při přijímání zásadních zdravotních rozhodnutí. Kvalita a zkreslení tréninkových dat, týkající se faktorů, jako je rasa, etnický původ, původ, pohlaví, genderová identita nebo věk, by mohla ohrozit integritu výstupů LMM.
Kromě jednotlivých rizik WHO uznává i širší výzvy pro zdravotní systémy vyplývající z LMM. Patří mezi ně obavy o dostupnost a cenovou dostupnost nejpokročilejších LMM, potenciální „automatizační zkreslení“ ze strany zdravotnických pracovníků a pacientů a kybernetická bezpečnost zranitelnosti ohrožující informace o pacientech a důvěryhodnost algoritmů umělé inteligence při poskytování zdravotní péče.
Potřebujeme zapojení zainteresovaných stran pro nasazení LLM
K řešení těchto problémů WHO zdůrazňuje potřebu zapojení různých zúčastněných stran během vývoje a zavádění LMM. Vlády, technologické společnosti, poskytovatelé zdravotní péče, pacienti a občanská společnost se vyzývají, aby se aktivně podíleli na zajišťování odpovědného používání technologií AI.
Směrnice poskytuje konkrétní doporučení pro vlády a klade na ně primární odpovědnost za stanovení standardů pro vývoj, nasazení a integraci LMM do veřejného zdraví a lékařské praxe.
Vlády se vyzývají, aby investovaly nebo poskytovaly neziskovou nebo veřejnou infrastrukturu, včetně výpočetního výkonu a veřejných datových souborů, přístupných vývojářům v různých odvětvích. Tyto zdroje by závisely na tom, zda uživatelé dodržují etické zásady a hodnoty. Je třeba uplatňovat zákony, zásady a předpisy, aby bylo zajištěno, že LMM ve zdravotnictví splňují etické závazky a standardy lidských práv a chrání aspekty, jako je důstojnost, autonomie a soukromí.
Pokyny také navrhují pověření regulačních agentur, stávajících nebo nových, aby posuzovaly a schvalovaly LMM a aplikace určené pro použití ve zdravotnictví, v rámci omezení dostupných zdrojů. Kromě toho se pro rozsáhlá nasazení LMM doporučuje povinný audit po vydání a posouzení dopadů nezávislými třetími stranami. Tato hodnocení by měla zahrnovat úvahy o ochraně údajů a lidských právech s výsledky a dopady rozčleněnými podle charakteristik uživatele, jako je věk, rasa nebo zdravotní postižení.
Vývojáři LMM jsou rovněž pověřeni klíčovými odpovědnostmi. Vyzýváme je, aby zajistili, že potenciální uživatelé a všechny přímé i nepřímé zúčastněné strany, včetně poskytovatelů lékařské péče, vědeckých výzkumníků, zdravotnických pracovníků a pacientů, budou zapojeni již od raných fází vývoj AI. Transparentní, inkluzivní a strukturované procesy návrhu by měly umožnit zúčastněným stranám upozorňovat na etické problémy, vyjadřovat obavy a poskytovat informace.
Kromě toho by LMM měly být navrženy tak, aby fungovaly dobředefiÚkoly s nezbytnou přesností a spolehlivostí pro zlepšení zdravotnických systémů a prosazování zájmů pacientů. Vývojáři musí mít také schopnost předvídat a porozumět potenciálním sekundárním výsledkům svých aplikací AI.
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Kumar je zkušený technický novinář se specializací na dynamické průniky AI/ML, marketingové technologie a nově vznikající obory, jako jsou kryptoměny, blockchain a NFTs. S více než 3 lety zkušeností v oboru si Kumar vytvořil prokazatelné výsledky ve vytváření působivých příběhů, vedení zasvěcených rozhovorů a poskytování komplexních poznatků. Kumarova odbornost spočívá ve vytváření vysoce působivého obsahu, včetně článků, zpráv a výzkumných publikací pro prominentní průmyslové platformy. Díky jedinečné sadě dovedností, které kombinují technické znalosti a vyprávění příběhů, Kumar vyniká v komunikaci složitých technologických konceptů pro různé publikum jasným a poutavým způsobem.
Další články
Kumar je zkušený technický novinář se specializací na dynamické průniky AI/ML, marketingové technologie a nově vznikající obory, jako jsou kryptoměny, blockchain a NFTs. S více než 3 lety zkušeností v oboru si Kumar vytvořil prokazatelné výsledky ve vytváření působivých příběhů, vedení zasvěcených rozhovorů a poskytování komplexních poznatků. Kumarova odbornost spočívá ve vytváření vysoce působivého obsahu, včetně článků, zpráv a výzkumných publikací pro prominentní průmyslové platformy. Díky jedinečné sadě dovedností, které kombinují technické znalosti a vyprávění příběhů, Kumar vyniká v komunikaci složitých technologických konceptů pro různé publikum jasným a poutavým způsobem.
