A WHO irányelveket ad ki a generatív mesterséges intelligencia etikus használatára vonatkozóan az egészségügyben
A generatív fejlődés etikus kormányzása felé való elmozdulásban mesterséges intelligencia (AI) technológia az egészségügyben, az Egészségügyi Világszervezet (WHO) átfogó útmutatást adott ki a nagy multimodális modellekről (LMM). Ezek a modellek, amelyek képesek különféle adatbevitelt, például szöveget, videókat és képeket fogadni, példátlan módon terjedtek el olyan platformokon, mint pl. ChatGPT, Bard és Bert 2023-ban kerül be a köztudatba.
A WHO több mint 40 ajánlást tartalmazó útmutatása a kormányokat, a technológiai vállalatokat és az egészségügyi szolgáltatókat célozza meg azzal a céllal, hogy biztosítsa az LMM-ek felelős használatát a lakosság egészségének előmozdítása és védelme érdekében. Dr. Jeremy Farrar, a WHO vezető tudósa hangsúlyozta a lehetséges előnyeit generatív AI az egészségügyi technológiák terén, de hangsúlyozta, hogy átlátható információkra és politikákra van szükség a kapcsolódó kockázatok kezelésére.
Az LMM-ek, amelyek az emberi kommunikáció utánzásáról és a nem kifejezetten programozott feladatok elvégzésére való képességükről ismertek, öt széles körű alkalmazást mutatnak az egészségügyben, amint azt a WHO felvázolja. Ezek közé tartozik a diagnózis és a klinikai ellátás, a betegek által irányított használat a tünetek és a kezelés kivizsgálására, az elektronikus egészségügyi nyilvántartásokon belüli irodai és adminisztratív feladatok, az orvosi és ápolói oktatás szimulált betegtalálkozókon keresztül, valamint a tudományos kutatás és gyógyszerfejlesztés új vegyületek azonosítására.
Az útmutató azonban kiemeli az LMM-ekkel kapcsolatos dokumentált kockázatokat, beleértve a hamis, pontatlan vagy elfogult információk előállítását. Ez potenciálisan károsíthatja azokat az egyéneket, akik ilyen információkra támaszkodnak kritikus egészségügyi döntéseik meghozatalához. A képzési adatok minősége és torzítása olyan tényezőkkel kapcsolatban, mint a faj, az etnikai hovatartozás, a származás, a nem, a nemi identitás vagy az életkor, veszélyeztetheti az LMM-kimenetek integritását.
Az egyéni kockázatokon túl a WHO elismeri, hogy az egészségügyi rendszerek számára az LMM-ekből fakadó szélesebb körű kihívások is jelentkeznek. Ide tartoznak a legfejlettebb LMM-ek hozzáférhetőségével és megfizethetőségével kapcsolatos aggodalmak, az egészségügyi szakemberek és a betegek esetleges „automatizálási elfogultsága”, valamint kiberbiztonság a betegek tájékoztatását és az AI-algoritmusok megbízhatóságát veszélyeztető sérülékenységek az egészségügyi ellátásban.
Az LLM-ek bevezetéséhez érdekelt felek bevonására van szükség
E kihívások kezelése érdekében a WHO hangsúlyozza, hogy az LMM-ek fejlesztése és telepítése során a különböző érdekelt felek bevonására van szükség. A kormányokat, a technológiai vállalatokat, az egészségügyi szolgáltatókat, a betegeket és a civil társadalmat felkérik, hogy aktívan vegyenek részt az AI-technológiák felelős használatának biztosításában.
Az útmutató konkrét ajánlásokat fogalmaz meg a kormányok számára, elsősorban rájuk hárítva a felelősséget az LMM-ek fejlesztésére, telepítésére és a közegészségügyi és orvosi gyakorlatokba való integrálására vonatkozó szabványok meghatározásában.
A kormányokat arra ösztönzik, hogy fektessenek be non-profit vagy nyilvános infrastruktúrába, vagy biztosítsanak olyan infrastruktúrát, beleértve a számítási teljesítményt és a nyilvános adatkészleteket, amelyek a különböző ágazatok fejlesztői számára hozzáférhetők. Ezek az erőforrások attól függnének, hogy a felhasználók betartják-e az etikai elveket és értékeket. Törvényeket, irányelveket és szabályozásokat kell alkalmazni annak biztosítására, hogy az egészségügyi ellátásban az LMM-ek megfeleljenek az etikai kötelezettségeknek és az emberi jogi normáknak, védve az olyan szempontokat, mint a méltóság, az autonómia és a magánélet.
Az útmutató azt is javasolja, hogy meglévő vagy új szabályozó ügynökségeket bízzanak meg az egészségügyi felhasználásra szánt LMM-ek és alkalmazások értékelésével és jóváhagyásával, a rendelkezésre álló erőforrások korlátain belül. Ezen túlmenően a nagyszabású LMM-telepítéseknél javasolt a megjelenés utáni kötelező auditálás és független harmadik felek által végzett hatásvizsgálat. Ezeknek az értékeléseknek tartalmazniuk kell az adatvédelemmel és az emberi jogokkal kapcsolatos megfontolásokat, az eredményeket és hatásokat a felhasználói jellemzők, például életkor, faj vagy fogyatékosság szerint bontva.
Az LMM-ek fejlesztői szintén kulcsfontosságú feladatokkal vannak megbízva. Arra kérik őket, hogy biztosítsák, hogy a potenciális felhasználók és minden közvetlen és közvetett érdekelt fél, beleértve az egészségügyi szolgáltatókat, a tudományos kutatókat, az egészségügyi szakembereket és a betegeket, már a kezdeti szakaszban bevonásra kerüljenek. AI fejlesztés. Az átlátható, inkluzív és strukturált tervezési folyamatoknak lehetővé kell tenniük az érdekelt felek számára, hogy felvegyenek etikai kérdéseket, hangot adjanak aggodalmaiknak, és véleményt adjanak.
Ezenkívül az LMM-eket úgy kell megtervezni, hogy jól teljesítsenekdefia szükséges pontosságú és megbízható feladatokat az egészségügyi rendszerek fejlesztése és a betegek érdekeinek előmozdítása érdekében. A fejlesztőknek rendelkezniük kell azzal a képességgel is, hogy előre jelezzék és megértsék AI-alkalmazásaik lehetséges másodlagos kimenetelét.
A felelősség megtagadása
Összhangban a A Trust Project irányelvei, kérjük, vegye figyelembe, hogy az ezen az oldalon közölt információk nem minősülnek jogi, adózási, befektetési, pénzügyi vagy bármilyen más formájú tanácsnak, és nem is értelmezhetők. Fontos, hogy csak annyit fektessen be, amennyit megengedhet magának, hogy elveszítsen, és kérjen független pénzügyi tanácsot, ha kétségei vannak. További információkért javasoljuk, hogy tekintse meg a szerződési feltételeket, valamint a kibocsátó vagy hirdető által biztosított súgó- és támogatási oldalakat. MetaversePost elkötelezett a pontos, elfogulatlan jelentéstétel mellett, de a piaci feltételek előzetes értesítés nélkül változhatnak.
A szerzőről
Kumar tapasztalt műszaki újságíró, aki az AI/ML dinamikus metszéspontjaira, a marketingtechnológiára és az olyan feltörekvő területekre szakosodott, mint a kriptográfia, blokklánc és NFTs. Az iparágban szerzett több mint 3 éves tapasztalatával Kumar bevált eredményeket hozott fel lenyűgöző narratívák készítése, éleslátó interjúk készítése és átfogó betekintések nyújtása terén. A Kumar szakértelme abban rejlik, hogy nagy hatású tartalmakat készít, ideértve cikkeket, jelentéseket és kutatási publikációkat prominens iparági platformok számára. A technikai tudást és a történetmesélést ötvöző egyedülálló készségkészletével Kumar kiválóan kommunikál összetett technológiai koncepciókkal a különböző közönségekkel, világos és vonzó módon.
További cikkek
Kumar tapasztalt műszaki újságíró, aki az AI/ML dinamikus metszéspontjaira, a marketingtechnológiára és az olyan feltörekvő területekre szakosodott, mint a kriptográfia, blokklánc és NFTs. Az iparágban szerzett több mint 3 éves tapasztalatával Kumar bevált eredményeket hozott fel lenyűgöző narratívák készítése, éleslátó interjúk készítése és átfogó betekintések nyújtása terén. A Kumar szakértelme abban rejlik, hogy nagy hatású tartalmakat készít, ideértve cikkeket, jelentéseket és kutatási publikációkat prominens iparági platformok számára. A technikai tudást és a történetmesélést ötvöző egyedülálló készségkészletével Kumar kiválóan kommunikál összetett technológiai koncepciókkal a különböző közönségekkel, világos és vonzó módon.
