WHO publiceert richtlijnen voor ethisch gebruik van generatieve AI in de gezondheidszorg
In een beweging naar het ethische bestuur van de voortschrijdende generatieve samenleving kunstmatige intelligentie (AI)-technologie in de gezondheidszorg heeft de Wereldgezondheidsorganisatie (WHO) uitgebreide richtlijnen uitgebracht over grote multimodale modellen (LMM’s). Deze modellen, die diverse gegevensinvoer zoals tekst, video's en afbeeldingen kunnen accepteren, zijn getuige geweest van een ongekende adoptie, met platforms als ChatGPT, Bard en Bert betreden het publieke bewustzijn in 2023.
De richtlijnen van de WHO, die meer dan veertig aanbevelingen omvatten, zijn gericht op overheden, technologiebedrijven en zorgaanbieders, met als doel een verantwoord gebruik van LMM’s te garanderen voor de bevordering en bescherming van de volksgezondheid. Dr. Jeremy Farrar, hoofdwetenschapper van de WHO, benadrukte de potentiële voordelen van generatieve AI technologieën in de gezondheidszorg, maar onderstreepte de behoefte aan transparante informatie en beleid om de daarmee samenhangende risico's te beheersen.
LMM's, bekend om hun nabootsing van menselijke communicatie en het vermogen om taken uit te voeren die niet expliciet zijn geprogrammeerd, vertonen vijf brede toepassingen in de gezondheidszorg, zoals uiteengezet door de WHO. Deze omvatten diagnose en klinische zorg, patiëntgestuurd gebruik voor het onderzoeken van symptomen en behandeling, administratieve en administratieve taken binnen elektronische medische dossiers, medisch en verpleegkundig onderwijs door middel van gesimuleerde ontmoetingen met patiënten, en wetenschappelijk onderzoek en de ontwikkeling van geneesmiddelen om nieuwe verbindingen te identificeren.
De richtlijnen benadrukken echter gedocumenteerde risico's die verband houden met LMM's, waaronder de productie van valse, onnauwkeurige of bevooroordeelde informatie. Dit brengt potentiële schade met zich mee voor personen die op dergelijke informatie vertrouwen bij het nemen van cruciale gezondheidsbeslissingen. De kwaliteit en bias van trainingsgegevens, met betrekking tot factoren als ras, etniciteit, afkomst, geslacht, genderidentiteit of leeftijd, kunnen de integriteit van de LMM-resultaten in gevaar brengen.
Naast individuele risico’s erkent de WHO bredere uitdagingen voor de gezondheidszorgstelsels die voortkomen uit LMM’s. Het gaat onder meer om zorgen over de toegankelijkheid en betaalbaarheid van de meest geavanceerde LMM’s, mogelijke ‘automatiseringsvooroordelen’ bij zorgprofessionals en patiënten, en internetveiligheid kwetsbaarheden die patiëntinformatie en de betrouwbaarheid van AI-algoritmen in de gezondheidszorg in gevaar brengen.
Betrokkenheid van belanghebbenden nodig voor de implementatie van LLM's
Om deze uitdagingen aan te pakken, benadrukt de WHO de noodzaak van betrokkenheid van verschillende belanghebbenden bij de ontwikkeling en inzet van LMM’s. Overheden, technologiebedrijven, zorgverleners, patiënten en het maatschappelijk middenveld worden opgeroepen om actief deel te nemen aan het waarborgen van een verantwoord gebruik van AI-technologieën.
De richtlijn biedt specifieke aanbevelingen voor overheden, waarbij de primaire verantwoordelijkheid bij hen wordt gelegd om normen vast te stellen voor de ontwikkeling, inzet en integratie van LMM's in de volksgezondheid en medische praktijken.
Regeringen worden aangespoord om te investeren in of te voorzien in non-profit of publieke infrastructuur, inclusief rekenkracht en publieke datasets, die toegankelijk zijn voor ontwikkelaars in verschillende sectoren. Deze middelen zouden afhankelijk zijn van het feit dat gebruikers zich aan ethische principes en waarden houden. Wetten, beleid en regelgeving moeten worden ingezet om ervoor te zorgen dat LMM’s in de gezondheidszorg voldoen aan ethische verplichtingen en mensenrechtennormen, waarbij aspecten als waardigheid, autonomie en privacy worden gewaarborgd.
De richtlijn suggereert ook de opdracht aan regelgevende instanties, bestaande of nieuwe, om LMM's en toepassingen die bedoeld zijn voor gebruik in de gezondheidszorg te beoordelen en goed te keuren, binnen de beperkingen van de beschikbare middelen. Bovendien worden verplichte audits na de release en effectbeoordelingen door onafhankelijke derde partijen aanbevolen voor grootschalige LMM-implementaties. Bij deze beoordelingen moeten overwegingen op het gebied van gegevensbescherming en mensenrechten worden betrokken, waarbij de uitkomsten en gevolgen worden uitgesplitst naar gebruikerskenmerken, zoals leeftijd, ras of handicap.
Ontwikkelaars van LMM's krijgen ook belangrijke verantwoordelijkheden toevertrouwd. Er wordt bij hen op aangedrongen ervoor te zorgen dat potentiële gebruikers en alle directe en indirecte belanghebbenden, waaronder medische zorgverleners, wetenschappelijke onderzoekers, beroepsbeoefenaren in de gezondheidszorg en patiënten, vanaf de vroege stadia van de ontwikkeling worden betrokken. AI-ontwikkeling. Transparante, inclusieve en gestructureerde ontwerpprocessen moeten belanghebbenden in staat stellen ethische kwesties aan de orde te stellen, zorgen te uiten en input te leveren.
Bovendien moeten LMM’s zo worden ontworpen dat ze goed presteren.defitaken uitvoeren met de nodige nauwkeurigheid en betrouwbaarheid om de gezondheidszorgsystemen te verbeteren en de belangen van patiënten te bevorderen. Ontwikkelaars moeten ook over het vermogen beschikken om potentiële secundaire uitkomsten van hun AI-toepassingen te voorspellen en te begrijpen.
Disclaimer
In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.
Over de auteur
Kumar is een ervaren technologiejournalist met een specialisatie in de dynamische kruispunten van AI/ML, marketingtechnologie en opkomende velden zoals crypto, blockchain en NFTS. Met meer dan drie jaar ervaring in de branche heeft Kumar een bewezen staat van dienst opgebouwd in het opstellen van boeiende verhalen, het houden van inzichtelijke interviews en het leveren van uitgebreide inzichten. De expertise van Kumar ligt in het produceren van inhoud met een grote impact, waaronder artikelen, rapporten en onderzoekspublicaties voor vooraanstaande industriële platforms. Met een unieke reeks vaardigheden die technische kennis en verhalen vertellen combineert, blinkt Kumar uit in het op een duidelijke en boeiende manier communiceren van complexe technologische concepten aan een divers publiek.
Meer artikelen
Kumar is een ervaren technologiejournalist met een specialisatie in de dynamische kruispunten van AI/ML, marketingtechnologie en opkomende velden zoals crypto, blockchain en NFTS. Met meer dan drie jaar ervaring in de branche heeft Kumar een bewezen staat van dienst opgebouwd in het opstellen van boeiende verhalen, het houden van inzichtelijke interviews en het leveren van uitgebreide inzichten. De expertise van Kumar ligt in het produceren van inhoud met een grote impact, waaronder artikelen, rapporten en onderzoekspublicaties voor vooraanstaande industriële platforms. Met een unieke reeks vaardigheden die technische kennis en verhalen vertellen combineert, blinkt Kumar uit in het op een duidelijke en boeiende manier communiceren van complexe technologische concepten aan een divers publiek.
