AI-governance in de zorg: de vragen die elke raad van toezicht zou moeten stellen

Een ziekenhuis introduceert een AI-tool om de tijd voor medische verslaglegging te verminderen. Een afdeling test een algoritme om verwijzingen te prioriteren. Een medewerker gebruikt een openbare chatbot om een document met patiëntgegevens samen te vatten.

Elk van deze activiteiten kan beginnen als een lokaal initiatief om het werk te verbeteren. Samen roepen ze een vraag op die op bestuurlijk niveau thuishoort: weet de organisatie waar AI wordt gebruikt, welke waarde dit oplevert en wie verantwoordelijk is als er iets misgaat?

Voor raden van toezicht in de zorg bestrijkt toezicht op AI vier samenhangende gebieden: strategische kansen, verantwoordelijkheden, juridische risico’s en het vertrouwen van belanghebbenden. Op al deze gebieden moet waarde worden beoordeeld in termen van patiëntveiligheid, toegankelijkheid van zorg, personele capaciteit en financiële houdbaarheid.

Effectief toezicht begint bij het verbinden van AI aan de missie van de organisatie.

1. Beoordeel kansen vanuit betere zorg

Raden van toezicht moeten het bestuur net zo kritisch bevragen over de kansen van AI als over de risico’s. Of het nu gaat om verslaglegging, planning of klinische beslisondersteuning: bij elke toepassing moet duidelijk zijn welk probleem ermee wordt opgelost.

Een overtuigende demonstratie is slechts het begin. Welke verbetering verwacht het bestuur, hoe wordt die gemeten en wanneer wordt besloten op te schalen of te stoppen? Bij medische verslaglegging telt bijvoorbeeld niet alleen de tijdwinst, maar ook de tijd voor controle en correctie. Leidt de inzet daadwerkelijk tot meer patiëntcontact, minder overwerk of extra capaciteit, met behoud van kwaliteit?

Welke twee of drie prioriteiten in de zorg kan AI wezenlijk helpen realiseren, en hoe stellen we vast of dat is gelukt?

Deze vraag houdt investeringen gericht op resultaten. Ook niets doen heeft gevolgen: bruikbare technologie onbenut laten kan betekenen dat kansen op betere zorg en minder werkdruk verloren gaan.

2. Maak verantwoordelijkheden expliciet

Voor elke belangrijke AI-toepassing moet duidelijk zijn wie verantwoordelijk is voor het resultaat, wie de ingebruikname goedkeurt, wie de prestaties monitort en wie het gebruik kan stilleggen. Bij toepassingen die de zorg beïnvloeden, moeten zorgprofessionals en medisch leiders inhoudelijk betrokken zijn.

‘Er blijft altijd een mens betrokken’ is onvoldoende. Die persoon moet tijd, deskundigheid, informatie en bevoegdheid hebben om de output kritisch te beoordelen. Anders bestaat het risico dat fouten onopgemerkt blijven doordat mensen te veel op AI vertrouwen.

Dit wordt extra belangrijk wanneer AI zelf dossiers bijwerkt, berichten verstuurt of werkprocessen start. Een handeling voorstellen en deze uitvoeren vragen om afzonderlijke bevoegdheden.

Welke beslissingen en handelingen hebben we aan AI gedelegeerd, binnen welke grenzen, en wie kan ingrijpen?

3. Beschouw naleving als de basis

De beoordeling van AI moet aansluiten bij het beoogde gebruik en de gevolgen van fouten. Een hulpmiddel voor vergaderagenda’s vraagt om andere toetsing dan een systeem dat klinische triage beïnvloedt.

Juridische toetsing hoort daarbij, maar naleving alleen bewijst niet dat een toepassing geschikt is voor de eigen patiënten, medewerkers en werkprocessen. Zijn de prestaties beoordeeld in de beoogde zorgomgeving? Kunnen bepaalde patiëntgroepen worden benadeeld? Wat gebeurt er bij uitval of onbetrouwbare resultaten? En hoe worden wijzigingen na ingebruikname beoordeeld?

De raad van toezicht hoeft zelf geen technische evaluaties uit te voeren. Wel moet de raad kunnen vaststellen dat passende evaluaties plaatsvinden en dat knelpunten terechtkomen bij mensen die kunnen ingrijpen.

4. Bescherm vertrouwen in de dagelijkse praktijk

AI-beleid heeft alleen betekenis als medewerkers het begrijpen en kunnen naleven. Het bestuur moet daarom zicht hebben op organisatiebrede initiatieven, afdelingsexperimenten en individueel gebruik, zowel in zorginhoudelijke als administratieve werkzaamheden.

Daarbij horen ook AI-functies in bestaande software en openbare chatbots die medewerkers gebruiken omdat een goedgekeurd alternatief ontbreekt of onpraktisch is. Duidelijke grenzen moeten samengaan met toegankelijke hulpmiddelen, training en mogelijkheden om fouten en zorgen te melden.

Weten medewerkers hoe zij AI verantwoord kunnen gebruiken, en hebben we dat in hun dagelijkse werk ook mogelijk gemaakt?

Ook patiënten verdienen aandacht: hoe worden zij geïnformeerd wanneer AI wezenlijke invloed heeft op hun zorg, en hoe worden hun zorgen meegenomen in besluiten?

Houd ook leveranciers in beeld

AI komt niet alleen binnen via nieuwe aankopen, maar ook via software-updates. Het bestuur moet weten welke gegevens leveranciers kunnen inzien en gebruiken, hoe systeemwijzigingen worden gemeld en wat er gebeurt bij uitval. Bij kritieke toepassingen verdienen afhankelijkheid en overstapmogelijkheden aandacht. Ook bij uitbesteding blijft de organisatie verantwoordelijk voor de afweging of en hoe zij AI inzet.

Geef de raad van toezicht informatie waarop die kan handelen

De rol van de raad van toezicht blijft het bewaken van de strategie, het kritisch bevragen van het bestuur en het beoordelen of de governance toereikend is. De raad moet goed geïnformeerd toezicht houden, terwijl de uitvoering bij het bestuur blijft.

Dat vraagt om voldoende kennis van AI om onderscheid te kunnen maken tussen een veelbelovende demonstratie en bewijs van betrouwbare prestaties. Periodieke kennissessies kunnen daarbij helpen, vooral als daarin voorbeelden uit de eigen organisatie worden gebruikt.

Rapportages moeten vervolgens kansen, prestaties en risico’s met elkaar verbinden. Een bruikbare rapportage voor de raad van toezicht laat zien welke toepassingen de grootste impact hebben, welke resultaten zijn behaald, welke belangrijke incidenten of zorgen er zijn en welke besluiten aandacht van de raad vragen. De rapportage moet ook duidelijk maken welke ontwikkelingen aanleiding zijn om de raad tussentijds te informeren.

Voor de volgende vergadering bieden vijf vragen een praktisch vertrekpunt:

1. Waar wordt AI al gebruikt, inclusief informeel gebruik en functies van leveranciers?

2. Aan welke prioriteiten moet AI bijdragen, en met welk bewijs tonen we de waarde aan?

3. Wie is bij elke belangrijke toepassing verantwoordelijk voor de resultaten en risico’s, en wie heeft de bevoegdheid om het gebruik te stoppen?

4. Hoe worden patiëntveiligheid, privacy, rechtvaardigheid en zorgen van medewerkers beoordeeld en gemonitord?

5. Welke ontwikkelingen moeten direct aan de raad van toezicht worden gemeld?

Raden van toezicht in de zorg hoeven geen zekerheid te hebben over elke toekomstige ontwikkeling in AI. Ze hebben een governanceaanpak nodig die toepassingen met grote impact zichtbaar maakt, verantwoordelijkheden vastlegt en bijstuurt wanneer nieuwe inzichten daar aanleiding toe geven.

Zo kan toezicht innovatie ondersteunen en tegelijk verankerd blijven in het doel van de zorg: betere zorg, veilig en verantwoord geleverd.