Toezicht op AI, kwaliteit en patiëntveiligheid
Toezien op kwaliteit en patiëntveiligheid is de kerntaak van een raad van toezicht in zorg en welzijn. Bij AI verschuift die taak op één punt: de vraag is niet langer alleen of de zorg goed is, maar of nog te achterhalen valt wie de zorg heeft bepaald. Zodra een model meeweegt in een besluit, moet helder zijn dat een professional eindverantwoordelijk blijft — en dat dat in de praktijk ook zo werkt, niet alleen op papier.
Dat is minder vanzelfsprekend dan het klinkt. Een aanbeveling die er goed uitziet, wordt in een druk proces zelden weersproken. Automation bias heet dat, en het is precies het mechanisme waar toezicht op kwaliteit iets over te zeggen heeft.
Hieronder staan vijf fases, van blinde vlek tot lerend, met bij elke fase waaraan u die herkent en wat de eerstvolgende stap is.
Zorg-AI valt vaak onder twee regimes tegelijk
Software met een medisch doel is een medisch hulpmiddel onder de Europese verordening medische hulpmiddelen. Beslisondersteunende software valt daarbinnen meestal in een hogere risicoklasse, wat betekent dat er een aangemelde instantie aan te pas komt en dat er een CE-markering met een medisch doel op moet zitten. De Inspectie Gezondheidszorg en Jeugd houdt daar toezicht op, ook op het gebruik binnen uw organisatie.
Daarnaast geldt de AI-verordening. AI die als veiligheidscomponent in zo'n gereglementeerd product zit, valt onder bijlage I — en die verplichtingen zijn met de Digital Omnibus verschoven naar 2 augustus 2028. Voor de raad van toezicht is de praktische conclusie: de MDR-eisen gelden nu, de AI-specifieke eisen komen later. Wie op de AI-verordening wacht, wacht op de verkeerde wet.
Deze pagina is geen juridisch advies. Laat de classificatie van uw eigen toepassingen toetsen door een jurist.
Welk regime wanneer
| Onderwerp | Stand |
|---|---|
| Software met medisch doel | Medisch hulpmiddel onder de MDR; geldt nu, toezicht door de IGJ |
| AI in een gereglementeerd product | Bijlage I van de AI-verordening; verschoven naar 2 augustus 2028 |
| Zelfstandige hoog-risico AI | Bijlage III; verschoven naar 2 december 2027 |
| Transparantie richting cliënt | Artikel 50; vanaf 2 augustus 2026 |
| Kwaliteit en patiëntveiligheid van zorg | Wkkgz en Governancecode Zorg; gelden onverkort en zonder uitstel |
Stand van zaken op 12 augustus 2026, na de Digital Omnibus op AI. Deze data zijn de afgelopen maanden verschoven; controleer ze opnieuw voordat u er een besluit op baseert.
Wat de code hier van u vraagt
Principe 1 van de Governancecode Zorg 2022 is onvoorwaardelijk: de maatschappelijke doelstelling en legitimatie van de zorgorganisatie is het bieden van goede zorg aan cliënten. Principe 6 legt bij de raad van toezicht de opdracht om daar vanuit die doelstelling op toe te zien. Een AI-toepassing die de efficiency verbetert maar de kwaliteit onzichtbaar uitholt, is dus een toezichtvraag en niet alleen een directievraag.
Praktisch betekent dat één ding: de kwaliteits- of auditcommissie hoort AI expliciet in haar toezichtkader te hebben staan. Waar AI onder "IT" wordt geschaard, verdwijnt het uit het kwaliteitstoezicht — en dat is precies waar het thuishoort.
Wat dit toezicht niet is
- Niet de modellen willen begrijpen. U beoordeelt de waarborgen eromheen, niet de wiskunde erin.
- Niet de professional wantrouwen. Het gaat om de vraag of die de ruimte en de tijd heeft om af te wijken.
- Niet één keer valideren. Een model dat vorig jaar goed werkte, kan dat dit jaar niet meer doen.
- Niet alleen naar gemiddelden kijken. Een toepassing kan gemiddeld beter presteren en voor één cliëntgroep slechter.
Vijf fases van toezicht op AI, kwaliteit en patiëntveiligheid
De toets van deze as: wordt een incident waarbij AI meespeelde in uw organisatie net zo gemeld en besproken als een medicatiefout?
Blinde vlek
Zo herkent u deze fase
In de kwaliteitsrapportage staat niets over AI. De kwaliteitscommissie bespreekt uitkomsten en incidenten zonder ooit te vragen welke systemen daarbij hebben meegewogen. Als AI al ergens op de agenda staat, is het bij de auditcommissie onder informatiebeveiliging — en dat is een ander gesprek.
De volgende stap
Vraag de bestuurder om één overzicht van AI-toepassingen die het primaire proces raken, met per toepassing wie de eindverantwoordelijke professional is. Zet dat overzicht op de agenda van de kwaliteitscommissie, niet van de auditcommissie.
Bij welk besluit over een cliënt heeft software vorige week meegewogen?
Vertrouwend
Zo herkent u deze fase
De organisatie weet welke toepassingen er zijn en verwijst voor de kwaliteit naar de leverancier en de certificering. Wat ontbreekt is de eigen context: een model dat is gevalideerd op een andere populatie hoeft bij uw cliënten niet hetzelfde te doen. En de vraag of de professional in de praktijk daadwerkelijk kan afwijken van het advies, is niet gesteld.
De volgende stap
Laat per toepassing die het primaire proces raakt vastleggen dat de professional eindverantwoordelijk blijft, én hoe dat zichtbaar is in het werkproces: waar staat de afwijkmogelijkheid, en wordt het gebruikt.
Hoe vaak wijkt een professional bij ons af van het advies van het systeem — en weten wij dat?
Vastgelegd
Zo herkent u deze fase
Bij elke zorg-AI is vastgelegd wie eindverantwoordelijk is en hoe menselijk toezicht is ingericht. De kwaliteitscommissie heeft AI in haar toezichtkader staan. Wat nog ontbreekt zijn cijfers: er wordt niet gemeten of het model doet wat het belooft en of de effecten voor alle cliëntgroepen gelijk uitvallen.
De volgende stap
Vraag om twee getallen per toepassing: hoe vaak wordt het advies gevolgd, en wat is het effect op de uitkomst waarvoor het model is aangeschaft. Zonder die twee blijft het gesprek over kwaliteit een gesprek over verwachtingen.
Welke kwaliteitsuitkomst is meetbaar verbeterd sinds wij deze toepassing gebruiken?
Gemeten
Zo herkent u deze fase
De organisatie meet het effect van AI-toepassingen en kijkt daarbij ook naar verschillen tussen cliëntgroepen. De raad van toezicht krijgt signalen als een toepassing tot onbedoelde effecten leidt, en die signalen komen niet alleen uit de rapportage maar ook uit de praktijk. Er is minstens één toepassing bijgesteld of gestopt op grond van wat er gemeten werd.
De volgende stap
Laat incidenten waarbij AI een rol speelde expliciet meelopen in de meldcyclus, met dezelfde ernst als andere veiligheidsincidenten — inclusief de bespreking in de kwaliteitscommissie en, waar dat aan de orde is, de melding aan de inspectie.
Voor welke cliëntgroep werkt deze toepassing minder goed, en wat doen wij daarmee?
Lerend
Zo herkent u deze fase
Melden over AI is normaal geworden: een professional die vindt dat een systeem hem in de weg zit, meldt dat en wordt gehoord. Toepassingen worden periodiek opnieuw gevalideerd op de eigen populatie. De cliëntenraad is betrokken bij wat er over AI aan cliënten wordt verteld, en dat verhaal klopt met wat er feitelijk gebeurt.
De volgende stap
Neem AI op in het kwaliteitsjaarverslag en in de zelfevaluatie van de raad van toezicht: wat hebben wij dit jaar geleerd over de werking van AI in ons primaire proces, en wat heeft dat veranderd aan ons toezicht.
Wanneer heeft een medewerker ons voor het laatst verteld dat een systeem niet deugde — en wat is daarmee gebeurd?
Weten waar uw raad van toezicht staat
De AI-toezichtscan brengt kwaliteit en patiëntveiligheid naast de zes andere assen in beeld, zodat u ziet of uw kwaliteitstoezicht op AI gelijke tred houdt met wat de organisatie feitelijk inzet.
De zeven assen van toezicht op AI
Elke as heeft een eigen pagina met vijf fases en de eerstvolgende stap.
Verder lezen
Toezicht op AI in zorg en welzijn
De themapagina over AI in bestuur en toezicht.
Zelfevaluatie van de raad van toezicht
Waar u AI structureel in vastlegt, en hoe u het kader toetst waaraan u zich meet.
Raad van toezicht in zorg en welzijn
Rol, bevoegdheden en de vragen die daarbij horen.