AI-risico, AVG en de EU AI-verordening
In zorg en welzijn draait bijna alles om gegevens die de AVG bijzondere persoonsgegevens noemt: gezondheid. Daar bovenop komt de EU AI-verordening, die een deel van de zorg-AI als hoog risico aanmerkt. En daaronder ligt de vraag die toezichthouders zich zelden hardop stellen: wat betekent dit voor onze eigen aansprakelijkheid?
Dit is de as waarop raden van toezicht in zorg en welzijn gemiddeld het laagst scoren. Niet uit onwil, maar omdat de aanname redelijk lijkt dat de leverancier of de functionaris gegevensbescherming het regelt. Die aanname is precies het risico: toezicht dat niet is uitgeoefend en niet is vastgelegd, telt achteraf niet mee.
Hieronder staan vijf fases, van onbekend tot geoefend, met bij elke fase waaraan u die herkent en wat de eerstvolgende stap is.
Twee stelsels die naast elkaar lopen
De AVG geldt al en is niet verschoven. Gezondheidsgegevens vallen onder artikel 9 en mogen alleen op beperkte gronden worden verwerkt. Bij AI die zelfstandig besluiten neemt met rechtsgevolg of vergelijkbare gevolgen komt artikel 22 in beeld, en bij toepassingen met hoog risico voor betrokkenen is een gegevensbeschermingseffectbeoordeling — de DPIA van artikel 35 — verplicht. Voor de raad van toezicht is de bruikbare vraag simpel: bestaat die DPIA, en heeft iemand hem gelezen.
De AI-verordening werkt met risicoklassen. Verboden praktijken en de plicht tot AI-geletterdheid gelden al. De zware verplichtingen voor hoog-risico AI zijn met de Digital Omnibus verschoven. Dat uitstel is echter geen vrijstelling: de classificatie van uw toepassingen verandert er niet door, alleen de datum waarop u moet kunnen aantonen dat u ze beheerst.
Deze pagina is geen juridisch advies. Laat de classificatie van uw eigen toepassingen toetsen door een jurist.
De klassen en de data
| Klasse of plicht | Geldt vanaf |
|---|---|
| Verboden praktijken (art. 5) | 2 februari 2025, van kracht |
| AI-geletterdheid (art. 4) | 2 februari 2025, handhaving vanaf 2 augustus 2026 |
| Transparantie (art. 50) | 2 augustus 2026; markering bestaande systemen 2 december 2026 |
| Hoog risico, bijlage III | Verschoven naar 2 december 2027 |
| Hoog risico, bijlage I | Verschoven naar 2 augustus 2028 |
| Boetes (art. 99) | Tot € 35 mln of 7% omzet bij verboden praktijken; tot € 15 mln of 3% bij overige plichten |
Stand van zaken op 12 augustus 2026, na de Digital Omnibus op AI. Deze data zijn de afgelopen maanden verschoven; controleer ze opnieuw voordat u er een besluit op baseert.
Wat de code hier van u vraagt
Bepaling 5.4.1 van de Governancecode Zorg 2022 legt bij de raad van bestuur de plicht om te zorgen voor goede en hanteerbare interne risicobeheersings- en controlesystemen. Bepaling 5.4.2 vraagt dat die regelmatig met de raad van toezicht worden besproken. AI is daarmee geen nieuw hoofdstuk maar een nieuwe categorie in een bestaand systeem — en dat is goed nieuws, want u hoeft er geen apart toezichtmodel voor op te tuigen.
Het gaat mis waar AI buiten dat systeem blijft. Een toepassing die als pilot begon en nooit formeel is opgeleverd, staat zelden in het risicoregister. Juist daar zit doorgaans de blootstelling.
Wat toezicht op AI-risico niet is
- Niet de DPIA overnemen. De raad van toezicht toetst of het proces deugt, niet of elke paragraaf klopt.
- Niet vertrouwen op de CE-markering alleen. Die zegt iets over het product, niet over uw gebruik ervan.
- Niet wachten op december 2027. Het uitstel betreft de bewijslast, niet het risico zelf.
- Niet alles bij de functionaris gegevensbescherming leggen. Die adviseert; de bestuurder is verantwoordelijk en u ziet daarop toe.
Vijf fases van toezicht op AI-risico
Toets uzelf aan één ding: kan uw raad van toezicht op dit moment benoemen welke AI-toepassing in deze organisatie het grootste risico draagt?
Onbekend
Zo herkent u deze fase
Niemand kan zeggen welke AI er draait, laat staan welke ervan gezondheidsgegevens raakt. In de risicoparagraaf van het jaarverslag komt AI niet voor. Ondertussen gebruiken medewerkers publieke AI-diensten op eigen initiatief — dat gebeurt in vrijwel elke zorgorganisatie, ook in die waar het niet mag.
De volgende stap
Vraag de bestuurder om één lijst met alle AI-toepassingen en de vraag erbij: welke daarvan verwerken persoonsgegevens van cliënten of medewerkers. Zonder classificatie, zonder oordeel. Het overzicht is de eerste beheersmaatregel.
Welke AI gebruiken onze medewerkers die wij formeel nooit hebben toegestaan?
Aangenomen
Zo herkent u deze fase
Op de vraag naar risico's volgt het antwoord dat de leverancier gecertificeerd is en dat er een verwerkersovereenkomst ligt. Beide kunnen waar zijn zonder dat uw organisatie in control is: de verwerkersovereenkomst dekt de gegevensverwerking, niet de vraag of het model in uw context betrouwbaar is. Wie aansprakelijk is als een extern model faalt, is niet besproken.
De volgende stap
Vraag om een AI-register met risicoclassificatie: per toepassing de klasse onder de verordening, de AVG-grondslag, of er een DPIA is en wie de eigenaar is. Bespreek dat register in de auditcommissie, niet in de rondvraag.
Wie draagt het risico als het model van onze leverancier morgen aantoonbaar verkeerde uitkomsten geeft?
Geregistreerd
Zo herkent u deze fase
Er is een AI-register met classificatie, en de raad van toezicht heeft het gezien. De grootste risico's zijn benoemd. Wat nog ontbreekt is beweging: het register wordt bijgehouden maar er volgen zelden maatregelen uit, en de koppeling met het bredere risicobeheersingssysteem is administratief in plaats van inhoudelijk.
De volgende stap
Laat het AI-register aansluiten op het bestaande risicobeheersingssysteem en vraag per hoog-risicotoepassing wie de maatregel eigenaar is en wanneer die af is. Vraag ook wat er is gedaan met de toepassingen die niemand wilde claimen.
Welke maatregel is er het afgelopen jaar genomen omdat het AI-register daarom vroeg?
Beheerst
Zo herkent u deze fase
DPIA's zijn er waar ze horen, contracten regelen aansprakelijkheid en uitleg, en er is zicht op de keten: welke onderaannemers en modellen zitten er achter de leverancier. De raad van toezicht heeft besproken hoe AI-risico's de bestuurdersaansprakelijkheid en het eigen toezicht raken, en die bespreking is vastgelegd in de notulen — want dat is het enige bewijs dat u het heeft gedaan.
De volgende stap
Vraag om een onafhankelijke toets op één hoog-risicotoepassing: niet door de leverancier en niet door de eigen afdeling die hem beheert. Eén serieuze second opinion zegt meer dan drie rapportages.
Wat staat er in onze notulen waaruit blijkt dat wij op dit risico toezicht hebben gehouden?
Geoefend
Zo herkent u deze fase
De organisatie heeft geoefend met het scenario dat een AI-toepassing faalt of moet worden stilgelegd: wie besluit dat, hoe gaat het werk dan door, wie informeert cliënten en de inspectie. De raad van toezicht volgt de wijzigingen in de regelgeving zelf en vraagt uit eigen beweging wat een verschoven deadline voor deze organisatie betekent.
De volgende stap
Neem één AI-scenario op in de reguliere crisisoefening van de organisatie en laat de raad van toezicht de nabespreking bijwonen. Wat daar naar boven komt, is bruikbaarder dan elke risicorapportage.
Als wij een AI-toepassing morgen moeten uitzetten, kan de zorg dan gewoon doorgaan?
Weten waar uw raad van toezicht staat
Risico en compliance is de as waarop raden van toezicht gemiddeld het laagst scoren. De AI-toezichtscan laat zien of dat bij u ook zo is, en welke as u het eerst zou moeten aanpakken.
De zeven assen van toezicht op AI
Elke as heeft een eigen pagina met vijf fases en de eerstvolgende stap.
Verder lezen
Toezicht op AI in zorg en welzijn
De themapagina over AI in bestuur en toezicht.
Zelfevaluatie van de raad van toezicht
Waar u AI structureel in vastlegt, en hoe u het kader toetst waaraan u zich meet.
Raad van toezicht in zorg en welzijn
Rol, bevoegdheden en de vragen die daarbij horen.