EDPS: menselijke controle bij besluitvorming

U moet per werkstroom aantonen dat uw reviewer werkelijk begrijpt hoe het systeem werkt, daadwerkelijk kan ingrijpen, en dat die ingreep is vastgelegd. Een mens in de lus telt alleen als u dit bewijs kunt leveren.

De aanleiding is een analyse van 9 oktober 2026 van menselijke controle bij geautomatiseerde AI-besluitvorming, welke stelt dat de EDPS-checklist van mei 2026 menselijke controle vertaalt naar toetsbare organisatorische en technische eisen: vastgelegde rollen, training tegen automation bias, echte override-bevoegdheden, logging van ingrepen en periodieke audits. Het voorbeeld is de vraag hoe een reviewer die honderden uitkomsten per dag moet goedkeuren in de praktijk nog inhoudelijk kan beoordelen. In onze inschatting is dit het punt waarop human-in-the-loop-afspraken in werkelijkheid kunnen mislukken: formele betrokkenheid zonder beoordelingsruimte, organisatorische inbedding en bewustzijn van automation bias maakt van de mens een stempel in plaats van een rem.

Wat verstaat de EDPS onder menselijke controle?

De European Data Protection Supervisor, de onafhankelijke Europese toezichthouder voor gegevensbescherming bij EU-instellingen, maakt het onderscheid praktisch: niet gaat het erom of een mens betrokken is, maar of die mens aantoonbaar controle uitoefent. De checklist vertaalt dat naar concrete eisen. Verantwoordelijkheden en escalatieprocedures moeten schriftelijk vastliggen. Reviewers moeten getraind zijn op de beperkingen en foutscenario's van het systeem. Overrides en besluiten moeten worden gelogd. Na een systeemupdate moet een herbeoordeling plaatsvinden.

Dit raakt iedere organisatie die AI gebruikt bij gevoelige of hoog-vertrouwelijke besluiten, van kredietbeoordeling tot medische triage en juridische dossiervorming. De checklist is formeel gericht aan EU-instellingen, maar kan ook als praktisch referentiekader voor andere organisaties dienen.

Welke foutscenario's en risico's moet u voorkomen?

• Automation bias zonder training — reviewers die de beperkingen van het systeem niet kennen, vertrouwen op de output zonder kritische beoordeling.
• Onvoldoende beoordelingsruimte — een reviewer met honderden uitkomsten per dag heeft geen tijd voor inhoudelijke controle.
• Override als uitzonderingshandeling — afwijken van de AI-aanbeveling kost gezichtsverlies of veroorzaakt bureaucratische wrijving.
• Onopgemerkte systeemwijzigingen — een modelupdate wordt niet herkend, eerdere controlemaatregelen worden niet opnieuw beoordeeld.
• Geen vastlegging van ingrepen — zonder log van overrides en besluiten is het achteraf moeilijk de gevolgde controleprocedure te reconstrueren.
• Onduidelijke escalatieroutes — reviewers weten niet bij welke drempel zij moeten doorverwijzen of wie eindverantwoordelijk is.

Welke concrete controles moet u per werkstroom aantonen?

1. Definieer rollen en escalatieprocedures — leg vast wie het besluit mag nemen, bij welke drempel een tweede beoordelaar vereist is en langs welke route wordt geëscaleerd.
2. Bepaal een maximale reviewlast per persoon — zorg dat een reviewer tijd heeft voor inhoudelijke beoordeling en niet alleen formulieren invult.
3. Maak afwijken en stoppen echte, geoorloofde handelingen — bouw de werkstroom zo dat een reviewer zonder gezichtsverlies kan ingrijpen of het systeem kan onderbreken.
4. Koppel changemanagement aan herbeoordeling — voordat een nieuwe versie live gaat, controleer of de bestaande controlemaatregelen nog passend zijn.
5. Leg vast wat bij elk besluit hoort — documenteer welke modeloutput, welk bronbewijs, welke reviewer en welke bevoegdheid bij elk besluit horen, aansluitend bij het onafhankelijk controlepunt tussen AI-analyse en formeel besluit.

Hoe verhoudt dit zich tot artikel 14 van de AI Act?

Artikel 14 van de AI Act eist dat hoog-risico-AI-systemen effectief door natuurlijke personen kunnen worden overseen. Volgens de toelichting van de Europese Commissie moet de toezichthouder de capaciteiten en beperkingen van het systeem begrijpen, automation bias onderkennen, de output correct interpreteren, die kunnen negeren of overrulen en het systeem veilig kunnen onderbreken.

De EDPS-checklist raakt dezelfde thema's, maar vanuit een eigen referentiekader: zij vraagt niet of de vereisten op papier staan, maar hoe u aantoont dat een reviewer werkelijk kan ingrijpen, met welke bevoegdheid, na welke training en met welke vastlegging. Niet elk AI-besluit valt onder artikel 14; de bepaling geldt voor hoog-risicosystemen. De checklist is echter breder toepasbaar en ook buiten die categorie nuttig als referentiekader voor aantoonbare menselijke controle.

Wat kan tooling doen en wat blijft uw eigen oordeel?

Logging en audit trails kunnen geautomatiseerd worden. Trainingsplatformen kunnen standaardcurricula leveren. Changemanagement-systemen kunnen updates volgen. Maar of een reviewer werkelijk begrijpt wat het systeem doet, of de organisatie werkelijk ruimte geeft voor afwijking, of de escalatieroutes in de praktijk werken — dat bepaalt u. Tooling kan u helpen aantonen dat u deze controles hebt ingebouwd; het kan niet bepalen of ze werkelijk effect hebben. Wie menselijke controle vooraf ontwerpt als een toetsbaar proces, staat sterker als die controle later ter discussie komt.