Chirurgen volgden foute AI-adviezen: maak toezicht meetbaar

U moet nu vaststellen waar AI-advies in uw werkstromen een standaardkeuze is geworden, die presentatie terugdraaien naar expliciet betwistbaar advies, en meten of uw toezichthouders fouten daadwerkelijk opvangen in plaats van ze door te geven.

Een analyse van 9 november 2026 van menselijk toezicht op AI-adviezen in medische besluitvorming stelt dat professionals onder druk systematisch foute AI-suggesties volgen, en dat de aanwezigheid van een deskundige niet garandeert dat fouten worden gecorrigeerd. Een gecontroleerd experiment met chirurgen toonde aan dat ruim drie op de vijf opzettelijk foute AI-suggesties toch werden gevolgd. In onze inschatting bewijst dit dat formeel toezicht—een handtekening, een reviewknop, een aangewezen medewerker—zonder betekenisvolle voorwaarden vooral decoratie is.

Waarom volgen professionals foute AI-adviezen?

Het verschijnsel heet automatiseringsbias. Mensen neigen ertoe op een geautomatiseerd advies te vertrouwen, vooral onder werkdruk. De studie registreerde ook veranderingen in het zelfvertrouwen van deelnemers: naarmate zij meer AI-suggesties zagen, daalde hun kritische afstand. Dit risico speelt niet alleen in de operatiekamer. Juristen, artsen en analisten die onder druk AI-aanbevelingen beoordelen, lopen dezelfde fout.

De aanname dat een menselijke eindcontrole fouten betrouwbaar wegvangt, is niet houdbaar zonder aanvullend bewijs dat de controle in uw specifieke context daadwerkelijk werkt. U kunt niet aannemen dat uw toezichthouders beter presteren dan de chirurgen in het experiment.

Welke foutmechanismen moet u adresseren?

• Automatiseringsbias — professionals volgen AI-advies vaker dan kritisch onderzoek rechtvaardigt, vooral onder druk.
• Standaardkeuze-effect — zodra een aanbeveling een verplichte workflowstap wordt, verdwijnt de feitelijke ruimte om af te wijken.
• Beperkte interpreteerbaarheid — toezichthouders kunnen niet beoordelen wat zij niet kunnen zien of begrijpen.
• Organisatorische prikkels tegen kritiek — werkstromen die afwijzing ontmoedigen of bemoeilijken.
• Formele versus betekenisvolle verantwoordelijkheid — handtekeningen die bestaan zonder dat de ondertekenaar werkelijk kan weigeren.

Welke concrete controles moet u kunnen aantonen?

1. Breng in kaart waar AI-advies een standaardkeuze is geworden — identificeer werkstromen waarin het systeem aanbevelingen als default presenteert en maak die presentatie expliciet betwistbaar.
2. Registreer elke override en escalatie — leg vast wanneer toezichthouders afwijken van AI-advies, waarom, en hoe lang dat duurt.
3. Test uw toezicht met opzettelijk foute adviezen — voer scenario-gebaseerde tests uit voordat een toezichthouder of rechter ernaar vraagt, en leg de uitkomsten vast.
4. Verdeel verantwoordelijkheid contractueel — leg in leveranciersakkoorden vast welke contextgevoelige maatregelen beide partijen nemen om overreliance tegen te gaan.
5. Audit de beslislogs periodiek — controleer of toezichthouders werkelijk tijd, expertise en broninformatie hebben om het advies te beoordelen.

Hoe maakt u toezicht meetbaar in plaats van formeel?

Formeel toezicht is een handtekening. Betekenisvol toezicht vereist dat de beoordelaar tijd, expertise, broninformatie, bevoegdheid en een reële mogelijkheid heeft om het advies te verwerpen. Zonder die voorwaarden is de menselijke stap vooral decoratie.

De Europese Toezichthouder voor gegevensbescherming publiceerde in mei 2026 een checklist voor menselijk toezicht op geautomatiseerde besluitvorming. Het is een zelfbeoordelingsinstrument, geen formele compliancecertificering, maar het biedt ook andere organisaties een praktisch referentiekader doordat het toezicht naar concrete organisatorische toetsingspunten wordt vertaald.

Pas de zwaarste controles alleen toe op besluiten met reële gevolgen. Een overridelogboek dat niemand leest, is weer een formele laag. Houd de meting licht genoeg om geen afvinkritueel te worden.

Wat kunnen tools doen en wat niet?

Software kan override-logboeken bijhouden, scenario-gebaseerde tests uitvoeren en de tijd meten die toezichthouders aan beoordeling besteden. Zij kan ook waarschuwen wanneer een toezichthouder systematisch afwijkt van het patroon of juist alles goedkeurt. Wat tools niet kunnen doen, is bepalen of de toezichthouder werkelijk begrijpt wat hij of zij beoordeelt, of de werkstroom werkelijk ruimte laat voor weigering, of de organisatie kritiek werkelijk toelaat. Dat blijft uw eigen professionele oordeel.