Ontario maakt AI-transparantie toetsbaar

U moet per AI-systeem een samenhangend dossier kunnen tonen dat doel, databronnen, model, validatie, monitoring, incidenten en de bevoegde persoon vastlegt — niet als losse stukken, maar als traceerbare keten die toezicht en incidentafhandeling mogelijk maakt.

De aanleiding is een analyse van 2 oktober 2026 van Ontario's transparantieprincipes voor AI-systemen, die stelt dat transparantie zichtbaar, begrijpelijk, verklaarbaar en traceerbaar moet zijn. De Ontario Information and Privacy Commissioner (IPC) en de Ontario Human Rights Commission (OHRC) hebben dit niet alleen als principe vastgelegd, maar tonen in een publieke showcase hoe instellingen dit in de praktijk uitvoeren. In onze assessment betekent dit dat u niet langer kunt volstaan met een modelkaart of beleidsnotitie los van werkelijke validatie- en monitoringgegevens; transparantie wordt een verantwoordingsketen over de hele levenscyclus van het systeem.

Wat verstaan de toezichthouders onder transparantie?

De IPC en OHRC definiëren transparantie als vier samenhangende elementen. Zichtbaarheid betekent dat publieke informatie beschikbaar is over hoe het systeem werkt, welke databronnen het gebruikt en wat de doelen zijn. Begrijpelijkheid vereist dat deze informatie voor niet-specialisten toegankelijk is. Verklaarbaar betekent dat u kunt uitleggen waarom het systeem een bepaalde uitkomst heeft gegeven. Traceerbaar betekent dat u technische informatie over modeldetails, trainings- en validatiedata, monitoring, storingen en periodieke evaluaties kunt reconstrueren.

Deze vier elementen vormen samen geen eenmalige publicatie, maar een dossier dat gedurende de hele levensduur van het systeem wordt bijgehouden en actueel gehouden.

Welke bewijsstukken moet u per systeem kunnen tonen?

Uit de principes volgen vier bewijsvragen die u over elk AI-systeem moet kunnen beantwoorden:

1. Documenteer doel, databronnen en rechtmatige grondslag — leg vast welk probleem het systeem oplost, welke data het gebruikt en op welke wettelijke basis die verwerking plaatsvindt.
2. Bewaar modeldetails en trainingsgegevens — documenteer welk model u gebruikt, hoe het is getraind, welke validatiegegevens u hebt gebruikt en wat de prestaties waren.
3. Voer monitoring en logboekregistratie uit — leg vast hoe u het systeem in productie controleert, welke afwijkingen u detecteert en hoe u daarop reageert.
4. Wijs een verantwoordelijke persoon aan — bepaal wie bevoegd en in staat is om het systeem te pauzeren of buiten gebruik te stellen als het onveilig of onbetrouwbaar wordt.

Welke foutmogelijkheden loopt u zonder samenhangend dossier?

Organisaties die deze elementen los van elkaar behandelen, lopen verschillende risico's:

• Onherleidbare beslissingen — u kunt niet reconstrueren waarom het systeem een bepaalde uitkomst heeft gegeven, omdat validatiegegevens niet aan het model zijn gekoppeld.
• Verouderde documentatie — een modelkaart beschrijft het systeem zoals het ooit was, niet zoals het nu werkt, omdat monitoring niet in de documentatie terugvloeit.
• Geen operationele respons — een logboek wordt bijgehouden maar niet gebruikt om afwijkingen op te sporen en op te volgen, waardoor monitoring papierwerk blijft.
• Onduidelijk mandaat — niemand weet wie het systeem mag pauzeren of hoe snel dat moet gebeuren, waardoor bij incidenten iedereen naar elkaar wijst.
• Disproportionele administratie — u probeert alles vast te leggen met dezelfde intensiteit, waardoor laagrisico-toepassingen onhoudbare overhead krijgen.
• Gevoelige informatie onbeschermd — u legt alles publiek vast, inclusief gegevens over gevoelige verwerking, omdat u niet hebt bepaald wat publiek kan en wat intern moet blijven.

Hoe richt u monitoring en pauzering operationeel in?

De principes benadrukken dat transparantie niet alleen documentatie is, maar ook operationele capaciteit. Dit betekent dat u monitoring niet alleen als regel in een bestand vastlegt, maar zo inricht dat afwijkingen een alarm en vastgelegde opvolging activeren. Een pauzeer- en buitengebruikstellingsproces moet niet alleen op papier bestaan, maar werkelijk uitvoerbaar zijn — met duidelijke bevoegdheden, opvolging en communicatie.

Wie deze stappen nu zet, bouwt aan een reconstrueerbare verantwoordingsketen die toezicht en incidentafhandeling mogelijk maakt. Voor organisaties buiten Ontario sluit deze denklijn aan bij Europese verwachtingen rond verantwoorde AI-governance en bij vereisten rond AI-logging en bewaartermijnen. De eis dat iemand bevoegd en in staat is om in te grijpen, betekent in de praktijk dat u een uitvoerbaar pauzeerproces moet hebben, in plaats van alleen een belofte.

Tooling kan u helpen om documentatie bij te houden, monitoring uit te voeren en logboeken te beheren. Maar de keuze welke informatie publiek kan, welke intern blijft en welke bewaartermijn geldt, blijft uw professioneel oordeel. Evenals de vraag wie verantwoordelijk is en wat die persoon mag doen als het systeem faalt.