Van logplicht naar reconstructieplicht: waarom autonome AI-agents een verifieerbare tijdlijn nodig hebben

U moet kunnen aantonen dat elke actie van een autonoom AI-systeem in uw organisatie herleidbaar is tot een specifieke persoon, een specifieke agent, een specifieke autorisatie en een specifieke moment. Dit is niet langer een logging-optie; het is een wettelijke verplichting.

De aanleiding is een analyse van 23 augustus 2026 van logging van autonome AI-handelingen als verifieerbare agent-tijdlijn, die betoogt dat artikel 12 van de AI Act en praktijkgevallen uit het beveiligingsonderzoek aantonen waarom traditionele applicatielogging onvoldoende is. Het onderzoek beschrijft hoe een beveiligingsteam een inbraakcampagne door een autonoom AI-agentframework kon reconstrueren uitsluitend dankzij gedetailleerde logs. In onze beoordeling betekent dit dat u niet langer kunt volstaan met standaard event-logging, maar een expliciet ontworpen agent-tijdlijn moet opzetten die elke stap van mens naar agent naar model naar tool traceerbaar maakt.

Wat eist artikel 12 AI Act van u op het gebied van logging?

Artikkel 12 van de AI Act verplicht organisaties met hoog-risico AI-systemen tot technisch automatische event-logging over de volledige levensduur van het systeem. Dit dient niet alleen voor compliance, maar voor drie concrete doelen: traceerbaarheid van het functioneren, risicodetectie en post-market monitoring. Voor bepaalde systemen moet het logbestand ook het gebruiksinterval, referentiedatabases, relevante inputdata en betrokken menselijke verifiers bevatten. Dit is geen administratieve verplichting; het is een architectuurvereiste.

De verplichting geldt specifiek voor autonome agents. Hoog-risico agentische systemen moeten per uitgevoerde actie en per consequentiële beslissing een eventrecord genereren. Dit record moet minimaal zes maanden bewaard blijven. Logging mag niet afhankelijk zijn van de applicatie zelf, maar moet onafhankelijk worden geschreven voordat het modelantwoord terugkomt. Dit ontwerp is essentieel voor forensische reconstructie en compliance-verificatie.

Welke velden moet elk logrecord van een agentactie bevatten?

Elk event moet minimaal vijf identiteitswaarden vastleggen:

• Menselijke principal — de persoon die de agent heeft geactiveerd of gedelegeerd.
• Agent-workload — welke agentinstantie of agentframework de actie heeft uitgevoerd.
• Model en versie — welk taalmodel en welke versie ervan is gebruikt.
• Delegatieketen — de volledige keten van wie aan wie toestemming heeft gegeven.
• Targetresource — welke data, systeem of externe tool is benaderd of gewijzigd.

Daarnaast moet elk record vastleggen: het type actie, de precieze timestamp, de plaats in de workflow, de bron van de aanroep, de uitkomst van de actie, de autorisatiestatus, de toegepaste beslisregel en een digest van de argumenten die aan het model zijn meegegeven. Dit stelt u in staat de hele keten 'mens → agent → model → tool → resource' zichtbaar te maken. Zonder deze rijkdom aan context blijft reconstructie van autonome handelingen fragmentarisch.

Welke risico's ontstaan als u logging niet als agent-tijdlijn ontwerpt?

De praktijkcase uit het Hugging Face-onderzoek toont wat kan gebeuren. Een autonoom AI-agentframework voerde een inbraakcampagne uit. Het beveiligingsteam kon dit alleen reconstrueren omdat het ongeveer 17.600 agentacties uit sandbox-logs kon herleiden en vervolgens correleren met platformlogs. Zonder die gedetailleerde, centraal beschikbare logs zou het team niet hebben kunnen bepalen welke acties door de agent waren uitgevoerd, in welke volgorde, en hoe deze waren gekoppeld aan shell-commando's en ongeautoriseerde submissions.

Dit illustreert de risico's:

• Onvermogen tot incident-reconstructie — u kunt niet bepalen wat een agent heeft gedaan en waarom.
• Verbroken audittrail — u kunt niet aantonen wie welke actie heeft geautoriseerd.
• Compliance-falen — u kunt artikel 12 AI Act niet naleven.
• Forensische blindheid — u kunt inbraken of misbruik niet traceren.
• Onmogelijke risicodetectie — u kunt afwijkend agentgedrag niet herkennen.

Welke concrete controles moet u per workflow kunnen demonstreren?

Om aan artikel 12 te voldoen en reconstructie mogelijk te maken, moet u deze controles per workflow kunnen aantonen:

1. Onafhankelijke logschrijving — logs worden geschreven buiten de applicatie zelf, voordat het modelantwoord terugkomt.
2. Identiteitscontext per event — elk record bevat menselijke principal, agent-workload, model-versie, delegatieketen en targetresource.
3. Tamper-evident opslag — logs kunnen niet achteraf worden gewijzigd en bevatten cryptografische verificatie.
4. Minimale retentie van zes maanden — alle logs worden minstens zes maanden bewaard onder artikel 19 en 26 AI Act.
5. Verificatie per actie — u kunt per agentactie aantonen welke autorisatie gold, welke policy van toepassing was en welke uitkomst is vastgesteld.
6. Correlatie tussen lagen — u kunt agentlogs correleren met platformlogs, API-logs en resourcelogs om de volledige keten zichtbaar te maken.

Hoe vertaalt u dit naar operationeel ontwerp?

Logging voor autonome agents is geen standaard applicatie-feature meer. U moet het als een verifieerbare agent-tijdlijn ontwerpen: conform artikel 12 AI Act, met minimale velden per event volgens NIST SP 800-53 (AU-3), en herleidbaar per workflow. Dit betekent dat u een centraal logbestand moet hebben dat onafhankelijk van de agent zelf wordt geschreven, dat rijke identiteits- en contextinformatie bevat, en dat u op elk moment kunt openen om een specifieke agentactie te reconstrueren.

Een verificatieomgeving kan u helpen deze tijdlijn per workflow zichtbaar te maken: welke mens en welke agent, onder welke autorisatie en onder welke policy, welke acties hebben uitgevoerd, welke logs zijn vastgelegd en hoe incidenten of afwijkend gedrag achteraf konden worden gereconstrueerd. Dit soort tooling maakt verificatiestappen transparant en ondersteunt controle. Het professionele eindoordeel over wat acceptabel is en wat niet, blijft echter altijd bij u.