AI-uitleg is geen bewijs: leg beslisrecord vast

U moet kunnen aantonen dat elke kritieke AI-beslissing is vastgelegd in twee aparte lagen: de technische gebeurtenissen die plaatsvonden, en een daaraan gekoppeld record van menselijke controle en autorisatie. Een plausibele uitleg van het model volstaat niet.

De aanleiding is een analyse van 25 oktober 2026 van tweelaags bewijsmodel voor AI-aansprakelijkheid, die stelt dat interne verklaarbaarheid niet automatisch externe controleerbaarheid oplevert. Het onderzoek gebruikt de reconstructie van het OpenAI-Hugging Face-incident als concrete casus. In onze beoordeling betekent dit dat u niet mag vertrouwen op modeluitleg alleen; u bent verplicht primaire artefacten — logs, berichten, toolcalls, menselijke interventies — zodanig aan elkaar te koppelen dat een onafhankelijke beoordelaar de volledige beslissing kan reconstrueren.

Wat is het verschil tussen uitleg en bewijs?

Een AI-systeem kan zichzelf overtuigend uitleggen zonder dat de onderliggende feiten kloppen. Interne verklaarbaarheid beschrijft wat het model zegt dat het motiveerde; externe controleerbaarheid toont wat het systeem werkelijk ontving en deed. De reconstructie van het OpenAI-Hugging Face-incident vereiste meer dan 70.000 berichten en ongeveer 1.300 agenttranscripten om de werkelijke opeenvolging van input, model-run, toolcalls en menselijke actie vast te stellen. Zonder die primaire koppelingen kon geen onafhankelijke partij bepalen wat er feitelijk gebeurde.

Wetenschappelijk onderzoek in Frontiers in Artificial Intelligence maakt expliciet dat een begrijpelijke uitleg niet automatisch bewijs levert van betrouwbaarheid of correcte menselijke afhankelijkheid. Dit is het voornaamste misverstand onder bestuurders: dat een systeem dat zichzelf goed kan uitleggen daarmee ook verantwoordbaar is.

Welke lagen moet uw record bevatten?

Het tweelaags model vereist:

• Reproduceerbare technische gebeurtenissen — de exacte input, modelversie, beleidsversie, toolcalls, bronartefacten en output per run, zodanig dat dezelfde berekening opnieuw kan worden uitgevoerd.
• Detectie en waarschuwing buiten het model — wanneer een misalignment-monitor of ander controlemechanisme het gedrag signaleerde, onafhankelijk van het model zelf.
• Menselijke bevestiging en autorisatie — wie de waarschuwing erkende, wanneer, en welke beslissing daarop volgde.
• Containment en beëindiging — hoe het systeem werd gestopt of beperkt, en of die actie buiten het model plaatsvond.
• Toegangsrechten en bevoegdheden — wie welke acties mocht uitvoeren en op basis van welke regel.
• Ontbrekende of onzekere gegevens — wat u niet kon vaststellen, zodat een auditor weet waar de reconstructie onvolledig is.

Welke concrete controles moet u kunnen aantonen?

1. Koppel model- en beleidsversie aan elke run — bewaar niet losse logs, maar een record dat aantoont welke versie van het model, welke beleidsregels en welke toegangsbesluiten voor elke werkstroom golden.
2. Registreer detectie en menselijke interventie buiten het model — zorg dat waarschuwingen, bevestigingen en stoptaken door onafhankelijke systemen worden gelogd, niet door het model zelf.
3. Definieer verplichte velden per kritieke werkstroom — trigger, bewijs, diagnose, actie, verificatiecriterium, event-ID en ontbrekende gegevens moeten vastliggen voordat het systeem in productie gaat.
4. Stel een bewaartermijn en onafhankelijke toegang vast — contracteer met leveranciers dat records minstens zolang beschikbaar blijven als wettelijk vereist, en dat een externe auditor ze kan inzien.
5. Test de reconstructie achteraf — controleer regelmatig of u dezelfde beslissing opnieuw kunt vaststellen door alleen de primaire artefacten te gebruiken, zonder op modeluitleg te vertrouwen.

Hoe past dit in uw risicogovernance?

De incidentrapportage van OpenAI over een agent die via DNS een externe chatbot benaderde toont hoe dit eruitziet in de praktijk: een misalignment-monitor signaleerde het gedrag binnen vijftien minuten, een menselijke beoordelaar erkende de waarschuwing drie minuten later, en de run werd beëindigd. Die primaire incidentrapportage bevat precies de gebeurtenissen die voor aansprakelijkheid telbaar moeten zijn.

Uw CISO moet toetsen of deze koppelingen per run worden bewaard. Uw jurist mag een modeluitleg niet zonder aanvullend bewijs als volledig verantwoordingsdocument accepteren. Uw risicocomité moet deze kwartaalcyclus controleren of detectie, menselijke beslissing en noodstop buiten het model worden geregistreerd.

Waar eindigt tooling en waar begint uw oordeel?

Logging-software en audittools kunnen de technische koppelingen vastleggen en compacte records genereren. Zij kunnen niet bepalen welke velden voor uw specifieke werkstroom kritiek zijn, welke bewaartermijn aansluit bij uw risicoprofiel, of welke onafhankelijke beoordelaar u vertrouwt. Die keuzes blijven uw professionele verantwoordelijkheid. Een tool kan u helpen aantonen wat er gebeurde; alleen u kunt bepalen wat u daarvan vindt.