DPIA voor autonome AI: de hele agentketen

U moet een privacybeoordeling van autonome AI doorlopend herhalen: niet alleen dataset en model, maar ook geheugen, contextoverdracht, toolgebruik, derde partijen, veranderende doelen en menselijke interventie moeten bij elke wijziging opnieuw worden beoordeeld.

De aanleiding is een analyse van 2 november 2026 van privacyrisico's in autonome multi-agent systemen, die aantoont dat klassieke gegevensbeschermingseffectbeoordelingen onvoldoende zijn voor agents die zelfstandig handelen en gegevens delen. Het kader gebruikt een zesstaps causale keten die een dreiging via een faalmechanisme verbindt met getroffen personen en impact. In onze beoordeling dwingt dit organisaties om vage risico's als "datalekrisico" om te zetten naar concrete verhalen — bijvoorbeeld een agent die klantgegevens uit zijn geheugen naar een externe tool van een derde partij kopieert, waardoor betrokkenen ongewild in ander systemen terechtkomen.

Waarom een klassieke DPIA niet volstaat voor agents

Een traditionele gegevensbeschermingseffectbeoordeling richt zich op doel, dataset en model op het moment van ontwerp. Een autonome agent werkt anders: hij roept tools aan, onthoudt informatie, geeft taken door aan andere agents en kan gegevens delen met partijen die vooraf niet in beeld waren. Dit verschuift het privacyrisico van het moment van ontwerp naar het moment van uitvoering. Naar onze inschatting moet de functionaris gegevensbescherming daarom afdwingen dat de DPIA ook runtimegedrag, geheugen en agent-overdrachten beoordeelt, niet alleen de statische configuratie.

De MLCommons Agent Privacy Risk Taxonomy v0.1 ordent deze risico's in vijf domeinen: gegevensinname en -verwerking, aggregatie en delen, inconsistente privacypraktijken tussen agents, falende toestemmingsmodellen, en accountability en governance. Dit raamwerk is een conceptversie zonder bindende kracht, maar het vult een gat dat klassieke beoordelingen laten.

Welke risico's ontstaan uit geheugen en bewaartermijnen

Een agent onthoudt informatie om taken uit te voeren. Dit geheugen kan persoonsgegevens bevatten langer dan het verwerkingsdoel rechtvaardigt. De Hong Kong-toezichthouder benoemt geheugen en bewaartermijnen van histories als apart risico. Dit betekent dat u naar onze inschatting in het verwerkersregister en in leverancierscontracten moet vastleggen hoe lang geheugen en logs bewaard blijven en hoe ze worden gewist. Zonder deze vastlegging loopt u het risico dat gegevens in het systeem blijven hangen en niet meer traceerbaar zijn voor verwijdering.

Welke controles moet u kunnen aantonen

1. Documenteer de feitelijke subverwerkersketen en modelroutes — zet op papier welke externe tools en derde partijen de agent aanroept en welke gegevens hij daarheen stuurt.
2. Leg bewaartermijnen voor geheugen en logs vast — bepaal vooraf hoe lang histories en contextinformatie in het agentsysteem mogen blijven en hoe ze worden verwijderd.
3. Beperk bevoegdheden per agent en bouw een stopmechanisme in — geef elke agent alleen de rechten die hij nodig heeft, en zorg voor incident-draaiboeken voordat het systeem live gaat.
4. Bepaal welke beslissingen menselijke goedkeuring vereisen — leg schriftelijk vast welke acties van de agent een mens moet controleren voordat ze worden uitgevoerd.
5. Koppel risicobeoordeling aan versiebeheer — voer de DPIA opnieuw uit bij elke wijziging van model, tools, doelen, bevoegdheden of agentoverdrachten.

Wanneer moet u de beoordeling herhalen

Naar onze inschatting is een DPIA voor autonome agents geen eenmalig document maar een versieerbare controlecyclus. U moet de beoordeling opnieuw uitvoeren bij elk van deze wijzigingen:

• Wijziging van model of trainingsgegevens — het gedrag van de agent kan veranderen.
• Toevoeging of verwijdering van externe tools — nieuwe gegevensstromen ontstaan of verdwijnen.
• Wijziging van agentbevoegdheden — de agent krijgt meer of minder toegang tot systemen.
• Wijziging van doelen of taken — het verwerkingsdoel verandert en rechtvaardigt mogelijk andere gegevens.
• Wijziging van agent-overdrachten — gegevens gaan naar andere agents of systemen.
• Wijziging van bewaartermijnen of geheugenlogica — hoe lang gegevens bewaard blijven, verandert.

Wie dit nalaat, loopt het risico dat de vastgelegde beoordeling niet meer aansluit op het systeem dat feitelijk draait. Dit ondermijnt niet alleen de privacybescherming maar ook de verantwoording: een gekoppeld beslis- en gebeurtenisrecord is alleen bruikbaar als het de actuele configuratie weerspiegelt.

Wat tooling kan doen en wat blijft uw verantwoordelijkheid

Automatisering kan u helpen risico's in kaart te brengen en beoordelingen te versiebeheren. Tooling kan ook runtimegedrag van agents loggen en afwijkingen signaleren. Wat tooling niet kan doen: bepalen welke risico's acceptabel zijn, welke beslissingen menselijke tussenkomst vereisen, en hoe u de balans tussen functionaliteit en privacybescherming wilt inrichten. Die keuzes blijven uw professionele oordeel.