ICO controleerde tien AI-foundation-modelmakers

U moet per AI-systeem dat u inkoopt of inzet een onderbouwde gegevensbeschermingseffectbeoordeling en een gedocumenteerde rechtmatige grondslag kunnen tonen — niet pas bij een klacht of audit, maar nu.

De aanleiding is een analyse van 15 oktober 2026 van toezicht op tien AI-foundation-modelmakers en een call for evidence over agentic AI, die stelt dat algemene privacyverklaringen onvoldoende zijn en dat wie AI-modellen met persoonsgegevens traint, inkoopt of inzet, per systeem moet aantonen welke data, welk doel, welke grondslag en welke waarborgen gelden. De Britse privacytoezichthouder controleerde tien grote modelmakers en identificeerde tekortkomingen in gegevensbeschermingseffectbeoordelingen, transparantie over trainingsdata en onderbouwing van rechtmatigheidsgronden. In onze beoordeling betekent dit dat de praktische aandacht verschuift van de verkooppresentatie van de leverancier naar uw eigen dossier: u kunt niet langer op de categorie-indeling van de leverancier vertrouwen, maar moet zelf controleerbaar bewijs opbouwen.

Welke tekortkomingen heeft de toezichthouder geïdentificeerd?

De toezichthouder benoemt vier hoofdproblemen. Ten eerste zwakke onderbouwing van assessments waarin organisaties hun belangen tegen de rechten van betrokkenen afwegen. Ten tweede gegevensbeschermingseffectbeoordelingen die niet voldoende zijn uitgewerkt of ontbreken. Ten derde gebrekkige transparantie over welke trainingsdata daadwerkelijk is gebruikt en welke categorieën persoonsgegevens daarin voorkomen. Ten vierde onvoldoende aandacht voor bijzondere categorieën persoonsgegevens — gezondheids- of herkomstgegevens — die uit neutrale invoer kunnen worden afgeleid.

Deze tekortkomingen gelden niet alleen voor modelmakers. De toezichthouder stelt expliciet dat ook wie een systeem inkoopt of integreert, verantwoordelijk blijft voor naleving van de gegevensbeschermingsregels.

Welke risico's ontstaan bij agentic AI?

Bij systemen die zelfstandig taken uitvoeren en acties ondernemen, worden de verantwoordelijkheden in de keten onduidelijker. De toezichthouder identificeert drie specifieke risico's: rollen van controller en processor kunnen vervagen wanneer een agent handelingen verricht die niemand volledig overziet; geautomatiseerde besluitvorming wordt grootschaliger en sneller, waardoor menselijke controle moeilijker wordt; en de rechten van betrokkenen — inzage, rectificatie, verwijdering — raken in het gedrang wanneer een verzoek door meerdere systemen moet worden afgehandeld.

Uw organisatie loopt het risico aansprakelijk te worden voor acties van een agent die een leverancier ontwierp, tenzij u vooraf vastlegt wie welke rol draagt en wie de agentische acties mag stoppen of intrekken.

Welke foutmodi en risico's moet u adresseren?

• Zwakke rechtmatigheidsgronden — geen onderbouwde assessments van belangen of toestemming per verwerkingsstap.
• Onvoldoende gegevensbeschermingseffectbeoordelingen — ontbrekende of oppervlakkige DPIA's voordat systemen live gaan.
• Verborgen bijzondere categorieën — gezondheids- of herkomstgegevens die uit neutrale invoer kunnen worden afgeleid.
• Onduidelijke verantwoordelijkheden — controller- en processorrollen die vervagen in agentische ketens.
• Ontoegankelijke rechten van betrokkenen — inzage- of verwijderverzoeken die stranden op systemen die niemand volledig overziet.
• Gebrekkige transparantie — geen inzicht in trainingsdata of werkelijke in- en uitvoer van modellen.

Welke controles moet u kunnen aantonen?

1. Inventariseer elk AI-systeem apart — documenteer welk model, welke data, welk doel en welke grondslag per systeem gelden.
2. Voer een onderbouwde gegevensbeschermingseffectbeoordeling uit — test daadwerkelijke in- en uitvoer in plaats van af te gaan op de categorie-indeling van de leverancier.
3. Leg controller- en processorrollen vast — zorg dat in elk contract vóór livegang helder staat wie welke rol draagt en wie agentische acties mag stoppen.
4. Documenteer logging en retrievals — bepaal welke toolcalls, beslissingen en gegevensopvragingen worden geregistreerd zodat u verzoeken van betrokkenen binnen de wettelijke termijn kunt beantwoorden.
5. Behandel agents als systemen met systeemtoegang — zorg dat menselijke controle bij geautomatiseerde besluiten toetsbaar is en dat privileges worden beheerd.

Hoe begint u?

Begin met een inventaris per systeem en werk toe naar controleerbaar bewijs. Laat uw privacyprofessional de daadwerkelijke in- en uitvoer testen. Zorg dat de producteigenaar vastlegt welke retrievals en beslissingen worden gelogd. Voeg aan elk inkoop- of integratiecontract een clausule toe die verantwoordelijkheden en stoppunten vastlegt.

De toezichthouder stelt geen universeel foutpercentage vast en scheidt geen nieuwe wettelijke plicht; zij maakt expliciet wat onder de bestaande gegevensbeschermingsregels al werd verwacht. Tooling kan u helpen bij inventarisatie en logging, maar de beoordeling van rechtmatigheid en de afweging van belangen blijft uw eigen professionele oordeel.