Het juistheidsbeginsel van de AVG bij generatieve AI

Organisaties die generatieve AI gebruiken voor taken waarbij output persoonsgegevens bevat, moeten juistheid per workflowfase controleerbaar maken: bij bronselectie, training, inferentie en rectificatie. Zonder aantoonbare controles op elke fase voldoet u niet aan artikel 5 lid 2 AVG.

Een analyse van 2 oktober 2026 van het juistheidsbeginsel bij generatieve AI en persoonsgegevens stelt vast dat toezichthouders juistheid niet beperken tot trainingsdata, maar eisen dat ook output over identificeerbare personen juist is, inclusief gehallucineerde uitspraken. Het voorbeeld is een HR-chatbot die onjuiste informatie over iemands arbeidsverleden genereert. In onze beoordeling betekent dit dat u juistheid niet kunt afschuiven op disclaimers of gebruikersoordeel: u bent verantwoordelijk voor controles die onjuiste output voorkomen of detecteren, en voor processen die rectificatieverzoeken kunnen behandelen.

Wat verandert er in uw verplichtingen onder artikel 5 AVG?

Het juistheidsbeginsel van artikel 5 lid 1 onder d eist dat persoonsgegevens juist zijn en zo nodig worden geactualiseerd. Bij generatieve AI strekt dit zich uit tot output die het systeem genereert, niet alleen tot de data waarop het is getraind. Dit betekent dat u niet kunt stellen dat een model statistisch goed presteert en daarom voldoet aan juistheid. Een systeem kan hoog scoren op benchmarks en toch een onjuiste bewering over één persoon doen. De toetseenheid is de afzonderlijke uitspraak over een identificeerbare persoon, niet het gemiddelde van het model.

Juistheid is doelgebonden: gegevens zijn juist als zij kloppen en actueel zijn in relatie tot het specifieke doel waarvoor u ze verwerkt. Een waarschijnlijkheidsinschatting over iemand mag als zodanig worden gemarkeerd, maar een onjuiste feitelijke bewering over een persoon wordt niet juist door een label. Dit onderscheid bepaalt welke controles u moet inbouwen.

Welke fasen van uw workflow moeten controles hebben?

Juistheid moet u per fase toetsen en aantoonbaar maken. Vier fasen dragen de eis:

• Bronselectie — u moet betrouwbare bronnen kiezen, tijdstempels vastleggen en gegevens vóór training valideren.
• Training en fine-tuning — u moet datasets verifiëren, validatie- en testsets gebruiken, garanties van leveranciers documenteren en monitoring met menselijk toezicht instellen.
• Output bij inferentie — u moet hallucinatiedetectie inbouwen en output controleren voordat deze een persoon bereikt.
• Rectificatie — u moet verzoeken om correctie kunnen beoordelen, onjuiste gegevens traceerbaar kunnen corrigeren en opnieuw kunnen testen.

Elke fase moet een controle, een slaagcriterium en een vastlegging hebben. Die vastlegging maakt naleving onder artikel 5 lid 2 AVG aantoonbaar.

Hoe behandelt u rectificatieverzoeken over output?

Wanneer iemand stelt dat uw systeem iets onjuists over hem of haar heeft gezegd, moet u het verzoek kunnen beoordelen. Dit vereist dat u reproductiebewijs vastlegt: de prompts, de context en de output die is gegenereerd. Zonder dat bewijs kunt u het verzoek niet beoordelen en dus niet bepalen of rectificatie nodig is.

De correctie zelf kan op drie lagen plaatsvinden: in de retrievaldatabase waaruit het model informatie haalt, in instructies die u het model geeft om dezelfde output niet opnieuw te genereren, of in de trainingsgegevens zelf. Welke laag geschikt is, hangt af van waar het onjuiste gegeven zich bevindt. Artikel 16 AVG schrijft geen specifiek technisch mechanisme voor generatieve AI voor; u moet kiezen wat werkt.

Welke rollen hebben verificatietools en menselijk oordeel?

Verificatietools kunnen output niet juist maken en nemen uw verantwoordelijkheid onder artikel 5 lid 1 onder d niet over. Hun rol is de controle in de outputfase uit te voeren en aantoonbaar te maken. Een verificatielaag kan een taak langs meerdere onafhankelijke modellen leiden, stappen tonen, correcties documenteren en bronnen aangeven. Dit geeft een professional een basis om afzonderlijke beweringen te beoordelen en een vastlegging van wat is gecontroleerd.

Het eindoordeel over de vraag of een uitspraak over een persoon klopt, blijft echter bij u. Geen tool vervangt uw professionele beoordeling. Dit onderscheid is cruciaal: een systeem kan u helpen controles uit te voeren, maar niet de verantwoordelijkheid dragen.

Verificatie en hallucinatiedetectie zitten op verschillende punten van het inferentiepad. Hallucinatiedetectie probeert onjuiste output te voorkomen voordat deze wordt gegenereerd. Verificatie controleert output nadat deze is gegenereerd. Alleen verificatie gaat over juistheid in de zin van artikel 5 AVG; hallucinatiedetectie is een kwaliteitsmaatregel die verificatie kan ondersteunen.