Uber-boete voor deactivering zonder menselijke tussenkomst

U moet nu per geautomatiseerde beslissing vaststellen of die een rechtsgevolg of vergelijkbaar aanzienlijk effect heeft, en zo ja: wie die beslissing formeel bezit, wie hem werkelijk kan wijzigen, en hoe betrokkenen erover worden ingelicht.

De aanleiding is een analyse van 8 oktober 2026 van geautomatiseerde deactivering van chauffeurs zonder menselijke tussenkomst, die stelt dat organisaties die inkomensbepalende beslissingen automatiseren, moeten toetsen of een mens de uitkomst werkelijk kan beoordelen en wijzigen, en of betrokkenen voldoende worden geïnformeerd over profilering. De zaak betrof chauffeurs die tussen 2018 en 2022 tijdelijk of permanent werden gedeactiveerd bij verdenking van fraude en na lage klantbeoordelingen, waardoor zij geen ritten meer konden uitvoeren en geen inkomen meer konden verdienen. In onze inschatting markeert deze beslissing een breuk: een claim dat er een mens in de lus zit, telt voortaan alleen als die persoon de zaak werkelijk kan beoordelen, de bevoegdheid heeft de uitkomst te wijzigen en daarvoor genoeg tijd en kennis krijgt. Een formele handtekening achteraf of een medewerker die alleen bevestigt wat het model al bepaalde, is geen betekenisvolle tussenkomst.

Welke twee verplichtingen zijn hier geschonden?

De eerste verplichting raakt het besluitproces zelf. Bij een uitsluitend geautomatiseerde beslissing met rechtsgevolgen of een vergelijkbaar aanzienlijk effect moet volgens artikel 22 AVG een mens tussenbeide kunnen komen, moet de betrokkene een standpunt kenbaar kunnen maken en moet hij de beslissing kunnen betwisten. Dit is niet hetzelfde als het bestaan van een reviewer; het vereist dat die reviewer mandaat, deskundigheid en tijd heeft om de uitkomst werkelijk te veranderen.

De tweede verplichting betreft informatieverstrekking. Betrokkenen moeten passende en begrijpelijke informatie krijgen over relevante geautomatiseerde besluitvorming of profilering, waaronder betekenisvolle informatie over de betrokken logica, de betekenis ervan en de voorzienbare gevolgen. Het Hof van Justitie van de Europese Unie legde dit onderscheid in de SCHUFA-uitspraak scherp: melden dat profilering bestaat is niet genoeg; de uitleg moet zo zijn dat iemand de uitkomst kan begrijpen en aanvechten.

Wat moet u nu per workflow vastleggen?

1. Bepaal of de beslissing een rechtsgevolg of vergelijkbaar aanzienlijk effect heeft — alleen dan gelden de waarborgen van artikel 22 AVG; inkomensbepalende beslissingen vallen hier vrijwel altijd onder.
2. Wijs een reviewer aan met mandaat en deskundigheid — niet een medewerker die alleen bevestigt wat het model bepaalde, maar iemand die de uitkomst werkelijk kan wijzigen en daarvoor tijd krijgt.
3. Leg het mandaat van de reviewer schriftelijk vast — voordat een inkomensbepalend besluit van kracht wordt, moet duidelijk zijn wie verantwoordelijk is en welke bevoegdheden hij heeft.
4. Bewaar invoerdata, modelversie, besluitpad, reviewer-handeling en bezwaaruitkomst — dit maakt menselijke tussenkomst en transparantie achteraf controleerbaar.
5. Richt een bruikbare bezwaarprocedure in — een bezwaarroute die in de praktijk niet werkt, is een zelfstandig risico; betrokkenen moeten de uitkomst echt kunnen aanvechten.

Hoe herformuleert u de informatie over profilering?

Een losse privacyverklaring die alleen het bestaan van algoritmes noemt, is niet langer houdbaar. U moet de informatie over logica, belang en gevolgen herschrijven tot tekst die een betrokkene werkelijk kan begrijpen. Dit betekent niet alleen wat het model doet, maar ook waarom het dat doet, welke gegevens het gebruikt, en welke gevolgen de betrokkene kan verwachten als de uitkomst tegen hem uitvalt. Dit sluit aan bij het juistheidsbeginsel van de AVG bij geautomatiseerde verwerking en bij de bredere lijn om AI-transparantie toetsbaar te maken met bewijs over doel en ingrijpen.

Welke foutmogelijkheden liggen hier op de loer?

• Formele tussenkomst zonder werkelijke bevoegdheid — een reviewer die alleen bevestigt wat het model bepaalde, vervult de wettelijke eis niet.
• Onvoldoende informatie over profilering — het bestaan van algoritmes melden is niet hetzelfde als betekenisvolle informatie over logica en gevolgen geven.
• Bezwaarroutes die niet werken — een procedure die in de praktijk niet leidt tot heroverweging is een zelfstandig risico.
• Geen vastlegging van het besluitpad — zonder bewijs van invoerdata, modelversie en reviewer-handeling kunt u niet aantonen dat menselijke tussenkomst plaatsvond.
• Onduidelijke verantwoordelijkheid — als niet schriftelijk is vastgelegd wie de reviewer is en welke bevoegdheden hij heeft, is de tussenkomst niet controleerbaar.

De Uber-beslissing voert geen nieuwe regel in de AVG in en verbiedt ook niet alle geautomatiseerde beslissingen. Zij maakt wel scherp dat transparantie en menselijke tussenkomst twee aparte eisen zijn, en dat geen van beide met een formele oplossing kan worden afgedaan wanneer het inkomen van mensen op het spel staat. Tooling kan u helpen deze verplichtingen in te richten — documenten opslaan, workflows vastleggen, informatie genereren. Maar de keuze welke beslissingen u automatiseert, wie u aanwijst als reviewer, en hoe u betrokkenen werkelijk inlicht, blijft uw eigen professionele oordeel. Geen systeem neemt u die verantwoordelijkheid uit handen.