Fifth Circuit sanctioneert niet-gecontroleerde AI-citaten

U bent aansprakelijk voor elke claim die u met AI-gegenereerde inhoud indient of waarop u een beslissing baseert. Verificatie is niet optioneel en een disclaimer biedt geen verweer.

De aanleiding is een analyse van 22 oktober 2026 van claimniveau-verificatie in AI-ondersteunde besluitvorming, die aantoont dat taalmodellen plausibel ogende onwaarheden genereren en dat algemene waarschuwingen verificatie niet afdwingen. Het concrete geval: een advocaat diende een beroepschrift in met door AI opgestelde, niet-geverifieerde citaten, waarvan sommige verzonnen waren. In onze beoordeling betekent dit dat u niet kunt vertrouwen op de vorm of gezaghebbendheid van een AI-gegenereerde bronverwijzing, maar moet controleren of de aangehaalde passage de concrete bewering werkelijk draagt — en dat moet aantoonbaar gebeuren voordat u handelt.

Wat ging er mis in de rechtszaak?

Het United States Court of Appeals for the Fifth Circuit legde in februari 2026 een advocaat een geldboete op nadat zij een beroepschrift met AI-gegenereerde inhoud had ingediend zonder verificatie. De inhoud bevatte onjuiste citaten, verzonnen verwijzingen en feitelijke misrepresentaties. Het hof benadrukte dat bestaande beroeps- en procesregels onverkort gelden, ongeacht welk gereedschap de tekst produceert. De verantwoordelijkheid van de ondertekenaar verandert niet doordat AI is gebruikt.

De sanctie volgde niet uit het gebruik van AI zelf, maar uit het indienen van overtuigend geformuleerde onwaarheden zonder verificatie. Dit onderscheid bepaalt wat u nu moet inrichten: niet het verbieden van AI, maar het structureel waarborgen dat elke claim voordat zij wordt gebruikt aan een primaire bron is getoetst.

Hoe betrouwbaar zijn AI-gegenereerde citaten?

Taalmodellen voorspellen waarschijnlijke taal; zij bewijzen geen waarheid. Daardoor kunnen zij een geloofwaardige bronverwijzing genereren die niet bestaat of inhoudelijk niet klopt. Een peer-reviewed evaluatie in de neurocritical care illustreert dit: van 300 door taalmodellen gegenereerde referenties bevatten 165 een onjuistheid en waren 85 volledig verzonnen. Dit getal geldt specifiek voor zero-shot, retrieval-vrije interfaces zonder gekoppelde bronnen en mag niet als universeel foutpercentage voor alle modellen of workflows worden gelezen.

Gespecialiseerde onderwerpen met dunne of versnipperde brondekking verdienen extra aandacht. Een lezer herkent verzonnen of onjuiste citaten niet betrouwbaar op het oog, omdat zij dezelfde vorm hebben als echte. U controleert daarom niet of de verwijzing bestaat, maar of de aangehaalde passage de concrete bewering werkelijk draagt.

Welke faalmodi moet u beheren?

• Verzonnen citaten — bronverwijzingen die niet bestaan, gegenereerd omdat het model waarschijnlijke taal voorspelt.
• Onjuiste citaten — verwijzingen die wel bestaan maar de aangehaalde passage draagt de bewering niet.
• Feitelijke misrepresentatie — claims die toevallig juist kunnen zijn maar zonder bronsteun staan.
• Vertrouwen in vorm — AI-output ziet er gezaghebbend uit, wat verificatie ontmoedigt.
• Disclaimer-illusie — waarschuwingen in beleid of tooling dwingen verificatie niet af en bieden geen verweer.

Welke controles moet u kunnen aantonen?

1. Registreer elke claim met bronsteun — documenteer welke primaire bron welke bewering draagt, met verwijzing naar de precieze passage.
2. Voer verificatie uit voordat u handelt — laat een bevoegde professional de bronsteun controleren voordat de inhoud wordt ingediend of gebruikt.
3. Leg de verificatie vast met naam, datum en uitkomst — maak aantoonbaar wie wat heeft gecontroleerd en wat de bevinding was.
4. Escaleer hoog-risicobeslissingen — stuur juridische, medische of financiële uitkomsten volgens uw risicobeleid naar een bevoegde professional.
5. Overweeg onafhankelijke tweede beoordeling — voor kritische beslissingen laat u de verificatie door een ander controleren.

Hoe bouw je dit structureel in?

Houd drie dingen gescheiden: feitelijke juistheid, bronondersteuning en juridische verantwoordelijkheid. Een claim kan toevallig juist zijn en toch zonder bronsteun; en zelfs een beslissing die met een menselijke referentie overeenkomt, kan onvoldoende door bronnen gedragen worden. Dezelfde logica keert terug in groeiende verificatieplichten bij AI-ondersteund juridisch onderzoek en in rechterlijke uitspraken over aansprakelijkheid voor chatbot-output.

Een disclaimer verschuift de controle naar de gebruiker, maar zorgt er niet voor dat die controle daadwerkelijk gebeurt. Onderzoek toont aan dat algemene waarschuwingen zwakke of gemengde effecten hebben. Een los waarschuwingsvinkje in beleid of tooling is daarom geen verdedigbare beheersmaatregel; het bewijst niet dat iemand de output werkelijk heeft getoetst.

Tooling kan u helpen bronnen te traceren en verificatiestappen vast te leggen, maar het vervangt niet uw professionele oordeel. U bepaalt welke claims kritisch zijn, wie ze moet controleren en wanneer u een tweede beoordeling nodig hebt. De machine genereert; u verifieert en ondertekent.