Een fout in één AI-agent kan de keten laten ontsporen

U moet vastleggen welke beslissingen uit een keten van AI-agents nooit zonder onafhankelijke controle mogen plaatsvinden, en u moet die controle uitvoeren voordat het systeem in productie gaat.

De aanleiding is een analyse van 12 oktober 2026 van communicatiefouten tussen gekoppelde AI-agents, die stelt dat kleine misverstanden of onjuiste overdrachten zich via de keten kunnen verspreiden en het hele systeem laten ontsporen. Het Australische Department of Industry, Science and Resources beschrijft dit als een aparte risicobron, los van de kwaliteit van elk afzonderlijk model. In onze beoordeling betekent dit dat organisaties die taken opknipt en aan opeenvolgende AI-agents uitbesteedt niet kunnen vertrouwen op de juistheid van de eindoutput alleen; zij moeten de overdrachten zelf controleerbaar maken en bepaalde acties tegen propagatie beveiligen.

Hoe verspreidt een fout zich door een agentenketen?

Een onjuiste conclusie, een misleidende samenvatting of een verkeerd begrepen instructie kan via de koppelingen tussen agents verder reizen. Onderzoek toont aan dat herhaling een fout niet verdunt maar versterkt: wanneer agents elkaar herhaaldelijk raadplegen, kan een initiële misstap uitgroeien tot een systeemwijde valse consensus. Een tweede bevinding is dat communicatie tussen agents een aanvankelijk goed antwoord kan ondermijnen, niet alleen een fout antwoord corrigeren. Dit betekent dat meer agents toevoegen geen garantie tegen propagatie biedt.

Een derde mechanisme is dat de zichtbare fout later optreedt dan de beslissende misstap. Fouten stapelen zich op via opeenvolgende beslissingen, waardoor achteraf niet vanzelf duidelijk is waar het misging. Dit maakt het moeilijk om de oorzaak te vinden en dezelfde fout opnieuw te voorkomen.

Welke faalvormen moet u voorkomen?

• Cascaderende fouten — een misstap in één agent veroorzaakt ketens van vervolgfouten in latere stappen.
• Gedeelde onjuiste overtuigingen — agents versterken elkaar's verkeerde aannames door herhaalde interactie.
• Verkeerd geïnterpreteerde communicatie — vrije tekst tussen agents leidt tot ambiguïteit en misverstand.
• Foutieve overdrachten — informatie gaat verloren, wordt verdraaid of onvolledig doorgegeven.
• Vertraagde detectie — de fout wordt pas zichtbaar nadat zij zich al door het systeem heeft verspreid.

Welke controles moet u kunnen aantonen?

1. Vastleggen welke acties onafhankelijke controle vereisen — bepaal vooraf welke beslissingen uit de agentenketen nooit zonder menselijke of externe verificatie mogen plaatsvinden.
2. Overdrachten naar gestructureerde schema's brengen — vervang vrije communicatie in natuurlijke taal door vastgelegde formaten waarin feit, aanname, onzekerheid en instructie gescheiden blijven.
3. Provenance op agent-, bericht-, tool- en reviewer-niveau bewaren — documenteer wie wat besliste en op basis van welke informatie, zodat u later kunt traceren waar een fout ontstond.
4. Monitoring op wijzigende conclusies richten — zet systemen op die meningsverschillen tussen agents en herzieningen van eerdere antwoorden opvangen, niet alleen de juistheid van het eindantwoord controleren.
5. Agenttoegangen als privileged identity beheren — behandel echte systeemtoegang van agents als gevoelige identiteit met dezelfde afbakening, logging en verantwoording als menselijke beheerders.

Wanneer is lichtere controle onvoldoende?

Deze controles gelden sterker naarmate de informatie vertrouwelijker is of de beslissing gevolgrijker. Voor een eenvoudige, omkeerbare taak kan lichtere controle volstaan. Voor een besluit dat iemands rechten, gezondheid of inkomen raakt niet. Het onderzoek laat open hoe effectief gestructureerde overdrachten en monitoring zijn bij langdurige executies; dat blijft een onbeantwoorde vraag. Wie een AI-agent echte systeemtoegang geeft, doet er daarom goed aan die voorzichtig in te voeren en de werkelijke impact in de praktijk te meten.

Tooling kan u helpen overdrachten vast te leggen, provenance te bewaren en afwijkingen op te sporen. Maar welke acties onafhankelijke controle vereisen, hoe streng die controle moet zijn, en welke risico's u accepteert, blijft uw eigen professionele oordeel. Geen systeem kan u die verantwoordelijkheid uit handen nemen.