Het Patroon
AI-agent stacks bestaan uit meerdere stappen (tool calls, reasoning, verificatie, externe API's). Elke stap heeft een faalkans. Die faalkansen stapelen zich exponentieel, niet lineair. Een systeem dat "99% betrouwbaar" lijkt per stap, kan in de praktijk falen bij 1 op de 5 runs.
De Wiskunde
- 1 stap à 99% = 99% overall betrouwbaarheid
- 5 stappen à 99% = 0.99⁵ = 95% betrouwbaar — 1 op de 20 runs faalt
- 20 stappen à 99% = 0.99²⁰ = 82% betrouwbaar — bijna 1 op de 5 runs faalt
- 50 stappen à 99% = 0.99⁵⁰ = 60% betrouwbaar — 4 op de 10 runs falen
En dit is met een optimistische 99% per stap. In de praktijk is 95-97% realistischer voor veel AI-tool calls. Dan faalt een 20-staps systeem al 35-64% van de tijd.
"Even at 99% reliability per step, which is extremely optimistic, a 20-step process only succeeds 82% of the time." — LinkedIn, AI Agent Failures analysis
Waarom dit een MKB-nachtmerrie is
- MKB gebruikt langere chains: Omdat MKB goedkopere, minder capabele modellen gebruikt, moeten ze meer stappen inbouwen om hetzelfde resultaat te krijgen. Meer stappen = meer compounding.
- Geen fallback-infrastructuur: Enterprise AI-stacks hebben retry logic, circuit breakers, en human-in-the-loop fallbacks. MKB-chains falen gewoon.
- Schade is onzichtbaar: Een mislukte AI-run produceert vaak géén error — het produceert een verkeerd resultaat dat er plausibel uitziet. De MKB'er ziet het pas als de klant belt.
- Kritische processen zonder vangnet: Facturatie, voorraadbeheer, contractgeneratie — als die AI-chain faalt, is er geen mens die het opvangt.
Gedocumenteerde Voorbeelden
- Beverage overproductie (CNBC): Meerstaps AI-chain herkende nieuwe labels niet → herhaaldelijke productieruns → tonnen overtollig product
- Klantenservice refund-lek (IBM): AI-agent + review-systeem interactie → onterechte terugbetalingen schaalden op
- ChatGPT juridische cascade (Nippon Life): 44+ AI-gegenereerde processtukken, elk met compounding fouten (fictieve citaten leidden tot nieuwe fictieve citaten)
Het "Stille Falen" Fenomeen
De kern van dit patroon is dat de fout geen crash is — het is een subtiel verkeerd resultaat. Het systeem eindigt in een plausible maar foute staat. Dit is fundamenteel anders dan traditionele software bugs (die crashen of zichtbaar falen). AI faalt plausibel — en dat is gevaarlijker.
Preventie voor MKB
- Minimaliseer ketenlengte: Gebruik één krachtig model met één prompt in plaats van 5 zwakke stappen
- Verificatie-stap verplicht: Elke AI-chain moet eindigen met een validatiestap — "klopt dit resultaat?"
- Deterministische sanity checks: Na elke AI-stap een regelgebaseerde check (bijv. "is het bedrag > 0?", "bestaat dit productnummer?")
- Circuit breaker: Bij financiële acties (> €X) altijd menselijke goedkeuring — ongeacht AI-confidence
Pattern Status
Nieuw gedocumenteerd, mei 2026. Signalen komen uit meerdere onafhankelijke bronnen (CNBC, LinkedIn engineering analyses, MindStudio, rechtbankverslagen). Dit patroon is de mechanische verklaring voor waarom blind-vertrouwen tot schade leidt — het compounding effect maakt blind vertrouwen exponentieel gevaarlijker naarmate AI-ketens langer worden.
Gerelateerde patronen
- blind-vertrouwen: Gebrek aan verificatie activeert het compounding effect
- ai-verkeerde-prikkels: Verkeerde metrics verergeren compounding — elke stap optimaliseert voor het verkeerde doel
- agent-autonomie-zonder-grenzen: Hoe autonomer de agent, hoe langer de chain, hoe sterker de compounding