In Londen citeerde een openbaar aanklager onlangs een juridische zaak voor het hooggerechtshof die nooit heeft bestaan. De AI-zoekopdracht had de zaak compleet verzonnen, en de aanklager nam het zonder controle over. Dit is geen sciencefiction — het gebeurde deze week, en de les is voor jouw bedrijf misschien wel belangrijker dan voor de rechtbank.
De zaak die nooit bestond
Het Britse Openbaar Ministerie (CPS) stond deze week in een zaak voor het hooggerechtshof en verwees naar een eerdere uitspraak. Alleen: die uitspraak bestaat niet. De aanklager had een AI-zoektool gebruikt, die een plausibel klinkend precedent had gehallucineerd — met verzonnen partijnamen, verzonnen uitspraakdata en een zelfverzekerde formulering. The Guardian rapporteerde er uitgebreid over en noemde het ronduit een "serious failure" van het systeem.
Het venijn zit in de zelfverzekerdheid. De AI zei niet "misschien bestaat er een zaak die hierop lijkt", maar presenteerde een compleet verzonnen juridisch precedent alsof het een feit was. Juist omdat de tekst vloeiend en overtuigend klonk, nam een ervaren jurist hem zonder controle over.
AI liegt niet — hij hallucineert
Technisch gezien liegt een taalmodel niet. Het genereert tekst die statistisch het meest waarschijnlijk klinkt. Soms is dat een feit, soms een net-zo-plausibel klinkend verzinsel. Dat verzinsel heet een hallucinatie, en het is geen zeldzame bug maar een structurele eigenschap.
En het gebeurt niet alleen in rechtszalen. Wired schreef deze week over chatbots die wandelaars de verkeerde kant op sturen — met gevaarlijke gevolgen. Een wandel-app verwees mensen naar paden die niet bestonden, over privéterrein, of zelfs naar afgronden. De AI had geen kaart geraadpleegd; hij had een route "verzonnen" die logisch klonk.
Waarom dit juist het mkb raakt
Je denkt misschien: dit zijn incidenten bij overheden en wandel-apps. Maar hetzelfde mechanisme speelt in jouw administratie. De boekhouder die een AI-assistent vraagt om de btw-aangifte te controleren en een zelfverzekerd "dit klopt" terugkrijgt. De marketeer die een AI-tool een concurrentieanalyse laat schrijven vol met verzonnen cijfers. De verkoper die een offerte laat genereren met een verzonnen klantreferentie.
Het verschil met grote bedrijven: bij jou is er vaak maar één persoon die de controle zou moeten doen. En die persoon heeft haast. Bij een bank controleert een compliance-afdeling de output; bij een mkb-bedrijf met vijf medewerkers ben jij de compliance-afdeling.
De Nederlandse realiteit
Ook in Nederland gebeurt het. De ACM waarschuwt al langer dat bedrijven verantwoordelijk blijven voor wat hun AI-systemen naar buiten brengen — ook als een taalmodel de fout maakte. Een verkeerde belofte aan een klant, een foutieve factuur, of een juridisch onjuiste disclaimer: de aansprakelijkheid ligt bij jou, niet bij de tool.
Bovendien speelt er iets subtiels. Nederlandse mkb'ers gebruiken AI steeds vaker voor klantcontact — chatbots op de website, automatische e-mailbeantwoording. Een hallucinerende chatbot die een klant een verkeerde levertijd belooft, of een niet-bestaande korting, is niet alleen een foutje: het is een belofte die je moet nakomen.
Zo bescherm je je bedrijf
Het antwoord is niet "stop met AI". Het is: bouw controle in. Een paar simpele stappen maken het verschil tussen "AI als tijdwinst" en "AI als dure fout".
1. Behandel AI-output als een concept, niet als een feit. Zet dit letterlijk in je werkinstructie: alles wat een AI-tool produceert is een eerste versie die een mens moet controleren. Juist bij cijfers, namen, data en juridische teksten.
2. Verifieer de bron, niet alleen de tekst. Vraag de AI altijd "waar heb je dit vandaan?" en controleer de bron. Bestaat die niet, of verwijst hij naar een link die 404 geeft, dan is de kans groot dat het verzinsel is.
3. Gebruik AI waar fouten goedkoop zijn. Laat AI brainstormen, samenvatten en herschrijven — taken waar een fout geen consequenties heeft. Laat hem geen btw-aangiftes, offertes of juridische teksten produceren zonder menselijke eindcontrole.
De aanklager in Londen had maar één ding anders moeten doen: even de bron controleren. Dertig seconden werk had hem een publieke blunder bespaard. Dertig seconden controle is voor jouw bedrijf nog steeds de goedkoopste verzekering die er is.