Een verkeerd verzonnen feit in een AI-rapport bracht deze week bijna een militair incident teweeg. Amerikaanse militairen stonden op het punt een Chinees schip te enteren, op basis van een rapport dat door een AI was opgesteld — maar de nucleaire componenten waar het rapport over ging, bestonden niet. De AI had ze verzonnen.
Wat er misging
Het incident, gerapporteerd door Ars Technica, laat zien hoe een hallucinatie — het fenomeen waarbij een AI zelfverzekerd iets beweert dat niet klopt — in de echte wereld bijna catastrofale gevolgen had. Het systeem produceerde een gedetailleerd en overtuigend ogend rapport over nucleaire onderdelen aan boord van een schip. Pas op het laatste moment werd duidelijk dat geen van de details klopte.
Het angstaanjagende is niet dat de AI een fout maakte. Het is dat de fout er exact uitzag als waarheid: specifiek, gedetailleerd en met overtuiging gebracht. En dat is precies de eigenschap die hallucinaties zo gevaarlijk maakt in elke professionele context.
Waarom dit jouw bedrijf raakt
Je hoeft geen generaal te zijn om met hallucinaties te maken te krijgen. Iedereen die een AI-tool gebruikt om e-mails te schrijven, offertes op te stellen of klantvragen te beantwoorden, kent het fenomeen: de AI verzint een datum, een bedrag of een beleidsregel, en presenteert die als feit. In een militaire context leidde dat bijna tot een conflict. In jouw bedrijf leidt het tot verkeerde offertes, foute adviezen aan klanten en onjuiste rapportages.
Verrassend genoeg is het grootste risico niet dat de AI een fout maakt, maar dat jij die fout niet opmerkt. Omdat hallucinaties er zo overtuigend uitzien, neemt de controlediscipline van mensen af. We gaan blind vertrouwen op iets dat er betrouwbaar uitziet maar het niet is.
De Nederlandse realiteit
Ook in Nederland zijn de eerste schadegevallen zichtbaar. Denk aan een verzekeringskantoor dat een AI-assistent klantvragen laat beantwoorden zonder menselijke controle, of een juridisch dienstverlener die een model conceptbrieven laat opstellen. Wanneer de AI een wetsartikel of polisvoorwaarde verzint, komt dat pas aan het licht wanneer de klant er al op heeft vertrouwd. De Autoriteit Persoonsgegevens en de ACM kijken steeds strenger naar bedrijven die AI inzetten zonder adequate controle op de uitkomsten.
Maar er is een tweede effect dat vaak over het hoofd wordt gezien: hallucinaties stapelen zich op. Wanneer een AI-rapport met een klein foutje de basis wordt voor een volgend AI-rapport, wordt de fout groter en moeilijker te herleiden. In een mkb-bedrijf waar één medewerker de AI-uitkomsten gebruikt om een volgende collega te informeren, kan een verzonnen cijfer binnen een week als vaststaand feit in je administratie staan.
De kosten van niets doen
De prijs van een onopgemerkte hallucinatie is concreet. Een verkeerde offerte kan een klant kosten. Een verzonnen juridische claim kan een claim op jouw aansprakelijkheid opleveren. Een fout cijfer in een jaarrapportage kan leiden tot verkeerde investeringsbeslissingen. Een simpel controlesysteem — een mens die AI-uitkomsten altijd naléést vóór ze de deur uitgaan — kost niets, maar bespaart duizenden euro's aan herstelwerk.
Wat je nu kunt doen
Maak een menselijke controle verplicht. Geen enkel AI-gegenereerd document verlaat je bedrijf zonder dat een mens de kernfeiten, bedragen en namen heeft gecontroleerd. Dit is de enige maatregel die hallucinaties structureel vangt.
Vraag de AI om bronnen. Stel je AI-tool in om bij feitelijke claims altijd een bron te vermelden. Geen bron? Dan is de claim verdacht en moet je hem zelf verifiëren.
Beperk AI tot taken waar fouten zichtbaar zijn. Laat AI kladversies en samenvattingen maken, maar houd de eindverantwoordelijkheid voor cijfers, juridische teksten en klantcommunicatie expliciet bij mensen.
Een AI die hallucineert is geen reden om de technologie links te laten liggen. Het is een reden om de menselijke controle serieus te nemen — want de AI die bijna een schip liet enteren, had maar één ding nodig: iemand die de details checkte.
Neem een makelaarskantoor dat een AI-tool laat samenvatten wat de gemeente over een bestemmingsplan zegt. De AI verzint een bepaling over bouwhoogte die niet bestaat, de makelaar neemt die over in zijn advies, en de koper baseert zijn bod erop. Maanden later blijkt het plan helemaal geen hoogtebeperking te hebben — maar het bod is al uitgebracht. Zo werkt een hallucinatie in de praktijk: niet spectaculair, maar duur.