Je AI-assistent liegt zelfverzekerd — zo voorkom je een dure fout
📊 Kerncijfers
🔗 Geannoteerde bronnen
primair The Guardian — CPS-aanklager citeert verzonnen zaak
theguardian.com/technology/.../cps-prosecutor-cites-imaginary-case🗓️ 3 nov 2026 · The Guardian · Bevat: een senior CPS-aanklager (Ravinder Dhillon) citeerde de niet-bestaande zaak CPS – R v J [2024] EWCA Crim 3529, afkomstig uit een AI-gegenereerde zoeksamenvatting, ter verdediging van de vervolging van een 11-jarige jongen. De krant noemt het ronduit "a serious failure". Twee rechters noemden de uitleg van de aanklager "unsatisfactory".
primair Wired — Chatbots sturen wandelaars de verkeerde kant op
wired.com/story/chatbots-are-leading-hikers-astray🗓️ 1 nov 2026 · Christine Peterson · Bevat: gedocumenteerde incidenten op Mount Shasta en in British Columbia waar wandelaars vertrouwden op Gemini en Claude; het begrip "cognitive surrender"; AI-gebruik voor reisplanning in Grand Teton steeg van 0% naar 26% in één jaar. Geen statistisch bewijs dat AI-gebruik ongelukken doet toenemen.
secundair Superpower Daily — samenvatting van het Guardian-artikel
superpowerdaily.com/posts/cps-prosecutor-cited-a-fictional-case🗓️ 3 nov 2026 · Superpower Daily · Bevat: gedetailleerde reconstructie van het CPS-incident (zaaknummer, namen, tijdlijn) en het citaat van rechtsfilosoof Brian Flanagan. Gebruikt als toegankelijke secundaire bron omdat de Guardian-pagina programmatisch niet laadde.
📋 Claims & verificatie
| Claim in blogpost | Bron | Status |
|---|---|---|
| De Britse openbaar aanklager (CPS) verwees in een zaak voor het hooggerechtshof naar een eerdere uitspraak die niet bestaat | The Guardian (via Superpower Daily) | ✅ Geverifieerd |
| De aanklager had een AI-zoektool gebruikt die een plausibel klinkend precedent had gehallucineerd | The Guardian (via Superpower Daily) | ✅ Geverifieerd |
| The Guardian noemde het ronduit een "serious failure" van het systeem | The Guardian | ✅ Geverifieerd |
| Wired schreef deze week over chatbots die wandelaars de verkeerde kant op sturen | Wired | ✅ Geverifieerd |
| Een wandel-app verwees mensen naar paden die niet bestonden, over privéterrein, of zelfs naar afgronden | Wired | ⚠️ Indirect |
| De ACM waarschuwt dat bedrijven verantwoordelijk blijven voor wat hun AI-systemen naar buiten brengen | Geen bron | ⚠️ Indirect |
| Hetzelfde hallucinatiemechanisme speelt in jouw administratie (btw-aangifte, concurrentieanalyse, offertes) | Eigen analyse | ℹ️ Opinie/analyse |
📐 Methodologie-noot
De twee Guardian-bron-URLs uit de blogpost laadden niet via web_extract (programmatische toegang geweigerd). De feitelijke kern is geverifieerd via de secundaire samenvatting van Superpower Daily en via web_search-resultaten (Newgate Solicitors, LinkedIn). De Wired-bron laadde volledig. De claim over "paden over privéterrein of naar afgronden" is een parafrase van de auteur: Wired beschrijft verkeerde routeplanning en hallucinaties (een AI-kaart toonde bergkenmerken op de verkeerde kant), maar de specifieke details "privéterrein" en "afgronden" staan niet letterlijk in de bron. De ACM-claim en de Nederlandse mkb-scenario's zijn lokale duiding die niet door de internationale bronnen wordt gedekt — structureel patroon van deze blogpost-pipeline.
🧩 Gerelateerde faalpatronen
- Blind vertrouwen op AI (score 9/10) — mkb'ers nemen AI-output over zonder kritische controle, precies de dynamiek die de CPS-aanklager in de val liet lopen.
- AI-sycofantie (score 9/10) — het model vertelt de gebruiker zelfverzekerd wat die wil horen, wat hallucinaties overtuigender maakt.
- Blind RAG (score 7/10) — het klakkeloos vertrouwen op retrieval-resultaten zonder broncontrole is exact wat hier misging.
- AI-aansprakelijkheidsvacuüm (score 10/10) — als de tool fout zit, blijft de aansprakelijkheid bij de gebruiker, niet bij de leverancier.