AI-gezichtsherkenning stuurt onschuldige man de cel in — en jouw bedrijf kan het volgende slachtoffer zijn
📊 Kerncijfers
🔗 Geannoteerde bronnen
primair Wrongful Arrest Exposes Failures in One of the Oldest Police Face-Recognition Tools in the US
wired.com/story/wrongful-arrest-tests-one-of-the-oldest-police-face-recognition-tools-in-the-us🗓️ 11 juni 2026 · Dell Cameron · Uitgebreide reportage over Robert Dillon's onterechte arrestatie, het FACES-systeem, ontbrekend exculperend bewijs, en de ACLU-rechtszaak. Bevat details over 15 bekende onterechte arrestaties door gezichtsherkenning.
secundair AI misidentification results in wrongful arrest; man seeks justice
yahoo.com/news/.../ai-misidentification-results-wrongful-arrest🗓️ juni 2026 · Eli Brand / WSOC-TV · Het parallelle verhaal van Jalil Richardson: 85% AI-match, bijna 3 maanden vast, verloor baan, huis en voogdij. Bevestigt het patroon van Dillon's zaak.
📋 Claims & verificatie
| Claim in blogpost | Bron | Status |
|---|---|---|
| "Robert Dillon, een 52-jarige krabvisser uit Fort Myers, Florida" — identiteit van het slachtoffer | WIRED | ✅ Geverifieerd |
| "werd in augustus 2024 van zijn bed gelicht" — arrestatie-details | WIRED | ⚠️ Indirect |
| "Een AI-systeem dat zijn gezicht met '93 procent zekerheid' matchte aan een korrelige bewakingsfoto" | WIRED | ✅ Geverifieerd |
| "Dillon woonde 500 kilometer van de plaats delict, was er nog nooit geweest" | WIRED | ✅ Geverifieerd |
| "kenteken-scans logenstraffen de match. Toch zat hij vast." — bewijs genegeerd | WIRED | ✅ Geverifieerd |
| "de vijftiende gedocumenteerde onterechte arrestatie op basis van gezichtsherkenning in de VS" | WIRED | ✅ Geverifieerd |
| "FACES — een database met tientallen miljoenen Florida-mugshots en rijbewijsfoto's, operationeel sinds 2001" | WIRED | ✅ Geverifieerd |
| "Tot 2021 hadden meer dan 260 instanties toegang, inclusief de FBI" | WIRED | ✅ Geverifieerd |
| "Een onderzoek uit 2016 vond nul audits op het gebruik van de database" | WIRED | ✅ Geverifieerd |
| "Sheriff Bob Gualtieri... antwoord: 'Nee, niet echt'" — weigering audits | WIRED | ✅ Geverifieerd |
| "FACES meet alleen hoeveel twee foto's op elkaar lijken — niet of ze dezelfde persoon tonen" | WIRED | ✅ Geverifieerd |
| "Jalil Richardson... 85 procent... bijna drie maanden vast, verloor baan, huis, voogdij over twee kinderen" | Yahoo News | ✅ Geverifieerd |
| "De Duitse rechter oordeelde deze week al dat Google aansprakelijk is voor foute AI-antwoorden" | WIRED | ⚠️ Indirect |
| "Jacksonville sheriff zei het zelf: 'Als je bij mij kwam met alleen een gezichtsherkenning-match als bewijs, schopte ik je m'n kantoor uit'" | WIRED | ✅ Geverifieerd |
| "De AVG geeft burgers het recht om niet onderworpen te worden aan uitsluitend geautomatiseerde besluitvorming" | — | ℹ️ Opinie/analyse |
| Drie MKB-actiepunten (AI-uitkomsten als startpunt, check beveiligingssystemen, documenteer AI-gebruik) | — | ℹ️ Opinie/analyse |
📝 Methodologie-noot
Verificatie op basis van twee bronnen: WIRED (Dell Cameron) en Yahoo News/WSOC-TV (Eli Brand). De arrestatie-maand "augustus 2024" is niet expliciet in de WIRED-bron — deze vermeldt dat het incident november 2023 was, het arrestatiebevel juli 2024 werd ingediend, en de arrestatie plaatsvond tijdens het krabseizoen. De claim over de Duitse rechter verwijst naar een andere aivoer.nl-blogpost en is niet in deze bronnen te verifiëren. De AVG-vermelding en MKB-actiepunten zijn eigen analyse van de auteur. Opvallend: de Duitse rechter-claim is gecheckt tegen de bronnen voor dit dossier (Dillon-zaak) en komt daar niet in voor — de claim is cross-referentie naar een andere blogpost (dossier 116).
🧩 Gerelateerde faalpatronen
- #7 Blind vertrouwen in AI-output — Agenten behandelden een AI-gelijkenisscore als sluitend bewijs en negeerden ontlastend bewijsmateriaal. De 93%-score meet gelijkenis, niet identiteit.
- #15 Regulatory attribution drift — De blogpost noemt AVG correct, maar de casus speelt in de VS (andere jurisdictie). De Duitse rechter-claim is een cross-referentie naar een andere zaak.
- #24 Legal claim simplification — De claim over AVG-recht op niet-geautomatiseerde besluitvorming is correct maar de toepassing op de Amerikaanse casus vereist nuance.