Stel je voor: je doet je wekelijkse boodschappen, scant netjes alles bij de zelfscankassa, en loopt naar buiten. Een paar tellen later word je staande gehouden door een beveiliger. De AI-camera boven de kassa heeft 'gezien' dat je iets in je tas stopte zonder te betalen. Alleen: je hebt niets gestolen. Dit overkwam onlangs een klant van de Britse supermarktketen Sainsbury's, en het verhaal legt een ongemakkelijke waarheid bloot over de AI-systemen die steeds meer bedrijven omarmen.
Wat er precies gebeurde
Sainsbury's testte in een aantal winkels een AI-gestuurd camerasysteem dat zelfscankassa's in de gaten houdt. Het systeem moet winkeldiefstal automatisch herkennen. Bij één klant sloeg het systeem vals alarm: de camera dacht een diefstal te zien die er niet was. De klant werd publiekelijk aangesproken en voelde zich vernederd. Sainsbury's heeft de test in die winkel per direct gepauzeerd.
Het is een klassiek voorbeeld van een false positive: het systeem zag een patroon dat op diefstal leek, maar dat niet was. En dat is precies het probleem met AI die op basis van waarschijnlijkheid werkt. Een model dat 99 procent accuraat is, maakt bij duizenden klanten per dag tóch elke dag fouten. Bij tienduizend scans per dag betekent 99 procent nauwkeurigheid namelijk honderd foute oordelen — en elk daarvan kan een onschuldige klant raken.
Waarom dit jouw bedrijf raakt
Dit is geen ver-van-mijn-bedshow. Nederlandse retailers, horeca en logistieke bedrijven experimenteren volop met AI-camera's, slimme sensoren en automatische fraudedetectie. Denk aan zelfscankassa's bij supermarkten, toegangscontrole met gezichtsherkenning, of software die 'verdacht' betaalgedrag markeert. Elk van die systemen kan een onschuldige klant of medewerker ten onrechte aanwijzen.
Het verschil met een menselijke fout is groot. Een medewerker die zich vergist, kan zich verontschuldigen en de situatie de-escaleren. Een AI-systeem geeft een hard oordeel zonder context, zonder nuance, en zonder gezicht. De klant voelt zich niet alleen beschuldigd, maar ook machteloos — want tegen wie moet je in beroep gaan als een algoritme je aanwijst?
De Nederlandse realiteit
In Nederland geldt de Algemene Verordening Gegevensbescherming (AVG). Wie AI inzet om klanten te monitoren, verwerkt persoonsgegevens en moet daar een grondslag voor hebben. Bovendien verplicht de Europese AI-verordening bedrijven om bij 'hoog-risico'-toepassingen — en biometrische identificatie valt daar nadrukkelijk onder — transparant te zijn en menselijk toezicht te organiseren. Een systeem dat autonoom klanten beschuldigt zonder dat een mens meekijkt, zit al snel in de gevarenzone.
De Autoriteit Persoonsgegevens kijkt bovendien streng naar cameratoezicht in winkels. Nederlandse supermarkten die zelfscankassa's met camerabewaking inzetten, moeten kunnen uitleggen waarom dat noodzakelijk is en hoe ze fouten corrigeren. Een systeem dat klanten zonder menselijke tussenkomst beschuldigt, past daar niet in.
Verrassend genoeg is het grootste risico niet juridisch, maar commercieel. Eén publiekelijk vals alarm kan jaren van opgebouwd klantvertrouwen in één middag afbreken. In het tijdperk van sociale media verspreidt zo'n verhaal zich razendsnel — en de supermarkt die 'onschuldige klanten beschuldigt' is de kop die blijft hangen.
Wat je wél moet doen
1. Houd altijd een mens in de lus. Laat AI nooit autonoom een klant beschuldigen of een transactie blokkeren. Het systeem mag signaleren, maar een medewerker beslist. Zo vang je false positives af vóór ze een klant bereiken.
2. Test op false positives, niet alleen op trefzekerheid. Vraag je leverancier niet alleen hoe vaak het systeem diefstal wél ziet, maar vooral hoe vaak het onschuldige mensen aanwijst. Een laag false-positive-percentage is belangrijker dan een hoog detectiepercentage.
3. Maak een herstelprotocol. Bepaal van tevoren wat je doet als het systeem iemand ten onrechte aanwijst: wie biedt excuses aan, hoe compenseer je, en hoe voorkom je herhaling. Een snelle, menselijke reactie is het verschil tussen een incident en een reputatiecrisis.
AI kan winkeldiefstal en fraude écht beter helpen bestrijden — maar alleen als je het inzet als hulpmiddel voor mensen, niet als vervanger van hun oordeel. De les van Sainsbury's is simpel: een algoritme dat één onschuldige klant beschuldigt, kost je meer dan honderd dieven die je wél had kunnen pakken.