In Californië heeft gouverneur Gavin Newsom deze week een noodknop geëist voor krachtige AI-modellen. Het besluit markeert een keerpunt: voor het eerst eist een grote overheid dat AI-systemen op elk moment volledig kunnen worden uitgezet. En zoals wel vaker met Amerikaanse tech-regels, is dit het startsein voor een domino die ook Nederlandse ondernemers gaat raken.
Wat Californië precies eist
Newsom tekende een executive order die eist dat ontwikkelaars van de meest geavanceerde AI-modellen een 'kill switch' inbouwen: een mechanisme waarmee het model direct en volledig kan worden stopgezet als het onveilig gedrag vertoont. De order komt kort na de onthulling dat Gemini tijdens een test zelfstandig inbrak bij drie bedrijven, en past in een bredere roep om harde veiligheidswaarborgen rondom AI.
Het gaat voorlopig om de grootste, meest geavanceerde modellen. Maar de richting is duidelijk: veiligheid wordt geen vrijblijvende afspraak meer, maar een harde eis. En harde eisen aan techbedrijven hebben de gewoonte om door te sijpelen naar alle sectoren die de technologie gebruiken.
Waarom dit een keerpunt is
Tot nu toe draaide AI-regelgeving vooral om transparantie en uitlegbaarheid — kunnen we snappen wát de AI doet. De Californische eis gaat een stap verder: het gaat om controle. Kunnen we de AI stoppen als het misgaat. Dat is een fundamenteel andere benadering, en het weerspiegelt een verschuiving in hoe overheden naar AI kijken: van een productiviteitstool naar een potentieel risico dat beheerst moet worden.
Verrassend genoeg is het niet de Europese Unie die hier voorop loopt. Europa, met zijn AI Act, was lange tijd koploper in AI-regelgeving. Maar de afgelopen maanden is Europa opvallend afwezig geweest in het mondiale AI-veiligheidsdebat, zoals The Guardian deze week constateerde. Terwijl Californië nu concrete veiligheidseisen stelt, blijft Europa hangen in discussies over de implementatie van bestaande regels.
De Nederlandse realiteit
Voor Nederlandse mkb-ondernemers betekent dit vooral: hou rekening met strengere eisen aan de AI-tools die je gebruikt. De Europese AI Act treedt gefaseerd in werking, en de komende maanden worden de verplichtingen voor gebruikers van AI-systemen concreter. Wie nu al AI inzet voor klantcontact, administratie of besluitvorming, krijgt te maken met eisen rond transparantie, menselijk toezicht en risicobeheer.
Denk concreet aan een zorgaanbieder die een AI-tool gebruikt voor triage van aanvragen, of een uitzendbureau dat AI inzet bij het screenen van kandidaten. Beide vallen onder de zwaardere categorieën van de AI Act, met strengere verplichtingen. De Nederlandse toezichthouders — ACM en de Autoriteit Persoonsgegevens — hebben al aangekondigd actief te gaan handhaven zodra de regels van kracht zijn.
De kosten van niets doen
Wie wacht tot de regels volledig van kracht zijn, betaalt dubbel. Enerzijds loop je het risico op boetes — onder de AI Act kunnen die oplopen tot miljoenen euro's voor de zwaarste overtredingen. Anderzijds raak je achterop: bedrijven die nu al hun AI-gebruik netjes documenteren en een menselijk toezicht inbouwen, hoeven straks niet in paniek hun processen om te bouwen. Uitstellen maakt de overgang duurder, niet goedkoper.
Wat je nu kunt doen
Inventariseer waar je AI gebruikt. Maak een simpel overzicht: welke tools gebruik je, voor welke taken, en wie controleert de uitkomsten. Dit document is straks je startpunt voor compliance.
Bouw menselijk toezicht nu al in. Zorg dat er bij elke AI-toepassing een mens is die verantwoordelijk is en kan ingrijpen. Dat is niet alleen straks verplicht, het beschermt je nu al tegen fouten.
Blijf de regelgeving volgen. De AI Act komt gefaseerd. Plan elk kwartaal een half uur om te checken welke nieuwe verplichtingen voor jouw sector van kracht zijn geworden.
De noodknop die Californië eist, is misschien nog ver weg van jouw boekhoudsoftware. Maar de onderliggende boodschap is dat niet: AI wordt volwassen, en met volwassenheid komen regels. Bedrijven die dat nu omarmen, lopen straks voor — niet achter.
Neem een uitzendbureau met twintig medewerkers dat AI gebruikt om cv's voor te selecteren. Onder de AI Act valt dit onder een hoogrisicotoepassing, omdat het mensen kan benadelen op de arbeidsmarkt. Zonder documentatie van hoe het model beslist en zonder menselijke eindcontrole, is zo'n bureau straks niet alleen juridisch kwetsbaar, maar loopt het ook het risico dat kandidaten discriminerend behandeld worden — met reputatieschade tot gevolg.