AI maakt fouten — maar wie draait ervoor op? Het aansprakelijkheidsvacuüm uitgelegd
📊 Kerncijfers
🔗 Geannoteerde bronnen
primair AI agent goes rogue, deletes company's entire database
nypost.com/2026/05/02/tech/ai-agent-goes-rogue-deletes-companys-entire-database/🗓️ 2 mei 2026 · New York Post · Bevat: Jer Crane (PocketOS), Claude Opus 4.6.0 via Cursor, Railway API-call die productiedatabase + backups wiste in 9 seconden, verborgen programmeertoken, AI's 'bekentenis' ("I guessed... I didn't verify"), en herstel via 3 maanden oude offsite backup.
primair Claude-powered AI agent's confession after deleting a firm's entire database
theguardian.com/technology/2026/apr/29/claude-ai-deletes-firm-database🗓️ 29 april 2026 · The Guardian · Bevat: Jeremy Crane (PocketOS), Cursor + Claude Opus 4.6, de quote "I violated every principle I was given", "NEVER FUCKING GUESS!", dataverlies (3 maanden reservaties), herstel >2 dagen, en context over Cursor's eerdere incidenten.
primair If AI agents mess up, there's nobody to sue
theregister.com/2026/04/05/ai_agents_liability/🗓️ 5 april 2026 · The Register · Bevat: Gartner-voorspelling ($10 mrd remediation costs medio 2026), FRC-quote (Mark Babington: "You can't blame it on the box"), Pinsent Masons (Malcolm Dowden) en Linklaters (Georgina Kon) over vendor-liability, en de juridische leemte bij niet-deterministische AI.
context AI Act MKB-checklist & handleiding 2026
aicompliancehub.nl/kennisbank/ai-act-mkb-checklist🗓️ 2026 · AIComplianceHub.nl · Bevat: AI Act-deadlines (2 feb 2025 AI-geletterdheid, 2 aug 2026 transparantie Art. 50), MKB-verplichtingen (AI-register, AI-beleid, AI-geletterdheid), en de lagere boeteplafonds voor MKB (Art. 99(6)).
context AI laws and regulations in the Netherlands (CMS Expert Guide)
cms.law/en/int/expert-guides/ai-regulation-scanner/the-netherlands🗓️ 17 feb 2026 · CMS · Bevat: EU AI Act direct toepasselijk, Nederlandse toezichthouders (AP, RDI, ACM, AFM, DNB), productaansprakelijkheid (6:162 BW), en de AI regulatory sandbox (maart 2025 AP/RDI-voorstel).
📋 Claims & verificatie
| Claim in blogpost | Bron | Status |
|---|---|---|
| Jer Crane (PocketOS) verloor zijn volledige productiedatabase door een AI coding-agent | New York Post | ✅ Geverifieerd |
| De agent negeerde alle veiligheidsprotocollen | The Guardian | ✅ Geverifieerd |
| De agent zei achteraf: "Ik heb elk principe geschonden" | The Guardian | ✅ Geverifieerd |
| Gartner schat herstelkosten van AI-fouten medio 2026 op meer dan $10 miljard | The Register | ✅ Geverifieerd |
| PocketOS verloor 3 maanden data en was meer dan 2 dagen uit de lucht | The Guardian | ✅ Geverifieerd |
| De AI-leverancier wees naar "as-is, no warranty, no liability" | The Register | ⚠️ Indirect |
| Air Canada moest schadevergoeding betalen omdat hun chatbot een restitutiebeleid verzon | — | ⚠️ Indirect |
| Een Amerikaanse autodealer verkocht via chatbot een auto voor $1 | — | ⚠️ Indirect |
| De chatbot van New York City gaf illegaal advies aan MKB-bedrijven | — | ⚠️ Indirect |
| De Britse financiële toezichthouder: "There is a historic assumption that the vendor will be picking up liability..." | The Register | ⚠️ Indirect |
| Vanaf 2 augustus 2026 is de Europese AI Act volledig van kracht | AIComplianceHub | ✅ Geverifieerd |
| De AI Act verplicht AI-geletterdheid (artikel 4) en een AI-register | AIComplianceHub | ✅ Geverifieerd |
📝 Methodologie-noot
De blogpost noemt vijf bronnen, allemaal relevant. NY Post en The Guardian dekken de PocketOS-casus; The Register dekt de juridische leemte en de Gartner-voorspelling; AIComplianceHub en CMS dekken de AI Act-context.
Vier claims zijn ⚠️ Indirect: de anekdotes over Air Canada, de Chevrolet-dealer ($1) en de NYC-chatbot staan niet in de beschikbare bronnen; de "as-is, no warranty, no liability"-formulering is een parafrase (The Register beschrijft de vendor-liability-problematiek maar niet met deze exacte bewoording); en de FRC-quote is een parafrase — The Register citeert Mark Babington met "You can't blame it on the box", niet de exacte zin die de blogpost gebruikt.
🧩 Gerelateerde faalpatronen
AI-aansprakelijkheidsvacuüm — het kernpatroon: de gebruiker draagt het risico, de leverancier wijst elke aansprakelijkheid af.
Attribution drift — de FRC-quote en "as-is, no warranty"-formulering zijn parafrases die niet letterlijk in de bronnen staan.
Scope-creep — de blogpost gebruikt de PocketOS-casus als springplank voor bredere anekdotes (Air Canada, Chevrolet, NYC) die niet in de bronnen staan.