Stel je voor: je levert een belangrijk document in, vol vertrouwen dat je AI-assistent het werk netjes heeft gedaan. Een paar weken later blijkt dat de helft van de bronnen niet bestaat. Voor een Amerikaanse advocaat werd die nachtmerrie werkelijkheid, en het kostte hem vijfduizend dollar.
Wat er precies gebeurde
Een advocaat in New Mexico gebruikte ChatGPT om een juridisch beroepschrift op te stellen in een moordzaak. Het resultaat leek professioneel, compleet met verwijzingen naar eerdere rechtszaken en getuigenverklaringen. Alleen: die getuigen bestonden niet. De AI had ze volledig verzonnen, inclusief overtuigende namen en gedetailleerde citaten.
De rechter was niet onder de indruk. De advocaat kreeg een boete van vijfduizend dollar opgelegd, en de zaak haalde landelijk nieuws. Het is niet de eerste keer dat dit gebeurt, en het zal zeker niet de laatste zijn. AI-modellen zijn getraind om overtuigend te klinken, niet om de waarheid te vertellen. Wanneer ze een antwoord niet weten, verzinnen ze er een dat plausibel klinkt.
Waarom dit jou raakt
Dit is geen ver-van-je-bedshow over Amerikaanse advocaten. Hetzelfde mechanisme speelt bij elke tekst die jij met AI laat genereren. Een offerte met verzonnen specificaties. Een marketingtekst met een niet-bestaande klantcase. Een rapport met cijfers die nergens vandaan komen. De AI klinkt zelfverzekerd, en jij neemt het over omdat het er goed uitziet.
Het gevaar zit hem in de toon. AI schrijft met dezelfde stelligheid over echte feiten als over complete verzinsels. Er is geen signaal dat zegt: dit stuk heb ik verzonnen. Jij moet dat signaal zelf inbouwen, door te controleren wat er staat.
De Nederlandse realiteit
In Nederland is de situatie niet anders. Advocaten, accountants en consultants gebruiken steeds vaker AI voor concepten en samenvattingen. De Nederlandse Orde van Advocaten heeft al gewaarschuwd voor het gebruik van AI zonder controle. En ook buiten de juridische wereld geldt: wie een document ondertekent of verstuurt, is verantwoordelijk voor de inhoud, niet de AI die het schreef.
Denk aan een makelaar die een verkoopbrochure laat genereren met verkeerde oppervlaktes. Of een HR-medewerker die een ontslagbrief laat opstellen met een niet-bestaand wetsartikel. De schade is direct, en de verantwoordelijkheid ligt bij jou.
Maar er is een tweede effect dat vaak over het hoofd wordt gezien. Een accountantskantoor met vijftien medewerkers gebruikt inmiddels drie AI-tools voor het opstellen van managementrapportages. De cijfers kloppen, want die komen uit de boekhouding. Maar de toelichtende teksten eromheen, de vergelijkingen met de branche, de benchmarks die de AI erbij verzint om het verhaal kracht bij te zetten, die zijn niet gecontroleerd. Een klant die zo'n rapport doorstuurt naar zijn bank voor een financieringsaanvraag, presenteert verzonnen branchecijfers als feit. De bank checkt het, ontdekt de fout, en de financiering valt stil. Niet omdat de cijfers fout waren, maar omdat het vertrouwen weg is.
De kosten van niets doen
Wat kost het als je dit negeert? Een verzonnen feit in een offerte kan een deal van tienduizenden euro's kosten. Een fout in een juridisch document kan leiden tot een rechtszaak die je duizenden euro's aan advocaatkosten oplevert. En een verzonnen klantcase op je website kan je reputatie blijvend beschadigen. De Amerikaanse advocaat kwam er met vijfduizend dollar vanaf; voor een bedrijf dat een verkeerd contract verstuurt, kan de rekening veel hoger uitvallen.
Drie dingen die je vandaag kunt doen
Controleer elke claim die je niet zelf kunt bevestigen. Laat AI nooit het laatste woord hebben over feiten, cijfers of namen. Als je een getal niet kent, zoek het op voordat je het publiceert.
Vraag de AI om bronnen, en check ze. Een goede gewoonte: laat de AI bij elke feitelijke bewering een bron noemen, en klik die bron daadwerkelijk aan. Bestaat de bron niet, dan is de claim verdacht.
Gebruik AI voor structuur, niet voor feiten. AI is sterk in opzet, toon en formulering. Laat het de feiten aanleveren die jij zelf al hebt geverifieerd, in plaats van andersom.
De les is simpel: AI is een briljante assistent, maar een gevaarlijke bron. Vertrouw op de assistent, verifieer de bron. Wie dat onderscheid maakt, haalt het maximale uit AI zonder ooit voor de rechter te hoeven uitleggen waar die verzonnen getuige vandaan kwam.