Begrensde autonomie en verifieerbare veiligheid voor automatisering op basis van agentische AI

arXiv:2610.08815v1 — Type aankondiging: nieuw. Samenvatting: Agentische, door AI mogelijk gemaakte automatisering kan in omgevingen met hoge inzet niet veilig worden ingezet op basis van louter probabilistisch redeneren. Een terugkerend risico is epistemische drift: naarmate het redeneren zich verdiept, kan het systeemgedrag wegdrijven van de beperkingen die vakdeskundigen stellen aan veilig opereren. Dit artikel presenteert BRaVeS, een raamwerk voor begrensd redeneren en veiligheidsbeheer dat het Defensible Next-Gen Reasoning System (DNRS) wordt genoemd. BRaVeS codeert door vakdeskundigen gedefinieerde beperkingen als invarianten