💻 computer science

Atomic Decision Boundaries: A Structural Requirement for Guaranteeing Execution-Time Admissibility in Autonomous Systems

Dit artikel introduceert het concept van een 'atomaire beslissingsgrens' als een structurele vereiste om uitvoeringstijd-toelaatbaarheid in autonome systemen te garanderen, en bewijst dat gescheiden evaluatie- en transitiestadia onder concurrerende omstandigheden fundamenteel niet equivalent kunnen zijn aan een atomaire benadering.

Oorspronkelijke auteurs: Marcelo Fernandez (TraslaIA)

Gepubliceerd 2026-04-21

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Marcelo Fernandez (TraslaIA)

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

De "Onbreekbare Deur" van Autonome Systemen: Een Simpele Uitleg

Stel je voor dat je een robot hebt die geld mag overmaken, bestanden mag verplaatsen of auto's mag besturen. Deze robot moet beslissen: "Mag ik dit doen?" en "Doe het dan."

Dit klinkt simpel, maar de auteur van dit paper, Marcelo Fernandez, legt uit dat er een groot gevaar schuilt in hoe we dit vandaag de dag doen. Hij noemt dit het probleem van de "Atomaire Beslissingsgrens".

Hier is de uitleg in simpele taal, met een paar creatieve vergelijkingen.

1. Het Probleem: De "Tussenruimte" (Het Split-Systeem)

Vandaag de dag werken de meeste beveiligingssystemen als een tweestaps-proces.

Stap 1: De robot vraagt aan een bewaker: "Mag ik deze deur openen?"
Stap 2: De bewaker zegt: "Ja, dat mag!" en geeft een pasje.
Stap 3: De robot loopt naar de deur en opent hem.

Het probleem: Er zit een klein stukje tijd tussen Stap 2 en Stap 3. In die korte tijd kan er van alles gebeuren.

Vergelijking: Stel je voor dat je een kaartje koopt voor een concert. De kassa zegt: "Ja, er is nog een plekje!" (Stap 1). Maar terwijl je naar de ingang loopt, koopt iemand anders datzelfde laatste plekje (Stap 2). Als je nu je kaartje laat zien (Stap 3), is de zaal al vol. Je hebt een geldig kaartje, maar je mag toch niet naar binnen.

In de wereld van computersystemen noemen we dit een Split Evaluation System (Gesplitst Beoordelingssysteem). De beslissing ("Mag het?") en de actie ("Doe het") zijn gescheiden. Tussen die twee stappen kan de wereld veranderen (bijvoorbeeld: het saldo op de rekening daalt, of een bestand wordt vergrendeld).

De paper bewijst wiskundig dat je dit probleem niet kunt oplossen door de bewaker slimmer te maken of sneller te werken. Zolang er een kloof is tussen "ja zeggen" en "doen", kan er altijd iets misgaan.

2. De Oplossing: De "Atomaire Deur"

De oplossing die de auteur voorstelt, heet een Atomaire Beslissingsgrens.

In dit systeem zijn de beslissing en de actie één en hetzelfde moment. Ze zijn onlosmakelijk verbonden, als een onbreekbaar blokje.

Vergelijking: Denk aan een automaat die je broodjes verkoopt. Je stopt je munt in, en in hetzelfde moment dat je munt wordt geaccepteerd, springt het broodje eruit. Er is geen tijd tussen "munt accepteren" en "broodje uitwerpen". Als de machine kapot gaat of de voorraad op is, gebeurt er niets. Er is geen ruimte voor een "tussenstap" waar iemand anders kan ingrijpen.

In technische termen betekent dit: De computer kijkt naar de situatie, beslist of het mag, en voert de actie uit, allemaal in één onmiddellijk, ononderbreekbaar stukje tijd.

3. De "Escalatie" (De Chef die ingrijpt)

Soms is het antwoord niet direct "Ja" of "Nee", maar "Ik weet het niet zeker, ik moet de chef vragen". Dit noemt de auteur Escalatie.

Vergelijking: Een kassamedewerker ziet een klant met een vreemd paspoort. Hij kan niet beslissen. Hij belt de manager.
Het nieuwe inzicht: De paper zegt: "Oké, de manager belt, maar de manager moet ook een 'Atomaire Deur' hebben."
Als de manager belt, zegt "Ja", en de kassa doet het, moet dat ook in één flits gebeuren. Als de manager "Ja" zegt, maar de kassa doet het pas een seconde later, kan er in die seconde weer iets veranderen. Dus ook de "chef" moet zijn beslissing en de uitvoering koppelen.

4. Waarom bestaande systemen (zoals RBAC of OPA) dit niet kunnen

De paper kijkt naar systemen die we nu gebruiken, zoals:

RBAC (Wie heeft welke rol?)
OPA (Open Policy Agent, een populaire software voor regels)
AWS IAM (De beveiliging van Amazon)

De auteur zegt: "Deze systemen zijn geweldig, maar ze zijn per definitie gesplitst." Ze kijken naar de regels, geven een groen licht, en dan doet de computer de actie. Omdat ze gesplitst zijn, kunnen ze nooit garanderen dat de actie veilig is op het exacte moment dat hij gebeurt. Ze kunnen alleen maar hopen dat er niets gebeurt in de tussenruimte.

5. De Grote Conclusie

De kernboodschap van dit paper is heel simpel maar krachtig:

Toelaatbaarheid is geen eigenschap van een beslissing, maar van een uitvoering.

Je kunt niet zeggen: "Het was een goede beslissing om geld over te maken," als het geld op dat moment al weg was. De veiligheid moet zitten in het uitvoeren van de actie, niet alleen in het denken erover.

Om dit te garanderen, moet je architectuur veranderen. Je moet systemen bouwen waarbij de "check" en de "doe" samensmelten tot één onbreekbaar moment.

Samengevat in één zin:
Als je wilt dat een robot veilig handelt in een chaotische wereld, mag je hem niet eerst laten vragen "Mag ik?" en daarna laten doen; je moet hem laten doen terwijl hij vraagt, in één onbreekbaar flitsmoment.

Titel: Atomaire Beslissingsgrenzen: Een Structurele Vereiste voor het Garanderen van Toelaatbaarheid op het Moment van Executie in Autonome Systemen

Auteur: Marcelo Fernandez (TraslaIA)
Datum: April 2026
Context: Dit is het eerste (Paper 0) van een serie van vier papers over Agent Governance. Het vormt de formele basis voor latere werken over stateful enforcement (ACP), gedragsdriftdetectie, eerlijke allocatie en samenstellingsonreduceerbaarheid.

1. Het Probleem: De Kloof tussen Evaluatie en Executie

Autonome systemen voeren steeds vaker acties uit die directe en onomkeerbare wijzigingen aanbrengen in gedeelde staat (bijv. financiële transfers, API-calls, documentbewerkingen). Bestaande governance-mechanismen (zoals RBAC, OPA, audit-systemen) evalueren beleidsregels voor de uitvoering of reconstrueren gedrag na de uitvoering.

Het paper identificeert een fundamenteel structureel probleem: de beslissing om een actie toe te staan en de daadwerkelijke staatsovergang zijn gescheiden operaties.

Het scenario: Een beleidsengine evalueert een verzoek op basis van de huidige staat $s$ en geeft een "Toestaan" (Allow) signaal. Tussen dit moment en de daadwerkelijke uitvoering (de staatsovergang) kan een externe omgeving (een andere agent of proces) de staat wijzigen naar $s^*$ .
Het gevolg: De actie wordt uitgevoerd in staat $s^*$ , waar de actie mogelijk niet meer toelaatbaar is, ondanks dat de evaluatie in $s$ correct was.
De conclusie: Geen enkel verfijning van beleidsregels of toevoeging van externe data kan dit probleem oplossen binnen een "gesplitst" architectuurmodel. Het is een architectonisch, geen informatief probleem.

2. Methodologie: Formele Modellering

De auteur gebruikt een Gelabelde Transitiesysteem (LTS) om de uitvoering van autonome systemen formeel te modelleren.

LTS Definitie: Een systeem $M = (S, Act, \rightarrow)$ met toestanden $S$ , acties (Agent $A$ en Omgeving $A_{env}$ ), en transities.
Toelaatbaarheid (Admissibility): Een predicaat $Adm(s, a)$ dat bepaalt of actie $a$ in staat $s$ toegestaan is. Cruciaal: toelaatbaarheid is een eigenschap van de staat op het exacte moment van transitie, niet van de actie op zich.
Aannames:
1. Niet-trivialiteit: Er bestaan toestanden waar een actie toelaatbaar is, en andere waar dezelfde actie ontoelaatbaar is door omgevingsveranderingen.
2. Omgevingsmodel: De omgeving is oncontroleerbaar en kan willekeurig ingrijpen (interleaving) tussen de beslissing en de uitvoering.

Het paper onderscheidt twee systemen:

Gesplitste Evaluatie Systemen (Split Evaluation Systems): De beslissing ( $D$ ) en de transitie ( $T$ ) zijn aparte LTS-stappen. Er bestaat een tussenliggende staat waar omgevingsacties kunnen plaatsvinden.
Atomaire Beslissingsgrenzen (Atomic Decision Boundaries): De beslissing en de transitie worden gecombineerd in één ondeelbare stap ( $F: S \times A \rightarrow D \times S$ ). Er is geen tussenliggende staat; de omgeving kan niet ingrijpen tussen evaluatie en uitvoering.

3. Belangrijkste Bijdragen

Formele Definitie van de Atomaire Beslissingsgrens:
De auteur introduceert het concept waarbij de evaluatie van toelaatbaarheid en de toepassing van de staatsovergang worden samengevoegd tot één ondeelbare transitie in het LTS. Dit is een structurele eigenschap, onafhankelijk van de implementatie (database-transacties, locks, hardware-instructies).
Formalisatie van de "Escalate" Uitkomst:
In tegenstelling tot klassieke TOCTOU (Time-of-Check/Time-of-Use) analyses die slechts "Toestaan" of "Weigeren" kennen, introduceert dit paper een derde uitkomst: Escalate.
- Dit suspendeert de transitie voor supervisor-review.
- Het paper bewijst dat Escalate het atomaire vereiste niet opheft, maar verplaatst: de supervisor die de escalatie oplost, moet zelf ook een atomaire beslissingsgrens hebben.
Constructief Bewijs van Onmogelijkheid:
Er wordt een constructief tegenvoorbeeld (een uitvoeringstrace) gepresenteerd dat aantoont dat elk gesplitst systeem onder de gegeven aannames een trace kan genereren waarin een ontoelaatbare transitie wordt uitgevoerd.
Taxonomie van Bestaande Systemen:
Het paper classificeert wijdverspreide governance-mechanismen (RBAC, OPA, AWS IAM, Cedar) als gesplitste systemen en toont aan waarom ze structureel kwetsbaar zijn. Alleen systemen zoals het voorgestelde Agent Control Protocol (ACP) worden geïdentificeerd als atomaire systemen.

4. Kernresultaten en Bewijzen

Hoofdstelling (Theorem 5.1 - Non-Equivalence Theorem):
Onder realistische concurrente omstandigheden is er geen constructie die een gesplitst systeem equivalent maakt aan een atomaal systeem met betrekking tot het behoud van toelaatbaarheid. Een gesplitst systeem kan niet garanderen dat een actie die in staat $s$ was toegestaan, ook in staat $s^*$ (op het moment van uitvoering) toegestaan blijft.
Corollarium 5.3 (Onmogelijkheid van Executie-tijd Garantiën):
Gesplitste systemen kunnen geen universele garantie geven voor toelaatbaarheid op het moment van uitvoering.
Corollarium 5.4 (Externe Staat Herstelt geen Atomaire Eigenschap):
Het toevoegen van externe data (zoals een Redis-cache) aan een gesplitst systeem lost het probleem niet op. De lezing van die data en de uitvoering blijven twee aparte stappen, waardoor de kloof blijft bestaan.
Corollarium 5.6 (Escalation Closure Requirement):
De "Escalate" uitkomst behoudt de garantie alleen als de supervisor-resolutie zelf atomaal is. Als de supervisor eerst evalueert en later de transitie uitvoert (gesplitst), ontstaat er opnieuw een kwetsbaarheid.

5. Betekenis en Implicaties

Fundamenteel Inzicht: Toelaatbaarheid is een eigenschap van executie, niet van evaluatie. Governance moet structureel worden ingebouwd op het exacte moment van staatsovergang.
Architectonische Verschuiving: Bestaande tools (OPA, RBAC) zijn nuttig voor beleidsuitdrukking, maar kunnen niet als enige laag dienen voor kritieke, irreversibele acties in concurrerende omgevingen. Ze moeten worden ingekapseld in een atomaal enforcement-laag (zoals ACP).
Relatie tot Bestaande Concepten:
- Het onderscheidt zich van TOCTOU door het te generaliseren naar volledige systeemtoestanden en niet alleen bestandspermissies.
- Het is complementair aan Distributed Transactions (2PC): 2PC zorgt voor data-atomiciteit, maar garandeert niet dat het beleidscheck en de data-update tegen dezelfde staatssnapshot worden uitgevoerd.
- Het vereist Linearisability op het niveau van de beleidscheck én de transitie gecombineerd.

Conclusie:
Dit paper legt de formele basis dat voor autonome systemen die gedeelde, mutabele staat beheren, atomaire beslissingsgrenzen een noodzakelijke voorwaarde zijn om toelaatbaarheid te garanderen. Zonder deze structurele garantie is het onmogelijk om te voorkomen dat acties worden uitgevoerd in een staat die niet meer voldoet aan de oorspronkelijke beleidscriteria, ongeacht hoe complex de beleidsregels zijn.