Right-to-Act: A Pre-Execution Non-Compensatory Decision Protocol for AI Systems

1. Probleemstelling: De Pre-Action Legitimacy Gap

Naarmate AI-systemen evolueren van adviserende tools naar autonome agenten die in staat zijn tot het uitvoeren van acties in de echte wereld (bijvoorbeeld geldtransfers, accountschorsingen, infrastructuurwijzigingen), staan de huidige architecturale paradigma's voor een kritieke kloof. Bestaande mechanismen – zoals autorisatie, veiligheidsafstemming, beleidshandhaving en statistische certificering – evalueren wie er mag handelen, of de output schadelijk is, of of het systeem zich binnen risicoboundaries gedraagt.

Deze mechanismen beantwoorden echter een distincte, voorafgaande vraag niet: "Mag dit specifieke door AI gegenereerde besluit überhaupt bestaan als een uitvoerbaar evenement?"

Het artikel definieert de Pre-Action Legitimacy Gap als het ontbreken van een formeel mechanisme om te bepalen of een besluit het "recht om te handelen" heeft voordat het de uitvoeringspiplijn binnenkomt. Een besluit kan geautoriseerd, veilig en van laag risico zijn, maar toch structureel illegitiem zijn door ontbrekende contextuele verificatie, onvoldoende rechtvaardiging of voortijdige timing. Huidige systemen vertrouwen vaak op compenserende scoring, waarbij een hoge betrouwbaarheidsscore of sterke beleidsmatch een ontbrekende kritieke voorwaarde kan compenseren, wat leidt tot potentieel onomkeerbare fouten.

2. Methodologie en Formeel Model

De auteur stelt een minimaal, formeel kader voor dat het Right-to-Act-protocol wordt genoemd. Deze benadering behandelt legitimiteit niet als een te optimaliseren probabilistische score, maar als een haalbaarheidsvoorwaarde gedefinieerd door harde constraints.

2.1 Formele Definities

• Besluitruimte ($A$): Een verzameling van kandidaat-uitvoerbare besluiten $a$, weergegeven als gestructureerde tuples die operatie, context, doelwit, reikwijdte en timing bevatten.
• Legitimiteitsconstraints ($C$): Een eindige verzameling deterministische predicaten $\{C_1, C_2, ..., C_n\}$ waarbij $C_i(a) \in \{0, 1\}$. Een waarde van 1 geeft aan dat aan de voorwaarde is voldaan; 0 geeft falen aan.
• Haalbaarheidsgebied ($F$): De verzameling van alle besluiten waarbij alle vereiste constraints zijn vervuld:
  $$F = \{a \in A : \forall i, C_i(a) = 1\}$$
• Right-to-Act-functie ($D$): Een deterministische besluitfunctie:
  $$D(a) = \begin{cases} \text{TOELATEN} & \text{als } a \in F \\ \text{NIET-HANDELEN} & \text{anders} \end{cases}$$

2.2 Niet-compenserende Logica

De kern van de methodologische innovatie is het niet-compenserende karakter van de boundary. In dit systeem wordt een besluit afgewezen als één enkele vereiste constraint faalt ($C_j(a) = 0$), ongeacht hoeveel andere constraints wel zijn vervuld of hoe hoog de betrouwbaarheidsscore is.

• Uitkomst: "Niet-handelen" wordt niet behandeld als een systeemfout, maar als een geldige, auditabele staat (bijvoorbeeld UITSTELLEN, ESCALEREN of INFORMATIE-VERZOEKEN).

3. Belangrijkste Bijdragen

Het artikel levert vier primaire bijdragen:

1. Probleemdefinitie: Het identificeert formeel de "Pre-Action Legitimacy Gap" als een distinct architecturaal primitief, gescheiden van autorisatie, veiligheid of runtime-governance.
2. Formalisering: Het introduceert een minimaal wiskundig model voor een Right-to-Act-boundary die structurele haalbaarheid afdwingt in plaats van scores te optimaliseren.
3. Niet-equivalentie Theorema: Het bewijst dat compenserende scoresystemen pre-action legitimiteit niet kunnen garanderen.
   • Theorema: Als een systeem een gewogen som $S(a) = \sum w_i x_i(a)$ gebruikt met een drempelwaarde $\theta$, is het mogelijk om een besluit te construeren waarbij een kritieke constraint faalt ($C_k=0$), maar de geaggregeerde score toch boven $\theta$ uitkomt vanwege andere hoge signalen. Een scoresysteem kan dus het hard-blocking-gedrag van een niet-compenserend constraintsysteem niet repliceren.
4. Toepassing Case Study: Het demonstreert de praktische impact van deze boundary in een door AI gestuurd scenario voor accountschorsing.

4. Resultaten en Analyse Case Study

Het artikel valideert het kader met een case study van door AI gestuurde accountschorsing.

• Scenario: Een AI-systeem stelt voor om een gebruikersaccount uit te schakelen op basis van hoge betrouwbaarheid, patroon gelijkenis en eerdere vlaggen.
• Compenserende Baseline: Een standaard risicoscoresysteem berekent een hoge geaggregeerde score ($S(a) \ge \theta$) en voert de schorsing direct uit.
• Right-to-Act Interventie: Het systeem controleert op een specifieke structurele constraint: Contextuele Verificatie (bijvoorbeeld ervoor zorgen dat de activiteit niet het gevolg is van een gehackt apparaat of valse correlatie).
  • In de case study faalt deze constraint ($C_{context} = 0$).
  • Resultaat: De Right-to-Act boundary blokkeert de uitvoering ($D(a) = \text{NIET-HANDELEN}$), wat leidt tot escalatie of een verzoek om meer informatie, terwijl het basissysteem een onterechte schorsing zou hebben veroorzaakt.

Belangrijkste Bevinding: Een besluit kan statistisch gerechtvaardigd en beleidsconform zijn, maar toch structureel illegitiem. De niet-compenserende boundary voorkomt dit door ontbrekende voorwaarden te behandelen als harde blokkades in plaats van als aftrek van de score.

5. Betekenis en Implicaties

Het artikel betoogt dat de verschuiving van "scoring" naar "boundary enforcement" de AI-governance fundamenteel verandert:

• Inactie als Eerste-Klasse Uitkomst: Niet-uitvoering wordt herdefinieerd als een geldige, gecontroleerde operationele staat in plaats van een faalmodus.
• Verbeterde Auditbaarheid: Omdat besluiten worden geblokkeerd door specifieke gefaalde constraints in plaats van vage lage scores, worden audittrails duidelijker en beter verdedigbaar.
• Modelonafhankelijkheid: Het kader is van toepassing op elk AI-systeem (LLM's, agenten, classifiers) zolang het besluit structureel kan worden weergegeven, waardoor het compatibel is met heterogene omgevingen.
• Mitigatie van Recursieve Data-risico's: In domeinen waar AI data genereert die terugvoert naar training (recursieve data), kan statistische certificering zelfreferentieel worden. Een pre-action constraint boundary dwingt structurele validiteit af op individuele besluiten, wat een veiligheidsnet biedt tegen certificering van vervormde distributies.

Conclusie

Het artikel concludeert dat legitimiteit een boundary is, geen score. Door een deterministisch, niet-compenserend besluitprimitief in te voeren, vult het Right-to-Act-protocol een kritieke kloof in de AI-veiligheidsarchitectuur, en zorgt ervoor dat besluiten alleen doorgaan naar uitvoering wanneer ze voldoen aan alle noodzakelijke structurele voorwaarden, ongeacht hun geaggregeerde betrouwbaarheid of risicoprofiel.