💻 computer science

Reconstructive Authority Model: Runtime Execution Validity Under Partial Observability

Dit paper introduceert het Reconstructive Authority Model (RAM), een nieuw raamwerk dat de validiteit van autonome systemen waarborgt door niet alleen te vertrouwen op de integriteit van gegevens (attestatie), maar ook op de mate waarin de beschikbare informatie de noodzakelijke context voor een specifieke actie dekt.

Oorspronkelijke auteurs: Marcelo Fernandez - TraslaIA

Gepubliceerd 2026-04-28

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Marcelo Fernandez - TraslaIA

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een zelfrijdende robot hebt die de boodschappen voor je doet. Dit paper, geschreven door Marcelo Fernandez, gaat over een heel belangrijk probleem: Hoe weet een computer of hij wel móét handelen, als hij niet alles kan zien?

Hier is de uitleg in begrijpelijk Nederlands, met een paar metaforen.

Het probleem: De "Blinde Vlek" van de Computer

Stel je voor dat je een beveiligingscamera hebt in je woonkamer. De camera is supermodern, heeft een gouden zegel van echtheid en bewijst met 100% zekerheid: "Ik heb gezien dat er niemand in de kamer is." Dat noemen we in het paper Attestatie (het bewijzen dat de informatie klopt).

Maar, er is een probleem. De camera hangt in de hoek en kan niet onder de bank kijken. Als er een dief onder de bank ligt, zegt de camera nog steeds: "Ik heb niemand gezien, dus alles is veilig!"

De camera heeft gelijk over wat hij ziet (de integriteit is goed), maar hij heeft ongelijk over de werkelijkheid (de dekking is slecht). In de wereld van AI en autonome systemen noemen we dit de State Gap: het verschil tussen wat de computer denkt dat er gebeurt en wat er echt gebeurt.

De oude methode: "Vertrouw op het bonnetje"

Tot nu toe probeerden we dit op te lossen door meer camera's te plaatsen of door digitale "bonnetjes" (cryptografie) te gebruiken die bewijzen dat de data niet is aangepast.

Het probleem is: een perfect bonnetje van een incomplete lijst is nog steeds een incomplete lijst. Als de computer een besluit neemt op basis van een lijstje waar de dief onder de bank niet op staat, maakt het niet uit hoe veilig dat lijstje is; de computer maakt alsnog een fout.

De oplossing: Het RAM-model (De "Reconstructieve Autoriteit")

De auteur stelt een nieuw model voor: het Reconstructive Authority Model (RAM).

In plaats van te vragen: "Klopt het bonnetje van wat ik heb gezien?", stelt RAM een veel strengere vraag: "Kan ik op basis van wat ik nú zie, met volledige zekerheid zeggen dat ik mag handelen?"

De metafoor van de Bruggenbouwer

Stel je voor dat een robot een brug over een ravijn moet oversteken.

De oude methode (Attestatie): De robot kijkt naar een bouwtekening van de brug. De tekening is officieel gestempeld en klopt precies met wat de robot ziet. De robot denkt: "De tekening klopt, dus de brug is veilig." Maar de robot ziet niet dat er een klein scheurtje in het beton zit dat niet op de tekening stond. De robot loopt de brug op en... boem.
De nieuwe methode (RAM): De robot kijkt niet alleen naar de tekening, maar hij probeert de "autoriteit" om te lopen elke keer opnieuw op te bouwen. Hij zegt: "Ik zie de tekening, ik zie het beton, maar ik kan de diepte van het scheurtje niet zien. Omdat ik het niet zeker weet, heb ik geen autoriteit om te lopen."

De robot staat stil. Hij kiest voor veiligheid boven snelheid.

De drie smaken van RAM

RAM werkt met een soort "beslissingspoortje" dat drie uitkomsten heeft:

Groen licht (Volledige dekking): "Ik zie alles wat ik nodig heb, ik weet zeker dat het veilig is. Gaan!"
Oranje licht (Gedeeltelijke dekking): "Ik zie niet alles, maar ik kan wel een veilige, kleine stap zetten (bijvoorbeeld: de robot mag wel rijden, maar niet harder dan 5 km/u)."
Rood licht (Onvoldoende dekking): "Ik heb een blinde vlek en ik weet niet of het veilig is. Ik doe helemaal niets."

Waarom is dit belangrijk?

In de wereld van AI (denk aan zelfrijdende auto's, automatische banktransacties of medische robots) is een fout niet zomaar een foutje; het kan rampzalig zijn.

Dit paper bewijst wiskundig dat je een systeem nooit 100% veilig kunt maken door alleen maar "betere bewijzen" te verzamelen. De enige manier om echt veilig te zijn, is door een systeem te bouwen dat durft te stoppen als het even niet alles kan zien.

Kortom: RAM leert computers niet om slimmer te zijn, maar om bescheidener te zijn over wat ze weten.

Technische Samenvatting: Reconstructive Authority Model (RAM)

1. Het Probleem: De Kloof tussen Integriteit en Dekking

Het kernprobleem dat dit paper adresseert, is de fundamentele onveiligheid van huidige governance-mechanismen voor autonome agenten (zoals Trusted Execution Environments (TEEs) en oracle-gebaseerde bewijzen).

De auteur stelt dat bestaande systemen zich uitsluitend richten op integriteit: het cryptografisch bewijzen dat een berekening correct is uitgevoerd op basis van de waargenomen staat ( $S_p$ ). Echter, in de echte wereld is er altijd sprake van partiële observabiliteit: de werkelijke, relevante staat van de wereld ( $S_r$ ) is nooit volledig toegankelijk. Er bestaat altijd een "state gap" ( $\delta = S_r \setminus S_p$ ).

Het cruciale falen: Een systeem kan cryptografisch perfect bewijzen dat een actie consistent is met de (onvolledige) waargenomen staat, terwijl die actie in de werkelijke wereld (de $S_r$ ) volstrekt ongeldig of gevaarlijk is. Attestatie bewijst dus wel dat de meting betrouwbaar is, maar niet dat de meting volledig is.

2. Methodologie: Het Reconstructive Authority Model (RAM)

Om dit probleem op te lossen, introduceert de auteur het Reconstructive Authority Model (RAM). De methodologische verschuiving is als volgt:

Van Persistentie naar Reconstructie: In plaats van autoriteit te zien als iets dat bij aanvang (admission) wordt verleend en daarna wordt gehandhaafd, beschouwt RAM autoriteit als een eigenschap die bij elke stap opnieuw moet worden geconstrueerd op basis van de huidige staat.
De Coverage Envelope ( $E$ ): RAM werkt met een drietal: de bewezen staat ( $S_p$ ), expliciete aannames ( $H$ ), en de erkende onwaarneembare restwaarde ( $\delta$ ).
De Autoriteitsconstructor ( $F$ ): In plaats van enkel te controleren of een regel is overtreden, probeert de functie $F$ $F$ autoriteit te bouwen.
- Als de informatie volstaat $\rightarrow$ Volledige uitvoering.
- Als de informatie beperkt is $\rightarrow$ Uitvoering met beperkte privileges (privilege narrowing).
- Als de informatie onvoldoende is $\rightarrow$ Halt/Fail closed (het systeem stopt).

3. Belangrijkste Bijdragen

Het paper levert vier fundamentele bijdragen aan de theoretische informatica en agent-governance:

Formele Karakterisering van de Beperking: Een bewijs (Theorem 5.1) dat attestatie-gebaseerde systemen nooit executie-validiteit kunnen garanderen zolang er een kloof bestaat tussen de bewezen staat en de werkelijke staat.
Het RAM-formele Model: De definitie van autoriteit als een functie van de coverage envelope, inclusief het concept van "niet-persistentie" van autoriteit.
Hybride Architectuur: Een ontwerp waarbij Attestatie (voor integriteit) en RAM (voor semantische correctheid) samenwerken. Attestatie zorgt dat de berekening niet gemanipuleerd is; RAM bepaalt of de berekening überhaupt mag plaatsvinden.
Theoretische Bewijzen: Twee belangrijke stellingen die aantonen dat reconstructie noodzakelijk is voor validiteit en dat het conservatieve "stoppen bij onzekerheid" een logische noodzaak is, geen ontwerpkeuze.

4. Resultaten en Experimentele Evaluatie

Via simulaties (100.000 stappen) vergeleken de auteur RAM met traditionele Attestatie- en Oracle-modellen onder verschillende scenario's van "state drift" (veranderingen in de wereld die niet direct zichtbaar zijn).

Invalid Execution Rate (IER):
- Attestatie-modellen vertoonden een hoge foutmarge (tot 42,3% bij lage dekking). Zelfs bij bijna volledige dekking bleven ze fouten maken omdat ze "niet-gedefinieerde" staat als veilig beschouwden.
- RAM bereikte een IER van 0.000. RAM voorkomt elke ongeldige uitvoering door simpelweg te stoppen wanneer de staat onduidelijk is.
De Security–Execution Trade-off (OCR): Het onderzoek toont aan dat er een afruil is tussen veiligheid en efficiëntie. RAM kan "over-conservatief" zijn (stoppen wanneer het eigenlijk wel had gekund), maar dit is de prijs voor een absolute garantie op veiligheid.

5. Betekenis en Implicaties

De implicaties van dit werk zijn groot voor de ontwikkeling van kritieke autonome systemen (bijv. autonome financiële transacties, zelfrijdende voertuigen, AI-agenten):

Ontwerpprincipe: Autoriteit moet stateless zijn tijdens runtime. Vertrouw nooit op een eerdere goedkeuring.
Default naar Veiligheid: In hoog-risico omgevingen moet het standaardgedrag bij onzekerheid "stoppen" zijn, niet "doorgaan tenzij er een fout wordt gedetecteerd".
Observabiliteit als Investering: Een hoog aantal onnodige stops (OCR) is een direct signaal dat het systeem meer sensoren of betere data-integratie nodig heeft om de autoriteit weer te kunnen reconstrueren.

Conclusie: Waar traditionele systemen vragen: "Is de uitvoering consistent met wat we weten?", vraagt RAM: "Is wat we nu weten voldoende om veilig te handelen?"