💻 computer science

Reconstructive Authority Model: Runtime Execution Validity Under Partial Observability

Ce papier introduit le modèle d'autorité reconstructive (RAM), qui démontre que l'intégrité cryptographique seule est insuffisante pour garantir la validité de l'exécution sous observabilité partielle, et propose un cadre formel qui conditionne l'autorisation d'agir à l'adéquation de la couverture de l'état mesuré.

Auteurs originaux : Marcelo Fernandez - TraslaIA

Publié 2026-04-28

📖 4 min de lecture☕ Lecture pause café

CC BY 4.0

Auteurs originaux : Marcelo Fernandez - TraslaIA

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le Problème : Le syndrome du "Contrôle de l'Identité"

Imaginez que vous vouliez entrer dans une boîte de nuit très sélecte. À l'entrée, le videur vérifie votre carte d'identité. Il voit que votre nom est correct, que la photo est la bonne et que le papier n'est pas un faux. Tout est "authentifié". Le videur vous laisse passer.

Mais voilà le problème : la carte d'identité ne dit pas si, à l'instant précis où vous entrez, vous êtes en train de faire une crise cardiaque, si vous avez une arme cachée sous votre veste, ou si vous venez de décider de déclencher une bagarre.

L'identité est vraie (l'intégrité), mais la situation est dangereuse (le manque de couverture).

Dans le monde des robots et des IA autonomes, c'est le même problème. Aujourd'hui, on utilise des systèmes de "certification" (l'attestation) qui vérifient que le robot a bien reçu les bonnes instructions. Mais ces systèmes sont aveugles à ce qui se passe "entre les lignes" de la réalité. Ils vérifient que le logiciel est propre, mais ils ne voient pas que le monde autour du robot a changé de manière imprévue.

La Solution : Le Modèle RAM (L'Autorité Reconstructive)

L'auteur propose de changer radicalement de philosophie. Au lieu de se demander : "Est-ce que ce que le robot veut faire est conforme à ce qu'on lui a dit au départ ?", on lui demande : "Est-ce qu'avec ce que je vois vraiment là, tout de suite, est-ce que j'ai le droit d'agir ?"

C'est ce qu'il appelle la Reconstruction de l'Autorité.

La métaphore du Guide de Montagne

Pour comprendre la différence, comparons deux types de guides de montagne :

Le Guide "Certifié" (Le système actuel) :
Il a une carte très précise et une boussole qui fonctionne parfaitement. Avant de partir, il vérifie que la carte est authentique. Si la carte dit "le chemin est libre", il avance. Mais si une avalanche vient de se produire juste devant lui (un événement que la carte ne peut pas voir), il continue d'avancer car, selon sa carte et sa boussole, tout est "conforme". Résultat : catastrophe.
Le Guide "RAM" (Le nouveau modèle) :
Lui, il ne fait pas confiance à sa carte seule. À chaque pas, il fait une "reconstruction" de sa situation. Il regarde sa carte, mais il regarde aussi le ciel, il écoute le bruit de la neige, il sent le vent.
- S'il voit que le ciel est clair et que le sol est stable : Il marche (Autorité pleine).
- S'il voit qu'il y a un peu de brouillard et qu'il ne voit pas bien le prochain rocher : Il ralentit et ne prend que des petits pas prudents (Autorité réduite).
- S'il entend un grondement sourd et qu'il ne comprend pas d'où il vient : Il s'arrête net et refuse d'avancer (Arrêt de sécurité).

Les trois piliers du RAM en langage simple

Le papier explique que pour être sûr, le système doit gérer trois choses dans son "enveloppe de couverture" :

Ce qu'on sait (L'état prouvé) : Les données certifiées et indiscutables.
Ce qu'on suppose (Les hypothèses) : "Je ne vois pas ce qu'il y a derrière cette colline, mais je suppose que le chemin est praticable."
Ce qu'on ne peut pas savoir (Le résidu invisible) : C'est le point le plus important. Le système admet honnêtement : "Il y a une part de réalité que je ne pourrai jamais mesurer."

Pourquoi est-ce révolutionnaire ?

Le papier prouve mathématiquement que les systèmes actuels (basés sur l'attestation) feront toujours des erreurs, car ils essaient de faire confiance à une image incomplète de la réalité. Ils pensent que "ne pas voir de problème" signifie "tout va bien".

Le modèle RAM, lui, dit : "Si je ne peux pas prouver que tout va bien, alors je considère que je n'ai pas le droit d'agir."

C'est une approche prudente et constructive. Au lieu de simplement vérifier des règles, le robot doit "reconstruire" sa permission d'agir à chaque seconde. S'il lui manque une pièce du puzzle pour être sûr de lui, il ne joue pas.

En résumé : L'ancien système vérifie la validité du passeport ; le système RAM vérifie la sécurité du voyage à chaque pas.

Résumé Technique : Modèle d'Autorité Reconstructive (RAM)

1. Problématique : L'illusion de la validité par l'attestation

L'article part d'un constat fondamental : dans les systèmes d'agents autonomes, l'état réel pertinent pour l'exécution ( $S_r(t)$ ) est par nature partiellement observable. Les mécanismes de gouvernance actuels reposent sur l'attestation (TEE, preuves d'état signées par des oracles, preuves cryptographiques).

L'auteur démontre que ces mécanismes souffrent d'une faille structurelle : ils garantissent l'intégrité (la computation est correcte par rapport à ce qui est observé) mais pas la couverture (ce qui est observé est suffisant pour justifier l'action). Il existe un "écart d'état" ( $\delta$ ) entre l'état prouvable ( $S_p$ ) et la réalité ( $S_r$ ). Si une condition critique de sécurité se trouve dans cet écart (dérive cachée, signal réglementaire non propagé), l'attestation produira un faux positif : le système croira être valide alors qu'il est en situation d'exécution invalide.

2. Méthodologie : Le passage de la validation à la reconstruction

Pour résoudre ce problème, l'auteur introduit le Reconstructive Authority Model (RAM). Contrairement aux modèles classiques où l'autorité est un droit accordé lors de l'admission et qui persiste, le RAM traite l'autorité comme une propriété non persistante qui doit être reconstruite à chaque étape d'exécution.

Les concepts clés de la méthodologie sont :

L'Enveloppe de Couverture (Coverage Envelope) : Un triplet $E(t) = (S_p(t), H(t), \delta(t))$ qui explicite non seulement l'état prouvé ( $S_p$ ), mais aussi les hypothèses déclarées ( $H$ ) et l'écart résiduel inobservable ( $\delta$ ).
La Fonction de Construction d'Autorité ( $F$ ) : Au lieu de vérifier si une règle est violée, le système tente de construire une preuve d'autorité à partir de l'enveloppe actuelle.
Le Principe de l'Échec Fermé (Fail-Closed) : Si l'information disponible est insuffisante pour reconstruire l'autorité, le système ne par défaut pas vers l'exécution, mais vers l'arrêt ( $\perp$ ) ou la réduction des privilèges.

3. Contributions Clés

L'article apporte quatre contributions majeures :

Formalisation de la limite de l'attestation : Preuve mathématique que la correction de l'attestation n'implique pas la validité de l'exécution (Théorème 5.1).
Modèle Formel RAM : Définition d'un cadre où l'autorité est une fonction de l'état réel et non d'un historique de décisions.
Architecture Hybride RAM + Attestation : Proposition d'un système où l'attestation garantit l'intégrité des entrées (le "comment"), tandis que le RAM détermine la validité sémantique (le "si").
Théorie de la Dérive (Drift) : Redéfinition de la dérive non plus comme un signal à détecter, mais comme une incapacité structurelle à reconstruire l'autorité.

4. Résultats et Évaluations

L'auteur utilise des simulations synthétiques (100 000 étapes) pour comparer le RAM aux modèles d'attestation et aux systèmes étendus par oracles.

Taux d'Exécution Invalide (IER) : Les systèmes basés sur l'attestation présentent un taux d'erreur élevé (environ 42% à faible couverture) qui ne tombe jamais à zéro, même avec une couverture totale, à cause de l'incapacité à traiter les états "indéfinis". Le RAM maintient un IER de 0.000 quel que soit le niveau de couverture.
Taux d'Arrêt Sécurisé (SHR) : Le RAM atteint un score de 1.0, interceptant toutes les exécutions dangereuses.
Compromis Sécurité-Exécution (OCR) : L'étude identifie le Over-Conservatism Rate (OCR), le coût de l'excès de prudence. Le RAM accepte de s'arrêter par manque d'information, ce qui est présenté comme le seul comportement sûr pour les systèmes à enjeux élevés.

5. Signification et Implications

Ce papier clôt la série "Agent Governance" en apportant une solution opérationnelle à l'impossibilité de l'observabilité totale.

Implications pour le design de systèmes :

L'autorité doit être sans état (stateless) au runtime : Ne jamais se fier à une autorisation obtenue dans le passé.
L'observabilité doit être modélisée explicitement : Si un composant critique est inobservable, le système doit être conçu pour s'arrêter.
Changement de paradigme : On passe d'une gouvernance réactive ("détecter une violation et stopper") à une gouvernance constructive ("établir la validité avant de procéder").

Conclusion de l'auteur : L'attestation garantit que nous mesurons correctement ; le RAM garantit que ce que nous mesurons est suffisant pour agir.