Right-to-Act: A Pre-Execution Non-Compensatory Decision Protocol for AI Systems

1. Énoncé du problème : Le fossé de légitimité pré-action

À mesure que les systèmes d'IA évoluent d'outils d'assistance vers des agents autonomes capables d'exécuter des actions dans le monde réel (par exemple, des transferts de fonds, des suspensions de comptes, des modifications d'infrastructure), les paradigmes architecturaux actuels font face à un fossé critique. Les mécanismes existants — tels que l'autorisation, l'alignement de sécurité, l'application des politiques et la certification statistique — évaluent qui est autorisé à agir, si la sortie est nuisible, ou si le système se comporte dans des limites de risque.

Cependant, ces mécanismes échouent à répondre à une question distincte et antérieure : « Cette décision spécifique générée par l'IA devrait-elle être autorisée à exister en tant qu'événement exécutable, tout court ? »

Le papier définit le fossé de légitimité pré-action comme l'absence d'un mécanisme formel pour déterminer si une décision a le « droit d'agir » avant d'entrer dans le pipeline d'exécution. Une décision peut être autorisée, sûre et à faible risque, mais néanmoins structurellement illégitime en raison d'une vérification contextuelle manquante, d'une justification insuffisante ou d'un timing prématuré. Les systèmes actuels reposent souvent sur un système de notation compensatoire, où un score de confiance élevé ou une correspondance politique forte peut compenser une condition critique manquante, conduisant à des erreurs potentiellement irréversibles.

2. Méthodologie et modèle formel

L'auteur propose un cadre formel minimal appelé le protocole Droit d'Agir. Cette approche traite la légitimité non pas comme un score probabiliste à optimiser, mais comme une condition de faisabilité définie par des contraintes rigides.

2.1 Définitions formelles

• Espace de décision ($A$) : Un ensemble de décisions exécutables candidates $a$, représentées sous forme de tuples structurés contenant l'opération, le contexte, la cible, la portée et le timing.
• Contraintes de légitimité ($C$) : Un ensemble fini de prédicats déterministes $\{C_1, C_2, ..., C_n\}$ où $C_i(a) \in \{0, 1\}$. Une valeur de 1 indique que la condition est remplie ; 0 indique un échec.
• Région faisable ($F$) : L'ensemble de toutes les décisions où toutes les contraintes requises sont satisfaites :
  $$F = \{a \in A : \forall i, C_i(a) = 1\}$$
• Fonction Droit d'Agir ($D$) : Une fonction de décision déterministe :
  $$D(a) = \begin{cases} \text{AUTORISER} & \text{si } a \in F \\ \text{NON-ACTION} & \text{sinon} \end{cases}$$

2.2 Logique non compensatoire

L'innovation méthodologique centrale est la nature non compensatoire de la frontière. Dans ce système, si une seule contrainte requise échoue ($C_j(a) = 0$), la décision est rejetée, indépendamment du nombre d'autres contraintes satisfaites ou de la hauteur du score de confiance.

• Résultat : La « Non-Action » n'est pas traitée comme une erreur système, mais comme un état valide et auditable (par exemple, DIFFÉRER, ESCALER ou DEMANDER-INFO).

3. Contributions clés

Le papier apporte quatre contributions principales :

1. Définition du problème : Il identifie formellement le « fossé de légitimité pré-action » comme un primitif architectural distinct de l'autorisation, de la sécurité ou de la gouvernance d'exécution.
2. Formalisation : Il introduit un modèle mathématique minimal pour une frontière Droit d'Agir qui impose une faisabilité structurelle plutôt que d'optimiser des scores.
3. Théorème de non-équivalence : Il prouve que les systèmes de notation compensatoire ne peuvent garantir la légitimité pré-action.
   • Théorème : Si un système utilise une somme pondérée $S(a) = \sum w_i x_i(a)$ avec un seuil $\theta$, il est possible de construire une décision où une contrainte critique échoue ($C_k=0$) mais où le score agrégé dépasse toujours $\theta$ en raison d'autres signaux élevés. Ainsi, un système de notation ne peut pas reproduire le comportement de blocage rigide d'un système de contraintes non compensatoire.
4. Application par étude de cas : Il démontre l'impact pratique de cette frontière dans un scénario de suspension de compte pilotée par l'IA.

4. Résultats et analyse de l'étude de cas

Le papier valide le cadre en utilisant une étude de cas de suspension de compte pilotée par l'IA.

• Scénario : Un système d'IA propose de désactiver un compte utilisateur basé sur une haute confiance, une similarité de motifs et des signaux antérieurs.
• Référence compensatoire : Un système standard de notation des risques calcule un score agrégé élevé ($S(a) \ge \theta$) et exécute immédiatement la suspension.
• Intervention Droit d'Agir : Le système vérifie une contrainte structurelle spécifique : Vérification Contextuelle (par exemple, s'assurer que l'activité n'est pas due à un appareil compromis ou à une corrélation fausse).
  • Dans l'étude de cas, cette contrainte échoue ($C_{context} = 0$).
  • Résultat : La frontière Droit d'Agir bloque l'exécution ($D(a) = \text{NON-ACTION}$), déclenchant une escalade ou une demande de plus d'informations, tandis que le système de référence aurait provoqué une suspension injustifiée.

Constat clé : Une décision peut être statistiquement justifiée et conforme aux politiques, mais structurellement illégitime. La frontière non compensatoire empêche cela en traitant les conditions manquantes comme des bloqueurs rigides plutôt que comme des déductions de score.

5. Signification et implications

Le papier soutient que le passage du « scoring » à « l'application de frontières » modifie fondamentalement la gouvernance de l'IA :

• L'inaction comme résultat de premier ordre : La non-exécution est redéfinie comme un état opérationnel valide et contrôlé plutôt que comme un mode de défaillance.
• Amélioration de l'auditabilité : Parce que les décisions sont bloquées par des contraintes spécifiques échouées plutôt que par de faibles scores vagues, les pistes d'audit deviennent plus claires et plus défendables.
• Indépendance du modèle : Le cadre s'applique à tout système d'IA (LLM, agents, classificateurs) tant que la décision peut être représentée structurellement, le rendant compatible avec des environnements hétérogènes.
• Atténuation des risques de données récursives : Dans les domaines où l'IA génère des données qui alimentent à nouveau l'entraînement (données récursives), la certification statistique peut devenir autoréférentielle. Une frontière de contraintes pré-action impose une validité structurelle aux décisions individuelles, fournissant une sauvegarde contre la certification de distributions déformées.

Conclusion

Le papier conclut que la légitimité est une frontière, pas un score. En introduisant un primitif de décision déterministe et non compensatoire, le protocole Droit d'Agir comble un fossé critique dans l'architecture de sécurité de l'IA, garantissant que les décisions ne procèdent à l'exécution que lorsqu'elles satisfont toutes les conditions structurelles nécessaires, indépendamment de leur confiance agrégée ou de leur profil de risque.