Procela: Epistemic Governance in Mechanistic Simulations Under Structural Uncertainty

Le papier présente Procela, un cadre de simulation mécaniste innovant qui permet aux modèles de muter leur structure à l'exécution en ajoutant dynamiquement de nouveaux mécanismes, en supprimant ceux qui échouent, en modifiant les politiques de résolution des variables et en exécutant des expériences qui altèrent le graphe causal lui-même, avec réversion automatique en cas d'échec, démontrant ainsi une réduction significative des erreurs dans la modélisation de la résistance aux antimicrobiens.

L'essentiel

🧠 Le Problème : Le Simulateur "Têtu"

Imaginez que vous essayez de prédire la météo pour les 100 prochaines années. Vous créez un super-ordinateur (un simulateur) pour le faire.

Dans les méthodes classiques, vous dites à l'ordinateur : "Voici les règles : le vent vient de l'ouest, la pluie tombe quand il y a des nuages." Vous fixez ces règles au début et l'ordinateur ne les change jamais, même si la réalité change.

Le problème ? Parfois, on ne sait pas vraiment quelles sont les bonnes règles.

• Est-ce que la grippe se propage par les poignées de porte ?
• Est-ce par l'air ?
• Ou est-ce à cause des antibiotiques ?

Si vous forcez l'ordinateur à choisir une seule réponse au début, il risque de se tromper gravement plus tard, car il est "têtu" et refuse d'admettre qu'il pourrait avoir tort.

🚀 La Solution : Procela, le Simulateur "Architecte de sa propre pensée"

Procela est un nouveau logiciel qui change la donne. Au lieu d'être un ordinateur têtu, il devient un scientifique curieux capable de réécrire ses propres règles en temps réel.

Voici comment cela fonctionne, avec une analogie simple :

1. Les "Débats Internes" (Les Mécanismes)

Imaginez que votre simulateur n'a pas une seule voix, mais trois experts qui discutent en permanence :

• Expert A dit : "C'est la faute des poignées de porte !" (Contact)
• Expert B dit : "Non, c'est l'air contaminé !" (Environnement)
• Expert C dit : "Vous avez tort, c'est à cause des médicaments !" (Sélection)

Chaque expert fait ses propres prédictions. Dans les vieux logiciels, on les forçait à se mettre d'accord une fois pour toutes. Dans Procela, ils continuent de débattre, mais la vraie magie opère dans la façon dont le système gère ces débats.

2. Le "Directeur de la Réalité" (La Gouvernance)

C'est la grande innovation. Procela possède un Directeur (la gouvernance) qui ne se contente pas de regarder les résultats, il modifie la structure du débat en direct. Ce Directeur est universel : il fonctionne pour n'importe quel domaine (météo, économie, épidémie) car il ne connaît pas les règles spécifiques, mais il maîtrise quatre pouvoirs généraux :

• 👁️ Observer : Il surveille en permanence des signaux que vous définissez pour votre propre domaine. Il ne cherche pas de règles prédéfinies, il attend que vous lui disiez quoi surveiller.
• ⚖️ Décider : Dès qu'un signal dépasse un seuil critique (par exemple, "l'erreur devient trop grande"), le Directeur déclenche une action immédiate.
• 🛠️ Agir : C'est ici que tout change. Le Directeur peut :
  • Ajouter de nouveaux experts (mécanismes) qui n'existaient même pas au début.
  • Supprimer définitivement un expert qui échoue.
  • Changer les règles de vote (par exemple, passer d'un vote pondéré à "celui qui a le plus de confiance gagne").
  • Lancer des expériences qui modifient la logique même du système, avec la capacité de tout annuler instantanément si l'expérience échoue.
• 📚 Apprendre : Il garde en mémoire les configurations qui ont fonctionné et rétablit automatiquement les anciennes versions si une nouvelle tentative échoue.

L'analogie du voyage :

• Un ensemble classique (méthode traditionnelle) est comme un capitaine qui a trois cartes fixes. Il peut choisir d'utiliser la carte A ou la carte B, mais il ne peut pas dessiner une nouvelle carte.
• Procela est comme un capitaine capable de dessiner une nouvelle carte en plein milieu de l'océan, d'ajouter un nouveau compas qui n'existait pas avant, ou de changer la façon dont l'équipage interprète le vent, tout en ayant la possibilité de revenir en arrière si la nouvelle carte s'avère fausse.

3. La "Mémoire Éternelle" (Les Variables)

Dans un logiciel normal, une variable (comme "nombre de malades") est juste un chiffre qui change.
Dans Procela, chaque chiffre est un journal de bord. Il se souvient de chaque hypothèse qui a été faite, de qui l'a faite, et de quand.
C'est comme si, à chaque fois que vous preniez une décision, vous écriviez dans un journal : "J'ai choisi ça parce que j'étais sûr à 80%, mais l'autre option disait ça...". Cela permet de tout auditer plus tard.

🏥 L'Exemple Concret : La Guerre contre les Super-Bactéries

Les auteurs ont testé Procela sur un problème réel : la propagation de bactéries résistantes dans un hôpital.

• La situation : Parfois, les bactéries voyagent par les mains des infirmières. Parfois, c'est par les surfaces sales. Parfois, c'est parce qu'on donne trop d'antibiotiques.
• Le défi : On ne sait pas toujours ce qui se passe maintenant.

C'est ici que nous utilisons des exemples spécifiques à ce domaine médical (qui ne sont pas figés dans le logiciel Procela, mais choisis par les chercheurs pour cette étude) :

1. Le Signal "Couverture" (Accuracy) : Le Directeur surveille la précision de chaque expert. S'il voit que l'expert "Contact" se trompe souvent, il le signale.
2. Le Signal "Fragilité" (Disagreement) : Le Directeur remarque si les experts sont en totale opposition sur la meilleure solution (par exemple, l'un veut isoler, l'autre veut traiter). Cette confusion est un signal d'alerte.
3. Le Signal "Sonde" (Probe) : Le Directeur lance une petite expérience : "Et si on éteignait temporairement l'expert 'Environnement' pour voir s'il est vraiment utile ?". Il mesure la performance seule, puis remet tout en place si l'expérience échoue.

Le résultat :

• Le simulateur classique (qui ne change pas) a fait beaucoup d'erreurs.
• Procela a détecté quand le "monde" changeait. Grâce à ses signaux spécifiques, il a éteint l'expert "Contact" (qui ne fonctionnait plus) et allumé un nouvel expert "Environnement" qu'il avait créé sur le spot.
• Résultat : Il a réduit les erreurs de prédiction de 20 % et a pris de bien meilleures décisions pour arrêter la propagation.

💡 Pourquoi c'est révolutionnaire ?

Imaginez un GPS.

• L'ancien GPS vous dit : "Tournez à droite" même si la route est bloquée, parce que c'est ce qu'il a programmé au début.
• Le GPS Procela dit : "Attends, la route est bloquée. Je vais tester une autre route. Si ça marche, je change mes cartes. Si ça ne marche pas, je reviens en arrière."

En résumé :
Procela ne se contente pas de simuler le monde. Il simule sa propre façon de penser. Il accepte qu'il ne sait pas tout, il teste ses hypothèses comme un scientifique, et il change d'avis (et même ses outils) quand les preuves l'y obligent.

C'est un pas de géant pour rendre les simulations plus intelligentes, plus honnêtes et plus utiles dans un monde incertain.

Résumé technique

1. Problématique : La limite des simulations à ontologie fixe

Les simulations mécanistes traditionnelles reposent sur une hypothèse fondamentale : l'ontologie est fixe. Cela signifie que les variables, les relations causales et les politiques de résolution sont définies avant l'exécution et restent statiques tout au long de la simulation.

Ce paradigme échoue lorsque la structure causale réelle du système est :

• Contestée : Plusieurs explications causales sont plausibles (ex. : transmission par contact, réservoirs environnementaux ou pression de sélection antibiotique dans la résistance aux antimicrobiens - RAM).
• Non identifiable : Les données observationnelles ne permettent pas de distinguer quelle explication est la bonne.
• Dynamique : La structure causale change au cours du temps (changements de régime).

Forcer un choix parmi ces ontologies dès la spécification du modèle élimine l'incertitude épistémique, ce qui conduit à des prédictions erronées lorsque le régime sous-jacent change. Les approches actuelles (moyennage de modèles, contrôle robuste) ne remettent pas en question la structure du modèle elle-même, se limitant souvent à pondérer ou silencer des mécanismes préexistants.

2. Méthodologie : L'architecture Procela

Procela est un framework Python (3.10+) conçu pour transformer la simulation en un processus scientifique autonome capable de remettre en question et de modifier sa propre structure. Il repose sur quatre abstractions fondamentales :

A. Variables en tant qu'autorités épistémiques mémorielles

Contrairement aux variables classiques qui ne stockent qu'une valeur, les variables Procela maintiennent une mémoire complète de toutes les hypothèses concurrentes émises à chaque étape.

• Chaque hypothèse est un tuple immuable contenant la valeur proposée, un niveau de confiance, un identifiant de source (clé cryptographique) et un timestamp.
• Une politique de résolution (ex. : vote pondéré, plus haute confiance) arbitre entre ces hypothèses pour produire une valeur résolue.
• Cela garantit une traçabilité complète (auditabilité) de l'histoire des décisions.

B. Mécanismes en tant qu'unités causales

Les mécanismes encodent des hypothèses scientifiques (théories) sous forme de fonctions causales.

• Ils lisent des variables, appliquent une transformation et écrivent de nouvelles hypothèses dans les variables.
• Ils peuvent être dynamiques, adaptatifs et maintiennent un état interne.
• Distinction clé : Contrairement aux ensembles statiques, Procela permet d'ajouter ou de retirer des mécanismes à l'exécution, modifiant ainsi la topologie du modèle.

C. Gouvernance comme citoyen de première classe

C'est le cœur de l'innovation. La gouvernance permet de muter la structure du système à l'exécution en fonction de signaux épistémiques, sans se limiter à la réaffectation de poids.

• Observation : Le gouverneur surveille des signaux définis par le domaine (non pré-codés dans le framework).
• Décision : Il déclenche des actions lorsque des seuils spécifiques sont franchis.
• Action (Mutations Structurelles) :
  • Ajout/Suppression : Introduire de nouveaux mécanismes qui n'existaient pas à l'initialisation ou éliminer définitivement des mécanismes défaillants.
  • Modification de politique : Changer la politique de résolution des variables (ex. : passer d'un vote pondéré à une règle de majorité).
  • Expérimentation causale : Exécuter des expériences temporaires en modifiant le graphe causal (ex. : isoler une branche de causalité) pour tester des hypothèses structurelles.
• Apprentissage par réversion : Si une expérience structurelle échoue (détection de dégradation), le système effectue une réversion automatique à l'état précédent, garantissant que les mutations infructueuses ne dégradent pas la simulation à long terme.

D. Exécutif

Orchestre la simulation en suivant une boucle stricte (Snapshot $\rightarrow$ Invariants PRE $\rightarrow$ Exécution des mécanismes $\rightarrow$ Invariants RUNTIME $\rightarrow$ Résolution $\rightarrow$ Invariants POST). Il gère l'état aléatoire et la journalisation pour la reproductibilité.

3. Étude de cas : La propagation de la RAM dans un réseau hospitalier

Pour valider Procela, l'auteur l'a appliqué à un problème épidémiologique complexe : la propagation d'organismes résistants aux antibiotiques. Dans ce contexte, les signaux de gouvernance et les mécanismes sont des instantiations spécifiques au domaine, et non des fonctionnalités intégrées au cœur du framework.

• Contexte : Trois familles de mécanismes concurrentes (Contact, Environnemental, Sélection antibiotique) tentent de prédire le nombre de patients colonisés.
• Réalité cachée (Ground Truth) : Le système subit trois changements de régime successifs (0-60 : Sélection, 61-110 : Environnemental, 111-160 : Contact). Les mécanismes ne connaissent pas ces changements.
• Signaux épistémiques définis pour ce cas (Domain-Specific) :
  • Couverture (Coverage) : Précision prédictive d'un mécanisme par rapport à l'observation.
  • Fragilité de la politique (Policy Fragility) : Degré de désaccord entre les mécanismes sur l'intervention à appliquer.
  • Erreur récente : Performance globale de la prédiction résolue.

Trois stratégies de gouvernance ont été testées (spécifiques à ce cas) :

1. Gouvernance de fragilité de politique : Modifie la politique de résolution (de pondérée à "plus haute confiance") lors de forts désaccords.
2. Gouvernance de dégradation de couverture : Désactive temporairement une famille de mécanismes si sa précision chute en dessous d'un seuil pendant plusieurs étapes.
3. Sonde structurelle (Structural Probe) : Isolé périodiquement chaque famille de mécanismes pour mesurer sa performance autonome et identifier le régime actuel, agissant comme une expérience de modification du graphe causal.

4. Résultats Clés

Les expériences ont été menées sur 50 exécutions indépendantes avec des changements de régime.

• Réduction de l'erreur de prédiction :

  • La gouvernance par dégradation de couverture a réduit l'erreur absolue moyenne de 20,42 % par rapport à la base (sans gouvernance), avec une variance plus faible.
  • La sonde structurelle a réduit l'erreur de 9,31 %.
  • La gouvernance par fragilité de politique a légèrement dégradé les performances (-1,63 %), car elle a substitué une politique optimale (vote pondéré) par une sous-optimale (plus haute confiance) dans des contextes stochastiques.

• Amélioration de la prise de décision (Regret Cumulé) :

  • La sonde structurelle a obtenu la meilleure amélioration en termes de décision (69 % de réduction du regret cumulatif), car elle permet d'identifier le régime dominant et d'appliquer l'intervention optimale, même si l'amélioration pure de la prédiction est modeste.
  • La dégradation de couverture a amélioré la décision de 35,5 %.

• Dynamique des expériences :

  • Le taux de succès des expériences de gouvernance est élevé (> 71 %) lorsque l'erreur pré-expérimentale est forte (crise épistémique).
  • Les échecs sont contenus : les expériences ratées sont correctement annulées via la réversion automatique, empêchant une dégradation à long terme.

• Combinaison de gouvernances :

  • Combiner toutes les stratégies améliore encore les résultats (8,18 % de réduction d'erreur), mais introduit une certaine instabilité si les mécanismes ne sont pas robustement conçus pour coexister.

5. Signification et Contributions

Contributions principales :

1. Nouveau paradigme : Passage de la simulation comme "modèle fixe" ou "ensemble pondéré" à la simulation comme "hypothèse évolutive" capable de modifier sa propre topologie (ajout/suppression de mécanismes, mutation du graphe causal).
2. Architecture formelle : Définition mathématique de la gouvernance épistémique via des invariants et des hooks, permettant la mutation dynamique de la structure du modèle avec mécanisme de réversion automatique.
3. Implémentation open-source : Le framework Procela est disponible sous licence Apache 2.0 avec une auditabilité totale (historique cryptographique des hypothèses).
4. Preuve de concept : Démonstration empirique que l'adaptation structurelle en temps réel réduit l'erreur et le regret dans des environnements à incertitude structurelle, surpassant les méthodes d'ensemble traditionnelles.

Implications :

• Science autonome : La simulation internalise la méthode scientifique (observer, hypothétiser, expérimenter, conclure) en testant activement ses propres structures.
• Gestion du risque épistémique : Permet de détecter les crises de modèle (changements de régime) et d'intervenir avant que les erreurs ne deviennent catastrophiques.
• Transférabilité : Bien que testé sur la RAM avec des signaux spécifiques, le framework est agnostique au domaine et applicable à la climatologie, l'économie, la robotique ou les sciences sociales, partout où les modèles concurrents et l'incertitude structurelle sont présents.

Limites et perspectives :

• L'étude de cas simplifie la complexité du monde réel (pas de hétérogénéité patient).
• Les seuils de déclenchement sont actuellement calibrés manuellement (futur travail : métagouvernance adaptative).
• Nécessité de validation dans des environnements opérationnels réels.

En conclusion, Procela établit que les simulations ne doivent pas seulement modéliser le monde, mais aussi modéliser leur propre processus de modélisation, offrant ainsi une résilience inédite face à l'incertitude structurelle grâce à la mutation dynamique de leur architecture.