Beyond Post-hoc Explanation: Toward Glassbox AI via Probabilistic Mediation

Résumé technique : Au-delà de l'explication post-hoc : Vers une IA « Glassbox » via la médiation probabiliste

Énoncé du problème
L'article traite du défi critique de la gouvernance posé par le déploiement des grands modèles de langage (LLM) en tant qu'infrastructure dans des contextes institutionnels à enjeux élevés (ex. : administration publique, soins de santé, raisonnement juridique). Le problème central est l'opacité du raisonnement des LLM, ce qui rend les décisions juridiquement et institutionnellement intenables. Les auteurs soutiennent que le paradigme dominant de l'explicabilité post-hoc (ex. : LIME, SHAP) est structurellement inadéquat pour ces contextes. Les méthodes post-hoc souffrent de trois modes de défaillance spécifiques :

1. Instabilité : Les explications varient arbitrairement avec de mineures perturbations des entrées, échouant à fournir un raisonnement cohérent.
2. Non-contestabilité : Parce que les explications sont des approximations générées par un mécanisme distinct, elles manquent de relation formelle avec le processus de raisonnement réel du modèle, empêchant les parties affectées de formuler des contestations authentiques.
3. Le fossé de la responsabilité : Les méthodes post-hoc identifient les caractéristiques influentes mais ne vérifient pas si les prédictions s'alignent sur les connaissances du domaine, les contraintes normatives ou les normes explicites.

L'article pose que la cause profonde n'est pas un manque d'explication, mais un manque de raisonnement structuré au sein même du système.

Méthodologie : Le cadre « Glassbox »
Les auteurs proposent un nouveau paradigme architectural appelé le Cadre Glassbox (boîte de verre), qui déplace la responsabilité de l'approche post-hoc (après coup) vers l'approche ante-hoc (avant l'inférence). Le mécanisme central consiste à utiliser des Réseaux Bayésiens (RB) comme couches de médiation transparentes pour les modèles génératifs.

L'architecture se compose de trois couches fonctionnelles disposées verticalement :

1. La couche de Gouvernance : Une couche institutionnelle (non computationnelle) où des experts du domaine et des autorités juridiques spécifient la structure du RB (variables, graphe acyclique dirigé/DAG, et distributions a priori) sur la base des normes institutionnelles actuelles. Cette couche gère les journaux d'audit et les protocoles de mise à jour, garantissant que les changements structurels sont autorisés et documentés.
2. La couche d'Inférence : Le cœur technique où un LLM et un RB interagissent de manière itérative.
   • Le LLM effectue un premier partitionnement de l'entrée non structurée pour proposer des assignations candidates pour les variables du RB.
   • Ces propositions passent par une interface de traduction sémantique, mappant le langage naturel vers l'espace de variables discrètes et formellement spécifiées du RB.
   • Le RB active un sous-graphe contextuellement pertinent (plutôt que le réseau complet) pour effectuer l'inférence probabiliste.
   • Vérification de cohérence : Le RB vérifie les assignations du LLM par rapport à la structure de domaine encodée. Si les assignations sont incohérentes (ex. : preuves conflictuelles), le RB génère une nouvelle requête ciblée vers le LLM. Cette boucle continue jusqu'à ce qu'une instanciation cohérente soit atteinte ou qu'un échec structurellement informatif soit signalé.
   • Le RB produit une distribution a posteriori et une trace d'inférence complète, qui est rendue à nouveau en langage naturel par un LLM.
3. La couche de Responsabilité : Cette couche rend la trace complète du raisonnement disponible pour l'examen, l'appel et la contestation institutionnels. Parce que la trace est un enregistrement direct de la structure ante-hoc, les parties prenantes peuvent contester des nœuds spécifiques, des dépendances conditionnelles ou des décisions de gouvernance.

Contributions principales
L'article présente quatre contributions principales :

1. Architecture conceptuelle : Il introduit et caractérise formellement le Cadre Glassbox comme une architecture conceptuelle pour une IA générative responsable, la distinguant des approches existantes d'IA explicable (XAI) et neuro-symboliques.
2. L'interface BN-LLM : Il définit l'interface entre le LLM et le RB comme un objet scientifique distinct, séparé de l'explicabilité post-hoc. Cette interface est identifiée comme le défi technique central, nécessitant le mappage des représentations implicites et distributionnelles du LLM vers les représentations discrètes et structurées du RB.
3. Démonstration opérationnelle : À travers une expérience de pensée structurée dans un scénario d'éligibilité aux prestations, l'article illustre les propriétés opérationnelles du cadre. Il démontre comment le système gère l'ambiguïté sémantique, détecte les incohérences (ex. : entre le statut d'emploi et les signaux de revenus) et produit des traces auditables permettant la contestation au niveau des nœuds.
4. Agenda de recherche : Il identifie cinq défis fondamentaux qui doivent être résolus pour réaliser le cadre à grande échelle :
   • Ancrage sémantique : Combler le fossé entre le langage naturel dépendant du contexte et les variables probabilistes indépendantes du contexte.
   • Apprentissage de structure dans les domaines normatifs : Développer des méthodes pour apprendre ou eliciter des DAG qui soient à la fois cohérents avec les données et défendables sur le plan normatif (juridique/éthique), plutôt que purement statistiques.
   • Interface probabiliste : Construire un mappage mathématique rigoureux entre les distributions de tokens du LLM et les tables de probabilités conditionnelles du RB, en utilisant spécifiquement des « preuves virtuelles » plutôt que des preuves strictes pour préserver les a priori du RB.
   • Gouvernance avec l'humain dans la boucle : Établir des protocoles formels pour le désaccord des experts, l'audit par des acteurs non techniques et les mises à jour autorisées du modèle.
   • Scalabilité et généralisation : Étudier si des structures de méta-niveau ou des mécanismes de transfert peuvent généraliser le cadre à travers différents domaines (ex. : de l'éligibilité aux prestations au triage médical).

Résultats et affirmations
L'article ne présente pas un système entièrement implémenté ni de résultats expérimentaux empiriques. Au lieu de cela, il propose une analyse théorique et architecturale.

• Résultat théorique : Les auteurs démontrent que le Cadre Glassbox possède quatre propriétés dérivées directement de son architecture : Transparence de la structure (la structure de raisonnement est inspectable avant l'inférence), Contestabilité des sorties (les contestations peuvent cibler des nœuds/dépendances spécifiques), Quantification formelle de l'incertitude (distributions de probabilité natives plutôt que des prédictions ponctuelles) et Modularité (les connaissances spécifiques au domaine peuvent être mises à jour sans modifier l'architecture générale).
• Analyse de l'étude de cas : Dans le scénario d'éligibilité aux prestations, le cadre est capable de détecter une incohérence structurelle (ex. : une forte confiance dans le chômage malgré des preuves de revenus) et de déclencher des re-requêtes ciblées, produisant une trace qui lie explicitement le résultat aux conditions statutaires. Cela contraste avec les pipelines LLM standards, qui produisent des résumés instables et non contestables.

Signification et portée
L'article affirme que le Cadre Glassbox représente une « voie privilégiée » vers des systèmes d'IA fondamentalement responsables. Sa signification réside dans le déplacement de l'attention : ne plus chercher à expliquer des modèles opaques, mais concevoir des systèmes dont la structure de raisonnement est intrinsèquement inspectable et gouvernée.

Les auteurs font preuve de modestie quant à leurs affirmations, précisant explicitement que le cadre est une « direction de recherche » plutôt qu'un système achevé. Ils soulignent que la réalisation de ce cadre dépend de la résolution de problèmes scientifiques ouverts, particulièrement l'« alignement sémantique » entre le langage et la probabilité ainsi que la formalisation de la gouvernance probabiliste. Ils soutiennent que sans résoudre ces problèmes fondamentaux, la transition des LLM vers des infrastructures à enjeux élevés restera juridiquement et éthiquement précaire, car les explications post-hoc ne peuvent se substituer à un raisonnement structuré et responsable.