🤖 AI

PACE: A Neuro-Symbolic Framework for Plausible and Actionable Counterfactual Explanations

Cet article introduit PACE, un cadre neuro-symbolique modulaire qui combine des modèles prédictifs neuronaux avec le raisonnement symbolique pour générer des explications contrefactuelles qui sont non seulement valides, mais aussi réalistes et exploitables en imposant explicitement des contraintes spécifiques au domaine et des interventions réalisables.

Auteurs originaux : Pavel Iakovets, Liyanapathiranage Sudeepika Wajirakumari Samarathunga, Martin Thomas Horsch, Fadi Al Machot

Publié 2026-07-03

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Pavel Iakovets, Liyanapathiranage Sudeepika Wajirakumari Samarathunga, Martin Thomas Horsch, Fadi Al Machot

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous utilisiez une « boîte noire » d'apprentissage automatique pour décider si vous êtes éligible à un prêt ou à un emploi. L'ordinateur répond « Non ». Vous demandez : « Que dois-je changer pour obtenir un "Oui" ? »

Une IA standard pourrait vous donner une réponse du type : « Si vous aviez 150 ans et travailliez 200 heures par semaine, vous obtiendriez le prêt. » Bien que mathématiquement vrai (cela change la prédiction), c'est inutile car c'est impossible à réaliser.

Ce document présente PACE, un nouveau système conçu pour vous donner des réponses qui ne sont pas seulement mathématiquement correctes, mais aussi réalistes et réalisables.

Voici comment fonctionne PACE, décomposé en concepts simples :

1. Le problème : Le conseil « irréaliste »

Considérez les outils d'explication d'IA standard comme un agent de voyage imprudent. Si vous demandez : « Comment aller de New York à Londres ? », il pourrait répondre : « Volez à la vitesse de la lumière. » Cela vous fait arriver à destination (valide), mais vous ne pouvez pas le faire (non plausible).

Les méthodes existantes se concentrent souvent uniquement sur le changement du résultat (obtenir le « Oui ») sans vérifier si les étapes pour y parvenir font sens dans le monde réel. Elles pourraient suggérer de changer votre âge ou votre genre, qui sont des choses que vous ne pouvez tout simplement pas changer.

2. La solution : L'équipe « neuro-symbolique »

Les auteurs ont créé PACE, qui agit comme une équipe de deux personnes travaillant ensemble pour vous conseiller :

Le réseau de neurones (le « Joueur ») : C'est l'IA qui sait prédire l'issue. Elle est douée pour deviner : « Si tu changes X, le résultat basculera probablement vers Y. » Mais elle ne connaît pas les règles du monde réel.
Le raisonneur symbolique (le « Livre de règles ») : C'est un moteur logique strict qui détient une liste de règles du monde réel. Il sait que vous ne pouvez pas changer votre âge, que vous ne pouvez pas travailler 200 heures par semaine, et que vous ne pouvez passer d'un niveau « Lycée » à « Études supérieures » qu'en passant par des étapes intermédiaires, et non directement à un « Doctorat ».

PACE force le « Joueur » à ne suggérer que des changements approuvés par le « Livre de règles ».

3. Comment ça marche : La « recherche avec une clôture »

Imaginez que vous cherchez une clé spécifique dans un immense champ.

Les anciennes méthodes courent partout dans le champ de manière aléatoire. Elles peuvent trouver la clé rapidement, mais elles pourraient aussi vous suggérer de déterrer une montagne pour la trouver.
PACE construit une clôture autour du champ. Cette clôture représente l'« espace d'intervention réalisable ». Le système sait que vous ne pouvez marcher qu'à l'intérieur de la clôture. Il vérifie systématiquement chaque endroit à l'intérieur de la clôture jusqu'à ce qu'il trouve la clé.

Si la clé n'est pas à l'intérieur de la clôture (ce qui signifie qu'aucun changement réaliste ne peut obtenir un « Oui »), PACE l'admet. Il ne mentira pas en vous disant de briser les lois de la physique.

4. Le test : L'étude de cas « Revenu Adulte »

Pour tester cela, les chercheurs ont utilisé un ensemble de données sur les revenus des individus. Ils ont demandé au système : « Quels petits changements réalistes une personne peut-elle effectuer pour augmenter son revenu de moins de 50 000 $ à plus de 50 000 $ ? »

Ils ont comparé PACE à d'autres méthodes populaires (comme DiCE, Wachter et la recherche aléatoire).

Les résultats :

Les méthodes « imprudentes » (Recherche aléatoire, DiCE) : Elles étaient très douées pour trouver un moyen de changer la prédiction (Haute « Validité »). Cependant, la plupart de leurs suggestions étaient absurdes (Faible « Plausibilité »). Par exemple, elles pourraient suggérer de changer le sexe ou l'âge d'une personne.
PACE : Il était légèrement plus lent pour trouver n'importe quelle réponse car il suivait strictement les règles. Cependant, 100 % des réponses qu'il a données étaient réalistes.
- Il a suggéré des choses comme : « Augmentez votre niveau d'éducation d'un échelon » ou « Travaillez quelques heures de plus par semaine ».
- Il n'a jamais suggéré de changements impossibles.

5. Le compromis

Le document souligne un compromis clair, comme choisir entre vitesse et sécurité.

Si vous voulez la réponse la plus rapide qui change le résultat, vous pourriez obtenir une suggestion impossible à suivre.
Si vous voulez une suggestion que vous pouvez réellement faire, vous avez besoin d'un système comme PACE qui vérifie les règles d'abord.

Résumé

PACE est un cadre qui combine un prédicteur d'IA intelligent avec un vérificateur logique strict. Il garantit que lorsque l'IA vous dit comment changer votre vie pour obtenir un meilleur résultat, le conseil est actionnable. Il ne vous dira pas de devenir une autre personne ; il vous dira quelles étapes réalistes vous pouvez réellement entreprendre.

Le document conclut que, bien que cette approche prenne parfois un peu plus de temps pour trouver une réponse, elle est bien meilleure pour fournir des conseils fiables et ancrés dans le monde réel que les méthodes qui ignorent les règles de la réalité.

Résumé Technique : PACE – Un cadre neuro-symbolique pour des explications contrefactuelles plausibles et actionnables

Énoncé du Problème
Les explications contrefactuelles (CE) sont une approche de l'IA explicable (XAI) de premier plan, conçue pour fournir des recommandations actionnables en identifiant les changements minimaux à apporter à une instance d'entrée afin de modifier la prédiction d'un modèle d'apprentissage automatique. Bien que les méthodes existantes génèrent efficacement des alternatives changeant la prédiction, elles produisent fréquemment des recommandations irréalistes ou irréalisables. Cela se produit car de nombreuses approches optimisent principalement le changement de prédiction et la proximité avec l'instance d'origine, manquant souvent de mécanismes explicites pour incorporer des connaissances métier ou des contraintes d'intervention. Par conséquent, les explications générées peuvent violer des règles spécifiques au domaine (par exemple, suggérer un changement impossible pour des attributs immuables comme l'âge ou le sexe) ou ne pas représenter des actions humaines réalistes. Il existe un besoin critique de méthodes garantissant que les explications soient non seulement valides (changeant la prédiction), mais aussi plausibles et réalisables dans le cadre de contraintes propres à l'application.

Méthodologie
Le document propose PACE (Plausible and Actionable Counterfactual Explanations), un cadre neuro-symbolique modulaire qui intègre des modèles prédictifs fondés sur les données avec un raisonnement symbolique pour imposer la faisabilité. La méthodologie est structurée autour de trois composantes clés :

Formulation du Problème :
La génération d'un contrefactuel est formalisée comme un problème de recherche sous contraintes. Étant donné un modèle boîte noire $f$ et une entrée $x$ avec une prédiction $y$ , l'objectif est de trouver un contrefactuel $x_{cf}$ tel que $f(x_{cf}) \neq f(x)$ . La recherche minimise une métrique de distance $d$ (définie par le nombre de caractéristiques modifiées) sous la contrainte que $x_{cf}$ doit se situer dans un espace d'intervention réalisable $\Omega$ . Cet espace est strictement défini par des règles spécifiques au domaine, garantissant que les attributs immuables restent inchangés et que les attributs éditables suivent des dépendances logiques.
Architecture Neuro-Symbolique :
- Composante Neurale : Un modèle prédictif (par exemple, un perceptron multicouche) agit comme un oracle pour évaluer les instances candidates et vérifier si la condition de basculement de la prédiction est remplie.
- Composante Symbolique : Une couche de raisonnement symbolique, implémentée via la programmation par ensembles de réponses (ASP), encode la connaissance métier. Cette couche définit l'espace réalisable $\Omega$ en partitionnant les caractéristiques en ensembles immuables ( $X_I$ ) et éditables ( $X_E$ ). Elle impose des règles logiques, telles que des invariants directionnels (par exemple, les niveaux d'éducation ne peuvent changer que vers des niveaux adjacents) et des invariants relationnels (par exemple, des transitions d'occupation spécifiques).
- Procédure de Recherche : Le cadre emploie une boucle itérative de « génération et vérification ». Le moteur symbolique génère des interventions candidates dans un budget spécifique $K$ (limitant le nombre de changements de caractéristiques simultanés). Les candidats sont filtrés par rapport aux contraintes symboliques avant d'être évalués par le modèle neural. La recherche commence par un budget minimal et s'étend progressivement jusqu'à ce qu'un contrefactuel valide soit trouvé ou que la limite maximale soit atteinte.

Étude de Cas et Configuration Expérimentale
Le cadre a été évalué sur le jeu de données Adult Income, un benchmark pour la classification tabulaire. La tâche consiste à prédire si le revenu d'un individu dépasse 50 000 $.

Modèle : Un perceptron multicouche (MLP) avec une précision de 82 % a servi de modèle prédictif.
Caractéristiques : Cinq caractéristiques ont été utilisées : l'âge et le sexe (immuables), ainsi que le niveau d'éducation, l'occupation et les heures par semaine (éditables).
Contraintes : La base de connaissances symbolique a imposé des règles telles que :
- L'âge et le sexe ne peuvent pas être modifiés.
- Les changements d'éducation sont restreints à des niveaux adjacents.
- Les changements d'occupation doivent suivre un graphe de transition prédéfini.
- Les heures de travail doivent changer selon des étapes bornées.
Baselines : PACE a été comparé à la recherche aléatoire (Random Search), DiCE, les approches de type Wachter, les approches de type VCNet et les approches de type C-CHVAE.

Résultats Clés
Les expériences, menées sur 1 000 instances de test, ont mis en évidence un compromis distinct entre validité (changer avec succès la prédiction) et plausibilité (satisfaire aux contraintes du domaine) :

Plausibilité : PACE a atteint une plausibilité de 100 %, car toutes les explications générées respectaient strictement les contraintes symboliques. En revanche, les méthodes non contraintes comme la recherche aléatoire (2,7 % de plausibilité) et DiCE (4,2 % de plausibilité) ont fréquemment produit des recommandations irréalisables.
Validité : Les méthodes non contraintes ont généralement obtenu des scores de validité plus élevés (par exemple, la recherche aléatoire à 0,778, DiCE à 0,742) par rapport à PACE (0,240). Cela indique que la restriction de l'espace de recherche à des interventions réalisables réduit le nombre d'instances pour lesquelles un contrefactuel peut être trouvé.
Minimalité : PACE a généré des explications relativement compactes, nécessitant en moyenne 1,242 modification de caractéristiques, ce qui est inférieur à la plupart des baselines (par exemple, DiCE à 1,953).
Efficacité de la Recherche : PACE a démontré une grande efficacité, nécessitant une moyenne de 5,271 itérations pour faire basculer une prédiction et un temps d'exécution de 0,076 seconde par instance, surpassant nettement la baseline de type Wachter.
Analyse Additionnelle : Lorsque toutes les méthodes ont été restreintes au même espace réalisable $\Omega$ , leurs scores de plausibilité ont convergé vers 1,0, confirmant que les gains de plausibilité de PACE proviennent de la spécification explicite des contraintes. De plus, les contrefactuels de PACE se sont révélés plus proches de la variété empirique des données (distance moyenne aux plus proches voisins : 0,354) par rapport à la recherche non contrainte (0,944).

Signification et Contributions
L'article affirme que PACE comble l'écart entre la génération de contrefactuels à haute validité et l'imposition explicite de la faisabilité. Ses principales contributions sont :

Un Cadre Modulaire : Il intègre l'apprentissage automatique au raisonnement symbolique pour permettre la génération de contrefactuels contraints.
Une Formulation Sensible à la Faisabilité : Il définit la génération de contrefactuels comme une recherche où les contraintes symboliques délimitent explicitement l'espace d'intervention admissible.
Implémentation : Il fournit une implémentation basée sur l'ASP qui impose des contraintes spécifiques au domaine pendant le processus de recherche.
Preuve Empirique : Il démontre, à travers l'étude de cas Adult Income, que l'incorporation de contraintes symboliques permet d'obtenir des explications qui satisfont mieux les exigences de faisabilité liées au domaine, bien qu'au prix d'un compromis sur le taux de découverte de contrefactuels valides pour toutes les instances.

Les auteurs concluent que, bien qu'il existe un arbitrage entre validité et plausibilité, les méthodes neuro-symboliques comme PACE offrent une voie prometteuse pour générer des explications transparentes et sensibles à la faisabilité dans les systèmes de support à la décision à enjeux élevés. L'article reconnaît des limites, notant la dépendance à un seul jeu de données et à des contraintes spécifiées manuellement, et suggère que les travaux futurs devraient explorer l'acquisition automatique de contraintes et des formes plus riches de connaissances métier.