ReasonX: Declarative Reasoning on Explanations

Each language version is independently generated for its own context, not a direct translation.

🕵️‍♂️ Le Problème : La Boîte Noire et le Mystère

Imaginez que vous postulez pour un prêt bancaire. L'ordinateur de la banque dit "Non". Vous demandez : "Pourquoi ?".
Souvent, les systèmes d'intelligence artificielle (IA) qui prennent ces décisions sont comme des boîtes noires. Ils donnent une réponse, mais personne ne sait exactement comment ils y sont arrivés. Les méthodes actuelles pour expliquer ces décisions sont souvent limitées : elles disent "C'est à cause de votre âge" ou "C'est à cause de votre salaire", mais elles ne vous permettent pas de poser des questions complexes comme : "Et si j'avais eu un salaire plus élevé ET que j'avais déménagé, aurais-je eu le prêt ?".

De plus, ces outils ne comprennent pas toujours le "bon sens" humain (par exemple, on ne peut pas changer son lieu de naissance, ou l'âge ne peut que augmenter).

💡 La Solution : REASONX, le Détective Déclaratif

Les auteurs (Laura State, Salvatore Ruggieri et Franco Turini) ont créé un outil appelé REASONX.
Imaginez REASONX non pas comme un simple traducteur, mais comme un détective très rigoureux qui travaille avec deux équipes :

L'équipe Python (Le Chef de Chantier) : C'est l'interface que vous voyez. Elle parle votre langage, comprend vos données et vos questions.
L'équipe CLP (Le Génie Logique) : C'est le cerveau caché qui utilise une logique mathématique très puissante (programmation logique par contraintes) pour vérifier si vos questions ont un sens et trouver les réponses exactes.

🧩 Comment ça marche ? L'Analogie du "Jeu de Construction"

Pour expliquer une décision, REASONX utilise une algèbre (une sorte de boîte à outils mathématique) basée sur des contraintes linéaires.

L'Analogie du Puzzle : Imaginez que la décision de l'IA est un puzzle. Chaque pièce du puzzle est une règle (ex: "Si le revenu > 30k ET l'âge < 50").
La Puissance de REASONX : Contrairement aux autres outils qui vous montrent juste une pièce du puzzle, REASONX vous permet de reconstruire le puzzle avec des règles que vous définissez.
- Vous pouvez dire : "Montre-moi toutes les façons de changer ce dossier pour obtenir un 'Oui', mais en gardant mon lieu de naissance fixe."
- Vous pouvez dire : "Montre-moi ce qui se passe si je ne connais pas exactement mon revenu, mais juste qu'il est entre 20k et 30k." (C'est ce qu'on appelle une instance "sous-spécifiée").

🚀 Les 3 Super-Pouvoirs de REASONX

1. Le Dialogue Interactif (La Conversation)

La plupart des outils d'IA vous donnent une réponse statique, comme un ticket de caisse. REASONX, c'est une conversation.

Vous : "Pourquoi ce refus ?"
REASONX : "Parce que votre revenu est trop bas."
Vous : "Et si mon revenu était de 5000€ de plus ?"
REASONX : "Alors, la réponse serait 'Oui', à condition que votre dette reste sous X."
Vous : "Ok, mais je ne peux pas changer ma dette. Et si on garde la dette fixe ?"
REASONX : "Dans ce cas, il faut augmenter le revenu de 8000€."

C'est comme si vous pouviez tweeter la réalité pour voir comment la décision changerait, en temps réel.

2. Le Voyage dans le Temps et les Mondes Parallèles

Les modèles d'IA changent avec le temps (on les réentraîne avec de nouvelles données).

L'Analogie : Imaginez deux versions d'un même jeu vidéo, la version 1.0 et la version 2.0.
Ce que fait REASONX : Il peut comparer les règles du jeu 1.0 et du jeu 2.0. Il peut vous dire : "Dans l'ancienne version, vous aviez le prêt avec tel profil. Dans la nouvelle, non. Voici exactement ce qui a changé dans la logique de l'ordinateur."
Il permet aussi de comparer deux modèles différents (par exemple, un arbre de décision vs un réseau de neurones) pour voir s'ils s'accordent sur la même personne.

3. La Gestion de l'Incertitude (Le "Peut-être")

Souvent, on ne connaît pas toutes les données d'une personne.

L'Analogie : Au lieu de dire "M. X a 35 ans", on dit "M. X a entre 30 et 40 ans".
Ce que fait REASONX : Il calcule la réponse pour toute la plage de valeurs possibles. Il ne vous donne pas un seul point, mais une zone de sécurité. C'est comme si le détective disait : "Peu importe si vous avez 32 ou 38 ans, tant que vous êtes dans cette tranche, la décision sera la même."

🛠️ La Technologie derrière le Rideau

Pour faire tout cela, REASONX utilise une technique appelée Programmation Logique par Contraintes (CLP).

Imaginez que vous avez une feuille de papier avec des lignes (des contraintes).
REASONX trace des zones sur ce papier.
Si vous demandez "Où est la solution ?", il vous montre la zone exacte (un polygone) où toutes vos conditions sont respectées.
Il utilise aussi des mathématiques avancées (MILP) pour trouver le chemin le plus court ou le plus logique pour changer une décision (ce qu'on appelle une "explication contrastive").

🌍 Pourquoi c'est important ?

Dans le monde réel, surtout pour des sujets sensibles comme les prêts bancaires, la justice ou la santé, il ne suffit pas de savoir ce qui s'est passé. Il faut savoir pourquoi et comment on peut agir.

Équité : REASONX aide à détecter si une IA est injuste en testant des scénarios avec des attributs sensibles (race, sexe).
Confiance : En permettant aux humains de poser des questions "Et si...", on rend l'IA moins effrayante et plus compréhensible.
Action : Il ne se contente pas d'expliquer le passé, il suggère des actions concrètes pour changer le futur (par exemple : "Augmentez votre épargne de 2000€ pour obtenir le prêt").

🎯 En Résumé

REASONX est un outil qui transforme l'explication de l'IA d'un monologue ennuyeux en un dialogue interactif et logique. Il permet aux humains de tester des hypothèses, de comprendre les changements de règles dans le temps, et de trouver des solutions concrètes, le tout en respectant les contraintes du monde réel (comme le fait qu'on ne peut pas changer son passé).

C'est comme passer d'une carte routière statique à un GPS intelligent qui vous dit : "Si vous prenez cette route, vous arriverez en retard. Si vous prenez celle-ci, vous arriverez à l'heure, mais attention aux travaux. Et si vous voulez éviter les péages, voici le trajet idéal."

Each language version is independently generated for its own context, not a direct translation.

Titre de l'article

REASONX : Raisonnement Déclaratif sur les Explications (Neurosymbolic Artificial Intelligence)

1. Problématique

L'adoption et la confiance dans les applications d'Intelligence Artificielle (IA) sont entravées par l'opacité des modèles d'apprentissage automatique (ML), ce qui peut conduire à des décisions biaisées ou discriminatoires. Bien que le domaine de l'IA explicable (XAI) ait progressé, les méthodes actuelles souffrent de plusieurs lacunes :

Abstraction insuffisante : Elles se concentrent souvent sur des explications descriptives pour des instances entièrement spécifiées, sans permettre un raisonnement sur des cas partiellement définis.
Manque d'interactivité : Les utilisateurs ne peuvent pas facilement affiner les explications ou intégrer leurs propres connaissances de domaine.
Intégration limitée des connaissances symboliques : Peu de méthodes permettent d'encoder des connaissances de fond (bon sens, règles métier) directement dans le processus d'explication.
Absence de raisonnement temporel et multi-modèle : Il est difficile de comparer les explications d'un même cas sur différents modèles ou à différents moments dans le temps.

2. Méthodologie

L'article propose REASONX, un outil d'explication basé sur une approche neurosymbolique combinant l'apprentissage automatique et la programmation logique.

A. Fondements Théoriques : Algèbre Déclarative

Le cœur de REASONX est une algèbre d'opérateurs fermée définie sur des ensembles de contraintes linéaires. Cette algèbre permet de formuler des requêtes (expressions) pour calculer des explications factuelles et contrastives.

Représentation : Les modèles (arbres de décision) et les connaissances utilisateurs sont encodés sous forme de contraintes linéaires sur les réels.
Opérateurs clés :
- inst(I, DT, l, pr): Extrait les contraintes menant à une classe $l$ avec une confiance $pr$ pour une instance $I$ .
- cross(...): Produit cartésien des contraintes de plusieurs instances/modèles.
- sat(...): Vérifie la satisfaisabilité des contraintes.
- πw(...): Projection des contraintes sur un sous-ensemble de variables (features).
- inf(...): Minimisation d'une fonction de distance (pour les explications contrastives minimales).
- relax(...): Assouplit les inégalités strictes pour gérer l'incertitude aux frontières de décision.
Avantage : Cette algèbre est "fermée", ce qui signifie que la sortie d'une requête (un ensemble de contraintes) peut servir d'entrée pour une requête suivante, favorisant l'interactivité.

B. Architecture Technique

REASONX est structuré en deux couches :

Couche Python (Interface Utilisateur) :
- Gère les données (via pandas), les modèles ML (via scikit-learn) et l'interface utilisateur.
- Transforme les arbres de décision, les instances et les contraintes utilisateurs en faits et termes pour la couche CLP.
- Gère l'encodage des variables nominales (one-hot) et ordinales.
Couche CLP(R) (Moteur de Raisonnement) :
- Implémentée en SWI-Prolog avec la bibliothèque CLP(R) (Constraint Logic Programming over Reals).
- Contient un méta-interpréteur qui évalue les expressions de l'algèbre.
- Utilise la Programmation Linéaire en Nombres Entiers Mixtes (MILP) pour résoudre les problèmes d'optimisation (minimisation de distance) et de satisfiabilité.
- Permet de raisonner sur des instances "sous-spécifiées" (où certaines features sont des intervalles ou non définies).

C. Types d'Explications Supportées

Factuelles : Pourquoi une instance a-t-elle reçu cette prédiction ? (Règles dérivées des chemins de l'arbre).
Contrastives : Comment modifier l'entrée pour obtenir une prédiction différente ? (Exemples contrastifs et règles).
Minimales : Les exemples contrastifs les plus proches de l'instance originale (selon des normes L1 ou L∞).
Multi-modèles et Temporelles : Comparaison d'explications entre différents modèles (ex: avant/après réentraînement) ou pour le même modèle à différents instants.

3. Contributions Clés

Algèbre de requêtes fermée : Introduction d'un langage formel basé sur les contraintes linéaires permettant de composer des opérateurs pour modéliser des problèmes d'explication complexes (factuels, contrastifs, minimaux).
Outil REASONX : Développement d'une architecture hybride (Python/CLP) permettant une interface conviviale tout en exploitant la puissance du raisonnement logique symbolique.
Raisonnement sur instances sous-spécifiées : Capacité unique à générer des explications pour des groupes d'instances ou des cas où certaines caractéristiques sont inconnues ou bornées, plutôt que de se limiter à des points précis.
Intégration de connaissances de fond : Possibilité pour l'utilisateur d'imposer des contraintes (ex: "l'âge ne peut pas diminuer", "le lieu de naissance est immuable") directement dans la génération d'explications.
Comparaison Multi-modèle : Capacité à intersecter les explications de différents modèles pour identifier des règles stables ou des divergences critiques (ex: utilisation d'attributs sensibles).

4. Résultats et Évaluation

Les auteurs ont évalué REASONX sur plusieurs jeux de données (Adult Income, South German Credit, etc.) et l'ont comparé à des outils de référence comme DiCE (pour les exemples contrastifs) et ANCHORS (pour les règles factuelles).

Qualité des Explications Contrastives :
- REASONX produit des exemples contrastifs plus proches des instances originales (distances L1 et L∞ plus faibles) que DiCE.
- Contrairement à DiCE qui génère des points discrets, REASONX peut retourner des régions de solutions (polyèdres), offrant une vue plus complète des possibilités de changement.
Qualité des Règles Factuelles :
- Les règles générées par REASONX sont comparables en longueur et en couverture à celles d'ANCHORS, mais avec la garantie de cohérence avec le modèle de base (arbre de décision).
Performance Temporelle :
- Le temps d'exécution de REASONX est plus élevé que celui de DiCE ou ANCHORS en raison de la complexité du raisonnement symbolique et de l'overhead de communication Python-CLP. Cependant, ce temps reste acceptable pour un usage analytique.
Détection de Biais :
- L'outil a permis d'identifier des divergences entre modèles (ex: un modèle utilisant l'attribut sensible "sexe" alors qu'un autre ne le fait pas) et de vérifier la validité des explications sur plusieurs modèles simultanément.
Optimisation de la Diversité :
- Une expérience a montré que l'ajout d'un terme de diversité dans la fonction d'optimisation permet de générer un ensemble d'explications contrastives plus varié, évitant les solutions redondantes.

5. Signification et Perspectives

Signification :
REASONX représente une avancée majeure vers une XAI interactive et déclarative. En passant d'une approche "boîte noire" générant des explications statiques à un système permettant à l'utilisateur de poser des questions et de raisonner sur les explications via des contraintes, il comble le fossé entre la complexité des modèles ML et les besoins cognitifs des utilisateurs. L'approche neurosymbolique assure à la fois la flexibilité des données et la rigueur du raisonnement logique.

Limitations et Futur :

Limitations : L'outil est actuellement limité aux données tabulaires et aux problèmes de classification binaire (bien que multi-classes soit envisageable). Le temps de calcul peut être un frein pour des applications en temps réel strict.
Futur : Les auteurs envisagent d'intégrer des LLM (Large Language Models) pour créer une interface naturelle (dialogue en langage naturel) traduisant les requêtes utilisateurs en requêtes de l'algèbre REASONX. D'autres pistes incluent l'extension à des données non structurées (images, texte) et l'incorporation de connaissances sous forme de graphes de connaissances.

En résumé, REASONX propose un cadre formel et pratique pour transformer l'explication des modèles d'IA en un processus de dialogue interactif, où l'utilisateur peut explorer, contraindre et comparer les décisions des algorithmes avec un haut niveau d'abstraction.