Automated Explanation Selection for Scientific Discovery

Cet article propose un cycle de découverte scientifique combinant apprentissage automatique et raisonnement automatisé pour générer et sélectionner des explications, tout en présentant une taxonomie de problèmes de sélection fondée sur la sociologie et les sciences cognitives.

L'essentiel

🧠 Le Problème : L'IA est une "Boîte Noire" Mystérieuse

Imaginez que vous avez un chef cuisinier robot ultra-performant (l'Intelligence Artificielle) qui prépare des plats délicieux. Il est si bon que personne ne se plaint du goût. Mais il y a un souci : personne ne sait comment il fait. Il mélange des ingrédients dans une boîte noire, et on ne voit pas la recette.

Si ce robot se trompe et met du poison dans la soupe, ou s'il discrimine certains clients, nous sommes en danger. Nous avons besoin de savoir pourquoi il a pris telle décision. C'est ce qu'on appelle l'Explicabilité (XAI).

🔍 La Solution Proposée : Un Cycle de Découverte Scientifique

L'auteur, Ashlin Iser, propose une nouvelle méthode pour comprendre ce robot. Il imagine un cycle en trois étapes, comme une boucle de vie :

1. L'Enseignement (Induction) : On donne des données au robot pour qu'il apprenne (comme un étudiant qui révise ses cours).
2. La Traduction (Déduction) : C'est ici que la magie opère. On ne se contente pas de demander au robot "Pourquoi ?". On traduit sa "pensée" dans un langage mathématique très strict (un langage de logique formelle), comme si on passait d'une conversation floue à un code binaire parfait.
3. Le Tri des Explications (Sélection) : Une fois le robot traduit en langage mathématique, on utilise un "super-détective" (le raisonnement automatisé) pour extraire les meilleures explications.

🕵️‍♂️ Le Super-Détective : Le Raisonnement Automatisé

Pourquoi utiliser ce "super-détective" (basé sur des solveurs SAT) plutôt que de simples questions ?

• La différence entre un devin et un mathématicien :
  • Les méthodes actuelles sont comme des devins. Ils regardent le robot, font des suppositions, et disent : "Je pense qu'il a choisi ce plat parce qu'il aime le sel". C'est souvent juste, mais ce n'est pas prouvé. Ils peuvent se tromper.
  • La méthode de l'auteur est comme un mathématicien. Une fois le robot traduit en langage logique, le détective dit : "Je peux prouver mathématiquement que si le robot avait eu moins de sel, il n'aurait pas fait ce plat". C'est une certitude absolue.

📦 La Boîte à Outils : Comment choisir la bonne explication ?

Le robot peut donner des milliers d'explications possibles. Lequel choisir ? L'auteur dit qu'il faut se baser sur la psychologie humaine (ce que les gens aiment lire). Il propose une "boîte à outils" pour trier les explications selon des critères comme :

• La Nécessité : "Est-ce que c'est vraiment indispensable ?" (Comme dire : "Sans cette roue, la voiture ne roule pas").
• La Suffisance : "Est-ce que c'est assez pour expliquer le résultat ?"
• La Minimalité : On préfère une explication courte et simple ("C'est à cause du sel") plutôt qu'une liste de 50 ingrédients.
• Le Contraste : On aime comprendre la différence. "Pourquoi ce plat est salé alors que l'autre ne l'est pas ?" (C'est la différence entre deux cas).

L'auteur suggère d'utiliser des algorithmes puissants pour trouver automatiquement l'explication qui coche le plus de cases de ces critères humains.

🔄 Le Cycle de la Science : De l'IA à la Nouvelle Découverte

Voici le plus beau de l'histoire : ce n'est pas juste pour comprendre l'IA, c'est pour faire avancer la science.

1. L'IA apprend des données (Induction).
2. On extrait une explication logique (Déduction).
3. On choisit la meilleure explication.
4. L'étape clé : Cette explication devient une Hypothèse pour un scientifique humain.
   • Exemple : L'IA dit "Le patient a la maladie X à cause du facteur Y". Le scientifique dit : "Ah ! Je n'y avais pas pensé. Je vais faire une expérience en laboratoire pour vérifier si le facteur Y cause vraiment la maladie X."
5. L'expérience produit de nouvelles données, et on recommence le cycle.

🏁 En Résumé

Ce papier dit : "Arrêtons de deviner pourquoi l'IA agit ainsi. Traduisons-la en langage mathématique strict, utilisons des détectives logiques pour prouver ses raisons, et sélectionnons les explications qui résonnent avec notre cerveau humain. Cela nous permettra non seulement de faire confiance à l'IA, mais aussi de découvrir de nouvelles lois scientifiques."

C'est passer d'une IA qui "devine" à une IA qui "prouve", et qui devient un partenaire de recherche plutôt qu'une simple boîte noire mystérieuse.

Résumé technique

1. Problématique

L'article aborde le défi de la confiance et de la transparence dans les systèmes d'intelligence artificielle (IA), particulièrement dans des domaines critiques (santé, justice, infrastructures). Bien que les modèles d'apprentissage automatique (ML) soient performants, ils souffrent souvent d'un manque d'interprétabilité (« boîte noire »).

Le problème central identifié par l'auteur est le suivant :

• Les méthodes d'explication existantes (souvent heuristiques ou basées sur l'échantillonnage) ne garantissent pas la correction, la minimalité ou la complétude des explications.
• La sélection d'explications est un problème sous-étudié. Il existe une multitude d'explications possibles pour un même modèle, mais la littérature manque de critères systématiques pour choisir les plus pertinentes, conduisant à des notions redondantes ou trompeuses.
• Le statut épistémologique des modèles ML est celui d'une inférence inductive (probable mais non certaine), contrairement au raisonnement déductif qui offre la certitude.

2. Méthodologie

L'auteur propose un cycle de découverte scientifique assistée par machine qui intègre l'apprentissage automatique et le raisonnement automatisé.

A. Le Cycle de Découverte

Le modèle proposé (illustré par la Figure 1 du papier) fonctionne en trois phases :

1. Phase Inductive (Bleue) : Un modèle ML est appris à partir de données d'entraînement.
2. Phase Déductive (Rouge) : Le modèle appris est encodé dans un langage formel. Des systèmes de raisonnement automatisé (basés sur SAT/SMT) sont utilisés pour déduire des explications exactes.
3. Sélection d'Explications (Violette) : Les explications générées sont sélectionnées selon des critères spécifiques, comparées aux connaissances antérieures, et utilisées pour formuler des hypothèses testables par de nouvelles expériences, fermant ainsi la boucle.

B. Fondements Techniques : Raisonnement Automatisé et SAT

L'article privilégie les méthodes formelles basées sur le problème de satisfiabilité propositionnelle (SAT) et ses variantes (MaxSAT, SMT) pour plusieurs raisons :

• Certificats de vérification : Les solveurs SAT modernes (CDCL) produisent des certificats de satisfiabilité ou d'insatisfiabilité vérifiables en temps polynomial, garantissant la fiabilité des résultats.
• Efficacité : Malgré la complexité NP-difficile, les solveurs modernes résolvent efficacement de nombreuses instances pratiques.
• Généricité : L'encodage du problème peut être adapté sans changer l'algorithme de base.

L'approche se concentre sur les explications abductives (AXp) (ensemble minimal de caractéristiques suffisant pour garantir une prédiction) et les explications contrastives (CXp) (ensemble minimal de changements nécessaires pour modifier une prédiction). Ces concepts sont liés aux problèmes d'énumération de sous-ensembles insatisfaisables minimaux (MUS) et d'ensembles de correction minimaux (MCS).

C. Taxonomie des Critères de Sélection

Pour guider la sélection, l'auteur propose une taxonomie inspirée des sciences sociales (sociologie, psychologie, sciences cognitives) et de la philosophie. Les propriétés désirables incluent :

• Nécessité et Suffisance : Critères forts pour valider la causalité.
• Minimalité : Préférence pour les explications les plus courtes (minimalité de sous-ensemble ou de cardinalité).
• Généralité : Explications applicables à un grand nombre de cas de données.
• Anomalie : Préférence pour les cas inhabituels (contrairement aux explications probables souvent déjà connues).
• Contraste (Foil) : La sélection doit répondre à la question « Pourquoi P plutôt que Q ? », où Q est un cas de contraste spécifié.

Ces critères peuvent être formalisés sous forme de problèmes MaxSAT (optimisation de contraintes), permettant de maximiser ou minimiser certaines propriétés tout en respectant la logique du modèle.

3. Contributions Clés

1. Proposition d'un Cycle de Découverte : Intégration formelle de l'induction (ML) et de la déduction (Raisonnement Automatisé) pour transformer les explications d'IA en hypothèses scientifiques testables.
2. Taxonomie Unifiée de Sélection : Définition d'un cadre structuré pour les problèmes de sélection d'explications, subsumant les notions existantes et introduisant de nouvelles propriétés basées sur les sciences humaines (ex: distinction entre minimalité de sous-ensemble et de cardinalité, rôle du contraste).
3. Formalisation des Critères de Qualité : Démonstration que des critères comme la correction, la complétude et la cohérence peuvent être satisfaits a priori par des méthodes formelles, contrairement aux méthodes heuristiques.
4. Distinction Évaluation Explication vs Évaluation Modèle : L'auteur argue que dans un cadre formel, l'incohérence d'une explication avec les connaissances antérieures indique une incohérence du modèle lui-même, et non un défaut de l'explication.

4. Résultats et Observations

• Fiabilité : Les méthodes basées sur SAT produisent des explications mathématiquement exactes, éliminant les risques d'erreurs ou de biais inhérents aux approches probabilistes (comme LIME ou les valeurs de Shapley non vérifiées).
• Efficacité de Calcul : Les approches exactes pour les ensembles d'arbres (Tree Ensembles) surpassent même les heuristiques rapides comme Anchors en termes de temps d'exécution pour certaines tâches.
• Dualité AXp/CXp : La relation de dualité entre les explications abductives et contrastives permet d'utiliser des algorithmes d'énumération éprouvés (comme MARCO) pour générer efficacement des explications.
• Réduction de l'espace de recherche : La formulation des critères de sélection comme des objectifs MaxSAT permet de réduire le nombre exponentiel d'explications possibles à un ensemble digeste et pertinent.

5. Signification et Impact

Cet article est significatif car il fait le pont entre l'IA explicable (XAI) et la découverte scientifique.

• Pour la recherche scientifique : Il offre un mécanisme rigoureux pour transformer les prédictions de modèles ML en hypothèses falsifiables, accélérant ainsi le cycle de découverte.
• Pour la confiance en l'IA : En utilisant des preuves formelles vérifiables, il répond aux exigences réglementaires (comme l'AI Act européen) et aux besoins de sécurité dans les applications critiques.
• Pour la théorie de l'explication : Il propose une refonte conceptuelle de la sélection d'explications, passant d'une approche purement algorithmique à une approche guidée par les besoins cognitifs et sociaux des utilisateurs (contraste, généralité, anomalie).

En conclusion, l'auteur soutient que l'application du raisonnement automatisé à la sélection d'explications pour les modèles ML représente une direction de recherche prometteuse, capable de garantir la rigueur scientifique tout en rendant l'IA plus intelligible et digne de confiance.