🤖 AI

Rethinking Explanations: Formalizing Contrast in Description Logics

Cet article propose un cadre centré sur l'utilisateur pour les explications contrastives en Logiques de Description qui répond aux limites des méthodes existantes de justification et de raisonnement abductif en définissant et en évaluant formellement comment expliquer pourquoi un fait est vrai plutôt qu'un contre-exemple alternatif.

Auteurs originaux : Yasir Mahmood, Arnab Sharma, Axel-Cyrille Ngonga Ngomo, Balram Tiwari

Publié 2026-05-06

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Yasir Mahmood, Arnab Sharma, Axel-Cyrille Ngonga Ngomo, Balram Tiwari

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous marchez dans une immense bibliothèque magique où chaque livre représente une règle sur le fonctionnement du monde. Cette bibliothèque est construite sur un langage très strict et logique appelé Logique de Description (DL). Dans cette bibliothèque, un ordinateur peut examiner une personne (appelons-la Alice) et un ensemble de règles, puis vous dire : « Oui, Alice est embauchée ! »

L'Ancienne Méthode : « Pourquoi ? »

Habituellement, si vous demandez à l'ordinateur : « Pourquoi Alice est-elle embauchée ? », il vous fournit une Justification. Il extrait les pages spécifiques de la bibliothèque qui prouvent qu'Alice est embauchée.

Analogie : C'est comme un professeur qui vous montre les étapes exactes d'un problème de mathématiques pour prouver que la réponse est 5. C'est précis, mais cela ne vous parle que du « gagnant ».

Le Nouveau Problème : « Pourquoi Alice et pas Bob ? »

Les auteurs de cet article ont remarqué quelque chose que les humains font naturellement : nous ne voulons pas seulement savoir pourquoi quelque chose s'est produit ; nous voulons savoir pourquoi cela s'est produit plutôt que quelque chose d'autre.

Imaginez qu'Alice obtienne le poste, mais que son ami Bob ne l'obtienne pas.

Si vous demandez : « Pourquoi Alice ? », l'ordinateur énumère les grandes compétences d'Alice.
Si vous demandez : « Pourquoi pas Bob ? », l'ordinateur énumère les compétences manquantes de Bob.
Mais Bob est confus. Il ne veut pas deux listes séparées. Il veut savoir : « Pourquoi Alice et pas moi ? ». Il veut voir la différence entre eux.

L'article soutient que donner deux réponses séparées est insatisfaisant. Vous avez besoin d'une Explication Contrastive (CE) qui met en évidence l'écart spécifique entre les deux.

La Solution : Le « Détecteur de Différences »

Les chercheurs ont créé une nouvelle façon de formaliser cette question « Pourquoi P plutôt que Q ? ». Ils appellent ce qui s'est produit le Facte (Alice) et ce qui ne s'est pas produit le Contre-factuel (Bob).

Pour expliquer la différence, ils examinent trois éléments :

Ce qu'Alice avait et que Bob n'avait pas : (par exemple, Alice a publié en IA).
Ce que Bob avait et qu'Alice n'avait pas : (par exemple, Bob a publié en mathématiques pures).
Ce dont Bob était privé et qui l'aurait fait embaucher : (par exemple, Bob aurait dû publier en IA).

L'Analogie Créative : La Course
Imaginez une course entre Alice et Bob.

Facte : Alice a gagné.
Contre-factuel : Bob a perdu.
Ancienne Explication : « Alice courait vite. » (Vrai, mais n'explique pas pourquoi Bob a perdu).
Nouvelle Explication Contrastive : « Alice courait vite **parce qu'**elle s'entraînait sur des collines, tandis que Bob s'entraînait sur un terrain plat. Si Bob s'était entraîné sur des collines (la pièce manquante), il aurait gagné, mais il ne l'a pas fait. »

L'article formalise cela en prenant la « preuve » pour Alice et la « preuve » pour Bob (même si la preuve de Bob est hypothétique) et en trouvant la différence symétrique. Ils éliminent les éléments que tous deux partagent (comme « tous deux sont qualifiés ») et se concentrent uniquement sur les facteurs uniques qui ont décidé du résultat.

Le Scénario « Et Si » (Abduction)

Parfois, l'ordinateur doit deviner ce qui rendrait le Contre-factuel vrai. Cela s'appelle l'Abduction.

Analogie : Si Bob n'a pas été embauché, l'ordinateur demande : « Qu'est-ce qui devrait être vrai pour que Bob soit embauché ? » Il pourrait dire : « Si Bob avait publié en IA. »
La méthode de l'article combine la preuve réelle pour Alice avec ce scénario « et si » pour Bob afin de montrer exactement où les chemins divergent.

Gestion des Bugs (Incohérences)

Parfois, les règles de la bibliothèque sont délicates. Que se passe-t-il si les règles disent : « Vous ne pouvez pas être un Expert en IA et un Théoricien en même temps » ?

Si Bob est un Théoricien, et que l'ordinateur dit : « Si Bob était un Expert en IA, il serait embauché », il y a un conflit.
L'article ajoute un filet de sécurité : il identifie ces conflits. Il vous dit : « Bob serait embauché s'il était un Expert en IA, MAIS cela contredit sa nature de Théoricien. » Cela empêche l'explication de briser la logique de la bibliothèque.

Ce Qu'ils Ont Réellement Fait

Les auteurs n'ont pas seulement écrit de la théorie ; ils ont construit un prototype (un programme informatique fonctionnel) pour le tester.

Ils l'ont testé sur environ 40 bases de connaissances réelles différentes (comme des bases de données médicales ou techniques).
Ils ont constaté que leur méthode fonctionne rapidement (en moins d'une seconde pour la plupart des cas) et produit des explications très courtes et faciles à lire (généralement seulement 1 ou 2 phrases de logique).
Ils ont prouvé mathématiquement que pour certains types de logique (appelés EL), ce processus est efficace et ne se bloque pas dans une boucle infinie.

Résumé

Cet article porte sur la mise à niveau de la façon dont les ordinateurs expliquent les décisions. Au lieu de simplement dire « Voici pourquoi X s'est produit », ils disent désormais : « Voici pourquoi X s'est produit plutôt que Y ». Ils le font en comparant mathématiquement la preuve « gagnante » avec la preuve « perdante » (ou hypothétique), en éliminant les parties communes, et en vous montrant exactement ce qui a fait la différence. Ils ont construit un outil pour faire cela, et il fonctionne rapidement et avec précision sur des données complexes.

Résumé technique : Repenser les explications : Formalisation du contraste dans les logiques de description

Énoncé du problème
Les formalismes d'explication existants pour les bases de connaissances (BK) en logique de description (LD) se concentrent principalement sur les justifications (expliquer pourquoi un axiome $P$ est vrai) et le raisonnement abductif (expliquer pourquoi un axiome manquant $P$ pourrait être vrai). Cependant, ces approches manquent d'une perspective centrée sur l'utilisateur. Elles ne répondent pas aux besoins cognitifs spécifiques d'un demandeur qui est souvent surpris par un fait $P$ parce qu'il anticipait un événement alternatif $Q$ . Fournir des explications séparées pour « pourquoi $P$ » et « pourquoi pas $Q$ » est souvent insatisfaisant, car les utilisateurs cherchent à comprendre la différence spécifique entre le résultat réel et l'alternative attendue. Bien que les explications contrastives (EC) soient bien étudiées dans l'apprentissage automatique et les cadres d'argumentation, elles restent largement inexplorées dans le contexte des LD, malgré le fait que les LD constituent la fondation des ontologies comme OWL utilisées dans des domaines critiques tels que la santé (par exemple, SNOMED CT).

Méthodologie
Les auteurs proposent un cadre formel pour générer des explications contrastives au sein des BK en LD, en adaptant le modèle philosophique d'explication contrastive de Peter Lipton au contexte logique des LD.

Formalisation des questions contrastives (QC) :
Une QC est définie comme une paire $(P, Q)$ où $P$ est un fait (une assertion ABox déduite, par exemple $C(x)$ ) et $Q$ est un contre-exemple (une assertion non déduite). L'article se concentre sur deux types spécifiques de contre-exemples :
- Contrastes d'entités : $Q$ est $C(y)$ , opposant le même concept à un individu différent.
- Contrastes de concepts : $Q$ est $D(x)$ , opposant un concept différent pour le même individu.
Définition de l'explication contrastive (EC) :
Les auteurs vont au-delà d'une simple différence symétrique entre la justification de $P$ et l'hypothèse abductive pour $Q$ . Ils introduisent une définition basée sur un tuple $E = \langle E_{fact}, E_{foil+}, E_{foil-} \rangle$ (et optionnellement un ensemble de conflit $C$ ) fondée sur trois principes :
- Condition de différence : L'explication doit citer la différence entre les raisons de $P$ et les faits manquants pour $Q$ .
- Connaissances connues vs supposées : L'explication doit distinguer les axiomes qui sont vrais dans la BK concernant le contre-exemple ( $E_{foil+}$ ) et les axiomes manquants requis pour déduire le contre-exemple ( $E_{foil-}$ ).
- Prise en compte des axiomes similaires : Le cadre introduit un opérateur de « différence d'ensemble renommée » ( $\ddagger$ ). Cet opérateur supprime les axiomes qui sont structurellement similaires entre le fait et le contre-exemple (par exemple, $C(x)$ et $C(y)$ , ou $E \sqsubseteq C$ et $E \sqsubseteq D$ ) pour garantir que l'explication met en évidence uniquement les facteurs distinctifs.
Gestion des incohérences :
Si l'ajout des axiomes manquants pour le contre-exemple ( $E_{foil-}$ ) crée un conflit avec la BK existante, le cadre inclut un ensemble de conflit $C$ . Cet ensemble représente le sous-ensemble minimal d'assertions ABox existantes qui doivent être supprimées pour que le contre-exemple soit déduit, modélisant ainsi efficacement un scénario contrefactuel.
Critères de préférence :
Pour sélectionner parmi plusieurs EC possibles, les auteurs proposent une métrique de divergence syntaxique ( $\sigma_{div}$ ). Cette métrique mesure la différence symétrique entre les axiomes pertinents pour le fait et ceux pertinents pour le contre-exemple. Une EC préférée est celle qui minimise cette divergence, alignant les structures de raisonnement du fait et du contre-exemple aussi étroitement que possible pour faciliter la comparaison.

Contributions clés

Définitions formelles : L'article fournit les premières définitions formelles d'explications contrastives pour les BK en LD, traitant spécifiquement des contrastes d'entités et de concepts.
Schéma général : Il présente un schéma général pour les EC qui intègre les justifications et les hypothèses abductives tout en distinguant les assertions vraies et manquantes.
Analyse de complexité : Les auteurs analysent la complexité computationnelle des EC dans deux LD :
- $\mathcal{EL}$ : Ils prouvent que décider de l'existence d'une EC d'une taille donnée est NP-complet pour les contrastes de concepts. Cependant, pour les contrastes d'entités, une EC préférée selon $\sigma_{div}$ (avec une divergence de 0) peut être calculée en temps polynomial.
- $\mathcal{ALC}$ : Le problème de décider de l'existence d'une EC d'une taille donnée s'avère être ExpTime-complet.
Implémentation et évaluation : Une implémentation prototype en Java (utilisant l'API OWL et le raisonneur ELK) a été développée. Des expériences ont été menées sur environ 41 BK OWL réelles.

Résultats
L'évaluation expérimentale a produit les résultats suivants :

Efficacité : Le prototype calcule les EC efficacement, avec un temps d'exécution moyen d'environ 392 ms.
Taille de l'explication : Les explications générées sont compactes, s'étendant généralement jusqu'à quatre axiomes ABox.
Communauté : Le « ratio d'axiomes communs » (le chevauchement entre les justifications du fait et du contre-exemple) s'est révélé faible (moyenne de 13,5 %), suggérant que dans de nombreux cas, le fait et le contre-exemple reposent sur des ensembles d'assertions distincts.
Cohérence : Le taux de conflit était faible (4,00 %), indiquant que dans la plupart des cas, les axiomes manquants pour le contre-exemple ne contredisent pas la BK existante.

Signification et affirmations
L'article prétend combler un écart significatif dans la littérature en introduisant les explications contrastives dans le domaine des logiques de description. Les auteurs soutiennent que cette approche offre un moyen plus intuitif et centré sur l'utilisateur d'expliquer les résultats du raisonnement en modélisant explicitement les attentes du demandeur (le contre-exemple).

Le travail est présenté comme une étape préliminaire dans ce domaine. Les auteurs notent modestement que, bien que leurs définitions s'étendent à toute LD supportant les hypothèses abductives, un travail supplémentaire est nécessaire pour gérer des LD plus expressives (par exemple, avec des restrictions de cardinalité) et pour développer des algorithmes qui évoluent efficacement vers de grands ensembles de données. Ils identifient également le besoin d'études utilisateurs futures pour valider si ces explications contrastives sont effectivement préférées aux justifications standard par les utilisateurs finaux. L'article conclut que leur cadre fournit un mécanisme rigoureux et formel pour combiner les justifications afin d'expliquer la différence entre un fait et un contre-exemple, jetant les bases d'une prise de décision plus éclairée dans les applications du Web sémantique.