🤖 AI

Rethinking Explanations: Formalizing Contrast in Description Logics

Dieser Artikel schlägt ein nutzerzentriertes Rahmenwerk für kontrastive Erklärungen in Beschreibungslogiken vor, das die Grenzen bestehender Begründungs- und abduktiver Schlussfolgerungsmethoden adressiert, indem es formal definiert und evaluiert, wie erklärt wird, warum eine Tatsache wahr ist, anstatt einer alternativen Folie.

Ursprüngliche Autoren: Yasir Mahmood, Arnab Sharma, Axel-Cyrille Ngonga Ngomo, Balram Tiwari

Veröffentlicht 2026-05-06

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Yasir Mahmood, Arnab Sharma, Axel-Cyrille Ngonga Ngomo, Balram Tiwari

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie gehen durch eine riesige, magische Bibliothek, in der jedes Buch eine Regel darüber darstellt, wie die Welt funktioniert. Diese Bibliothek ist auf einer sehr strengen, logischen Sprache namens Beschreibungslogik (DL) aufgebaut. In dieser Bibliothek kann ein Computer eine Person (nennen wir sie Alice) und eine Reihe von Regeln betrachten und Ihnen sagen: „Ja, Alice wurde eingestellt!"

Der alte Weg: „Warum?"

Normalerweise, wenn Sie den Computer fragen: „Warum wurde Alice eingestellt?", liefert er Ihnen eine Begründung. Er zieht die spezifischen Seiten aus der Bibliothek hervor, die beweisen, dass Alice eingestellt wurde.

Analogie: Es ist wie ein Lehrer, der Ihnen die exakten Schritte in einer Matheaufgabe zeigt, um zu beweisen, dass die Antwort 5 ist. Es ist genau, aber es erzählt Ihnen nur etwas über den „Gewinner".

Das neue Problem: „Warum Alice und nicht Bob?"

Die Autoren dieses Papiers stellten fest, dass Menschen etwas ganz Natürliches tun: Wir wollen nicht nur wissen, warum etwas passiert ist; wir wollen wissen, warum es passiert ist anstatt etwas anderes.

Stellen Sie sich vor, Alice bekommt den Job, aber ihre Freundin Bob nicht.

Wenn Sie fragen: „Warum Alice?", listet der Computer Alices großartige Fähigkeiten auf.
Wenn Sie fragen: „Warum nicht Bob?", listet der Computer Bobs fehlende Fähigkeiten auf.
Aber Bob ist verwirrt. Er möchte keine zwei separaten Listen. Er möchte wissen: „Warum Alice und nicht ich?" Er möchte den Unterschied zwischen ihnen sehen.

Das Papier argumentiert, dass das Geben von zwei separaten Antworten unbefriedigend ist. Sie benötigen eine kontrastive Erklärung (CE), die die spezifische Lücke zwischen den beiden hervorhebt.

Die Lösung: Der „Unterschiedssucher"

Die Forscher entwickelten eine neue Art, diese Frage „Warum P statt Q?" zu formalisieren. Sie nennen das, was passiert ist, die Tatsache (Alice), und das, was nicht passiert ist, den Gegenstand (Bob).

Um den Unterschied zu erklären, betrachten sie drei Dinge:

Was Alice hatte, was Bob nicht hatte: (z. B. Alice veröffentlichte in KI).
Was Bob hatte, was Alice nicht hatte: (z. B. Bob veröffentlichte in reiner Mathematik).
Was Bob fehlte, was ihn eingestellt hätte: (z. B. Bob hätte in KI publizieren müssen).

Die kreative Analogie: Das Rennen
Stellen Sie sich ein Rennen zwischen Alice und Bob vor.

Tatsache: Alice gewann.
Gegenstand: Bob verlor.
Alte Erklärung: „Alice lief schnell." (Wahr, aber erklärt nicht, warum Bob verlor).
Neue kontrastive Erklärung: „Alice lief schnell, weil sie auf Hügeln trainierte, wohingegen Bob auf flachem Gelände trainierte. Wenn Bob auf Hügeln trainiert hätte (das fehlende Stück), hätte er gewonnen, aber er tat es nicht."

Das Papier formalisiert dies, indem es den „Beweis" für Alice und den „Beweis" für Bob (obwohl Bob's Beweis hypothetisch ist) nimmt und die symmetrische Differenz findet. Sie entfernen die Dinge, die beide gemeinsam haben (wie „beide sind qualifiziert"), und konzentrieren sich nur auf die einzigartigen Faktoren, die das Ergebnis entschieden haben.

Das „Was-wäre-wenn"-Szenario (Abduktion)

Manchmal muss der Computer raten, was wahr sein müsste, damit der Gegenstand wahr wird. Dies nennt man Abduktion.

Analogie: Wenn Bob nicht eingestellt wurde, fragt der Computer: „Was müsste wahr sein, damit Bob eingestellt wird?" Er könnte sagen: „Wenn Bob in KI publiziert hätte."
Die Methode des Papiers kombiniert den echten Beweis für Alice mit diesem „Was-wäre-wenn"-Szenario für Bob, um genau zu zeigen, wo sich die Pfade trennten.

Umgang mit Glitches (Inkonsistenzen)

Manchmal sind die Regeln in der Bibliothek knifflig. Was, wenn die Regeln sagen: „Sie können nicht gleichzeitig ein KI-Experte und ein Theoretiker sein"?

Wenn Bob ein Theoretiker ist und der Computer sagt: „Wenn Bob ein KI-Experte wäre, würde er eingestellt werden", gibt es einen Konflikt.
Das Papier fügt ein Sicherheitsnetz hinzu: Es identifiziert diese Konflikte. Es sagt Ihnen: „Bob würde eingestellt werden, wenn er ein KI-Experte wäre, ABER das widerspricht seiner Natur als Theoretiker." Dies verhindert, dass die Erklärung die Logik der Bibliothek zerstört.

Was sie tatsächlich taten

Die Autoren schrieben nicht nur Theorie; sie bauten einen Prototyp (ein funktionierendes Computerprogramm), um dies zu testen.

Sie testeten es an etwa 40 verschiedenen realen Wissensbasen (wie medizinischen oder technischen Datenbanken).
Sie stellten fest, dass ihre Methode schnell funktioniert (in den meisten Fällen weniger als eine Sekunde) und sehr kurze, leicht lesbare Erklärungen liefert (meist nur 1 oder 2 Sätze Logik).
Sie bewiesen mathematisch, dass für bestimmte Arten von Logik (genannt EL) dieser Prozess effizient ist und nicht in einer Endlosschleife stecken bleibt.

Zusammenfassung

Dieses Papier geht darum, die Art und Weise zu verbessern, wie Computer Entscheidungen erklären. Anstatt nur zu sagen: „Hier ist, warum X passiert ist", sagen sie nun: „Hier ist, warum X passiert ist anstatt Y." Sie tun dies, indem sie den „gewinnenden" Beweis mathematisch mit dem „verlierenden" (oder hypothetischen) Beweis vergleichen, die gemeinsamen Teile entfernen und Ihnen genau zeigen, was den Unterschied ausmachte. Sie bauten ein Werkzeug, um dies zu tun, und es funktioniert schnell und genau mit komplexen Daten.

Technischer Zusammenfassung: Erneuertes Denken über Erklärungen: Formalisierung von Kontrast in Beschreibungslogiken

Problemstellung
Bestehende Erklärungsformalismen für Wissensbasen (KBs) der Beschreibungslogik (DL) konzentrieren sich primär auf Begründungen (Erklärung, warum ein Axiom $P$ wahr ist) und abduktives Schließen (Erklärung, warum ein fehlendes Axiom $P$ wahr sein könnte). Diese Ansätze vernachlässigen jedoch eine nutzerzentrierte Perspektive. Sie adressieren nicht die spezifischen kognitiven Bedürfnisse eines Fragestellers, der oft durch eine Tatsache $P$ überrascht wird, weil er ein alternatives Ereignis $Q$ erwartet hatte. Die Bereitstellung separater Erklärungen für „warum $P$ " und „warum nicht $Q$ " ist oft unbefriedigend, da Nutzer den spezifischen Unterschied zwischen dem tatsächlichen Ergebnis und der erwarteten Alternative verstehen möchten. Während kontrastive Erklärungen (CEs) im Bereich des maschinellen Lernens und in Argumentationsframeworks gut untersucht sind, bleiben sie im Kontext von DLs weitgehend unerforscht, obwohl DLs die Grundlage für Ontologien wie OWL bilden, die in kritischen Domänen wie dem Gesundheitswesen (z. B. SNOMED CT) eingesetzt werden.

Methodik
Die Autoren schlagen einen formalen Rahmen zur Generierung kontrastiver Erklärungen innerhalb von DL-KBs vor, der das philosophische Modell kontrastiver Erklärungen von Peter Lipton an die logische Umgebung von DLs anpasst.

Formalisierung kontrastiver Fragen (CQs):
Eine CQ wird als Paar $(P, Q)$ definiert, wobei $P$ eine Tatsache ist (eine abgeleitete ABox-Aussage, z. B. $C(x)$ ) und $Q$ ein Kontrastobjekt (eine nicht abgeleitete Aussage) ist. Der Fokus liegt auf zwei spezifischen Arten von Kontrastobjekten:
- Entitätskontraste: $Q$ ist $C(y)$ , wobei dasselbe Konzept gegen ein anderes Individuum kontrastiert wird.
- Konzeptkontraste: $Q$ ist $D(x)$ , wobei ein anderes Konzept für dasselbe Individuum kontrastiert wird.
Definition der kontrastiven Erklärung (CE):
Die Autoren gehen über eine einfache symmetrische Differenz zwischen der Begründung von $P$ und der abduktiven Hypothese für $Q$ hinaus. Sie führen eine tuple-basierte Definition $E = \langle E_{fact}, E_{foil+}, E_{foil-} \rangle$ (und optional eine Konfliktmenge $C$ ) ein, die auf drei Prinzipien basiert:
- Differenzbedingung: Die Erklärung muss den Unterschied zwischen den Gründen für $P$ und den fehlenden Fakten für $Q$ benennen.
- Bekanntes vs. angenommenes Wissen: Die Erklärung muss zwischen Axiomen unterscheiden, die im KB bezüglich des Kontrastobjekts wahr sind ( $E_{foil+}$ ), und den fehlenden Axiomen, die erforderlich sind, um das Kontrastobjekt abzuleiten ( $E_{foil-}$ ).
- Berücksichtigung ähnlicher Axiome: Der Rahmen führt einen Operator für „umbenannte Mengendifferenz" ( $\ddagger$ ) ein. Dieser Operator entfernt Axiome, die zwischen Fakt und Kontrastobjekt strukturell ähnlich sind (z. B. $C(x)$ und $C(y)$ oder $E \sqsubseteq C$ und $E \sqsubseteq D$ ), um sicherzustellen, dass die Erklärung nur die unterscheidenden Faktoren hervorhebt.
Umgang mit Inkonsistenzen:
Falls das Hinzufügen der fehlenden Axiome für das Kontrastobjekt ( $E_{foil-}$ ) einen Konflikt mit dem bestehenden KB erzeugt, enthält der Rahmen eine Konfliktmenge $C$ . Diese Menge repräsentiert die minimale Teilmenge bestehender ABox-Aussagen, die entfernt werden müssen, um die Ableitung des Kontrastobjekts zu ermöglichen, und modelliert damit effektiv ein kontrafaktisches Szenario.
Präferenzkriterien:
Um unter mehreren möglichen CEs eine Auswahl zu treffen, schlagen die Autoren eine Metrik für syntaktische Divergenz ( $\sigma_{div}$ ) vor. Diese Metrik misst die symmetrische Differenz zwischen den für den Fakt relevanten Axiomen und denen, die für das Kontrastobjekt relevant sind. Eine bevorzugte CE ist eine, die diese Divergenz minimiert und die Schlussfolgerungsstrukturen von Fakt und Kontrastobjekt so eng wie möglich aneinander anpasst, um den Vergleich zu erleichtern.

Hauptbeiträge

Formale Definitionen: Die Arbeit liefert die ersten formalen Definitionen kontrastiver Erklärungen für DL-KBs und adressiert spezifisch sowohl Entitäts- als auch Konzeptkontraste.
Allgemeines Schema: Es wird ein allgemeines Schema für CEs vorgestellt, das Begründungen und abduktive Hypothesen integriert und gleichzeitig zwischen wahren und fehlenden Aussagen unterscheidet.
Komplexitätsanalyse: Die Autoren analysieren die rechnerische Komplexität von CEs in zwei DLs:
- $\mathcal{EL}$ : Sie beweisen, dass die Entscheidung über die Existenz einer CE einer gegebenen Größe für Konzeptkontraste NP-vollständig ist. Für Entitätskontraste kann jedoch eine $\sigma_{div}$ -bevorzugte CE (mit Divergenz 0) in polynomieller Zeit berechnet werden.
- $\mathcal{ALC}$ : Das Problem der Entscheidung über die Existenz einer CE einer gegebenen Größe erweist sich als ExpTime-vollständig.
Implementierung und Evaluation: Eine Prototyp-Implementierung in Java (unter Verwendung der OWL-API und des ELK-Reasoners) wurde entwickelt. Experimente wurden an etwa 41 realen OWL-KBs durchgeführt.

Ergebnisse
Die experimentelle Evaluation ergab folgende Befunde:

Effizienz: Der Prototyp berechnet CEs effizient, mit einer durchschnittlichen Laufzeit von etwa 392 ms.
Erklärungsgröße: Die generierten Erklärungen sind kompakt und umfassen typischerweise bis zu vier ABox-Axiome.
Gemeinsamkeit: Das Verhältnis „Gemeinsame Axiome" (die Überlappung zwischen Begründungen für Fakt und Kontrastobjekt) wurde als niedrig ermittelt (durchschnittlich 13,5 %), was darauf hindeutet, dass in vielen Fällen Fakt und Kontrastobjekt auf unterschiedlichen Mengen von Aussagen beruhen.
Konsistenz: Die Konfliktquote war niedrig (4,00 %), was darauf hindeutet, dass in den meisten Fällen die fehlenden Axiome für das Kontrastobjekt nicht mit dem bestehenden KB im Widerspruch stehen.

Bedeutung und Behauptungen
Die Arbeit beansprucht, eine signifikante Lücke in der Literatur zu schließen, indem sie kontrastive Erklärungen in den Bereich der Beschreibungslogiken einführt. Die Autoren argumentieren, dass dieser Ansatz eine intuitivere und nutzerzentriertere Möglichkeit bietet, Schlussfolgerungsergebnisse zu erklären, indem er die Erwartungen des Fragestellers (das Kontrastobjekt) explizit modelliert.

Die Arbeit wird als vorbereitender Schritt in diesem Bereich präsentiert. Die Autoren vermerken bescheiden, dass sich ihre Definitionen zwar auf jede DL erstrecken, die abduktive Hypothesen unterstützt, jedoch weitere Arbeiten erforderlich sind, um ausdrucksstärkere DLs (z. B. mit Kardinalitätsbeschränkungen) zu behandeln und Algorithmen zu entwickeln, die effizient auf große Datensätze skalieren. Sie identifizieren zudem den Bedarf an zukünftigen Benutzerstudien, um zu validieren, ob diese kontrastiven Erklärungen von Endnutzern tatsächlich gegenüber Standardbegründungen bevorzugt werden. Die Arbeit schließt mit der Feststellung, dass ihr Rahmen einen rigorosen, formalen Mechanismus zur Kombination von Begründungen bietet, um den Unterschied zwischen einem Fakt und einem Kontrastobjekt zu erklären, und damit die Grundlage für fundiertere Entscheidungsfindung in semantischen Web-Anwendungen legt.