PACE: A Neuro-Symbolic Framework for Plausible and Actionable Counterfactual Explanations

Technische Zusammenfassung: PACE – Ein neuro-symbolisches Framework für plausible und handlungsorientierte kontrafaktische Erklärungen

Problemstellung
Kontrafaktische Erklärungen (Counterfactual Explanations, CEs) sind ein prominenter Ansatz in der erklärbaren KI (Explainable AI, XAI), der darauf abzielt, handlungsorientierte Empfehlungen bereitzustellen, indem er minimale Änderungen an einer Eingabeinstanz identifiziert, die die Vorhersage eines Modells des maschinellen Lernens ändern würden. Während bestehende Methoden effektiv vorhersageändernde Alternativen generieren, produzieren sie häufig unrealistische oder nicht durchführbare Empfehlungen. Dies geschieht, weil viele Ansätze primär auf die Vorhersageänderung und die Nähe zur ursprünglichen Instanz optimieren und dabei oft an expliziten Mechanismen zur Integration von Domänenwissen oder Interventionsbeschränkungen mangelt. Infolgedessen können die generierten Erklärungen domänenspezifische Regeln verletzen (z. B. die Änderung eines unmöglichen Attributs wie Alter oder Geschlecht vorschlagen) oder keine realistischen menschlichen Handlungen darstellen. Es besteht ein kritischer Bedarf an Methoden, die sicherstellen, dass Erklärungen nicht nur valide (die Vorhersage ändernd), sondern auch plausibel und innerhalb der Beschränkungen des Anwendungsbereichs machbar sind.

Methodik
Das Paper schlägt PACE (Plausible and Actionable Counterfactual Explanations) vor, ein modulares neuro-symbolisches Framework, das datengesteuerte Vorhersagemodelle mit symbolischer Logik integriert, um Durchführbarkeit zu erzwingen. Die Methodik ist um drei Kernkomponenten strukturiert:

1. Problemformulierung:
   Die Generierung eines Kontrafaktums wird als ein beschränktes Suchproblem formalisiert. Gegeben sei ein Black-Box-Modell $f$ und eine Eingabe $x$ mit der Vorhersage $y$, ist das Ziel, ein Kontrafaktum $x_{cf}$ zu finden, sodass $f(x_{cf}) \neq f(x)$. Die Suche minimiert eine Distanzmetrik $d$ (definiert als die Anzahl der modifizierten Merkmale) unter der Bedingung, dass $x_{cf}$ innerhalb eines machbaren Interventionsraums $\Omega$ liegen muss. Dieser Raum wird strikt durch domänenspezifische Regeln definiert, wodurch sichergestellt wird, dass unveränderliche Attribute unverändert bleiben und veränderbare Attribute logischen Abhängigkeiten folgen.

2. Neuro-symbolische Architektur:

   • Neuronale Komponente: Ein prädiktives Modell (z. B. ein Multilayer-Perzeptron) fungiert als Orakel, um Kandidateninstanzen zu bewerten und zu verifizieren, ob die Bedingung der Vorhersageumkehr erfüllt ist.
   • Symbolische Komponente: Eine symbolische Reasoning-Schicht, implementiert mittels Answer Set Programming (ASP), kodiert das Domänenwissen. Diese Schicht definiert den machbaren Raum $\Omega$, indem sie Merkmale in unveränderliche ($X_I$) und veränderbare ($X_E$) Mengen unterteilt. Sie erzwingt logische Regeln, wie etwa gerichtete Invarianten (z. B. können Bildungsstufen nur zu benachbarten Stufen geändert werden) oder relationale Invarianten (z. B. spezifische Übergänge bei Berufen).
   • Suchverfahren: Das Framework verwendet eine iterative „Generate-and-Verify“-Schleife. Die symbolische Engine generiert Kandidaten-Interventionen innerhalb eines spezifischen Budgets $K$ (das die Anzahl gleichzeitiger Merkmalsänderungen begrenzt). Kandidaten werden vor der Bewertung durch das neuronale Modell gegen die symbolischen Beschränkungen gefiltert. Die Suche beginnt mit einem minimalen Budget und erweitert dieses schrittweise, bis ein valides Kontrafaktum gefunden wurde oder die maximale Grenze erreicht ist.

Fallstudie und Experimentelles Setup
Das Framework wurde auf dem Adult Income Dataset evaluiert, einem Benchmark für tabellarische Klassifikation. Die Aufgabe bestand darin, vorherzusagen, ob das Einkommen einer Person 50.000 USD übersteigt.

• Modell: Ein Multilayer-Perzeptron (MLP) mit einer Genauigkeit von 82 % diente als prädiktives Modell.
• Merkmale: Fünf Merkmale wurden verwendet: Alter und Geschlecht (unveränderlich) sowie Bildung, Beruf und Wochenarbeitsstunden (veränderbar).
• Beschränkungen: Die symbolische Wissensbasis erzwang Regeln wie:
  • Alter und Geschlecht können nicht modifiziert werden.
  • Bildungsänderungen sind auf benachbarte Stufen beschränkt.
  • Berufswechsel müssen einem vordefinierten Übergangs-Graphen folgen.
  • Arbeitsstunden müssen innerhalb begrenzter Schritte variieren.
• Baselines: PACE wurde mit Random Search, DiCE, Wachter-Stil-Optimierung, VCNet-Stil und C-CHVAE-Stil-Ansätzen verglichen.

Wichtigste Ergebnisse
Die Experimente, die an 1.000 Testinstanzen durchgeführt wurden, hoben einen deutlichen Trade-off zwischen Validität (erfolgreiche Änderung der Vorhersage) und Plausibilität (Erfüllung der Domänenbeschränkungen) hervor:

• Plausibilität: PACE erreichte eine Plausibilität von 100 %, da alle generierten Erklärungen die symbolischen Beschränkungen strikt einhielten. Im Gegensatz dazu produzierten unbeschränkte Methoden wie Random Search (2,7 % Plausibilität) und DiCE (4,2 % Plausibilität) häufig nicht durchführbare Empfehlungen.
• Validität: Unbeschränkte Methoden erreichten im Allgemeinen höhere Validitätswerte (z. B. Random Search bei 0,778, DiCE bei 0,742) im Vergleich zu PACE (0,240). Dies deutet darauf hin, dass die Beschränkung des Suchraums auf machbare Interventionen die Anzahl der Instanzen reduziert, für die ein Kontrafaktum gefunden werden kann.
• Minimalität: PACE generierte relativ kompakte Erklärungen und benötigte im Durchschnitt 1,242 Merkmalsmodifikationen, was niedriger war als bei den meisten Baselines (z. B. DiCE bei 1,953).
• Sucheffizienz: PACE demonstrierte eine hohe Effizienz und benötigte durchschnittlich 5,271 Iterationen, um eine Vorhersage zu kippen, sowie eine Laufzeit von 0,076 Sekunden pro Instanz, womit es den Wachter-Stil-Baseline-Ansatz deutlich übertraf.
• Zusätzliche Analyse: Wenn alle Methoden auf denselben machbaren Raum $\Omega$ beschränkt wurden, konvergierten ihre Plausibilitätswerte gegen 1,0, was bestätigt, dass die Plausibilitätsgewinne in PACE aus der expliziten Spezifikation von Beschränkungen resultieren. Darüber hinaus wurden die PACE-Kontrafakten näher am empirischen Daten-Manifold gefunden (mittlere Distanz zu den nächsten Nachbarn: 0,354) als die unbeschränkte Suche (0,944).

Bedeutung und Beiträge
Das Paper behauptet, dass PACE die Lücke zwischen hochvalider Kontrafaktum-Generierung und der expliziten Durchsetzung von Durchführbarkeit schließt. Seine primären Beiträge sind:

1. Ein modulares Framework: Es integriert maschinelles Lernen mit symbolischem Reasoning, um eine beschränkte Kontrafaktum-Generierung zu ermöglichen.
2. Durchführbarkeitsbewusste Formulierung: Es definiert die Generierung von Kontrafakten als eine Suche, bei der symbolische Beschränkungen den zulässigen Interventionsraum explizit abgrenzen.
3. Implementierung: Es bietet eine ASP-basierte Implementierung, die domänenspezifische Beschränkungen während des Suchprozesses erzwingt.
4. Empirische Evidenz: Es zeigt durch die Adult Income Fallstudie, dass die Einbeziehung symbolischer Beschränkungen Erklärungen liefert, die die Anforderungen an die domänenspezifische Durchführbarkeit besser erfüllen, wenngleich dies mit einem Trade-off bei der Rate des Findens valider Kontrafakten für alle Instanzen einhergeht.

Die Autoren kommen zu dem Schluss, dass es zwar einen Trade-off zwischen Validität und Plausibilität gibt, neuro-symbolische Methoden wie PACE jedoch einen vielversprechenden Weg für die Generierung transparenter, durchführbarkeitsbewusster Erklärungen in hochsensiblen Entscheidungsunterstützungssystemen bieten. Das Paper räumt Einschränkungen ein, weist auf die Abhängigkeit von einem einzelnen Datensatz und manuell spezifizierten Beschränkungen hin und schlägt vor, dass zukünftige Arbeiten die automatisierte Erfassung von Beschränkungen und reichere Formen von Domänenwissen untersuchen sollten.