🤖 AI

Beyond But-for Test: Counterfactual Explanation in Abstract Argumentation via Actual Causality (Extended Version)

Dieses Paper führt ein interventionsbasiertes kontrafaktisches Argumentationsframework für die abstrakte Argumentation ein, das die Einschränkungen des traditionellen But-for-Tests überwindet, indem es die Akzeptanz von Argumenten als Gleichungen kodiert und Halpern-Pearl-Kausalität anwendet, um Ursachen in komplexen Szenarien wie Präemption und Überdeterminierung präzise zu identifizieren.

Ursprüngliche Autoren: Siyi Liu, Muyun Shao, Beishui Liao

Veröffentlicht 2026-07-01

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Siyi Liu, Muyun Shao, Beishui Liao

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind ein Detektiv, der versucht herauszufinden, warum ein bestimmtes Argument (nennen wir ihn „Held“) eine Debatte gewonnen hat. In der Welt der Künstlichen Intelligenz nennt man das „Abstrakte Argumentation“. Normalt listen KI-Systeme einfach die Gründe auf, warum der Held gewonnen hat, wie eine statische Checkliste.

Menschen denken jedoch nicht in Checklisten. Wir denken in „Was wäre wenn?“-Szenarien. Wir fragen: „Wenn wir den Status eines anderen Arguments ändern würden, würde der Held dann immer noch gewinnen?“

Dieses Paper stellt eine neue, intelligentere Methode vor, mit der KI solche „Was wäre wenn?“-Fragen beantworten kann. Sie geht über den einfachen Test namens „But-For-Test“ (Die „Hätte-es-nicht-geklappt-wenn“-Prüfung) hinaus und nutzt eine ausgefeiltere Methode namens „Aktuelle Kausalität“ (Actual Causality).

Hier ist die Aufschlüsselung unter Verwendung einfacher Analogien:

1. Das Problem: Der „But-For-Test“ ist zu simpel

Die alte Art, Dinge zu erklären, ist wie die Frage: „Wenn ich den Ball nicht getreten hätte, wäre er dann ins Tor gegangen?“

Die Logik: Wenn die Antwort lautet: „Nein, er wäre nicht ins Tor gegangen“, dann war dein Schuss die Ursache.
Der Fehler: Das funktioniert in einfachen Situationen gut, versagt aber in komplexen Szenarien, in denen mehrere Dinge gleichzeitig passieren.

Die „Präemptions-Falle“ (Die Leibwächter-Analogie):
Stellen Sie sich vor, ein VIP (der Held) geht die Straße entlang.

Leibwächter A geht voraus und blockiert einen Scharfschützen.
Leibwächter B geht dahinter und ist ebenfalls bereit, einen Scharfschützen zu blockieren.
Der VIP ist sicher.

Wenn man den „But-For-Test“ anwendet: „Wenn Leibwächter A nicht da gewesen wäre, wäre der VIP dann sicher gewesen?“

Die alte Antwort der KI: „Ja! Denn Leibwächter B hätte den Scharfschützen abgeblockt.“
Das Ergebnis: Die KI schließt daraus, dass Leibwächter A nicht die Ursache für die Sicherheit des VIP war.
Die Realität: Das fühlt sich falsch an! Leibwächter A war der aktive Beschützer. Das Problem ist, dass die KI, als sie A entfernte, B einfach „nachrücken“ ließ, um die Geschichte zu ändern. Die KI hat die anderen Leibwächter nicht in ihren ursprünglichen Positionen „eingefroren“.

2. Die Lösung: Das „Intervention“-Framework

Die Autoren schlagen eine neue Methode vor, die wie ein Zeitreise-Regisseur am Filmset agiert.

Anstatt einfach nur einen Charakter zu löschen und zu sehen, was passiert, nutzt der Regisseur ein spezielles Werkzeug namens Intervention-Operator.

Schritt 1: Der Regisseur wählt den Charakter aus, den er testen möchte (z. B. Leibwächter A).
Schritt 2: Er ändert die Rolle dieses Charakters (z. B. lässt ihn scheitern).
Schritt 3 (Die Magie): Er friert alle anderen Charaktere („Zeugen“) in ihrer exakten ursprünglichen Position ein. Er lässt nicht zu, dass Leibwächter B plötzlich einspringt, um den Tag zu retten.

Durch das „Festsetzen“ der anderen Charaktere kann der Regisseur die wahre Auswirkung der Änderung von nur einer Sache sehen. Dies ermöglicht es der KI, korrekt zu identifizieren, dass Leibwächter A die Ursache war, selbst wenn Leibwächter B bereitstand.

3. Die „Überdeterminierungs-Falle“ (Die zwei Schützen)

Es gibt eine weitere knifflige Situation, die Überdeterminierung genannt wird.

Stellen Sie sich zwei Scharfschützen vor, Scharfschütze X und Scharferschütze Y, die beide auf ein Ziel zielen.
Beide drücken zur exakt gleichen Zeit ab.
Das Ziel wird getroffen.

Wenn man den „But-For-Test“ anwendet: „Wenn Scharfschütze X nicht geschossen hätte, wäre das Ziel dann getroffen worden?“

Die alte Antwort der KI: „Ja, denn Scharfschütze Y hat auch geschossen.“
Das Ergebnis: Die KI sagt, dass keiner der Schützen die Ursache war. Das ist offensichtlich falsch.

Die neue Methode behebt dies, indem sie die KI erlaubt, Kombinationen zu testen. Sie fragt: „Wenn wir SCHNELL BEIDE, also Scharfschütze X UND Scharfschütze Y gleichzeitig ändern, überlebt das Ziel?“

Die Antwort: Ja, wenn beide aufhören zu schießen, überlebt das Ziel.
Das Ergebnis: Die KI identifiziert korrekt, dass beide Schützen zusammen die tatsächliche Ursache sind.

4. Wie es funktioniert (Die „Gleichungs“-Maschine)

Um dies mathematisch umsetzbar zu machen, verwandeln die Autoren den Argumentationsgraphen in eine Reihe von Gleichungen (wie ein Rezept).

Sie erstellen ein „Modell“, in dem der Status jedes Arguments (Akzeptiert, Abgelehnt oder Unentschieden) basierend auf seinen Angreifern berechnet wird.
Sie nutzen eine Technik namens „Graph Mutilation“ (Graph-Verstümmelung). Stellen Sie sich vor, das Argumentnetzwerk ist eine Zeichnung. Um eine Hypothese zu testen, „schneiden“ sie buchstäblich die Linien durch, die in ein Argument führen, und zwingen es dazu, eine bestimmte Farbe anzunehmen (Akzeptiert oder Abgelehnt), ungeachtet dessen, was die anderen Linien ihm eigentlich sagen wollten.
Dieses visuelle „Schneiden“ stellt sicher, dass die KI nicht dadurch verwirrt wird, dass Argumente ihre Meinung geändert haben könnten, falls das erste Argument seine Meinung geändert hätte.

5. Warum das wichtig ist

Das Paper vergleicht diese neue Methode mit vier anderen populären Wegen, KI-Entscheidungen zu erklären.

Alte Methoden: Übersehen oft den Fall der „Präemption“ (denken, dass der Backup-Plan die Arbeit erledigt hat) oder den Fall der „Überdeterminierung“ (denken, dass kein einzelner Grund eine Rolle spielte).
Die neue Methode: Sie ist selektiver und zuverlässiger. Sie findet die tatsächlichen Gründe, warum ein Argument gewonnen hat, selbst in chaotischen, komplexen Situationen mit Schleifen und Ersatzplänen.

Zusammenfassend:
Dieses Paper gibt der KI einen besseren Weg, ihr Denken zu erklären. Anstatt nur Gründe aufzulisten oder einfache „Was wäre wenn?“-Fragen zu stellen, die durch Ersatzpläne verwirrt werden, nutzt es einen „Zeitreise-Regisseur“-Ansatz. Es friert den Rest der Welt ein, während es eine einzelne Änderung testet, um sicherzustellen, dass es die wirkliche Ursache einer Entscheidung findet – egal, ob diese Ursache ein einzelner Held oder ein Team ist, das zusammenarbeitet.

Technische Zusammenfassung: Jenseits des But-for-Tests: Kontrafaktische Erklärung in der abstrakten Argumentation mittels tatsächlicher Kausalität

Problemstellung
Im Bereich der erklärbaren KI (Explainable AI, XAI) bietet die abstrakte Argumentation (AA) strukturierte Erklärungen dafür, warum Argumente unter bestimmten Semantiken akzeptiert werden. Während bestehende Methoden Post-hoc-Fragen beantworten, indem sie Mengen von Argumenten identifizieren, die Eigenschaften wie Relevanz, Monotonie oder Notwendigkeit erfüllen, stützen sie sich oft auf statische Listen von Gründen. Das menschliche Denken verwendet jedoch häufig kontrafaktisches Denken („Was-wäre-wenn“-Szenarien), um kausale Abhängigkeiten zu untersuchen.

Derzeitige Ansätze zur kontrafaktischen Erklärung in der AA sind auf den But-for-Test (BFT) beschränkt. Dieser primitive Test fragt, ob sich der Akzeptanzstatus eines Thema-Arguments ändern würde, wenn eine einzelne vermutete Ursache geändert würde (z. B. durch das Löschen eines Angriffs oder das Hinzufügen eines neuen Angreifers). Die Arbeit identifiziert einen kritischen Fehler in diesem Ansatz: Er versäumt es, andere Argumente als „Zeugen“ (Witnesses) festzuhalten. Infolgedessen liefert der But-for-Test kontraintuitive Ergebnisse in komplexen Argumentationsstrukturen, insbesondere bei Präemption (wo eine Ursache eine andere blockiert) und Überdeterminierung (wo mehrere Ursachen gemeinsam hinreichend sind). In diesen Fällen kann das Ändern einer einzelnen Ursache das Ergebnis nicht verändern, da alternative Pfade aktiviert werden, was dazu führt, dass der BFT tatsächliche Ursachen entweder fälschlicherweise identifiziert oder übersieht.

Methodik
Um die Einschränkungen des But-for-Tests zu überwinden, führen die Autoren ein interventionsbasiertes kontrafaktisches Denkframework ein, das auf Strukturgleichungsmodellen (SEMs) und der Halpern–Pearl-Definition (HP) tatsächlicher Kausalität basiert.

Akzeptabilitätsmodell: Das Framework kodiert die Akzeptanzbedingungen von Argumenten als eine Menge von Gleichungen. Das Label eines Arguments $\alpha$ ($in$, $out$ oder $und$) wird durch die Labels seiner Angreifer bestimmt. Dies transformiert das Argumentationsframework (AF) in ein Modell $M_F$ von Funktionen.
Interventionsoperator: Die Autoren definieren einen Interventionsoperator $[\psi]$ $[ψ]$ , der das Modell $M_F$ $M_{F}$ gemäß einer Hypothese $\psi$ $ψ$ (einer Konjunktion atomarer Propositionen) modifiziert. Im Gegensatz zu einfachen Graphmodifikationen ermöglicht dieser Operator:
- Den Ersatz der Akzeptanzgleichung des intervenierten Argument(s) durch eine Konstante, die die stipulierte Beschriftung zurückgibt.
- Die Unterstützung von zusammengesetzten Hypothesen, was die gleichzeitige Modifikation mehrerer Argumente ermöglicht.
- Die entscheidende Unterstützung des Festhaltens von Zeugen-Argumenten auf ihren tatsächlichen Labels, um zu verhindern, dass alternative Pfade die kontrafaktische Evaluierung verzerren.
Verfeinerte kontrafaktische Bedingung (AC2m): Über den BFT hinausgehend, verwendet das Paper eine modifizierte kontrafaktische Bedingung, AC2m. Eine Hypothese $\psi$ $ψ$ ist eine tatsächliche Ursache, wenn:
- Aktualität (AC1): $\psi$ und der Effekt in der ursprünglichen Beschriftung gelten.
- Modifizierter Kontrafakt (AC2m): Es existiert eine Modifikation $\psi'$ von $\psi$ und eine Menge fixer Zeugen $\chi$ (Argumente, die auf ihren tatsächlichen Labels gehalten werden), sodass die Intervention mit $\psi' \land \chi$ den Status des Thema-Arguments ändert.
- Minimalität (AC3): Die Ursache enthält keine redundanten Teile.

Wesentliche Beiträge

Formales Framework für tatsächliche Kausalität in AA: Das Paper stellt die erste formale Verknüpfung zwischen der HP-tatsächlichen Kausalität und der abstrakten Argumentation her und geht damit über den primitiven But-for-Test hinaus.
Handhabung von Präemption und Überdeterminierung: Durch das Festhalten von Zeugen identifiziert die Methode korrekt Ursachen in Szenarien, in denen der But-for-Test versagt.
- Präemption: In einem Szenario, in dem $\alpha$ verhindert, dass $\beta$ $\eta$ verteidigt, versagt der But-for-Test bei der Identifizierung von $\alpha$ als Ursache, da das Entfernen von $\alpha$ den Pfad über $\beta$ reaktiviert. Die vorgeschlagene Methode fixiert $\beta$ (oder den Pfad, den es nutzt), um $\alpha$ als die wahre Ursache zu enthüllen.
- Überdeterminierung: In Szenarien, in denen sowohl $\alpha$ als auch $\beta$ hinreichend sind, um $\eta$ zu verteidigen, versagt der But-for-Test bei der Identifizierung entweder von $\alpha$ oder $\beta$ als Ursache (da das Entfernen eines Teils den anderen hinterlässt). Die vorgeschlagene Methode identifiziert die Konjunktion $in(\alpha) \land in(\beta)$ als die tatsächliche Ursache.
Visualisierung der Graph-Mutilation: Die Autoren bilden die logische Intervention auf grafische Operationen an AFs ab (Hinzufügen von Angreifern, Entfernen von Angriffen oder Hinzufügen von Selbstschleifen), was eine visuelle Entsprechung zur algebraischen Intervention darstellt.
Vergleichende Analyse: Das Paper vergleicht die neue Methode mit bestehenden argumentbasierten Erklärungen (Root Reasons, Sufficient/Necessary sets) und Closest-World-Kontrafakten. Es zeigt, dass die vorgeschlagene Methode selektiver und zuverlässiger ist, insbesondere bei der Vermeidung des „Empty Explanation“-Problems, das bei Closest-World-Ansätzen auftritt, wenn eindeutige Labellings existieren.

Ergebnisse und Eigenschaften

Ausdrucksstärke: Die Methode unterstützt zusammengesetzte Hypothesen, was die Erklärung gemeinsamer Ursachen ermöglicht, was der But-for-Test (der auf atomaren Änderungen beschränkt ist) nicht leisten kann.
Relevanz: Die Methode erfüllt die Eigenschaft der Relevanz; alle Argumente in einer Erklärung sind relevant für das Thema.
Nicht-Monotonie: Im Gegensatz zu einigen traditionellen Erklärungsmethoden ist die kontrafaktische Erklärung nicht monoton. Das Hinzufügen von Argumenten zu einer gültigen Erklärung kann die Minimalitätsbedingung verletzen.
Überlegenheit in spezifischen Strukturen:
- Bei Präemption identifiziert die Methode das präemptierende Argument als Ursache, während Root Reasons irrelevante Verteidiger einschließen könnten und Closest-World-Ansätze möglicherweise keine Erklärung liefern.
- Bei Überdeterminierung identifiziert die Methode die gemeinsame Notwendigkeit mehrerer Argumente, während Root Reasons und Sufficient-Erklärungen oft nicht in der Lage sind, zwischen den symmetrischen Verteidigern zu unterscheiden, oder triviale Mengen zurückgeben.
- Die Methode gewährleistet die Existenz einer Erklärung für akzeptierte Sink-Nodes, eine Eigenschaft, bei der Closest-World-Ansätze scheitern, wenn das AF nur ein eindeutiges Labelling zulässt.

Bedeutung und Behauptungen
Das Paper behauptet, dass die Integration der Halpern–Pearl-Definition tatsächlicher Kausalität in die abstrakte Argumentation ein präziseres und menschenorientierteres Framework für die kontrafaktische Erklärung bietet. Es wird argumentiert, dass die Fähigkeit, Zeugen festzuhalten, essenziell ist, um Ursachen in komplexen Abhängigkeitsstrukturen korrekt zu identifizieren und damit die „But-for“-Einschränkung zu überwinden, die aktuelle AA-Erklärungsmethoden belastet. Die Autoren positionieren diese Arbeit als Schritt hin zu einer robusteren XAI in der Argumentation, die eine logische Sprache bietet, die aussagekräftig genug ist, um zyklische Abhängigkeiten und komplexe kausale Muster wie Präemption und Überdeterminierung zu handhaben, während sie gleichzeitig in den strukturellen Eigenschaften von Argumentationsframeworks verwurzelt bleibt. Es wird angemerkt, dass zukünftige Arbeit notwendig ist, um die rechnerische Komplexität zu adressieren, die Methode auf andere Semantiken (grounded, preferred, stable) zu erweitieren und auf erweiterte Argumentationsformalismen (PAF, ADF, ASPIC+) anzuwenden.

1. Das Problem: Der „But-For-Test“ ist zu simpel

2. Die Lösung: Das „Intervention“-Framework

3. Die „Überdeterminierungs-Falle“ (Die zwei Schützen)

4. Wie es funktioniert (Die „Gleichungs“-Maschine)

5. Warum das wichtig ist

Mehr davon