🤖 machine learning

Counterfactual Explanations Under Concept Drift

Dieser Beitrag adressiert das Problem, dass kontrafaktische Erklärungen bei Konzeptdrift in Datenströmen ungültig werden, indem er einen leichtgewichtigen, modellunabhängigen Aktualisierungsmechanismus vorschlägt, der bestehende Erklärungen effizienter repariert als eine Neugenerierung, wodurch deren Gültigkeit und Plausibilität erhalten bleiben.

Ursprüngliche Autoren: Marcin Kostrzewa, Jerzy Stefanowski, Maciej Zięba

Veröffentlicht 2026-05-19

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Marcin Kostrzewa, Jerzy Stefanowski, Maciej Zięba

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das Kernproblem: Das „sich bewegende Ziel"

Stellen Sie sich vor, Sie spielen Darts. Sie werfen einen Dartpfeil, und der Computer sagt Ihnen: „Um beim nächsten Mal die Mitte zu treffen, richten Sie Ihre Zielrichtung zwei Zoll nach links aus." Dies ist eine kontrafaktische Erklärung (CFE). Es ist ein hilfreicher Tipp, der genau sagt, was man ändern muss, um ein anderes Ergebnis zu erzielen.

Normalerweise gehen diese Erklärungen davon aus, dass das Spielfeld stillsteht. Doch in der realen Welt sind Datenströme wie ein Spiel, bei dem sich die Mitte ständig bewegt. Dies nennt man Konzeptdrift.

Das Szenario: Sie erhalten heute einen Tipp: „Bewege dich nach links, um zu gewinnen."
Die Drift: Morgen aktualisiert sich das Spiel. Die Regeln ändern sich leicht. Die Mitte hat sich gedreht.
Das Versagen: Wenn Sie den Tipp von gestern befolgen („Bewege dich nach links"), verfehlen Sie möglicherweise das neue Ziel entirely. Die Erklärung ist nun ungültig. Es ist, als würde man einer Stadtkarte folgen, die über Nacht komplett neu aufgebaut wurde.

Die meisten aktuellen Methoden versuchen, „Super-Tipps" zu erstellen, die robust genug sind, um eine kleine Veränderung zu überstehen. Doch dieses Papier argumentiert, dass man in einer sich ständig verändernden Welt (wie einem Live-Datenstrom) nicht einfach nur einmal einen Super-Tipp erstellen kann. Man braucht ein System, das den Tipp korrigiert, während sich die Welt verändert.

Die Lösung: Das „Tauziehen"-Reparaturset

Die Autoren schlagen eine leichte Methode vor, um diese Erklärungen am Leben zu erhalten, ohne sie wegzuwerfen und von vorne zu beginnen. Sie nennen dies CFE-Wartung.

Stellen Sie sich Ihre Erklärung (den Dartpfeil) als ein Boot vor. Wenn sich der Fluss (die Daten) verändert, treibt das Boot vom Kurs ab. Die Methode der Autoren ist ein kleiner Motor, der das Boot sanft zurück auf den Kurs schiebt. Sie nutzt ein „Tauziehen" zwischen drei Kräften:

Der Gültigkeitszug (der Kompass): „Zeigt das Boot noch auf das Ziel?" Wenn das aktuelle Modell sagt: „Nein, das ist nicht mehr das Ziel", zieht das System die Erklärung in die Richtung, die sie wieder gültig macht.
Der Plausibilitätszug (die Menge): „Ist das Boot in einem sicheren, belebten Bereich?" Das System betrachtet die aktuellen Daten (einen Puffer neuer Beobachtungen), um zu sehen, wo sich andere „gewinnende" Beispiele gruppieren. Es schiebt die Erklärung in Richtung dieser beliebten, realistischen Orte, damit sie nicht an einem seltsamen, unmöglichen Ort landet.
Der Nähe-Zug (der Anker): „Treibe nicht zu weit vom Zuhause weg." Das System versucht, die Erklärung so nah wie möglich am ursprünglichen Menschen oder Objekt zu halten. Es möchte das Leben der Person nicht nur für ein anderes Ergebnis drastisch verändern.

Das System balanciert diese drei Kräfte aus, um winzige, effiziente Anpassungen vorzunehmen und die Erklärung nützlich zu halten, während sich das Modell weiterentwickelt.

Was sie fanden (Die Ergebnisse)

Die Forscher testeten dies an synthetischen Datenströmen (simulierte sich bewegende Ziele), um zu sehen, wie gut ihr „Reparaturset" im Vergleich zu anderen Methoden funktionierte.

Der „eingefrorene" Tipp versagt: Wenn man einen am Anfang generierten Tipp nimmt und ihn nie anfasst (die „eingefrorene" Methode), wird er schnell unbrauchbar. Selbst Tipps, die ursprünglich „robust" waren (entworfen, um einige Veränderungen zu bewältigen), brechen schließlich, wenn sich die Drift anhäuft.
Die „Reparatur" funktioniert: Ihre Wartungsmethode hielt die Erklärungen fast 100 % der Zeit gültig, selbst während sich die Daten änderten.
Bessere Qualität als Neustart: Als sie ihre „reparierten" Tipps mit der Generierung brandneuer Tipps von Grund auf am Ende des Stroms verglichen, waren die reparierten oft plausibler (sie sahen mehr wie echte, gängige Beispiele aus).
Der Kompromiss: Der einzige Nachteil war, dass die „reparierten" Tipps manchmal etwas weiter vom ursprünglichen Menschen entfernt waren als die brandneuen Tipps. Doch die Autoren argumentieren, dass dies ein fairer Preis ist, um die Erklärung gültig und realistisch zu halten, ohne die hohen Kosten der ständigen Neuberechnung von Grund auf.

Das Fazit

Dieses Papier stellt eine neue Art vor, KI-Erklärungen in einer sich verändernden Welt zu handhaben. Anstatt eine Erklärung als statisches Stück Papier zu behandeln, das abläuft, behandeln sie sie wie ein lebendiges Ding, das Wartung benötigt.

Durch kleine, kontinuierliche Anpassungen basierend auf neuen Daten können sie Erklärungen viel günstiger und schneller gültig und realistisch halten als durch ständige Generierung neuer Erklärungen von Grund auf. Es ist der Unterschied zwischen dem ständigen Neuzeichnen einer Karte und dem bloßen Aktualisieren des Kompasses, während man geht.

Technische Zusammenfassung: Gegenfaktische Erklärungen unter Konzeptdrift

1. Problemstellung

Gegenfaktische Erklärungen (CFEs) sind handlungsorientierte Abhilfe-Mechanismen, die die Frage beantworten: „Was muss sich ändern, damit das Ergebnis anders ausfällt?" Während die bestehende Literatur die Generierung von CFEs für statische Daten und feste Klassifikatoren umfassend behandelt, identifiziert diese Arbeit eine kritische Lücke: die Wartung von CFEs unter Konzeptdrift.

In sich entwickelnden Datenumgebungen (z. B. Datenströme) werden Klassifikatoren häufig online aktualisiert, um sich an sich ändernde Datenverteilungen anzupassen. Die Autoren argumentieren, dass eine zum Zeitpunkt der Generierung gültige CFE stillschweigend ungültig werden kann, sobald sich das Modell weiterentwickelt, selbst wenn die ursprüngliche Erklärung gegen begrenzte, einstufige Modelländerungen robust war. Im Gegensatz zu früheren Forschungsarbeiten zur Robustheit, die darauf abzielen, eine einzelne Erklärung gegen ein begrenztes Neustart-Event zu härten, adressiert diese Arbeit die kontinuierliche Degradation einer Population von CFEs, während ein Klassifikator über die Zeit wiederholt aktualisiert wird. Die zentrale Herausforderung besteht darin, die Gültigkeit und lokale Plausibilität bestehender CFEs aufrechtzuerhalten, ohne die Rechenkosten einer vollständigen Neugenerierung nach jeder Modellaktualisierung zu tragen.

2. Methodik

Die Autoren schlagen ein leichtgewichtiges, modellagnostisches Wartungsschema vor, das bestehende CFEs mittels lokaler Stichprobenziehung und eines gleitenden Fensters neuerer Beobachtungen repariert.

2.1 Zustandsrepräsentation und Auslösung

Das System hält für jede Abfrageinstanz $x_0$ einen Zustand $s = (x_0, x', c', a)$ vor, wobei $x'$ die aktuelle CFE, $c'$ die Zielklasse und $a$ ein aktives Flag ist.

Außerbetriebnahme: Ein Zustand wird außer Betrieb genommen, wenn der aktuelle Klassifikator $f_t$ für $x_0$ bereits die Zielklasse vorhersagt (d. h. der Drift hat das Abhilfebedürfnis auf natürliche Weise gelöst).
Aktualisierungsauslösung: Eine Aktualisierung wird ausgelöst, wenn die aktuelle CFE ungültig ist ( $f_t(x') \neq c'$ ) oder eine geringe Konfidenz in die Zielklasse aufweist ( $p_t(c' | x') < \tau_{low}$ ).

2.2 Der Aktualisierungsmechanismus

Die Methode wendet einen Korrekturvektor auf die aktuelle CFE $x'$ an und balanciert dabei drei Ziele aus:

Gültigkeitsrichtung ( $v$ ): Erhöht die Wahrscheinlichkeit der Zielklasse. Bei nicht differenzierbaren Modellen (z. B. Hoeffding-Bäume) wird dies durch Stichprobenziehung lokaler Perturbationen um $x'$ herum, Abfragen des Klassifikators und Anpassen eines lokal gewichteten linearen Surrogats (ähnlich wie LIME) geschätzt, um den Gradienten zu approximieren.
Plausibilitätsrichtung ( $p$ ): Verschiebt die CFE in Richtung dichter Regionen der Zielklasse im aktuellen Datenstrom. Dies wird unter Verwendung einer kernel-gewichteten Mean-Shift-Richtung berechnet, die auf den $k$ -nächsten Nachbarn der Zielklasse innerhalb eines gleitenden Puffers $B_t$ basiert.
Nähe-Zug ( $r$ ): Ein Vektor, der $x'$ zurück zur ursprünglichen Instanz $x_0$ zieht, um unnötige Abweichungen zu minimieren.

Die Aktualisierungsrichtung $d$ ist eine normalisierte lineare Kombination des ausgewählten Korrekturvektors ( $u \in \{v, p\}$ ) und des Nähe-Zugs:
$d = \frac{\lambda_u \hat{u} + \lambda_r \hat{r}}{\|\lambda_u \hat{u} + \lambda_r \hat{r}\|}$
wobei $\lambda_u$ und $\lambda_r$ die relative Stärke der Korrektur bzw. der Nähe steuern.

2.3 Wartungsvarianten

Die Arbeit evaluiert zwei spezifische Strategien:

Gültigkeit–Plausibilität (Ours-VP): Verwendet die Gültigkeitsrichtung $v$ , wenn die CFE ungültig ist oder eine geringe Konfidenz aufweist. Zusätzlich wird die Plausibilitätsrichtung $p$ periodisch (alle $K$ Schritte) angewendet, um gültige CFEs mit den aktuellen Datenverteilungen in Einklang zu halten.
Nur Plausibilität (Ours-P): Schätzt die Gültigkeitsrichtung nicht. Stattdessen verlässt sie sich ausschließlich auf die Plausibilitätsrichtung $p$ , um ungültige oder niedrig-konfidente CFEs zu reparieren, und testet, ob die Bewegung in Richtung dichter Zielregionen ausreicht, um die Gültigkeit unter graduellem Drift wiederherzustellen.

3. Experimentelles Setup und Ergebnisse

Experimente wurden auf synthetischen driftenden Strömen (Rotating Hyperplane, Sine, SEA) unter Verwendung von Online-Klassifikatoren (Logistische Regression und adaptive Hoeffding-Bäume) durchgeführt.

3.1 Wichtige Erkenntnisse

Degradation statischer CFEs: „Eingefrorene" CFEs (einschließlich solcher, die durch robuste Methoden wie RobX generiert wurden) verlieren ihre Gültigkeit rasch, sobald sich Konzeptdrift ansammelt. Beispielsweise sank die Gültigkeit auf dem Rotating Hyperplane-Strom für eingefrorene CFEs auf ca. 0,29–0,35.
Erhaltung der Gültigkeit: Beide Wartungsvarianten (Ours-P und Ours-VP) erhielten erfolgreich eine nahezu perfekte Gültigkeit (oft 1,0) über den gesamten Strom hinweg und übertrafen eingefrorene Baselines signifikant.
Verbesserung der Plausibilität: Wartete CFEs erzielten deutlich höhere lokale Plausibilitätswerte (kNN und KDE) im Vergleich zu Neugenerierungs-Baselines wie Nearest Neighbor (NN) und Growing Spheres (GS). Dies liegt daran, dass das Wartungsschema den aktuellen Datenpuffer explizit einbezieht, während Neugenerierungsmethoden oft nur auf Gültigkeit und Nähe optimieren.
Nähe-Abwägung: Die gewarteten CFEs wiesen größere $L_2$ -Abstände (Nähe) im Vergleich zu Neugenerierungsmethoden auf. Die Autoren führen dies auf die Kosten der Aufrechterhaltung lokaler Plausibilität zurück; die CFEs werden in Richtung aktueller Zielklassenregionen verschoben, die möglicherweise etwas weiter von der ursprünglichen Instanz entfernt sind als der nächste gültige Punkt, der durch Neugenerierung gefunden wird.
Rechenleistung: Trotz der Durchführung von 200 Wartungsaktualisierungen waren die vorgeschlagenen Methoden wettbewerbsfähig mit oder schneller als Neugenerierungs-Baselines (z. B. RobX), die nur einmal am Ende des Stroms ausgeführt werden. Ours-P war aufgrund der Vermeidung der Schätzung der Gültigkeitsrichtung deutlich schneller als Ours-VP.

4. Beiträge

Die Arbeit beansprucht folgende Beiträge:

Problemdefinition: Sie führt die Wartung von CFEs unter Konzeptdrift als eigene Problemklasse ein und unterscheidet sie von statischen Robustheitsszenarien. Das Ziel ist es, eine Population von Erklärungen gültig und plausibel zu halten, während sich der Klassifikator weiterentwickelt, anstatt eine einzelne Erklärung gegen eine einzelne Änderung zu härten.
Vorgeschlagene Methode: Ein leichtgewichtiges, modellagnostisches Schema, das CFEs unter Verwendung lokaler Stichprobenziehung repariert, um Gültigkeits- und Plausibilitätsrichtungen zu schätzen, während die Nähe erhalten bleibt.
Empirische Evidenz: Demonstration, dass Standard- und robuste CFEs unter kontinuierlichem Drift systematisch ihre Gültigkeit verlieren, während das vorgeschlagene Schema die Gültigkeit und lokale Plausibilität bei geringeren Rechenkosten als eine wiederholte Neugenerierung erhält.

5. Bedeutung und Einschränkungen

Die Autoren positionieren diese Arbeit als ersten Machbarkeitsnachweis. Die Bedeutung liegt im Paradigmenwechsel der XAI in Streaming-Umgebungen: weg von der Behandlung von Erklärungen als statische Artefakte hin zur Betrachtung als dynamische Objekte, die Wartung erfordern. Dies ist besonders relevant, wenn der ursprüngliche CFE-Generator rechenintensiv, nicht verfügbar oder für häufige Neuausführungen ungeeignet ist.

Die Arbeit räumt bescheiden ihre Einschränkungen ein:

Die Evaluation beschränkt sich auf synthetische, niedrigdimensionale Ströme mit kontrolliertem, graduellem Drift.
Sie etabliert noch keine Leistungsfähigkeit in komplexen realen Szenarien, bei hochdimensionalen Daten oder Daten gemischter Typen.
Als zukünftige Arbeit wird vorgeschlagen, reale Datenströme, differenzierbare Klassifikatoren zu erforschen und die Wartung von einzelnen CFEs auf kontrafaktische Erklärungen auf Gruppenebene auszudehnen.

Die Autoren schließen, dass die Aufrechterhaltung von Erklärungen über die Zeit eine praktische Alternative zur wiederholten Neugenerierung darstellt und ein Gleichgewicht zwischen Gültigkeit, Plausibilität und Rechenkosten in sich entwickelnden Umgebungen bietet.