Towards plausibility in time series counterfactual explanations

Die vorgestellte Arbeit entwickelt eine neue Methode zur Generierung plausibler Gegenbeispiel-Erklärungen für Zeitreihenklassifikation, die durch gradientenbasierte Optimierung und eine soft-DTW-basierte Plausibilitätskomponente realistischere zeitliche Strukturen erzeugt als bestehende Ansätze.

Das Wesentliche

Stellen Sie sich vor, Sie haben einen sehr klugen, aber etwas verschlossenen Arzt (den KI-Algorithmus), der Ihre Herzfrequenzdaten (eine Zeitreihe) analysiert. Er sagt: „Patient, Sie haben ein Risiko!" (Klasse A). Sie fragen: „Was müsste ich ändern, damit Sie sagen: 'Kein Risiko!' (Klasse B)?"

Eine Gegenfaktische Erklärung (Counterfactual Explanation) ist die Antwort auf diese Frage. Sie soll Ihnen sagen: „Wenn Sie hier und dort ein bisschen anders atmen würden, wäre das Ergebnis anders."

Das Problem bei den bisherigen Methoden ist, dass sie oft unrealistische Antworten geben. Es ist, als würde der Arzt sagen: „Wenn Sie plötzlich 100-mal pro Minute atmen würden, wären Sie gesund." Das ist zwar technisch eine Änderung, die das Ergebnis umkehrt, aber es ist unplausibel – kein Mensch kann so atmen. Es ist wie ein „Adversarial Attack" (ein Angriff), der die KI austrickst, aber im echten Leben keinen Sinn ergibt.

Hier kommt die neue Methode von Kostrzewa und Kollegen ins Spiel.

Die Idee: Der „Zeit-Reisende"-Kompass

Die Forscher haben eine neue Methode entwickelt, um diese Erklärungen zu finden. Ihr Ziel ist es, nicht nur eine Änderung zu finden, die funktioniert, sondern eine, die plausibel ist – also so aussieht, als käme sie von einem echten, gesunden Menschen.

Stellen Sie sich die Zeitreihendaten (z. B. einen Herzschlag über die Zeit) als eine Melodie vor.

• Die alten Methoden: Sie versuchen, die Melodie zu ändern, indem sie zufällige Noten hinzufügen oder löschen. Manchmal funktioniert es, die Melodie klingt dann aber wie ein kaputtes Radio oder ein Albtraum.
• Die neue Methode: Sie nutzt einen cleveren Kompass, den sie „Soft-DTW" nennen.

Was ist Soft-DTW? (Die Magie des Vergleichs)

Normalerweise vergleicht man zwei Melodien, indem man Note für Note vergleicht. Das ist stur: Wenn die eine Melodie nur eine halbe Sekunde schneller ist, gilt sie als komplett anders.
DTW (Dynamic Time Warping) ist wie ein flexibler Dirigent. Er sagt: „Moment, diese Melodie ist nur ein bisschen schneller, aber die Struktur ist gleich!" Er kann die Zeit dehnen oder stauchen, um die Muster zu vergleichen.

Soft-DTW ist die „weiche" Version davon. Sie ist so geschmeidig, dass ein Computer sie berechnen kann, während er lernt.

Wie funktioniert die neue Methode im Alltag?

Stellen Sie sich vor, Sie wollen einen neuen Tanzschritt lernen, der zu einer bestimmten Musikgruppe (der „Zielklasse", also „Gesund") passt.

1. Der Start: Sie tanzen Ihren aktuellen, fehlerhaften Tanz (die Daten, die als „Krank" eingestuft wurden).
2. Die Suche: Der Computer sucht sich im Tanzstudio die 10 besten Tänzer (die „k-Nächsten Nachbarn"), die bereits perfekt zur Zielgruppe gehören.
3. Der Tanz-Workshop (Optimierung): Der Computer versucht nun, Ihren Tanz Schritt für Schritt zu ändern. Aber er hat eine strenge Regel:
   • Ändere nicht zu viel! (Nähe zum Original).
   • Mache es nicht kompliziert! (Sparsamkeit).
   • WICHTIG: Dein neuer Tanz muss sich wie einer der 10 perfekten Tänzer anfühlen.

Hier kommt der Clou: Die Methode nutzt den Soft-DTW-Kompass, um Ihren Tanz ständig mit den perfekten Vorbildern zu vergleichen. Wenn Sie eine Bewegung machen, die im echten Leben unmöglich wäre (z. B. einen Sprung, der gegen die Schwerkraft verstößt), sagt der Kompass: „Nein, das passt nicht zu den echten Vorbildern!" und korrigiert Sie.

Das Ergebnis: Realismus vor Kürze

Die Forscher haben ihre Methode mit anderen getestet. Das Ergebnis ist wie folgt:

• Andere Methoden: Sie finden oft sehr kurze Änderungen (nur ein paar Noten ändern). Aber diese Änderungen sehen oft seltsam aus, wie ein „Glitch" in der Matrix. Sie sind kurz, aber unplausibel.
• Die neue Methode: Sie macht vielleicht etwas größere Änderungen (sie verändert mehr Noten), aber das Ergebnis ist ein ganzheitlicher, realistischer Tanz, der genau wie ein echter, gesunder Herzschlag aussieht.

Die Analogie:
Wenn Sie einen krummen Baum geradebiegen wollen:

• Die alten Methoden schneiden vielleicht einen kleinen Ast ab, damit er gerade aussieht, aber der Baum sieht immer noch krank aus.
• Die neue Methode formt den Baum so, dass er wie ein gesunder Baum aus dem Wald aussieht – auch wenn das mehr Arbeit bedeutet.

Warum ist das wichtig?

In der Medizin oder bei der Finanzüberwachung wollen wir keine Erklärungen, die wie Science-Fiction klingen. Wir wollen wissen: „Was muss ich realistisch tun, um das Ergebnis zu ändern?"

Diese neue Methode garantiert, dass die Antwort nicht nur mathematisch korrekt ist, sondern auch menschlich verständlich und realistisch. Sie opfert ein wenig „Kürze" der Änderung, um dafür die Glaubwürdigkeit zu retten.

Zusammenfassend:
Die Autoren haben einen Weg gefunden, KI-Entscheidungen so zu erklären, dass sie nicht nur funktionieren, sondern auch sinnvoll sind. Sie nutzen einen cleveren Zeit-Vergleichs-Algorithmus, um sicherzustellen, dass die vorgeschlagenen Änderungen so aussehen, als wären sie von einem echten Menschen gemacht worden – und nicht von einem Roboter, der versucht, das System zu hacken.

Technische Zusammenfassung

Hier ist eine detaillierte technische Zusammenfassung des Papers „Towards plausibility in time series counterfactual explanations" auf Deutsch:

1. Problemstellung

Erklärbare Künstliche Intelligenz (XAI) ist in hochriskanten Bereichen wie Gesundheitswesen, Finanzen und Industrie unverzichtbar. Gegenfaktische Erklärungen (Counterfactual Explanations, CFEs) beantworten die Frage: „Welche minimalen Änderungen am Eingabedaten würden das Vorhersageergebnis des Modells ändern?".

Das Hauptproblem bei Zeitreihen liegt in der Plausibilität:

• Bestehende Methoden für Zeitreihen erzeugen oft Erklärungen, die zwar mathematisch gültig sind (das Modell ändert seine Vorhersage), aber keine realistischen zeitlichen Strukturen aufweisen.
• Viele Ansätze nutzen entweder direkte Substitution von Trainingsdaten (was zu abrupten, diskontinuierlichen Änderungen führt) oder Autoencoder, die Plausibilität nur indirekt über Rekonstruktionsfehler erzwingen.
• Fehlen explizite Mechanismen zur Bewahrung der zeitlichen Dynamik, entstehen oft „adversariale" Muster, die für Nutzer nicht vertrauenswürdig oder handlungsleitend sind.

2. Methodik

Die Autoren schlagen eine neue Methode vor, die gradientenbasierte Optimierung direkt im Eingaberaum durchführt, um plausible CFEs zu generieren. Der Kernansatz besteht darin, die Plausibilität explizit durch die Ausrichtung an realen Daten der Zielklasse zu erzwingen.

Kernkomponenten:

• Soft-DTW (Soft Dynamic Time Warping): Da das klassische DTW nicht differenzierbar ist (was für Gradientenabstieg notwendig ist), wird Soft-DTW verwendet. Dies ersetzt das harte Minimum durch einen weichen Minimum-Operator, der eine glatte Approximation ermöglicht und dennoch die zeitliche Ausrichtung (Alignment) berücksichtigt.

• Optimierungsziel (Loss Function): Die zu minimierende Verlustfunktion $L_{CF}$ setzt sich aus vier Komponenten zusammen:
  $$L_{CF} = L_{prox} + L_{sparse} + \lambda \cdot (L_{valid} + L_{DTW})$$

  1. Proximity ($L_{prox}$): Quadratischer euklidischer Abstand zur Originalzeitreihe, um minimale Änderungen zu gewährleisten.
  2. Sparsity ($L_{sparse}$): $L_1$-Norm der Änderung, um lokale statt globaler Modifikationen zu fördern.
  3. Validity ($L_{valid}$): Hinge-Loss, der sicherstellt, dass die modifizierte Zeitreihe $X'$ vom Klassifikator als Zielklasse $y_{target}$ vorhergesagt wird.
  4. Plausibility ($L_{DTW}$): Der entscheidende neue Term. Er berechnet den durchschnittlichen Soft-DTW-Abstand zwischen der generierten CFE ($X'$) und den $k$-nächsten Nachbarn ($k$-NN) der Zielklasse aus dem Trainingsset. Dies zwingt die CFE, realistische zeitliche Muster der Zielklasse anzunehmen.

• Optimierungsprozess: Die CFE wird durch Gradientenabstieg auf $X'$ iterativ optimiert, während die Parameter des Klassifikators fixiert bleiben.

3. Wichtige Beiträge

1. Neue Methode: Ein Ansatz zur Generierung von Zeitreihen-CFEs, der Plausibilität explizit durch Soft-DTW-Ausrichtung an Zielklassen-Proben erzwingt, ohne auf nicht-differenzierbare Substitutionen oder indirekte Rekonstruktionsverluste angewiesen zu sein.
2. Umfassende Evaluation: Ein Vergleich mit starken Referenzmethoden (Glacier und M-CELS) über mehrere Metriken (Gültigkeit, Sparsity, Proximity, Plausibilität) auf acht verschiedenen Datensätzen (uni- und multivariat).
3. Qualitative Analyse: Eine visuelle Untersuchung zeigt die Grenzen bestehender Methoden auf, die oft keine zeitliche Kohärenz bewahren, und demonstriert die überlegene Realismusqualität der vorgeschlagenen Methode.

4. Ergebnisse

Die Evaluation wurde auf acht Datensätzen (z. B. CBF, TwoLeadECG, GunPoint, Cricket) durchgeführt.

• Gültigkeit (Validity): Die vorgeschlagene Methode erreicht in fast allen Fällen eine perfekte oder nahezu perfekte Gültigkeit (nahezu 100 % der CFEs ändern die Vorhersage erfolgreich). Im Gegensatz dazu scheitern Referenzmethoden wie Glacier und M-CELS in vielen Fällen (z. B. nur 0,36 Gültigkeit bei CBF für Glacier).
• Plausibilität (Plausibility):
  • Gemessen am durchschnittlichen DTW-Abstand zu den $k$-nächsten Nachbarn der Zielklasse, übertrifft die Methode die Konkurrenz deutlich (oft um eine Größenordnung).
  • Beispiel TwoLeadECG: DTW = 0,016 (Ours) vs. 0,064 (Glacier) vs. 0,302 (M-CELS).
  • Der Isolation Forest Score (Maß für die Erkennung als „normale" Instanz) liegt bei der neuen Methode oft bei 1,000, was zeigt, dass die generierten CFEs als realistische Datenpunkte der Zielklasse erkannt werden, während andere Methoden oft als Ausreißer gelten.
• Trade-off (Proximity vs. Plausibility): Die Methode zeigt höhere $L_1$- und $L_2$-Abstände (Proximity) als die Referenzmethoden. Dies ist ein bewusster Trade-off: Um realistische zeitliche Muster zu erzeugen, sind größere Änderungen notwendig als bei Methoden, die nur minimale Störungen suchen. Die Autoren argumentieren, dass diese größeren Änderungen sinnvoller und vertrauenswürdiger sind.

5. Bedeutung und Fazit

Das Paper demonstriert, dass für Zeitreihen-CFEs die Erhaltung der zeitlichen Struktur entscheidend ist.

• Kritische Erkenntnis: Das bloße Minimieren von Änderungen (Proximity) führt oft zu unrealistischen oder adversarialen Mustern. Die explizite Ausrichtung an der Datenverteilung der Zielklasse (via Soft-DTW) ist notwendig, um vertrauenswürdige Erklärungen zu erhalten.
• Limitationen: Der Ansatz ist rechenintensiv, da Soft-DTW quadratisch mit der Sequenzlänge skaliert und in jeder Iteration Berechnungen mit $k$-Nachbarn erfordert. Zudem hängt die Qualität von der Annahme ab, dass die Zielklasse konsistente zeitliche Muster aufweist (Problem bei hochvariablen, multimodalen Klassen).
• Zukunft: Die Autoren planen den Einsatz probabilistischer generativer Modelle, um die Vielfalt zeitlicher Muster innerhalb einer Klasse besser abzubilden und die Abhängigkeit von $k$-NN zu reduzieren.

Zusammenfassend bietet die Methode einen robusten Weg, um Zeitreihen-Klassifikatoren nicht nur durch gültige, sondern durch hochplausible und zeitlich konsistente Gegenbeispiele zu erklären.