L2GTX: From Local to Global Time Series Explanations

Das Paper stellt L2GTX vor, ein modellunabhängiges Framework, das durch die Aggregation lokaler Erklärungen repräsentativer Instanzen zu kompakten und interpretierbaren globalen Erklärungen für Zeitreihenklassifizierungsmodelle gelangt, wobei temporale Abhängigkeiten gewahrt und Redundanzen reduziert werden.

Das Wesentliche

Stell dir vor, du hast einen extrem klugen, aber stummen Koch, der eine riesige Datenbank mit tausenden von Rezepten (den Zeitreihen) gelernt hat. Dieser Koch kann mit fast 100-prozentiger Genauigkeit sagen, ob ein Teller Suppe „gut" oder „schlecht" schmeckt. Aber wenn du ihn fragst: „Warum hast du diese Suppe als schlecht bewertet?", zuckt er nur mit den Schultern. Er ist wie eine Blackbox: Das Ergebnis ist da, aber der Weg dorthin bleibt unsichtbar.

Das ist das Problem, das die Forscher mit ihrer neuen Methode namens L2GTX lösen wollen.

Hier ist die Erklärung in einfachen Worten, mit ein paar bildhaften Vergleichen:

1. Das Problem: Viele kleine Puzzleteile, kein Gesamtbild

Bisher gab es Methoden, um zu erklären, warum der Koch eine einzelne Suppe als schlecht eingestuft hat. Das ist wie ein Mikroskop: Man sieht genau, dass in dieser einen Schüssel ein Steinchen drin war.
Aber was ist, wenn du wissen willst, welche Art von Fehlern der Koch generell macht?

• Ignoriert er immer die Temperatur?
• Verwechselt er oft Salz mit Zucker?
• Gibt es ein Muster, das bei allen schlechten Suppen vorkommt?

Bisherige Methoden waren entweder nur auf einzelne Fälle spezialisiert (zu klein) oder sie mussten den Koch selbst „zerlegen" (zu kompliziert), um das zu verstehen. Es fehlte eine Methode, die aus vielen einzelnen Beobachtungen ein großes, verständliches Bild macht, ohne den Koch zu verletzen.

2. Die Lösung: L2GTX – Der „Dolmetscher"

L2GTX ist wie ein cleverer Dolmetscher, der zwischen dem Koch (dem KI-Modell) und dir (dem Menschen) steht. Er funktioniert in fünf Schritten, die wir uns wie eine Reise vorstellen können:

Schritt 1: Die kleinen Notizen machen (Lokale Erklärungen)

Zuerst nimmt der Dolmetscher eine Auswahl von Suppen (Daten) und fragt den Koch: „Warum hast du diese Suppe abgelehnt?"
Der Koch antwortet nicht mit ganzen Sätzen, sondern mit Merkmalen: „Hier war die Temperatur zu niedrig", „Hier gab es einen bitteren Geschmack".
In der Welt der Daten nennt man diese Merkmale „Ereignisse" (z. B. ein steiler Anstieg der Temperatur oder ein plötzlicher Abfall). Der Dolmetscher macht sich für jede Suppe eine Liste dieser kleinen Ereignisse.

Schritt 2: Die Notizen sortieren und zusammenfassen (Clustering)

Jetzt hat der Dolmetscher Tausende von Notizen. Das ist chaotisch!

• Notiz A sagt: „Temperatur fiel bei Sekunde 10."
• Notiz B sagt: „Temperatur fiel bei Sekunde 12."
• Notiz C sagt: „Temperatur fiel bei Sekunde 9."

Der Dolmetscher sagt: „Moment mal, das ist im Grunde das Gleiche!" Er fasst diese ähnlichen Notizen zu Gruppen zusammen. Er nennt sie „Cluster". Statt 100 Notizen über Temperaturabfälle hat er jetzt nur noch eine Gruppe: „Typischer Temperaturabfall um die Mitte der Zeit."

Schritt 3: Die wichtigsten Gruppen finden (Wichtigkeit berechnen)

Nicht alle Gruppen sind gleich wichtig. Vielleicht fallen bei 90 % der schlechten Suppen die Temperaturen, aber bei nur 5 % ist der Salzgehalt falsch.
Der Dolmetscher berechnet eine Wichtigkeits-Skala. Die Gruppen, die am häufigsten und entscheidendsten vorkommen, bekommen einen hohen Stern.

Schritt 4: Die besten Beispiele auswählen (Auswahl)

Stell dir vor, du hast einen Rucksack (ein Budget), in den du nur eine bestimmte Anzahl von Suppen-Proben packen darfst, um sie einem Experten zu zeigen.
Der Dolmetscher wählt klug aus: Er nimmt nicht zufällig Suppen, sondern genau die, die die wichtigsten Gruppen abdecken. Er sucht die „repräsentativsten" Beispiele, damit man mit wenigen Proben das ganze Bild versteht.

Schritt 5: Die große Geschichte erzählen (Globale Erklärung)

Zum Schluss schreibt der Dolmetscher eine Zusammenfassung für den Koch.
Anstatt zu sagen: „Bei Suppe Nr. 45 war es kalt, bei Nr. 46 auch...", sagt er:

„Mein Chef, du scheinst Suppen immer dann abzulehnen, wenn die Temperatur in der Mitte des Kochvorgangs plötzlich um 10 Grad fällt. Das passiert bei fast allen schlechten Suppen."

Das ist die globale Erklärung. Sie ist kurz, verständlich und trifft den Kern des Problems.

Warum ist das so cool?

1. Es ist universell: Es spielt keine Rolle, ob der Koch ein „FCN" oder ein „LSTM" ist (das sind nur verschiedene KI-Typen). L2GTX funktioniert mit jedem, weil es nur auf die Antworten des Kochs schaut, nicht auf sein Gehirn.
2. Es ist menschlich: Statt Zahlenreihen zu zeigen, sagt es: „Hier gab es einen steilen Anstieg" oder „Hier war ein Peak". Das verstehen Menschen intuitiv, genau wie wir über Wetter oder Aktienkurse reden.
3. Es ist zuverlässig: Die Forscher haben getestet, ob der Dolmetscher die Wahrheit sagt. Ja! Auch wenn er die vielen kleinen Details zusammenfasst, bleibt die Genauigkeit (die „Treue" zur KI) hoch.

Fazit

L2GTX ist wie ein Übersetzer, der aus tausenden von kleinen, verworrenen Hinweisen eines KI-Modells eine klare, kurze Geschichte macht. Es hilft uns zu verstehen, was das Modell eigentlich lernt, ohne dass wir uns die komplizierte Mathematik dahinter ansehen müssen. Es verwandelt das „Warum?" von einer Blackbox in eine verständliche Regel.

Technische Zusammenfassung

Problemstellung

Tiefe Lernmodelle erzielen zwar hohe Genauigkeiten bei der Klassifizierung von Zeitreihen, doch das Verständnis ihrer Entscheidungsfindung auf Klassenebene bleibt schwierig. Bestehende Erklärungsansätze (XAI) für Zeitreihen leiden unter drei Hauptmängeln:

1. Fehlende Übertragbarkeit: Viele modellagnostische Methoden, die für Bilder oder tabellarische Daten entwickelt wurden, lassen sich nicht direkt auf Zeitreihen übertragen, da diese zeitliche Abhängigkeiten und nicht-unabhängige Beobachtungen aufweisen.
2. Mangel an globalen Erklärungen: Die Synthese von globalen Erklärungen (die das gesamte Entscheidungsverhalten eines Modells beschreiben) für Zeitreihen ist unterentwickelt.
3. Modellspezifische Einschränkungen: Die wenigen existierenden globalen Ansätze sind oft an spezifische Modellarchitekturen gebunden, was eine architekturunabhängige Interpretierbarkeit einschränkt.

Ziel ist es, eine Methode zu entwickeln, die modellagnostisch ist und aus lokalen Erklärungen konsistente, globale Muster ableitet, die für eine gesamte Klasse repräsentativ sind.

Methodik: L2GTX

L2GTX (Local-to-Global Time-series eXplanations) ist ein vollständig modellagnostischer Ansatz, der lokale Erklärungen von einer ausgewählten, repräsentativen Teilmenge von Instanzen aggregiert, um globale, klassenweite Erklärungen zu generieren. Der Prozess umfasst fünf Schritte:

1. Lokale Attribution (LOMATCE):
   Für jede Instanz werden lokale Erklärungen mittels des Algorithmus LOMATCE (LOcal Model-Agnostic Time Series Classification Explanations) generiert. Dabei werden die Zeitreihen in parametrisierte zeitliche Ereignisprimitive (PEPs) zerlegt, wie z. B. steigende/fallende Trends (parametrisiert durch Startzeit, Dauer, Gradient) und lokale Extrema (Maxima/Minima, parametrisiert durch Zeit und Wert). Diese werden in Cluster gruppiert und mit Wichtigkeits-Scores versehen.

2. Agglomeration ähnlicher Cluster:
   Da lokale Cluster über verschiedene Instanzen hinweg variieren, werden ähnliche Cluster desselben PEP-Typs (z. B. alle „steigenden Trends") über die Instanzen hinweg mittels hierarchischer Agglomeration (K-Means-basiert auf Distanzen der Clusterzentren) zu globalen Clustern zusammengeführt. Dies reduziert Redundanz.

3. Konstruktion der Instanz-Cluster-Matrix:
   Eine Matrix wird erstellt, die die Wichtigkeit jedes globalen Clusters für jede Instanz abbildet.

4. Selektion repräsentativer Instanzen (Budget-basiert):
   Unter einem vom Benutzer definierten Budget $B$ wird eine Teilmenge von Instanzen ausgewählt, die eine maximale Abdeckung der einflussreichsten globalen Cluster gewährleistet. Dies geschieht durch einen gierigen Algorithmus (Submodulare Optimierung), der Instanzen auswählt, die neue, wichtige Cluster abdecken, die noch nicht durch bereits ausgewählte Instanzen abgedeckt sind.

5. Aggregation und Synthese:
   Die Ereignisse der ausgewählten Instanzen werden den globalen Clustern zugeordnet. Für jeden globalen Cluster werden statistische Kennzahlen (Mittelwert und Standardabweichung) der Ereignisattribute (z. B. typische Dauer, Zeitpunkt, Magnitude) berechnet. Das Ergebnis ist eine kompakte, semantisch interpretierbare globale Erklärung pro Klasse.

Hauptbeiträge

• Modellagnostische Global-Synthese: L2GTX ist der erste Ansatz, der modellagnostische lokale Erklärungen systematisch zu globalen, klassenweiten Zusammenfassungen für Zeitreihen aggregiert, ohne interne Modelldetails zu benötigen.
• Ereignisbasierte Repräsentation: Anstatt rohe Wichtigkeitswerte zu aggregieren, nutzt L2GTX parametrisierte Ereignisprimitive (Trends, Extrema), die der menschlichen Interpretation von Zeitreihen entsprechen.
• Selektionsmechanismus: Durch die budgetbasierte Auswahl repräsentativer Instanzen wird sichergestellt, dass die globalen Erklärungen sowohl divers als auch repräsentativ für die zugrunde liegenden Muster sind.
• Robustheit: Die Methode funktioniert über verschiedene Architekturen hinweg (z. B. FCN, LSTM-FCN) und verschiedene Datensätze hinweg.

Ergebnisse

Die Methode wurde an sechs Benchmark-Datensätzen aus dem UCR-Archiv (z. B. ECG200, GunPoint, Coffee) mit zwei unterschiedlichen Deep-Learning-Architekturen (FCN und LSTM-FCN) evaluiert.

• Global Faithfulness (GF): Die globale Treue (gemessen als mittleres $R^2$ der lokalen Surrogate) blieb über verschiedene Grade der Cluster-Konsolidierung (Merge-Percentiles von 25 bis 95) stabil. Dies zeigt, dass die Aggregation die Genauigkeit der Erklärung nicht beeinträchtigt.
• Kompaktheit: Durch das Erhöhen des Merge-Percentils (z. B. auf 95) konnte die Anzahl der globalen Cluster signifikant reduziert werden, ohne dass die interpretierbaren Muster verloren gingen.
• Interpretierbarkeit: Die generierten Erklärungen lieferten semantisch sinnvolle Einblicke.
  • Beispiel ECG200: Unterscheidung zwischen normalen Herzschlägen und Myokardinfarkten basierend auf der Verteilung und Stärke von Extrema und Trends.
  • Beispiel Coffee: Unterscheidung zwischen Arabica und Robusta-Kaffeebohnen basierend auf spektralen Intensitäten und lokalen Minima/Maxima, was mit domänenspezifischem Wissen übereinstimmt.
• Architekturunabhängigkeit: Obwohl FCN und LSTM-FCN unterschiedliche induktive Verzerrungen haben, identifizierten beide Modelle über L2GTX ähnliche zeitliche Regionen als entscheidend, was auf die Robustheit der Methode hindeutet.

Bedeutung und Ausblick

L2GTX schließt eine kritische Lücke im Bereich der erklärbaren KI für Zeitreihen, indem es den Sprung von lokalen, instanzspezifischen Erklärungen zu vertrauenswürdigen, globalen Modellen ermöglicht. Es bietet Entwicklern und Domänenexperten (z. B. in der Medizin oder Finanzwelt) eine Möglichkeit, systematische Muster und Verzerrungen in Modellen zu erkennen, ohne die Black-Box-Struktur des Modells selbst analysieren zu müssen.

Zukünftige Arbeiten sollen die Methode auf multivariate Zeitreihen erweitern, um Interaktionen zwischen verschiedenen Kanälen zu erfassen, sowie humanzentrierte Evaluierungen mit Domänenexperten durchführen, um die praktische Nützlichkeit und das Vertrauen in die Erklärungen weiter zu validieren.