ProtoTS: Learning Hierarchical Prototypes for Explainable Time Series Forecasting

Die Arbeit stellt ProtoTS vor, ein neuartiges, erklärbares Zeitreihenvorhersagerahmenwerk, das durch die hierarchische Modellierung prototypischer temporaler Muster sowohl hohe Vorhersagegenauigkeit als auch transparente, expertensteuerbare Entscheidungsprozesse ermöglicht.

Das Wesentliche

Stell dir vor, du bist ein Wettervorhersage-Experte, aber statt nur zu sagen „morgen regnet es", möchtest du genau erklären, warum es regnet und wie sich das auf den ganzen Tag auswirkt. Das ist das große Problem bei modernen KI-Modellen für Zeitreihen (wie Stromverbrauch oder Aktienkurse): Sie sind oft supergenau, aber sie funktionieren wie eine „Black Box". Man sieht das Ergebnis, aber nicht, wie die Maschine zu diesem Schluss kam.

Die Forscher in diesem Papier haben eine Lösung namens ProtoTS entwickelt. Hier ist eine einfache Erklärung, wie das funktioniert, mit ein paar anschaulichen Vergleichen:

1. Das Problem: Der „Zu-viele-Informationen"-Effekt

Stell dir vor, du musst den Stromverbrauch einer ganzen Stadt vorhersagen. Du hast Daten über:

• Die Temperatur (heiß/kalt).
• Ob es ein Feiertag ist.
• Die Tageszeit.
• Und noch 20 andere Faktoren.

Bisherige Modelle versuchen, all diese Faktoren durcheinanderzuwerfen und geben einfach eine Zahl aus. Wenn sie danebenliegen, weiß niemand, ob es am Wetter lag oder daran, dass sie einen Feiertag vergessen haben. Sie geben nur „lokale" Erklärungen (z. B. „um 14 Uhr war der Wert hoch"), aber kein Bild vom Ganzen.

2. Die Lösung: ProtoTS als „Muster-Sammler"

ProtoTS funktioniert nicht wie ein reiner Rechenknecht, sondern wie ein erfahrener Archivar mit einer riesigen Bibliothek von typischen Mustern.

Stell dir vor, das Modell lernt nicht jede einzelne Minute neu, sondern sammelt „Prototypen" (Muster).

• Prototyp 1: „Ein ganz normaler Werktag im Sommer." (Hoher Verbrauch am Mittag wegen Klimaanlagen).
• Prototyp 2: „Der erste Feiertag im Jahr." (Niedriger Verbrauch, weil Fabriken zu sind).
• Prototyp 3: „Ein sehr heißer Sommertag." (Extrem hoher Verbrauch).

Wenn das Modell eine neue Vorhersage machen muss, schaut es nicht auf die rohen Zahlen, sondern fragt: „Welchem Muster in meiner Bibliothek ähnelt diese Situation am meisten?"

3. Die Hierarchie: Vom Groben zum Feinen (Der „Zoom"-Effekt)

Das Besondere an ProtoTS ist, dass diese Muster hierarchisch (gestaffelt) angeordnet sind. Das ist wie bei einer Landkarte:

• Die grobe Ebene (Der Weltglobus): Zuerst sieht das Modell das große Ganze. Es erkennt: „Aha, das ist ein Feiertag!" (Das ist ein grober Prototyp).
• Die feine Ebene (Die Stadtansicht): Dann zoomt es hinein. „Welcher Feiertag ist es genau? Ist es der chinesische Neujahrstag oder ein normaler Sonntag?"
  • Beim Neujahrstag gibt es ein spezielles Muster: Morgens wenig Strom, abends viel, weil alle zu Hause sind.
  • Bei einem normalen Sonntag ist das Muster anders.

Durch diese Stufen-Struktur kann das Modell sowohl die großen Trends (Saisonalität) als auch die kleinen Details (spezielle Feiertage) perfekt verstehen.

4. Warum ist das so genial? (Die „Steuerbarkeit")

Das ist der coolste Teil: Da das Modell auf diesen klaren Mustern basiert, können Experten (z. B. Stromnetz-Ingenieure) direkt eingreifen.

Ein Beispiel aus dem Papier:
Die Forscher stellten fest, dass das Modell das Muster für das „Frühlingsfest" (chinesisches Neujahr) nicht ganz richtig verstand. Es sah nur ein einziges, allgemeines Muster.

• Der Eingriff: Ein Experte sagte: „Warte, das Frühlingsfest hat zwei Phasen! Vor dem Fest ist alles normal, aber am ersten Tag des Mondkalenders ändert sich alles."
• Die Aktion: Der Experte teilte den einen Prototyp einfach in zwei neue, feinere Prototypen auf.
• Das Ergebnis: Das Modell wurde sofort besser! Die Vorhersagegenauigkeit stieg, und das Modell war jetzt noch verständlicher, weil es die Nuancen des Feiertags wirklich „begriffen" hatte.

Zusammenfassung in einem Satz

ProtoTS ist wie ein intelligenter Assistent, der nicht nur Zahlen rechnet, sondern eine Bibliothek aus typischen Tagesabläufen hat. Er vergleicht die aktuelle Situation mit diesen Mustern, erklärt dem Menschen, welches Muster er gerade nutzt, und lässt sich von Experten sogar so umschreiben, dass er noch klüger wird.

Warum das wichtig ist:
In Bereichen wie der Energieversorgung oder der Finanzwelt ist es nicht genug, nur eine gute Vorhersage zu haben. Man muss verstehen, warum die KI so entscheidet, um Vertrauen zu haben und im Notfall die Steuerung übernehmen zu können. ProtoTS macht die Black Box zu einem durchsichtigen, verständlichen Werkzeug.

Technische Zusammenfassung

1. Problemstellung

Das Paper adressiert die Herausforderung, hochpräzise Zeitreihenvorhersagen mit vollständiger Interpretierbarkeit zu kombinieren, insbesondere in hochriskanten Szenarien wie der Lastprognose im Energienetz oder der Wettervorhersage.

Zwei Hauptprobleme werden identifiziert:

• Fehlende globale Erklärbarkeit (C1): Bestehende interpretierbare Modelle liefern oft nur lokale Erklärungen für einzelne Zeitpunkte. Sie können jedoch nicht erklären, warum bestimmte globale Muster (z. B. drei Spitzen in einer Stromlastkurve zu Mittag, Nachmittag und Nacht) auftreten oder wie sich diese Trends über die Zeit entwickeln.
• Unzureichende Modellierung heterogener Eingaben (C2): Viele Modelle ignorieren die komplexen Interaktionen zwischen verschiedenen Eingabevariablen (z. B. endogene Lastdaten vs. exogene Faktoren wie Temperatur, Feiertage, Wochentage). Oft werden nur endogene Variablen betrachtet, obwohl das Zusammenspiel verschiedener Variablentypen entscheidend für das Verständnis der zeitlichen Muster ist.

Ziel ist es, ein Modell zu entwickeln, das nicht nur präzise Vorhersagen trifft, sondern auch transparent macht, wie und warum diese Vorhersagen zustande kommen, und dabei Experten die Möglichkeit gibt, das Modell zu steuern.

2. Methodik: ProtoTS

Die Autoren schlagen ProtoTS vor, ein neues Framework, das auf dem Lernen hierarchischer Prototypen basiert. Das Modell besteht aus zwei Hauptmodulen:

A. Multi-Channel Prototype Similarity Computation (Multi-Kanal-Prototyp-Ähnlichkeitsberechnung)

Dieses Modul zielt darauf ab, die Interaktionen zwischen heterogenen Eingabevariablen effektiv zu modellieren:

• Multi-Channel Embedding: Endogene (z. B. Last) und exogene Variablen (z. B. Wetter, Kalender) werden in separaten Kanälen verarbeitet.
  • Endogene Daten: Werden über einen nichtlinearen Projektionskanal (MLP) kodiert.
  • Exogene Daten: Werden in diskrete (z. B. Feiertagsflaggen) und kontinuierliche (z. B. Temperatur) Variablen unterteilt. Diskrete Variablen nutzen Embedding-Tabellen, kontinuierliche nutzen spezifische nichtlineare Projektionen.
• Bottleneck Channel Fusion: Die Embeddings aller Variablen werden aggregiert und durch eine „Bottleneck"-Schicht (eine komprimierte latente Darstellung) geleitet. Dies filtert irrelevante Rauschinformationen heraus und bewahrt die prädiktivsten Komponenten, ohne die Modellkomplexität unnötig zu erhöhen.
• Ähnlichkeitsberechnung: Die gefilterte Repräsentation wird mit einem Satz lernbarer Prototypen verglichen. Jeder Prototyp besteht aus einem Embedding-Vektor (für die Ähnlichkeitsberechnung) und einem zugehörigen temporalen Muster (einer Zeitreihe, die als Vorhersage dient).

B. Hierarchical Prototype Learning (Hierarchisches Prototypen-Lernen)

Um den Trade-off zwischen Genauigkeit und Interpretierbarkeit zu lösen, werden die Prototypen in einer Baumstruktur organisiert:

• Root-Level (Wurzel): Eine kleine Anzahl von „rohen" Prototypen erfasst globale, grobe zeitliche Muster (z. B. saisonale Trends, allgemeine Feiertagseffekte). Dies ermöglicht eine schnelle, globale Übersicht für Experten.
• Splitting-Strategie (Aufteilung): Wenn ein Wurzel-Prototyp nicht ausreicht, um die Variabilität der Daten zu erfassen, wird er in mehrere „Kind"-Prototypen aufgeteilt. Diese erfassen feinere, lokale Variationen (z. B. Unterschied zwischen einem normalen Feiertag und dem Chinesischen Neujahrsfest).
• Vorhersage: Die endgültige Vorhersage ist eine gewichtete Kombination der temporalen Muster aller aktiven Prototypen (sowohl Wurzel- als auch Kind-Ebene), wobei die Gewichte durch die Ähnlichkeit der Eingabe zu den Prototypen bestimmt werden.
• Steuerbarkeit: Experten können gezielt Prototypen aufteilen oder deren Muster anpassen, um das Modell an domänenspezifisches Wissen anzupassen.

3. Schlüsselbeiträge

1. Neues Framework für erklärbare Vorhersagen: ProtoTS ist das erste Modell, das Prototypen nicht nur für Klassifizierung, sondern für die Dekodierung von Sequenzen von Regressionsausgaben (ganze Vorhersagekurven) nutzt.
2. Hierarchische Struktur: Durch die Trennung in grobe (globale) und feine (lokale) Muster wird sowohl die globale Interpretierbarkeit als auch die lokale Vorhersagegenauigkeit erreicht.
3. Multi-Channel-Verarbeitung: Die explizite Trennung und Fusion heterogener Variablen (diskret/kontinuierlich, endogen/exogen) ermöglicht es dem Modell, komplexe Interaktionen besser zu lernen als Single-Channel-Ansätze.
4. Expertensteuerbarkeit (Steerability): Das System erlaubt es Domain-Experten, das Modell durch manuelle Eingriffe (z. B. Aufteilen von Prototypen basierend auf Fachwissen) zu verbessern, was die Genauigkeit und das Vertrauen in das Modell erhöht.

4. Ergebnisse

Die Autoren evaluieren ProtoTS auf mehreren realistischen Datensätzen, darunter ein neu veröffentlichter LOF-Datensatz (Stromlast) und der EPF-Datensatz (Strompreise).

• Vorhersagegenauigkeit: ProtoTS erreicht State-of-the-Art-Ergebnisse. Auf dem LOF-Datensatz reduziert es den MSE (Mean Squared Error) um 48,3 % und den MAE (Mean Absolute Error) um 20,9 % im Vergleich zum besten Baseline-Modell. Auch auf dem volatilen EPF-Datensatz zeigt es signifikante Verbesserungen.
• Robustheit: Das Modell ist weniger anfällig für Datenknappheit; die Genauigkeit sinkt langsamer, wenn die Trainingsdatenmenge reduziert wird, im Vergleich zu Transformer-basierten Baselines.
• Interpretierbarkeit: In einer quantitativen Benutzerstudie (mit 24 Teilnehmern) schnitt ProtoTS bei der User Precision (UPrec) (Fähigkeit der Nutzer, Eingabefaktoren aus den Erklärungen abzuleiten) mit 77 % deutlich besser ab als TFT (64 %) und N-BEATSx (62 %). Auch die System Usability Scale (SUS) war mit 73,36 Punkten deutlich höher als bei den Vergleichsmodellen.
• Fallstudie: Eine Demonstration im Bereich der Stromlastprognose zeigte, dass Experten durch das manuelle Aufteilen des „Chinesisches Neujahrs"-Prototyps in zwei Unterprototypen (allgemeines Neujahrsfest vs. spezielles Neujahrsfest) die MSE für diese Vorhersagen um 0,009 senken konnten.

5. Bedeutung und Fazit

ProtoTS stellt einen bedeutenden Fortschritt im Bereich des Explainable AI (XAI) für Zeitreihen dar. Es überwindet die Grenzen bestehender Methoden, die oft entweder präzise aber undurchsichtig oder erklärbar aber ungenau sind.

• Vertrauensbildung: Durch die Bereitstellung von globalen und lokalen Erklärungen, die Experten nachvollziehen können, wird das Vertrauen in KI-Entscheidungen in kritischen Infrastrukturen gestärkt.
• Human-in-the-Loop: Die Fähigkeit, das Modell durch Expertenwissen zu „steuern", schließt die Lücke zwischen rein datengetriebenen Modellen und domänenspezifischem Fachwissen.
• Praktische Anwendbarkeit: Die Ergebnisse zeigen, dass es möglich ist, komplexe, heterogene Zeitreihendaten mit hoher Genauigkeit zu modellieren, ohne dabei die Transparenz der Entscheidungsfindung zu opfern.

Zusammenfassend bietet ProtoTS einen neuen Standard für Zeitreihenvorhersagen, der Genauigkeit, Interpretierbarkeit und menschliche Kontrolle effektiv vereint.