📊 statistics

Autorelevance function and other feature relevance measures for univariate time series

Dieses Paper schlägt ein modellagnostisches Framework vor, das Ghost-Variablen und Shapley-Werte nutzt, um Autorelevanz- und partielle Autorelevanzfunktionen zur Messung der Lag-Wichtigkeit in univariaten Zeitreihenprognosen zu definieren, wobei es deren Effektivität über saisonale ARMA- und rekurrenten neuronalen Netzmodelle hinweg demonstriert.

Ursprüngliche Autoren: Julian Cardenas, Jamie Arjona, Pedro Delicado

Veröffentlicht 2026-07-03

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Julian Cardenas, Jamie Arjona, Pedro Delicado

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie versuchen, das Wetter für morgen vorherzusagen. Sie haben ein superintelligentes Computerprogramm (ein „Black Box“-Modell), das die Temperatur, den Wind und den Regen der letzten Tage betrachtet, um seine Vermutung abzugeben. Aber hier liegt das Problem: Der Computer ist so intelligent, dass er auch ein wenig ein Mysterium ist. Sie fragen ihn: „Warum hast du Regen vorhergesagt?“ Und er sagt nur: „Wegen der Daten.“ Er verrät Ihnen nicht, welcher Tag in den Daten am wichtigsten war. War es der Regen von gestern? Oder der Regen vom letzten Dienstag?

Dieses Paper stellt einen neuen Satz von Werkzeugen vor, um genau diese Frage zu beantworten. Die Autoren wollen exakt messen, wie viel jeder „Lag“ (jeder vergangene Tag an Daten) zur endgültigen Vorhersage beiträgt, unabhängig davon, ob der Computer einfache Mathematik oder ein komplexes neuronales Netz verwendet.

Hier ist eine Aufschlüsselung ihrer Ideen unter Verwendung alltäglicher Analogien:

1. Das Problem: Die „Black Box“-Vorhersage

In der Zeitreihenprognose sind die Eingaben normalerweise nur vergangene Versionen desselben Objekts (wie vergangene Aktienkurse oder vergangene Passagierzahlen). Traditionelle Werkzeuge (wie die Autokorrelationsfunktion) sind wie altmodische Landkarten; sie funktionieren großartig für einfache, gerade Straßen (lineare Modelle), werden aber verwirrt, wenn die Straße sich in einen komplexen, nicht-linearen Dschungel verwandelt (neuronale Netze). Wir brauchen einen neuen Weg, um zu sehen, welche vergangenen Tage die Vorhersage tatsächlich antreiben.

2. Die Lösung: Zwei neue „Relevanz“-Lineale

Die Autoren schlagen zwei Hauptwege vor, um die Wichtigkeit zu messen, die sie Auto-Relevance Functions (ARF) und Partial Auto-Relevance Functions (PARF) nennen.

Methode A: Der „Geister“-Ersatz (Ghost Variables)

Stellen Sie sich vor, Sie backen einen Kuchen und möchten wissen, wie wichtig die Eier sind.

Der Standardweg: Sie backen den Kuchen ohne Eier und sehen, ob er schlecht schmeckt.
Das Problem mit Zeitreihen: Man kann die Temperatur von gestern nicht einfach „löschen“. Wenn Sie sie löschen, bricht die Zeitlinie zusammen und das Rezept ergibt keinen Sinn mehr.
Der Trick des Papers: Anstatt die Temperatur von gestern zu löschen, ersetzen Sie sie durch eine „Geister“-Temperatur. Dieser Geist ist eine kluge Schätzung dessen, was die Temperatur gewesen wäre, wenn Sie nur die Tage vor und nach gestern betrachtet hätten, ohne gestern zu berücksichtigen.
Das Ergebnis: Sie backen den Kuchen mit der echten Temperatur, dann backen Sie ihn erneut mit der „Geister“-Temperatur. Wenn der Kuchen völlig anders schmeckt, dann war die Temperatur von gestern entscheidend. Wenn der Kuchen fast gleich schmeckt, spielte gestern keine große Rolle.

Die Autoren nutzen diese „Geister“-Methode, um einen Score (ARzF) zu erstellen, der angibt, wie sehr jeder vergangene Tag zählt.

Methode B: Der „Teamplayer“-Score (Shapley-Werte)

Stellen Sie sich ein Sportteam vor, in dem Spieler (die vergangenen Tage) in verschiedenen Kombinationen auftreten. Manchmal besteht das Team nur aus den Top 3 Spielern; manchmal aus den Top 5.

Das Konzept: Diese Methode, die auf einer mathematischen Theorie namens Shapley-Werten basiert, fragt: „Wie sehr verbessert das Hinzufügen eines spezifischen Spielers die Punktzahl des Teams, ungeachtet dessen, wer sonst noch im Team ist?“
Die Anwendung: Sie berechnen, wie stark der Vorhersagefehler sinkt, wenn man „Tag 1“ zu einer Gruppe anderer Tage hinzufügt, und machen dasselbe für „Tag 2“ und so weiter, über alle möglichen Kombinationen von Tagen hinweg.
Das Ergebnis: Dies liefert eine „Partial Auto-Relevance Function“ (PARF). Es ist wie ein Fairness-Score, der genau angibt, wie viel Anerkennung jeder vergangene Tag für die endgültige Vorhersage verdient, selbst wenn er nur im Verbund mit bestimmten anderen Tagen wichtig ist.

3. Die Geheimzutat: Wie man die Lücken füllt

Ein großes Hindernis in dieser Forschung ist: Was setzt man in den „Geister“-Slot oder den „fehlenden Teammitglied“-Slot?

Der alte Weg: Setzen Sie einfach eine Null oder die Durchschnittstemperatur ein. Das ist so, als würde man einen Dummy in die Aufstellung setzen; es unterbricht den Fluss des Spiels.
Die Innovation des Papers: Sie verwenden das Prognosemodell selbst, um den fehlenden Wert zu schätzen. Wenn Ihnen die „Temperatur von gestern“ fehlt, schaut das Modell auf die anderen verfügbaren Tage und sagt voraus, was die Temperatur gestern hätte sein sollen.
Warum es funktioniert: Dies hält die „Geschichte“ der Zeitreihe intakt. Es ist, als würde man den Trainer fragen, eine Simulation dessen durchzuführen, was passiert wäre, wenn ein Spieler gefehlt hätte, anstatt nur einen leeren Stuhl dazulassen.

4. Hat es funktioniert? (Die Ergebnisse)

Die Autoren testeten diese Werkzeuge an zwei Arten von Daten:

Simulierte Daten: Sie erstellten künstliche Zeitreihen, bei denen sie die Antwort kannten (z. B. „Wir haben ein Modell erstellt, bei dem nur Tag 1 und Tag 3 wichtig sind; Tag 2 ist nutzlos“).
- Ergebnis: Ihre Werkzeuge identifizierten korrekt, dass Tag 1 und 3 die Stars waren und Tag 2 ein Reinfall war, selbst als das Vorhersagemodell ein komplexes neuronales Netz war.
Reale Daten: Sie verwendeten den berühmten Datensatz „Monthly Airline Passengers“.
- Ergebnis: Die Werkzeuge hoben korrekt hervor, dass die wichtigsten Tage zur Vorhersage des nächsten Monats der vorangegangene Monat, der Monat vor 12 Monaten (letztes Jahr) und der Monat vor 13 Monaten waren. Dies deckt sich mit der menschlichen Intuition über saisonale Muster.

5. Das Fazit

Das Paper behauptet, dass diese neuen Methoden (ARF und PARF):

Modell-agnostisch sind: Sie funktionieren sowohl bei einfachen mathematischen Modellen als auch bei komplexen KI-„Black Boxes“.
Genau sind: Sie identifizieren erfolgreich die wichtigen vergangenen Tage sowohl in einfachen als auch in schwierigen, nicht-linearen Situationen.
Effizient sind: Sie lassen sich schneller berechnen als bisherige Methoden, die dasselbe zu erreichen versuchen.

Kurz gesagt: Die Autoren haben eine „Taschenlampe“ gebaut, die uns genau zeigen kann, welche vergangenen Momente die zukünftigen Vorhersagen beleuchten, selbst wenn der Computer, der die Vorhersagen trifft, zu komplex ist, um sich selbst zu erklären.

Technisches Resümee: Autorelevanzfunktion und andere Maße für die Merkmalsrelevanz bei univariaten Zeitreihen

Problemstellung
Die zunehmende Anwendung von Modellen des maschinellen Lernens für die Zeitreihenprognose hat ein kritisches Bedürfnis nach Interpretierbarkeit geschaffen, insbesondere im Hinblick darauf, wie verzögerte Beobachtungen (Lags) Vorhersagen beeinflussen. Während klassische statistische Werkzeuge wie die Autokorrelationsfunktion (ACF) und die partielle Autokorrelationsfunktion (PACF) lineare zeitliche Strukturen effektiv beschreiben, sind sie ungeeignet, um das Verhalten moderner „Black-Box“-Prognosemodelle (z. B. neuronale Netze) zu erklären. Bestehende Methoden zur Merkmalswichtigkeit (Feature Importance) haben im Kontext von Zeitreihen oft Schwierigkeiten aufgrund der hohen Korrelation zwischen Prädiktoren (Lags) und des Mangels an modellagnostischen Strategien für den Umgang mit „fehlenden“ Merkmalen in koalitionsbasierten Erklärungen. Standardmäßige Imputationstechniken (z. B. Auffüllen mit Nullwerten oder unbedingten Mittelwerten) scheitern oft daran, die für die Prognose essenziellen zeitlichen Dynamiken zu bewahren, was zu potenziell irreführenden Relevanzschätzungen führt.

Methodik
Die Autoren schlagen ein modellagnostisches Framework vor, um die globale Relevanz verzögerter Eingaben in der univariaten Zeitreihenprognose zu quantifizieren. Die Methodik integriert zwei primäre Ansätze: Ghost Variables (Geistervariablen) und Shapley-Werte, die speziell für Prognoseaufgaben angepasst wurden, bei denen die Eingaben ausschließlich verzögerte Werte der Serie sind.

Ghost Variables Ansatz (Autorelevanzfunktion – ARF):
- Abgeleitet von der Ghost-Variables-Methodik, bewertet dieser Ansatz die Relevanz eines spezifischen Lags $h$ , indem der tatsächliche verzögerte Wert $y_{t-h}$ durch einen imputierten „Geisterwert“ $\hat{y}^*_{t-h}$ ersetzt wird.
- Der Geisterwert wird durch ein Hilfs-Imputationsmodell (speziell eine multiple lineare Regression) generiert, das $y_{t-h}$ unter Verwendung der verbleibenden $p-1$ Lags vorhersagt.
- Die Relevanz wird durch den Vergleich des Vorhersagefehlers des Originalmodells mit dem Modell unter Verwendung des Geisterwerts quantifiziert. Die Autoren definieren zwei Metriken:
  - ARF $_{MSPD}$ : Basierend auf der mittleren quadratischen Vorhersagedifferenz (Mean Squared Prediction Difference).
  - ARF $_{MSE}$ : Basierend auf der Änderung der MSE-Beiträge (Mean Squared Error).
Shapley-Wert Ansatz (Partielle Autorelevanzfunktion – PARF):
- Dieser Ansatz behandelt Lags als Spieler in einem kooperativen Spiel und berechnet den durchschnittlichen marginalen Beitrag jedes Lags über alle möglichen Koalitionen (Teilmengen von Lags) hinweg.
  - Imputationsstrategie: Eine zentrale Innovation ist die Behandlung fehlender Merkmale in einer Koalition. Anstatt eine generische Imputation zu verwenden, schlagen die Autoren vor, fehlende Lags durch eine Ein-Schritt-Vorhersage (One-Step-Ahead Forecast) zu ersetzen, die vom selben Prognosemodell generiert wird, das analysiert wird. Dies bewahrt die zeitliche Kohärenz der Serie.
- Wertfunktion: Die Wertfunktion wird basierend auf der MSE-Verbesserung relativ zu einer Baseline (Mittelwert der Stichprobe) definiert.
- Metriken:
  - PARF $_{MSE}$ : Standardisierte Shapley-Werte basierend auf MSE-Beiträgen.
  - PARF $_{MSPD}$ : Standardisierte Shapley-Werte basierend auf quadratischen Vorhersagedifferenzen.
- Recheneffizienz: Im Gegensatz zu lokalen SHAP-Methoden, die für jede Beobachtung eine Permutationsanalyse erfordern, berechnet dieses Framework die Relevanz global durch Mittelung über die Teststichprobe, was die Rechenlast erheblich reduziert.

Zentrale Beiträge

Neuartige Imputation für Zeitreihen: Die Arbeit führt ein modellgestütztes Ein-Schritt-Vorhersage-Imputationsschema zur Handhabung fehlender Merkmale in koalitionsbasierten Methoden ein. Diese Strategie richtet die Relevanzanalyse an der Dynamik des Prognosemodells selbst aus und bietet so eine natürlichere Definition von Koalitionen in sequentiellen Settings im Vergleich zu statischen Imputationen.
Modellagnostische Lag-Relevanz: Die vorgeschlagenen ARF- und PARF-Maße sind sowohl für klassische statistische Modelle (z. B. ARMA) als auch für komplexe Black-Box-Modelle (z. B. rekurrenten neuronale Netze) anwendbar und bieten ein einheitliches Framework für die Interpretierbarkeit.
Integration von additiven Wichtigkeitsmaßen: Die Arbeit verbindet die praktischen Bedürfnisse der Interpretierbarkeit von Zeitreihen mit den theoretischen Grundlagen additiver Wichtigkeitsmaße (Additive Importance Measures, AIM), wobei speziell der MSE als Verlustfunktion verwendet wird, was im Forecasting Standard ist.

Ergebnisse
Die Autoren evaluierten ihre Vorschläge anhand von simulierten Daten (lineare ARMA-, nichtlineare Regime-Switching-Modelle) und einem realen Datensatz (Monatliche Flugpassagiere).

Lineare Simulationen (AR(3) und ARMA(3,3)): In linearen Settings identifizierten sowohl ARF als auch PARF erfolgreich die wahren nicht-Null-Lags (Lags 1 und 3), während sie irrelevanten Lags (Lag 2) eine vernachlässigbare Relevanz zuordneten, selbst wenn das gefittete Modell ein neuronales Netz war.
Nichtlineare Simulationen: In einem nichtlinearen Regime-Switching-Modell identifizierten die Relevanzmaße (insbesondere PARF mit MSE-Beiträgen) korrekt die dominanten Lags (1, 12 und 13), welche den datengenerierenden Prozess steuerten, was die Robustheit gegenüber Nichtlinearität demonstriert.
Reale Daten (Flugpassagiere): Angewendet auf den klassischen Datensatz der Flugpassagiere, hoben die Methoden konsistent die Lags 1, 12 und 13 als die relevantesten hervor, was mit der bekannten saisonalen Struktur übereinstimmt. Während das neuronale Netz Modell leicht unterschiedliche Muster als das SARIMA-Modell zeigte, erfassten die Relevanzmaße dennoch die fundamentale Lag-Struktur.
Vergleich der Imputation: Die modellbasierte Ein-Schritt-Vorwärts-Imputation übertraf die lineare Imputation in nichtlinearen und komplexen Szenarien im Allgemeinen und lieferte eine klarere Identifizierung der dominanten Lag-Strukturen.

Bedeutung und Behauptungen
Das Paper behauptet, dass das vorgeschlagene Framework eine praktische und effektive Lösung zur Interpretation von Zeitreihenprognosemodellen bietet. Die Autoren betonen, dass:

Die Methoden in fast allen getesteten Fällen erfolgreich die erwarteten Lag-Strukturen wiederherstellen können, einschließlich komplexer Black-Box-neuronaler Netze.
Die Ein-Schritt-Vorwärts-Imputationsstrategie eine natürliche Möglichkeit bietet, Koalitionen in sequentiellen Settings zu definieren, wodurch der heuristischen Natur generischer Imputationen entgangen wird.
Der Ansatz recheneffizienter ist als Standard-Lokale-SHAP-Methoden, während er gleichzeitig die Interpretierbarkeit beibehält.
Das Framework besonders gut für Zeitreihen geeignet ist, da es die zeitliche Ordnung und die Dynamik der Daten respektiert.

Die Autoren bleiben bescheiden hinsichtlich der Einschränkungen und merken an, dass die Strategie darauf beruht, dass das Prognosemodell eine ausreichend gute Vorhersageleistung erbringt; schwache Modelle können durch den Imputationsprozess Rauschen einführen, was zu irreführenden Relevanzschätzungen führen kann. Zukünftige Arbeiten werden vorgeschlagen, um alternative Relevanzformulierungen, die Einbeziehung exogener Prädiktoren und die Erweiterung auf multivariate Zeitreihen zu untersuchen.