Technische Samenvatting: KARMA – Globale Verklaringen voor Multivariate Tijdreeksvoorspelling via K-orde Markov-benaderingen

1. Probleemstelling

De inzet van deep learning-modellen (bijv. RNN's, TCN's, Transformers) voor multivariate tijdreeksvoorspelling in kritieke domeinen (finance, klinische monitoring, industriële sensoren) kampt met aanzienlijke ondoorzichtigheid. Bestaande Explainable AI (XAI)-methoden, zoals LIME, SHAP en gradiëntgebaseerde attributies, zijn primair ontworpen voor statische, onafhankelijke en identiek verdeelde (i.i.d.) data. Wanneer deze worden toegepast op tijdreeksen, schenden ze vaak fundamentele temporele eigenschappen:

• Onafhankelijkheidsaanname: Ze gaan impliciet ervan uit dat tijdstempel-features onafhankelijk zijn, waarbij ze de temporele autocorrelatie en inter-variabele Granger-causaliteit negeren.
• Off-Manifold Perturbaties: Willekeurige perturbaties in SHAP of LIME doorbreken sequentiële structuren, waardoor contrafeitelijke scenario's ontstaan die niet in de datadistributie voorkomen.
• Lokaal vs. Globaal: Gradiëntgebaseerde methoden beschrijven lokale geometrie bij een enkel punt in plaats van de systematische conditionele structuur die globaal door het model is geleerd.
• Baseline Selectie: Methoden zoals TimeSHAP worstelen met het "baseline selectieprobleem" in sequentiële contexten, waarbij de keuze van een baseline niet triviaal is.

Het artikel stelt dat verklaringen voor tijdreeksen de sequentiële en causale structuur van de data moeten respecteren, waarbij men beweegt van perturbatiegebaseerde of gradiëntgebaseerde lokale benaderingen naar een probabilistische, globale surrogaatbenadering.

2. Methodologie: Het KARMA-framework

De auteurs stellen KARMA (K-Order Markov Approximation) voor, een framework dat een black-box tijdreeksvoorspeller $f$ verklaart door een K-orde Markov-surrogaatmodel te construeren. De kernpremiss is dat het gedrag van een complexe voorspeller op een multivariate tijdreeks getrouw kan worden benaderd door een Markov-keten van een specifieke orde $K$.

De methodologie is georganiseerd rond drie pijlers:

Pijler 1: Markov Surrogaat en Orde Selectie

• Discretisatie: Continue tijdreeksvariabelen worden gediscretiseerd in $N$ bins met behulp van kwantielgrenzen afgeleid van de trainingsdata, wat een discrete toestandsruimte $S = [N]^D$ creëert.
• Orde Selectie ($K^*$): De methode identificeert de minimale geschiedenislengte $K^*$ die predictief voldoende is. Dit wordt bereikt via een surrogaat predictieve validiteit stopregel. Het algoritme test toenemende lag-lengtes $K$ door de prefix van een inputvenster te vervangen door een baseline $b$ en de voorspellingsdiscrepantie $\hat{\Delta}_{pred}(K, b)$ te meten.
• Stopcriterium: $K^*$ is de kleinste $K$ waar de minimale discrepantie onder een tolerantie $\epsilon$ valt. Dit certificeert dat het model ongevoelig is voor inputs voorbij lag $K^*$.

Pijler 2: Compressie en Gecertificeerde Attributie

• Modelcompressie: Als $K^* < W$ (het inputvenster van het model), is het model bewezen ongevoelig voor inputs voorbij lag $K^*$. Dit levert een compressieratio $W/K^*$ op.
• Gecertificeerde Baseline ($b^*$): De baseline $b^*$ is niet door een analist gekozen maar model-gecertificeerd; het is de specifieke prefix die de voorspellingsdiscrepantie minimaliseert wanneer deze wordt gesubstitueerd.
• Gecertificeerde-Nul Attributies: Voor alle lags $k > K^*$ zijn de attributies wiskundig nul (binnen de benaderingsfout), wat de ambiguïteit van "kleine" versus "nul" belangstelling die in andere methoden voorkomt, oplost.

Pijler 3: Vijfniveaus Globale Verklaringhiërarchie

Zodra de $K^*$-orde Markov-transitiekernel $\hat{T}^f_{K^*}$ is geschat, leidt KARMA vijf lagen van globale verklaring af zonder aanvullende oracle-queries:

1. Niveau 1 (Variabele Belangrijkheid): Berekent de totale distributionele invloed van bronvariabelen op doelvoorspellingen over alle lags heen, waarbij variabelen worden gerangschikt op basis van hun marginale totale variatie-invloed.
2. Niveau 2 (Lag Profielen): Lost invloed op per specifieke lag $k$, waardoor de temporele dynamiek (bijv. momentum, mean-reversion) voor elke variabele wordt onthuld.
3. Niveau 3 (Regime Distinctiviteit): Identificeert onderscheidende historische regimes (paden) waar de conditionele voorspelling van het model significant afwijkt van zijn typische gedrag, gebruikmakend van een marginale interdependentie-index.
4. Niveau 4 (Interventionele Effecten): Berekent gemiddelde interventional effecten (AIE) en edge-bijdragen om een door het model geïnduceerde causale graaf te vullen, die direct verbonden is met de Niveau 1 belangrijkheid.
5. Niveau 5 (Onzekerheidskwantificering): Biedt betrouwbaarheidscertificaten:
   • Aleatorische Onzekerheid: Entropie van de voorspellende distributie (echte modelonzekerheid).
   • Epistemische Onzekerheid: Variantie van de kernel-schattingen (signaleert historische paden met onvoldoende datadekking).

Kernel Schatting: Om de exponentiële complexiteit van het schatten van de volledige gezamenlijke kernel ($N^{DK^*}$) te vermijden, schat KARMA $D$ gefactoreerde marginale kernels. Het gebruikt standaard Strategie B (b-prefix Monte Carlo)*, die de schatting beperkt tot de geobserveerde historie-support $H^+_{K^*}$, waardoor de schaling lineair is met de serie-lengte $T$ in plaats van exponentieel met de dimensie.

3. Belangrijkste Resultaten

Synthetische Data (VAR Oracle)

• Causale Structuur Herstel: Op synthetische Vector Autoregressieve (VAR) data met bekende grondwaarheid causale edges, bereikte KARMA een perfecte recall (1.00) in bijna alle configuraties (behalve de meest complexe: xlarge, waar de recall 0.71 was). Het behield een hoge precisie en sloot effectief spook-edges uit.
• Feature Ranking: KARMA was de enige top-gerangschikte methode (hoogste Kendall's $\tau$) op medium, large en xlarge configuraties. Concurrerende methoden (TimeSHAP, WinIT, Feature Occlusion) degradeerden naarmate de graafdichtheid toenam.
• Vergelijking: Integrated Gradients (IG) werd uitgesloten van synthetische tests omdat het reduceert tot exacte coëfficiënten op lineaire VAR's, wat de vergelijking degeneratief maakt.

Real-World Benchmarks

Experimenten werden uitgevoerd op drie datasets (ETTh1, Beijing PM2.5, Exchange Rate) over drie architecturen (GRU, LSTM, TCN) met behulp van een temporeel-bewuste lag-gebaseerde AUC-score ($AUClag@25\%$).

• ETTh1: KARMA behaalde de hoogste scores over alle architecturen, waarbij het met name de eerstvolgende beste methode op TCN versloeg (0.71 vs. 0.49).
• Beijing PM2.5: KARMA was competitief en kwam gelijk aan of bleef licht achter bij de sterkste baselines.
• Exchange Rate: Alle methoden stortten in naar bijna nul. De auteurs interpreteren dit correct: de dataset benadert een random walk met weinig leerbare temporele structuur, wat betekent dat geen enkele methode tijdstappen kan identificeren waarvan de verwijdering de voorspelling verschuift. Dit valideert het gedrag van de metriek in plaats van een falen van de explainer aan te geven.

4. Betekenis en Claims

Het artikel positioneert KARMA als een principieel alternatief voor bestaande XAI-methoden voor tijdreeksen door:

1. Temporele Geometrie te Respecteren: In tegenstelling tot perturbatiegebaseerde methoden die de sequentiële structuur doorbreken, opereert de Markov-benadering van KARMA binnen de natuurlijke taal van het domein (conditionele afhankelijkheden).
2. Statistische Garanties te Bieden: Het biedt gecertificeerde-nul attributies voor irrelevante lags en expliciete betrouwbaarheidscertificaten (Niveau 5) voor de verklaringen, een kenmerk dat ontbreekt in eerder werk.
3. Globaal vs. Lokaal: Het biedt een globale verklaringshiërarchie afgeleid van een enkele geschatte kernel, in plaats van instantie-specifieke lokale benaderingen.
4. Model-Agnostische Validiteit: De selectie van $K^*$ en de baseline $b^*$ zijn direct afgeleid van het gedrag van het model, niet van analytische aannames.

Erkende Beperkingen:
De auteurs merken op dat de toestandsruimte exponentieel groeit met $N^{DK^*}$, waardoor volledige kernel-schatting uitdagend blijft. KARMA verzacht dit via marginale kernels en sampling-strategieën, maar schalen naar zeer hoog-dimensionele systemen blijft een openstaande richting.

Het artikel concludeert dat het paradigma van de Markov-benadering een robuuste, onderbelichte richting biedt voor XAI in sequentiële domeinen, toepasbaar in finance, neurowetenschappen en genomics.