📊 statistics

Autorelevance function and other feature relevance measures for univariate time series

Dit artikel stelt een model-agnostisch raamwerk voor dat Ghost-variabelen en Shapley-waarden gebruikt om autorelevantie- en partiële autorelevantiefuncties te definiëren voor het meten van lag-belang in univariate tijdreeksvoorspelling, waarbij de effectiviteit ervan over seizoensgebonden ARMA- en recurrente neurale netwerkmodellen wordt aangetoond.

Oorspronkelijke auteurs: Julian Cardenas, Jamie Arjona, Pedro Delicado

Gepubliceerd 2026-07-03

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Julian Cardenas, Jamie Arjona, Pedro Delicado

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je het weer voor morgen probeert te voorspellen. Je hebt een superintelligent computerprogramma (een "black box"-model) dat de temperatuur, wind en regen van de afgelopen paar dagen bekijkt om zijn gok te doen. Maar hier is het probleem: de computer is zo slim dat hij ook een beetje een mysterie is. Je vraagt hem: "Waarom voorspelde je regen?" en hij zegt alleen maar: "Vanwege de data." Hij vertelt je niet welke data van welke dag het meest belangrijk was. Was het de regen van gisteren? Of de regen van vorige dinsdag?

Dit artikel introduceert een nieuwe set hulpmiddelen om die vraag te beantwoorden. De auteurs willen precies meten hoeveel elke "lag" (elke dag aan data uit het verleden) bijdraagt aan de uiteindelijke voorspelling, ongeacht of de computer eenvoudige wiskunde gebruikt of een complex neuraal netwerk.

Hier is een uitsplitsing van hun ideeën met behulp van alledaagse analogieën:

1. Het Probleen: De "Black Box" Voorspelling

Bij tijdreeksvoorspellingen zijn de inputs meestal alleen eerdere versies van hetzelfde ding (zoals eerdere aandelenkoersen of eerdere passagersaantallen). Traditionele hulpmiddelen (zoals de Autocorrelatie-functie) zijn als ouderwetse kaarten; ze werken geweldig voor eenvoudige, rechte wegen (lineaire modellen), maar raken in de war wanneer de weg verandert in een complex, niet-lineair doolhof (neurale netwerken). We hebben een nieuwe manier nodig om te zien welke dagen uit het verleden de voorspelling daadwerkelijk aansturen.

2. De Oplossing: Twee Nieuwe "Relevantie"-Linialen

De auteurs stellen twee belangrijke manieren voor om belangrijkheid te meten, die ze Auto-Relevance Functions (ARF) en Partial Auto-Relevance Functions (PARF) noemen.

Methode A: De "Geest"-vervanging (Ghost Variables)

Stel je voor dat je een cake bakt en je wilt weten hoe belangrijk de eieren zijn.

De Standaard Manier: Je bakt de cake zonder eieren en kijkt of hij vies smaakt.
Het Probleem met Tijdreeksen: Je kunt de temperatuur van gisteren niet zomaar "verwijderen". Als je het verwijdert, verbreekt de tijdlijn en maakt het recept geen zin meer.
De Truc van het Papier: In plaats van de temperatuur van gisteren te verwijderen, vervang je deze door een "Geest"-temperatuur. Deze geest is een slimme schatting van wat de temperatuur zou zijn geweest als je alleen naar de dagen vóór en na gisteren had gekeken, waarbij je gisteren volledig negeert.
Het Resultaat: Je bakt de cake met de echte temperatuur, en daarna bak je hem opnieuw met de "Geest"-temperatuur. Als de cake totaal anders smaakt, dan was de temperatuur van gisteren cruciaal. Als de cake ongeveer hetzelfde smaakt, dan deed gisteren er niet veel toe.

De auteurs gebruiken deze "Geest"-methode om een score (ARF) te creëren die vertelt hoeveel elke dag uit het verleden belangrijk is.

Methode B: De "Teamspeler"-score (Shapley-waarden)

Stel je een sportteam voor waarbij spelers (de dagen uit het verleden) in verschillende combinaties voorkomen. Soms bestaat het team alleen uit de top 3 spelers; soms uit de top نف 5.

Het Concept: Deze methode, gebaseerd op een wiskundige theorie genaamd Shapley-waarden, vraagt: "Hoeveel verbetert het toevoegen van één specifieke speler de score van het team, ongeacht wie er nog meer in het team zit?"
De Toepassing: Ze berekenen hoeveel de voorspellingsfout afneemt wanneer je "Dag 1" toevoegt aan een groep andere dagen, en doen dat vervolgens hetzelfde voor "Dag 2", enzovoort, over elke mogelijke combinatie van dagen.
Het Resultaat: Dit geeft een "Partial Auto-Relevance Function" (PARF). Het is als een eerlijkheidsscore die precies vertelt hoeveel krediet elke dag uit het verleden verdient voor de uiteindelijke voorspelling, zelfs als die dag alleen belangrijk is in combinatie met andere specifieke dagen.

3. Het Geheim: Hoe vul je de gaten in?

Een grote hindernis in dit onderzoek is: Wat vul je in de "Geest"-slot of de "Ontbrekende Teamlid"-slot?

De Oude Manier: Gewoon een nul of de gemiddelde temperatuur invullen. Dit is alsof je een dummy in de opstelling zet; het verbreekt de flow van het spel.
De Innovatie van het Papier: Ze gebruiken het voorspellingsmodel zelf om de ontbrekende waarde te raden. Als je de "Temperatuur van Gisteren" mist, kijkt het model naar de andere beschikbare dagen en voorspelt wat de temperatuur van gisteren zou moeten zijn geweest.
Waarom het werkt: Dit houdt het "verhaal" van de tijdreeks intact. Het is alsof je de coach vraagt om te simuleren wat er zou zijn gebeurd als een speler ontbrak, in plaats van alleen maar een lege stoel achter te laten.

4. Werkt het? (De Resultaten)

De auteurs hebben hun hulpmiddelen getest op twee soorten data:

Gesimuleerde Data: Ze creëerden nep-tijdreeksen waarvan ze de antwoorden kenden (bijv. "We maakten een model waarbij alleen Dag 1 en Dag 3 belangrijk zijn; Dag 2 is nutteloos").
- Resultaat: Hun hulpmiddelen identificeerden correct dat Dag 1 en 3 de sterren waren en Dag 2 een flop, zelfs toen het voorspellingsmodel een complex neuraal netwerk was.
Echte Data: Ze gebruikten de beroemde "Monthly Airline Passengers" dataset.
- Resultaat: De hulpmiddelen lieten correct zien dat de belangrijkste dagen om de volgende maand te voorspellen, respectievelijk 1 maand geleden, 12 maanden geleden (vorig jaar) en 13 maanden geleden waren. Dit komt overeen met de menselijke intuïtie over seizoenspatronen.

5. De Kern van het Verhaal

Het papier stelt dat deze nieuwe methoden (ARF en PARF):

Model-Agnostisch zijn: Ze werken zowel op eenvoudige wiskundige modellen als op complexe AI "black boxes".
Nauwkeurig zijn: Ze identificeren succesvol de belangrijke dagen uit het verleden in zowel eenvoudige als lastige, niet-lineaire situaties.
Efficiënt zijn: Ze zijn sneller te berekenen dan eerdere methoden die hetzelfde proberen te doen.

Kortom, de auteurs hebben een "zaklamp" gebouwd die ons laat zien welke momenten uit het verleden de toekomstige voorspellingen verlichten, zelfs wanneer de computer die de voorspelling doet te complex is om zichzelf uit te leggen.

Technische Samenvatting: Autorelevance Functie en Andere Kenmerkrelevantiematen voor Univariate Tijdreeksen

Probleemstelling
De toenemende adoptie van machine learning-modellen voor tijdreeksvoorspelling heeft een kritieke behoefte gecreëerd aan interpreteerbaarheid, met name met betrekking tot de vraag hoe vertraagde observaties (lags) voorspellingen beïnvloeden. Hoewel klassieke statistische instrumenten zoals de Autocorrelatie Functie (ACF) en de Partiële Autocorrelatie Functie (PACF effectief de lineaire temporele structuren beschrijven, zijn ze minder geschikt voor het verklaren van het gedrag van moderne "black-box" voorspellingsmodellen (bijv. neurale netwerken). Bestaande methoden voor kenmerkbelang (feature importance) worstelen vaak in de context van tijdreeksen vanwege de hoge correlatie tussen predictoren (lags) en het gebrek aan model-agnostische strategieën voor het afhandelen van "afwezige" kenmerken in coalitie-gebaseerde verklaringen. Standaard imputatietechnieken (bijv. invullen met nul of onvoorwaardelijke gemiddelden) slagen er vaak niet in om de essentiële temporele dynamiek voor voorspelling te behouden, wat kan leiden tot potentieel misleidende schattingen van relevantie.

Methodologie
De auteurs stellen een model-agnostisch raamwerk voor om de globale relevantie van vertraagde inputs in univariate tijdreeksvoorspelling te kwantificeren. De methodologie integreert twee primaire benaderingen: Ghost Variables en Shapley-waarden, specifiek aangepast voor voorspellingsopdrachten waarbij de inputs uitsluitend vertraagde waarden van de reeks zijn.

Ghost Variables Benadering (Autorelevance Function - ARF):
- Geadapteerd van de Ghost Variables-methodologie, evalueert deze benadering de relevantie van een specifieke lag $h$ door de werkelijke vertraagde waarde $y_{t-h}$ te vervangen door een geïmputeerde "ghost"-waarde $\hat{y}^*_{t-h}$ .
- De ghost-waarde wordt gegenereerd door een hulp-imputatiemodel (specifiek een meervoudige lineaire regressie) dat $y_{t-h}$ voorspelt met behulp van de resterende $p-1$ lags.
- Relevantie wordt gekwantificeerd door de voorspellingsfout van het originele model te vergelijken met het model dat de ghost-waarde gebruikt. De auteurs definiëren twee metrieken:
  - ARF $_{MSPD}$ : Gebaseerd op de Mean Squared Prediction Difference.
  - ARF $_{MSE}$ : Gebaseerd op de verandering in Mean Squared Error (MSE) bijdragen.
Shapley-waarde Benadering (Partial Autorelevance Function - PARF):
- Deze benadering behandelt lags als spelers in een coöperatief spel en berekent de gemiddelde marginale bijdrage van elke lag over alle mogelijke coalities (subsets van lags).
- Imputatiestrategie: Een belangrijke innovatie is de behandeling van afwezige kenmerken in een coalitie. In plaats van generieke imputatie, stellen de auteurs voor om afwezige lags te vervangen door een één-stap-vooruit voorspelling die wordt gegenereerd door hetzelfde voorspellingsmodel dat wordt geanalyseerd. Dit behoudt de temporele coherentie van de reeks.
- Waardefunctie: De waardefunctie is gedefinieerd op basis van de MSE-verbetering ten opzichte van een baseline (steekproefgemiddelde).
- Metrieken:
  - PARF $_{MSE}$ : Gestandaardiseerde Shapley-waarden gebaseerd op MSE-bijdragen.
  - PARF $_{MSPD}$ : Gestandaardiseerde Shapley-waarden gebaseerd op squared prediction differences.
- Computationele Efficiëntie: In tegen tegenstelling tot lokale SHAP-methoden die permutatie-analyse vereisen voor elke observatie, berekent dit raamwerk de relevantie globaal door te middelen over de teststeekproef, wat de computationele last aanzienlijk vermindert.

Belangrijkste Bijdragen

Nieuwe Imputatie voor Tijdreeksen: Het artikel introduceert een model-gestuurd één-stap-vooruit imputatieschema voor het afhandelen van afwezige kenmerken in coalitie-gebaseerde methoden. Deze strategie stemt de relevantie-analyse af op de dynamiek van het voorspellingsmodel zelf, wat een natuurlijkere definitie van coalities in sequentiële settings biedt vergeleken met statische imputaties.
Model-Agnostische Lag-Relevantie: De voorgestelde ARF- en PARF-maten zijn toepasbaar op zowel klassieke statistische modellen (bijv. ARMA) als complexe black-box modellen (bijv. Recurrent Neural Networks), wat een verenigd raamwerk biedt voor interpreteerbaarheid.
Integratie van Additieve Belangrijkheidsmaten: Het werk verbindt de praktische behoeften van tijdreeks-interpreteerbaarheid met de theoretische fundamenten van additive importance measures (AIM), waarbij specifiek gebruik wordt gemaakt van MSE als de verliesfunctie, wat standaard is in voorspelling.

Resultaten
De auteurs evalueerden hun voorstellen met behulp van gesimuleerde data (lineaire ARMA, niet-lineaire regime-switching modellen) en een real-world dataset (Monthly Airline Passengers).

Lineaire Simulaties (AR(3) en ARMA(3,3)): In lineaire settings identificeerden zowel ARF als PARF succesvol de ware niet-nul lags (lags 1 en 3), terwijl ze een verwaarloosbare relevantie toewezen aan irrelevante lags (lag 2), zelfs wanneer het passende model een neuraal netwerk was.
Niet-lineaire Simulaties: In een niet-lineair regime-switching model identificeerden de relevantiematen (met name PARF met MSE-bijdragen) correct de dominante lags (1, 12 en 13) die het data-genererende proces dreven, wat de robuustheid tegen nonlineariteit aantoont.
Real-world Data (Airline Passengers): Toegepast op de klassieke airline dataset, benadrukten de methoden consistent lags 1, 12 en 13 als de meest relevante, wat overeenkomt met de bekende seizoensstructuur. Hoewel het neurale netwerkmodel iets andere patronen vertoonde dan het SARIMA-model, legden de relevantiematen nog steeds de fundamentele lag-structuur vast.
Imputatie Vergelijking: De model-gebaseerde één-stap-vooruit imputatie presteerde over het algemeen beter dan lineaire imputatie in niet-lineaire en complexe scenario's, wat leidde tot een duidelijkere identificatie van dominante lag-structuren.

Significantie en Claims
Het artikel claimt dat het voorgestelde raamwerk een praktische en effectieve oplossing biedt voor het interpreteren van tijdreeksvoorspellingsmodellen. De auteurs benadrukken dat:

De methoden succesvol de verwachte lag-structuren herstellen in bijna alle geteste gevallen, inclusief black-box neurale netwerken.
De één-stap-vooruit imputatiestrategie een natuurlijke manier biedt om coalities in sequentiële settings te definiëren, waardoor de heuristische aard van generieke imputaties wordt vermeden.
De aanpak computationeel efficiënter is dan standaard lokale SHAP-methoden, terwijl de interpreteerbaarheid behouden blijft.
Het raamwerk bijzonder geschikt is voor tijdreeksen omdat het de temporele orde en dynamiek van de data respecteert.

De auteurs blijven bescheiden over beperkingen en merken op dat de strategie ervan afhankelijk is van het feit dat het voorspellingsmodel voldoende goede voorspellende prestaties levert; slechte modellen kunnen ruis introduceren via het imputatieproces, wat leidt tot misleidende relevantieschattingen. Toekomstig werk wordt gesuggereerd voor het verkennen van alternatieve relevantie-formuleringen, de inclusie van exogene predictoren en de uitbreiding naar multivariate tijdreeksen.