🤖 AI

C-SHAP for time series: An approach to high-level temporal explanations

Dit paper introduceert C-SHAP, een conceptgebaseerde XAI-methode voor tijdreeksen die SHAP gebruikt om voorspellingen te verklaren aan de hand van menselijk interpreteerbare, hoogwaardige patronen in plaats van individuele datapunten of subsequenties.

Oorspronkelijke auteurs: Annemarie Jutte, Faizan Ahmed, Jeroen Linssen, Maurice van Keulen

Gepubliceerd 2026-04-24

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Annemarie Jutte, Faizan Ahmed, Jeroen Linssen, Maurice van Keulen

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een zeer slimme, maar mysterieuze robot hebt die beslissingen neemt. Misschien voorspelt deze robot wanneer een machine in een fabriek kapot gaat, of hij herkent of iemand loopt, zit of ligt op basis van bewegingssensoren. De robot is goed, maar hij is een "zwarte doos": hij geeft je het antwoord, maar vertelt niet waarom.

In de wereld van kunstmatige intelligentie (AI) willen we vaak weten hoe die robot tot zijn conclusie komt. Dit noemen we uitlegbaarheid (Explainable AI).

Deze paper introduceert een nieuwe methode genaamd C-SHAP om die zwarte doos open te maken, specifiek voor gegevens die veranderen in de tijd (zoals een hartslaglijn of een temperatuurmeting).

Hier is de uitleg in simpele taal, met wat creatieve vergelijkingen:

1. Het probleem: De "Puntjes" vs. Het "Grote Plaatje"

Tot nu toe keken de meeste uitleg-methoden naar één enkel puntje in de tijd.

De oude manier: Stel je een muziekstuk voor. De oude methoden zeggen: "Het 45e nootje was belangrijk voor de beslissing." Of: "De nootjes tussen minuut 2 en 3 waren belangrijk."
Het probleem: Soms is het niet één nootje dat belangrijk is, maar het gehele gevoel van het stuk. Is het een langzaam, treurig liedje? Is het een snel, opwindend ritme? Als je alleen naar de losse nootjes kijkt, mis je de melodie.

In de wereld van tijdreeksen (data die over tijd loopt) betekent dit: een model kijkt misschien niet naar één piek in een grafiek, maar naar de trend (gaat het omhoog of omlaag?), de variatie (is het rustig of chaotisch?) of de frequentie (beweegt het snel of traag?).

2. De oplossing: C-SHAP (Het "Concepten"-Spel)

De auteurs van dit paper zeggen: "Laten we stoppen met kijken naar losse puntjes, en in plaats daarvan kijken naar concepten."

Een concept is een hoog niveau van inzicht. In plaats van te zeggen "dit puntje was belangrijk", zeggen we: "De trend was belangrijk" of "De schommeling (amplitude) was belangrijk".

De Analogie van de Muziek:

Oude methode: "De drummer sloeg op het 10e moment op de snare." (Nuttig, maar saai).
Nieuwe methode (C-SHAP): "Het was de snelheid van het ritme en de volume van de drums die bepaalden dat dit een rocknummer was." (Dit begrijpen mensen direct).

3. Hoe werkt het? (De twee manieren)

De paper beschrijft twee manieren om dit te doen, afhankelijk van hoe de robot (het model) is gebouwd:

A. De "Nakijkende" Manier (Post-hoc)

Stel je voor dat je een examen hebt gemaakt en de docent (de AI) heeft al het cijfer gegeven. Je wilt nu weten waarom je een 7 kreeg.

Je neemt je antwoord (de data).
Je "verbergt" bepaalde concepten. Bijvoorbeeld: je verwijdert de trend uit je antwoord en vraagt de docent: "Als ik de trend niet had gebruikt, zou je dan nog steeds een 7 geven?"
Als het cijfer zakt, weet je: "Ah, de trend was cruciaal!"
Dit werkt met elk bestaand model, zonder dat je het model hoeft aan te passen.

B. De "Voorbereide" Manier (Concept-informed)

Hierbij bouw je de robot van tevoren al zo, dat hij de concepten al kent.

In plaats van de robot de ruwe data te geven, geef je hem de losse onderdelen: "Hier is de trend, hier is de variatie, hier is de snelheid."
De robot leert dan direct met deze concepten.
Dit is alsof je een kok (de AI) niet alleen de rauwe ingrediënten geeft, maar al gesneden en gemarineerde componenten. De kok kan dan beter uitleggen: "Ik heb veel van de marinade gebruikt, daarom smaakt het zo."

4. Hoe halen ze die concepten? (De "Ontleedmachine")

Om deze concepten (trend, variatie, etc.) te vinden, gebruiken ze een wiskundige techniek die de data "ontleedt", net zoals je een cake kunt ontleden in eieren, suiker en bloem.

Ze gebruiken twee methoden:

DWT (Discrete Wavelet Transform): Een technische manier om de data op te splitsen in verschillende "lagen" van detail (zoals een microfoon die geluid splitst in bas, midden en hoge tonen).
Een Eigen Methode: De auteurs bedachten een nieuwe manier om data op te splitsen die speciaal is ontworpen voor mensen.
- Ze splitsen de data in: Trend (gaat het omhoog/omlaag?), Bias (is het gemiddelde hoog of laag?), Scale (hoe groot zijn de schommelingen?), Variance (verandert de kracht van de schommeling?), en Frequentie (snel of traag?).
- Dit is alsof je een schilderij niet beschrijft als "een blauwe stip hier, een rode stip daar", maar als "een rustige horizon, een stormachtige zee en een heldere zon".

5. Wat hebben ze bewezen?

Ze hebben hun methode getest op twee echte situaties:

Menselijke Activiteit (HAR): Een robot die moet raden of iemand loopt, zit of ligt.
- Resultaat: De robot keek vooral naar de gemiddelde hoek van de knie (Bias) en hoe groot de bewegingen waren (Scale). Dit is heel logisch: als je ligt, is je knie anders dan als je loopt.
Voorspellend Onderhoud (Predictive Maintenance): Een robot die moet voorspellen wanneer een vliegtuigmotor kapot gaat.
- Resultaat: De robot keek vooral naar de trend. Als de druk in de motor langzaam maar zeker stijgt, is dat het teken dat hij bijna faalt. Losse pieken waren minder belangrijk dan die langzame stijging.

Conclusie: Waarom is dit cool?

Deze paper (C-SHAP) is belangrijk omdat het AI-uitleg menselijker maakt.

In plaats van een lijstje met duizenden getallen te geven ("Punt 101 was belangrijk, punt 102 niet..."), geven ze een samenvatting in termen die wij begrijpen: "De trend was de oorzaak" of "De variatie was de reden".
Het werkt voor elk model (post-hoc) én kan helpen om betere modellen te bouwen (ante-hoc).
Het sluit de kloof tussen de complexe wiskunde van AI en het gezonde verstand van de mens.

Kortom: C-SHAP helpt ons niet alleen te zien wat de AI doet, maar waarom het dat doet, in een taal die we allemaal spreken.

Probleemstelling

In hoog-risicodomeinen zoals gezondheidszorg en industrie is de uitlegbaarheid (explainability) van AI-modellen cruciaal voor betrouwbaarheid en vertrouwen. Bestaande methoden voor Explainable AI (XAI) bij tijdreeksen zijn echter voornamelijk gericht op punt-gebaseerde (point-based) of subsequentie-gebaseerde (subsequence-based) verklaringen.

Beperkingen: Deze methoden wijzen bijdragen toe aan individuele tijdstippen of kleine groepen punten. Dit faalt vaak om hogere niveaus van patronen (zoals globale trends, variatie in amplitude of frequentiecomponenten) te vangen die essentieel zijn voor het besluitvormingsproces van het model.
Interpretatie: Punt-gebaseerde attributies zijn vaak moeilijk te interpreteren door menselijke experts omdat de attributie verspreid is over vele punten en geen semantische betekenis heeft (bijv. "de trend is belangrijk" vs. "punt 45 is belangrijk").

Methodologie: C-SHAP

De auteurs stellen C-SHAP (Concept-based SHAP) voor, een XAI-benadering die attributie toekent aan concepten in plaats van individuele datapunten. Een concept wordt hier gedefinieerd als een hoger niveau van abstractie dan lage-niveau invoerfeatures (bijv. trend, variatie, frequentie).

De methode omvat twee varianten:

Volledig post-hoc (Concept-agnostisch): Het model is getraind op ruwe data. C-SHAP wordt toegepast na het trainen. Concepten worden uit de tijdreeks gehaald en gemaskeerd om de SHAP-waarden te berekenen. Dit vereist dat het concept-construktie-algoritme inverteerbaar is (de oorspronkelijke tijdreeks moet exact kunnen worden gereconstrueerd uit de concepten).
Gedeeltelijk ante-hoc (Concept-informeerd): Het model is expliciet getraind op de geconstrueerde concepten (elk concept als een aparte inputkanaal). Hierbij worden concepten direct gemaskeerd in de modelinvoer.

Technische Implementatie:

SHAP-berekening: De methode gebruikt Shapley-waarden om de bijdrage van concepten te meten. In plaats van punten te maskeren, worden concepten vervangen door "oninformatieve" concepten (gesampled uit de trainingsdata).
Concept Constructie (Decompositie): De auteurs gebruiken tijdreeksdecompositie om concepten te extraheren. Twee methoden worden geïmplementeerd:
- Discrete Wavelet Transform (DWT): Splits het signaal in 'Approximation' en 'Detail' componenten.
- Aangepaste Decompositie (Custom): Een hybride, mensgerichte decompositie die concepten definieert als: Trend (lineaire helling), Bias (gemiddeld niveau), Scale (amplitude), Variance (verandering in amplitude), Low Frequency en High Frequency. Deze is niet strikt additief, maar volgt een specifieke volgorde van extractie.
Conditionering: Voor de concept-agnostische aanpak is een invertibiliteitsvoorwaarde gesteld: de reconstructie van de gemaskeerde concepten moet de originele tijdreeks opleveren ( $r(d(y(t))) = y(t)$ ).

Experimentele Opzet

De methode is getest op twee domeinen met zwarte-doosmodellen (GRU's):

Human Activity Recognition (HAR): Gebruikmakend van het OPPORTUNITY dataset (accelerometer data van knieën). Taak: Classificatie van activiteiten (staan, lopen, zitten, liggen).
Predictive Maintenance: Gebruikmakend van het Turbofan dataset (drukdata van een vliegtuigmotor). Taak: Voorspelling van de resterende levensduur (Remaining Useful Life).

Voor beide datasets werden modellen getraind op ruwe data (concept-agnostisch) en op de geconstrueerde concepten (concept-informeerd).

Resultaten

Lokale Verklaringen: C-SHAP levert duidelijke, mensinterpreteerbare inzichten.
- Bij de Turbofan-data toont C-SHAP aan dat de 'Trend' (lineaire verandering in druk) de belangrijkste factor is voor het voorspellen van de levensduur. Punt-gebaseerde methoden (zoals KernelSHAP) konden dit globale patroon niet duidelijk identificeren.
- Bij de OPPORTUNITY-data (HAR) bleek dat modellen vooral vertrouwen op 'Bias' (gemiddelde hoek van de knie) en 'Scale' (amplitude van beweging) om activiteiten te onderscheiden.
Vergelijking Decompositie: De aangepaste decompositie leverde semantisch waardevollere concepten op voor niet-experts (bijv. expliciete 'Scale' vs. verspreide amplitude in DWT).
Modelprestaties: De prestaties van de concept-informeerd modellen waren vergelijkbaar met of licht beter dan de concept-agnostische modellen, afhankelijk van de taak, wat aantoont dat het trainen op concepten de modelkwaliteit niet ten koste hoeft te gaan.

Belangrijke Bijdragen

Formalisatie van C-SHAP: De auteurs formaliseren twee benaderingen voor concept-based XAI bij tijdreeksen: een volledig model-agnostische post-hoc methode en een methode die gebruikmaakt van concept-informeerd trainen.
Toepassing van Decompositie: Demonstratie van tijdreeksdecompositie als mechanisme voor het construeren van concepten binnen het SHAP-framework.
Aangepast Algoritme: Ontwerp van een nieuwe, mensgerichte decompositie-algoritme dat concepten zoals trend, bias en variatie expliciet extrahert.
Domeinoverstijgende Validatie: Toepassing en validatie in twee zeer verschillende domeinen (HAR en Predictive Maintenance), wat de generaliseerbaarheid van de methode onderstreept.

Betekenis en Impact

C-SHAP vult een cruciale lacune in de XAI-literatuur voor tijdreeksen op. Waar bestaande methoden vastzitten in lokale, punt-gebaseerde details, biedt C-SHAP hogere-niveau verklaringen die beter aansluiten bij hoe menselijke experts en leken patronen in data waarnemen (zoals trends en variaties).

Vertrouwen: Het verhoogt het vertrouwen in AI-systemen door uitleg te geven in termen die voor domain-experts logisch zijn.
Flexibiliteit: De post-hoc variant maakt het mogelijk om bestaande, complexe modellen te verklaren zonder ze opnieuw te hoeven trainen, wat essentieel is voor MLOp-pipelines.
Toekomstperspectief: De paper benadrukt dat de keuze van de concept-construktie (decompositie) cruciaal is voor de interpretatie en pleit voor verder onderzoek naar automatisering van hyperparameters en validatie via gebruikersstudies.