🤖 machine learning

ConceptCF: Concept-based Counterfactuals for the Explainability of Time Series

Dit artikel introduceert ConceptCF, een nieuwe methode voor het genereren van interpreteerbare contrafectuele verklaringen in tijdreeksen door menselijk begrijpelijke concepten afgeleid van tijdreeksdecompositie te modificeren, die bestaande benaderingen overtreft op belangrijke evaluatiemetrieken.

Oorspronkelijke auteurs: Annemarie Jutte, Faizan Ahmed, Jeroen Linssen, Maurice van Keulen

Gepubliceerd 2026-07-22

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Annemarie Jutte, Faizan Ahmed, Jeroen Linssen, Maurice van Keulen

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een robot probeert te leren de wereld te begrijpen. Je geeft het een camera en een brein, en het begint voorspellingen te doen: "Dat is een kat," of "Die machine staat op het punt om kapot te gaan." Maar soms heeft de robot het mis, of erger nog, het heeft het goed om de verkeerde redenen. Missie denkt bijvoorbeeld dat een foto van een wolf echt is omdat er sneeuw op de achtergrond ligt, en niet omdat hij daadwerkelijk een wolf ziet. Dit is een groot probleem in de wereld van Kunstmatige Intelligentie (AI), vooral wanneer de belangen hoog zijn, zoals in ziekenhuizen of fabrieken. We moeten weten waarom de robot een beslissing heeft genomen, niet alleen wat hij heeft besloten.

Om dit op te lossen, gebruiken wetenschappers iets dat "Explainable AI" (uitlegbare AI) wordt genoemd. Een van de coolste instrumenten in deze gereedschapskist is de "counterfactual" (tegenfeitelijke situatie). Denk aan een counterfactual als een "wat als"-verhaal. In plaats van alleen te zeggen: "Ik voorspelde dat je liep," zegt een counterfactual: "Ik voelde voorspelde dat je liep, maar als je je stappen had vertraagd, zou ik hebben voorspeld dat je zat." Het is als een recept om de toekomst te veranderen. Echter, wanneer men te maken heeft met tijdreeksen — data die verandert in de loop van de tijd, zoals een hartslagmonitor of een aandelengrafiek — is het maken van deze "wat als"-verhalen lastig. Als je slechts één punt in de data aanpast, is dat als het veranderen van één woord in een zin en hopen dat het hele verhaal nog steeds logisch is. Vaak is dat niet zo. Het verhaal wordt onzin, en de uitleg van de robot wordt nutteloos.

Dit is waar een nieuwe methode genaamd ConceptCF in beeld komt. De onderzoekers achter dit artikel, Annemarie Jutte en haar team, realiseerden zich dat in plaats van te rommelen met individuele punten in een tijdreeks, we de "grote ideeën" of "concepten" moeten veranderen die de data vormen. Stel je een liedje voor. Je zou kunnen proberen het liedje te veranderen door elke enkele noot één voor één aan te passen, wat rommelig en verwarrend is. Of, je zou de "volume" (hoe hard het is) of het "tempo" (hoe snel het is) kunnen veranderen. Dit zijn de concepten. ConceptCF is een slim systeem dat een tijdreeks neemt, deze afbreekt in begrijpelijke concepten (zoals hoe groot de golven zijn of hoe vaak ze zich herhalen), en dan vraagt: "Wat als we het volume of het tempo veranderden?" Het gebruikt een digitaal evolutieproces, zoals een videogame waarin de beste oplossingen overleven en beter worden, om de kleinste, meest logische veranderingen te vinden die een voorspelling omdraaien. Het resultaat is een uitleg die een mens daadwerkelijk kan begrijpen, zoals zeggen: "De robot dacht dat je liep omdat je stappen te groot waren; als je kleinere stappen had genomen, zou hij weten dat je zat."

Het artikel introduceert ConceptCF als een manier om specifiek voor tijdreeksdata "wat als"-uitleg te genereren. De kern van het idee is om te stoppen met het kijken naar de ruwe datapunten (de individuele momenten in de tijd) en te beginnen met kijken naar concepten — hoogwaardige patronen die mensen gemakkelijk kunnen begrijpen, zoals de algemene "schaal" (amplitude) van een signaal of de "frequentie" (hoe vaak het zich herhaalt). De auteurs stellen dat bestaande methoden de betekenis van de data verstoren door punten in isolatie te veranderen, wat onmogelijke scenario's kan creëren. ConceptCF vermijdt dit door alleen de onderliggende concepten te wijzigen.

Om dit te doen, gebruikt het team drie verschillende manieren om de tijdreeks in concepten op te splitsen:

Fourier-gebaseerd: Dit bekijkt het signaal als een mix van verschillende frequenties, zoals het scheiden van een akkoord in individuele noten.
Wavelet-gebaseerd: Dit breekt het signaal af in stukken van verschillende groottes, waarbij zowel grote trends als kleine details worden gevangen.
Mens-gecentreerd: Dit is specifiek ontworpen voor mensen die geen experts zijn in wiskunde, door het signaal op te splitsen in zaken als "trend" (gaat het omhoog of omlaag?), "bias" (is het verschoven naar boven of beneden?) en "schaal" (hoe groot is het?).

Zodra de data in deze concepten is afgebroken, gebruikt de methode een genetisch algoritme om de perfecte counterfactual te vinden. Denk hierbij aan een digitaal fokprogramma. De computer begint met een "populatie" van mogelijke veranderingen. Het test deze om te zien of ze de voorspelling succesvol veranderen (validiteit), terwijl ze zo dicht mogelijk bij de originele data blijven (nabijheid), en zo min mogelijk dingen veranderen (schaarsheid). De "fittest" (geschikteste) oplossingen overleven en mengen zich samen om in de volgende generatie zelfs betere oplossingen te creëren. Het doel is om de minimale verandering in concepten te vinden die de voorspelling omdraait. Bijvoorbeeld, als een model "Lopen" voorspelt, kan ConceptCF vinden dat het vergroten van de "golflengte" en de "schaal" van de beweging de voorspelling naar "Zitten" zou veranderen.

De onderzoekers testten ConceptCF tegen vijf andere top-tier methoden met behulp van echte datasets, waaronder bewegingsdata van wandelende mensen en hartslaggegevens. Ze maten hoe goed de nieuwe methode werkte op basis van vijf criteria:

Validiteit: Veranderde het daadwerkelijk de voorspelling?
Betrouwbaarheid: Was het model zeker over de nieuwe voorspelling?
Nabijheid: Was het nieuwe scenario dicht bij het origineel?
Schaarsheid: Veranderde het slechts een paar dingen, of werd er overal aan gesleuteld?
Plausibiliteit: Zag het nieuwe scenario eruit als iets dat daadwerkelijk in de echte wereld zou kunnen gebeuren?

De resultaten toonden aan dat ConceptCF zeer competitief presteerde. Sterker nog, het kwam vaak als winnaar uit de bus, vooral wat betreft schaarsheid. Dit betekent dat het de beslissing van de AI kon uitleggen door slechts een klein aantal concepten te veranderen, wat de uitleg veel helderder en gemakkelijker te begrijpen maakt voor een mens. Waar andere methoden soms moeite hadden om de data realistisch te houden of te veel punten veranderden, vond ConceptCF consequent het "sweet spot": de kleinste, meest logische verandering om de uitkomst om te draaien. De auteurs vonden dat de specifieke manier waarop ze de concepten afbraken (Fourier versus Wavelet versus mens-gecentreerd) de resultaten niet drastisch veranderde, wat suggereert dat de methode flexibel is en kan worden aangepast aan verschillende behoeften.

Het artikel concludeert dat ConceptCF een krachtig nieuw hulpmiddel is om tijdreeks-AI te begrijpen. Door te focussen op menselijk interpreteerbare concepten in plaats van ruwe datapunten, overbrugt het de kloof tussen complexe machine learning-modellen en menselijke redenering. De auteurs suggereren dat hoewel hun methode wiskundig solide is en goed presteert op standaardtests, de ultieme test zal zijn of mensen de uitleg daadwerkelijk beter begrijpen. Ze stellen voor dat toekomstig onderzoek echte mensen moet betrekken om te zien of deze concept-gebaseerde uitleg de AI werkelijk transparanter en betrouwbaarder maakt. Voor nu is ConceptCF een veelbelovende stap richting het minder als een "black box" en meer als een gesprek maken van AI-beslissingen dat we allemaal kunnen begrijpen.

Technische Samenvatting: ConceptCF voor Uitlegbaarheid van Tijdreeksen

Probleemdefinitie

In domeinen met een hoog belang, zoals de gezondheidszorg en preventief onderhoud, vertrouwen modellen voor Kunstmatige Intelligentie (AI) vaak op spuriële correlaties in plaats van causale relaties, wat de noodzaak voor Explainable AI (XAI) vergroot. Hoewel contrafeitelijke verklaringen — het identificeren van minimale modificaties om een voorspelling van een model te veranderen — een populaire XAI-techniek zijn, kampen bestaande methoden voor tijdreeksgegevens met aanzienlijke uitdagingen. Standaard benaderingen modificeren doorgaans individuele datapunten of subreeksen in isolatie. Deze puntgewijze optimalisatie riskeert de temporele afhankelijkheden te schenden, uit-de-verdeling (out-of-distribution) monsters te genereren, en de semantische betekenis van de reeks te veranderen op manieren die moeilijk voor mensen te interpreteren zijn. Bovendien zijn globale kenmerken van tijdreeksen, zoals schaal of periodiciteit, verdeeld over het signaal en kunnen niet adequaat worden gevangen door slechts enkele punten te modificeren.

Het artikel adresseert de behoefte aan de generatie van contrafeitelijke verklaringen die opereert op menselijk interpreteerbare concepten in plaats van op ruwe datapunten, om ervoor te zorgen dat de resulterende verklaringen verduidelijken welke hoogwaardige datagegenschappen de beslissingen van het model drijven.

Methodologie: ConceptCF

De voorgestelde methode, ConceptCF, genereert contrafeitelijke verklaringen door hoogwaardige concepten te verstoren die zijn afgeleid van tijdreeksdecompositie, in plaats van het ruwe signaal zelf te verstoren. De methodologie verloopt in drie fasen:

Conceptconstructie: Een tijdreeks $x$ wordt gedecomposeerd in een set concepten $S_x = \{c_1, ..., c_m\}$ met behulp van een omkeerbare functie $d(\cdot)$ . Het artikel evalueert drie decompositiestrategieën:
- Discrete Fourier Transformatie (DFT): Decomponeert het signaal in frequentiebanden.
- Discrete Wavelet Transformatie (DWT): Decomponeert het signaal in benaderings- en detailcomponenten.
- Mensgerichte Decompositie: Extraheert semantische componenten inclusief lineaire trend, bias (gemiddelde), schaal (amplitude), laagfrequente componenten, glijdende voortschrijdende variantie en hoogfrequente componenten.
- Constraint: De decompositie moet omkeerbaar zijn ( $x = h(S_x)$ ) om een betekenisvol signaal te kunnen reconstrueren vanuit de verstoorde concepten.
Optimalisatieprobleem: De generatie van een contrafeitelijke verklaring wordt geformuleerd als een multi-objectieve optimalisatieprobleem. Het doel is om een verstoorde conceptenset $S_x^{CF}$ te vinden die een gewogen som van vier objectieven minimaliseert:
- Confidence (Betrouwbaarheid): Het maximaliseren van de waarschijnlijkheid van het model voor de doelklasse.
- Proximity (Nabijheid): Het minimaliseren van de L1-norm afstand tussen het originele en het contrafeitelijke monster (genormaliseerd door de gemiddelde absolute afwijking).
- Sparsity (Sparsiteit/IJlheid): Het minimaliseren van het fractie van de veranderde concepten.
- Plausibility (Plausibiliteit): Het minimaliseren van de toename van de outlier score (IOS) ten opzijde van een getrainde autoencoder, om te garanderen dat de contrafeitelijke verklaring binnen de datadistributie blijft.
- Validity Constraint (Geldigheidsrestrictie): De contrafeitelijke verklaring moet resulteren in een andere voorspelde klasse ( $y_{x^{CF}} \neq y_x$ ).
Genetisch Algoritme (GA): De optimalisatie wordt opgelost met behruik van een genetisch algoritme.
- Initialisatie: De populatie wordt geïnitialiseerd met de Nearest Unlike Neighbour (NUN) om validiteit te waarborgen.
- Mutatie: Scalaire concepten worden verstoord met Gaussische ruis (afgekapt binnen de trainingsbereiken), terwijl sequentiële concepten worden vervangen door de dichtstbijzijnde buren uit de trainingsset om de semantische betekenis te behouden.
- Elitisme: De fitste individuen worden behouden over generaties heen om te garanderen dat de geldigheidsrestrictie gedurende het hele optimalisatieproces wordt gehandhaafd.

Belangrijkste Bijdragen

Het artikel presenteert de volgende bijdragen aan de stand van de techniek:

Formalisering: Een formele definitie van het contrafeitelijke probleem voor tijdreeksen binnen de context van concept-gebaseerde XAI.
Algoritme: De ontwikkeling van ConceptCF, een methode die het concept-gebaseerde contrafeitelijke probleem oplost met behulp van een genetisch algoritme.
Demonstratie: Een demonstratie van hoe concepten (bijv. schaal, frequentie, trend) kunnen worden gebruikt om betekenisvolle contrafeitelijke verklaringen te genereren, wat verklaringen mogelijk maakt zoals: "de voorspelling zou veranderen als de schaal van de beweging zou toenemen."
Validatie: Een empirische validatie die aantoont dat ConceptCF competitief presteert tegenover bestaande methoden over standaardmetrieken.

Experimentele Resultaten

De auteurs evalueerden ConceptCF tegen vijf state-of-the-art baselines (Wachter, Native Guide, TSEvo, Glacier, en Sub-SpaCE) met behulp van vijf datasets (MS-HAR, CBF, Coffee, ECG200, GunPoint).

Validity (Geldigheid): ConceptCF bereikte 100% validiteit over alle datasets, gegarandeerd door de inclusie van de NUN in de initiële populatie en het behoud van geldige oplossingen via elitisme.
Sparsity (Sparsiteit): ConceptCF behaalde de hoogste rang (beste prestatie) voor sparsity over alle datasets. Dit geeft aan dat ConceptCF minder wijzigingen vereist (het wijzigen van minder hoogwaardige concepten) om een voorspelling te veranderen vergeleken met puntgebaseerde methoden.
Proximity (Nabijheid): ConceptCF behaalde ook de hoogste rang voor proximity, wat suggereert dat de gegenereerde contrafeitelijke verklaringen dicht bij de originele monsters blijven.
Confidence en Plausibility: ConceptCF behaalde de tweede plaats in deze metrieken. De auteurs merken op dat Glacier iets beter presteerde op plausibiliteit, waarschijnlijk door de directe generatie in de latente ruimte van een autoencoder.
Decompositievergelijking: De drie decompositiebenaderingen (mensgericht, DFT, DWT) presteerden vergelijkbaar, waarbij de mensgerichte benadering iets betere resultaten liet zien wat betreft sparsity.

Betekenis en Claims

Het artikel claimt dat ConceptCF een significante vooruitgang biedt in de uitlegbaarheid van tijdreeksen door de focus te verschuiven van opaak puntgewijze modificaties naar interpreteerbare, hoogwaardige concepten.

Interpreteerbaarheid: Door te opereren op concepten zoals "schaal" of "frequentie", produceert de methode verklaringen die aansluiten bij menselijke redenering (bijv. "verhoog de schaal om de voorspelling te veranderen"), wat de "black box"-aard van tijdreeksmodellen aanpakt.
Competitieve Prestaties: De auteurs stellen dat ConceptCF niet alleen interpreteerbaar is, maar ook technisch competitief is, waarbij het presteert in de buurt van of beter dan bestaande methoden op het gebied van validiteit, betrouwbaarheid, nabijheid en sparsiteit.
Bescheidenheid: De auteurs erkennen dat hoewel de metrieken technische competentie aantonen, zij de gebruikersbegrip niet volledig kunnen vatten. Daarom suggereren zij dat gebruikersevaluatie nodig is voor toekomstig onderzoek om de praktische interpreteerbaarheid van de gegenereerde verklaringen te valideren. Ze merken ook op dat de keuze van de decompositie afgestemd moet zijn op het specifieke domein en de behoeften van de eindgebruiker.