L2GTX: From Local to Global Time Series Explanations

L2GTX is een model-agnostisch framework dat compacte en interpreteerbare globale verklaringen voor tijdreeksclassificatie genereert door lokale uitleg van representatieve instanties te aggregeren tot herhalende tijdsafhankelijke patronen.

De kern

Stel je voor dat je een super slimme robot hebt die duizenden hartslaggrafieken of koffieprofielen kan analyseren. Deze robot is een wonder: hij kan met bijna 100% zekerheid zeggen of een hartslag gezond is of dat een koffieboon van het goede ras is. Maar er is een groot probleem: de robot is een zwarte doos. Hij geeft je het antwoord, maar vertelt je niet waarom. Hij zegt niet: "Ik denk dat dit een ziek hart is omdat er hier een piek is," maar gewoon: "Dit is ziek."

Dat is vervelend, vooral in belangrijke situaties zoals de zorg of de financiële wereld. Mensen willen weten hoe de robot tot zijn conclusie komt.

Deze paper introduceert L2GTX, een nieuwe manier om die zwarte doos open te maken, specifiek voor tijdreeksen (data die verandert in de tijd, zoals een hartslag of een beursgrafiek).

Hier is hoe het werkt, vertaald naar alledaagse taal:

1. Het probleem: Te veel losse stukjes

Stel je voor dat je duizenden verhalen hebt over hoe de robot een beslissing nam.

• Bij verhaal 1 zegt hij: "Ik keek naar de piek op tijdstip 5."
• Bij verhaal 2 zegt hij: "Ik keek naar de daling op tijdstip 10."
• Bij verhaal 3 zegt hij: "Ik keek weer naar een piek, maar dan op tijdstip 6."

Als je al deze losse verhalen bij elkaar probeert te houden, krijg je een enorme, onoverzichtelijke brij. Je ziet geen patroon. Bestaande methodes proberen dit vaak op te lossen door te kijken naar de interne hersenen van de robot (wat lastig is als je die niet kent) of door te kijken naar losse momenten in de tijd, zonder te begrijpen wat die momenten betekenen.

2. De oplossing: L2GTX als een slimme vertaler

L2GTX doet iets slims. Het vertaalt de complexe data eerst naar herkenbare gebeurtenissen. In plaats van te zeggen "tijdstip 5", zegt het: "Er was een stijgende trend" of "Er was een piek".

Stel je voor dat je een berg met losse bouwstenen hebt. L2GTX doet drie dingen:

Stap 1: De lokale vertaling (Het "Wat")

Voor elk individueel voorbeeld (bijvoorbeeld één hartslag) kijkt de robot: "Welke gebeurtenissen waren hier belangrijk?"

• Voorbeeld: "Hier was een snelle stijging, en hier een kleine daling."
  Dit is de lokale uitleg.

Stap 2: De grote vergelijking (Het "Zoeken naar patronen")

Nu pakt L2GTX al die duizenden lokale uitleggen en begint te zoeken naar overeenkomsten.

• "Oh, bij bijna alle gezonde harten zien we een stijgende trend op het begin."
• "Bij alle zieke harten zien we een scherpe piek halverwege."

Het groepeert deze losse gebeurtenissen in clusters (groepen). Het is alsof je een grote berg losse puzzelstukken hebt en je begint de stukjes met dezelfde vorm en kleur bij elkaar te leggen.

Stap 3: De slimme selectie (Het "Vertegenwoordiger")

Je hebt nu duizenden groepen met puzzelstukken. Je wilt niet alles laten zien, want dat is te veel. Je wilt de belangrijkste groepen zien.
L2GTX kiest een klein, vertegenwoordigend groepje voorbeelden uit die de meeste belangrijke patronen dekken.

• Analogie: Stel je voor dat je een klas wilt vertegenwoordigen. Je kiest niet 30 willekeurige leerlingen, maar je kiest die paar leerlingen die samen de meeste verschillende interesses van de hele klas vertegenwoordigen (sport, muziek, lezen, etc.).

Stap 4: Het eindverslag (De "Globale Uitleg")

Uiteindelijk krijg je een kort, helder verslag voor elke categorie.

• Voor de "Gezonde Hartslag" klas: "De robot kijkt vooral naar een zachte stijging aan het begin en een regelmatige daling."
• Voor de "Zieke Hartslag" klas: "De robot let op een scherpe piek in het midden en een onregelmatige daling."

Waarom is dit zo cool?

1. Het is onafhankelijk: Het maakt niet uit welke robot (model) je gebruikt. Of het nu een FCN of een LSTM is, L2GTX werkt voor iedereen. Het is alsof je een vertaler hebt die elke taal begrijpt, ongeacht wie de spreker is.
2. Het is begrijpelijk: In plaats van "tijdstip 45 is belangrijk", zegt het: "Een piek is belangrijk". Dat is taal die mensen begrijpen.
3. Het is betrouwbaar: De auteurs hebben getest of de robot nog steeds dezelfde beslissingen neemt als je kijkt naar deze samenvattingen. Ja, dat doet hij. De uitleg is eerlijk en accuraat.

Samenvatting in één zin

L2GTX is als een slimme journalist die duizenden complexe rapporten van een robot leest, de belangrijkste verhalen eruit haalt, ze groepeert op thema, en je vervolgens een kort, helder nieuwsbericht geeft dat precies uitlegt waarom de robot denkt wat hij denkt, zonder dat je de technische code hoeft te begrijpen.

Het maakt de "zwarte doos" van tijdreeks-data transparant, betrouwbaar en begrijpelijk voor iedereen.

Technische samenvatting

Titel: L2GTX: Van Lokale naar Globale Tijdreeksverklaringen

Auteurs: Ephrem Tibebe Mekonnen, Luca Longo, Lucas Rizzo, en Pierpaolo Dondio.

---

1. Het Probleem

Diepe leermodellen (deep learning) bereiken hoge nauwkeurigheid bij het classificeren van tijdreeksen, maar hun besluitvormingsgedrag blijft vaak een "black box". Bestaande methoden voor Explainable AI (XAI) hebben drie fundamentele beperkingen wanneer ze worden toegepast op tijdreeksen:

1. Gebrek aan temporaliteit: Veel model-agnostische methoden (ontwikkeld voor afbeeldingen of tabellen) behandelen datapunten als onafhankelijk, wat de inherente temporale afhankelijkheden in tijdreeksen negeert.
2. Onderontwikkelde globale verklaringen: Bestaande XAI-methoden focussen voornamelijk op lokale verklaringen (voor één specifieke voorspelling). Het synthetiseren van globale verklaringen (die het algemene beslissingsgedrag van een klasse beschrijven) is nog onderbelicht.
3. Model-specificiteit: De weinige bestaande methoden voor globale verklaringen zijn vaak gekoppeld aan specifieke modelarchitecturen (bijv. gebruik van interne activaties), wat hen onbruikbaar maakt voor model-agnostische interpretatie.

Er is dus een dringende behoefte aan een methode die lokale, tijdsafhankelijke patronen kan aggregeren tot betrouwbare, model-agnostische globale verklaringen.

---

2. Methodologie: L2GTX

L2GTX (Local-to-Global Time-series eXplanations) is een volledig model-agnostische methode die globale verklaringen genereert door lokale verklaringen te aggregeren van een selecte, representatieve set van tijdreeksinstanties. De methode bestaat uit vijf sequentiële stappen:

1. Lokale Attributie (via LOMATCE):

   • Voor een batch van tijdreeksinstanties worden lokale verklaringen gegenereerd met behulp van LOMATCE (LOcal Model-Agnostic Time Series Classification Explanations).
   • LOMATCE transformeert de modeluitvoer naar Parameterized Event Primitives (PEPs): semantische gebeurtenissen zoals stijgende/dalende trends (geparameteriseerd door starttijd, duur, gemiddelde gradiënt) en lokale extremen (maxima/minima, geparameteriseerd door tijd en waarde).
   • Deze gebeurtenissen worden geklaustereerd per instantie om de belangrijkste lokale patronen te identificeren.

2. Samenvoegen van Clusters en Constructie van Matrix:

   • Lokale clusters van verschillende instanties worden gemergd op basis van hun Euclidische afstand (agglomeratieve hiërarchische clustering) om redundantie te verminderen. Dit resulteert in een set van globale clusters.
   • Er wordt een instantie-cluster importantiematrix ($M$) geconstrueerd, waarbij elke cel de importantie van een globaal cluster voor een specifieke instantie weergeeft.

3. Berekening van Globale Cluster-Importantie:

   • De totale bijdrage van elk globaal cluster over de hele dataset wordt berekend door de absolute importantiewaarden in de matrix te aggregeren. Dit levert een vector op die aangeeft welke temporale patronen het meest invloedrijk zijn voor de klasse.

4. Selectie van Representatieve Instanties (Submodulaire Selectie):

   • Onder een vooraf gedefinieerd budget ($B$) (aantal instanties dat mag worden gebruikt voor de samenvatting), selecteert L2GTX een subset van instanties.
   • De selectie is gierig (greedy) en maximaliseert de dekking van de meest belangrijke globale clusters. Het doel is om een diverse set instanties te kiezen die samen de meeste invloedrijke patronen dekken, zonder redundantie.

5. Extractie en Aggregatie van Gebeurtenissen:

   • De gebeurtenissen van de geselecteerde instanties die behoren tot de gedekte clusters, worden geaggregeerd.
   • Voor elke gebeurtenistype (bijv. stijgende trend) worden statistieken berekend (gemiddelde en standaardafwijking van tijd, duur, waarde).
   • Het resultaat is een beknopte, semantisch interpreteerbare globale verklaring per klasse (bijv. "Een stijgende trend begint gemiddeld op tijdstip X en duurt Y").

---

3. Belangrijkste Bijdragen

• Eerste model-agnostische methode voor globale tijdreeksverklaringen: L2GTX synthetiseert class-wise globale inzichten zonder toegang tot interne modeldetails (zoals gewichten of activaties).
• Event-based representatie: In plaats van ruwe attributiescores per tijdstip, gebruikt de methode semantische "event primitives" (trends, extremen) die beter aansluiten bij hoe mensen tijdreeksen interpreteren.
• Principiële overgang van lokaal naar globaal: De methode lost het probleem op van het aggregeren van lokale patronen door een budget-gedreven selectie van representatieve instanties te gebruiken, wat zorgt voor stabiliteit en dekking.
• Robuustheid: De methode is getest op verschillende deep learning-architecturen (FCN en LSTM-FCN) en diverse datasets.

---

4. Resultaten

De methode is geëvalueerd op zes benchmark datasets uit de UCR Archive (o.a. ECG200, GunPoint, Coffee, FordA/B, CBF) met twee verschillende black-box modellen.

• Global Faithfulness (GF): De belangrijkste metriek was de "Global Faithfulness", gemeten als de gemiddelde lokale surrogate fideliteit ($R^2$) over de geselecteerde instanties.
  • L2GTX behaalde stabiele GF-waarden (rond 0,60 - 0,80 afhankelijk van dataset en model) over verschillende niveaus van consolidatie (merge percentielen).
  • Dit toont aan dat het comprimeren van de verklaringen naar een klein aantal globale clusters de trouw aan het oorspronkelijke model niet significant vermindert.
• Interpreteerbaarheid:
  • In case studies (ECG200 en Coffee) leverde L2GTX verklaringen op die overeenkwamen met domeinkennis.
  • Voorbeeld ECG: Het onderscheid tussen normale en infarct-hartslagen werd duidelijk gemaakt door verschillende configuraties van extremen en korte trends.
  • Voorbeeld Coffee: Het onderscheid tussen Arabica en Robusta werd geïdentificeerd via specifieke patronen van lokale maxima en minima in het spectrale bereik.
• Stabiliteit: De resultaten waren consistent tussen verschillende random seeds en tussen de twee gebruikte modelarchitecturen, wat aangeeft dat L2GTX gedeelde, beslissingsrelevante temporale prikkels identificeert.

---

5. Betekenis en Conclusie

L2GTX vult een cruciale lacune in het veld van Explainable AI voor tijdreeksen. Waar eerdere methoden vaak beperkt bleven tot lokale inspectie of model-specifieke inzichten, biedt L2GTX een betrouwbare, semantisch betekenisvolle en model-agnostische manier om het globale beslissingsgedrag van tijdreeksclassificatoren te begrijpen.

De methode bewijst dat het mogelijk is om complexe, lokale tijdsafhankelijke patronen te aggregeren tot compacte, menselijk leesbare samenvattingen zonder in te leveren op de nauwkeurigheid van de verklaring ten opzichte van het oorspronkelijke model. Dit is essentieel voor toepassingen waar transparantie, verantwoording en regelgeving cruciaal zijn, zoals in de gezondheidszorg en financiën.

Toekomstperspectief: De auteurs plannen uitbreiding naar multivariate tijdreeksen (om interacties tussen kanalen te modelleren) en mensgerichte evaluaties met domeinexperts om de bruikbaarheid in de praktijk verder te valideren.