ProtoX-AD: Self-Explainable Time Series Anomaly Detection and Characterization

Technische Samenvatting: ProtoX-AD

Probleemstelling
Tijdreeks-anomaliedetectie (TSAD) is cruciaal voor domeinen zoals finance, IoT en de gezondheidszorg. Hoewel recente zelfgesuperviseerde classificatiegebaseerde benaderingen (SSC-TSAD) sterke prestaties hebben getoond door classifiers te trainen om transformatiespecifieke patronen in normale data te herkennen, lijden ze aan een aanzienlijk gebrek aan verklaarbaarheid. Deze "black-box"-methoden leveren anomaliescores, maar bieden beperkt inzicht in de kenmerken van gemarkeerde anomalieën, waardoor ze tekortschieten in het ondersteunen van de identificatie en interpretatie van onderscheidende anomalieprofielen. Bovendien missen bestaande verklaarbare baselines vaak mechanismen om systematisch te analyseren hoe het ontwerp van transformaties zowel de detectieprestaties als de semantische betekenis van verklaringen beïnvloedt.

Methodologie: ProtoX-AD
De auteurs stellen ProtoX-AD voor, een prototype-gebaseerd, zelf-verklaarbaar framework voor zelfgesuperviseerde TSAD. De methode integreert prototypische zelf-verklaarbare modellen (SEMs) met het SSC-TSAD-paradigma.

• Architectuur: De pipeline bestaat uit vijf componenten:

  1. Transformatie Module: Past een reeks van $K$ transformaties toe (handmatig of leerbare neurale netwerken) op invoersamples om geaugmenteerde views te genereren. De eerste transformatie is een identiteitsfunctie.
  2. Feature Extractie: Een probabilistische encoder (geïnspireerd door ProtoVAE) brengt geaugmenteerde views in kaart naar een latente ruimte, waarbij de posterieure distributie wordt gemodelleerd als een tupel van gemiddelde en variantie.
  3. Dual Reconstruction: Bestaat uit een explainer (reconstrueert geaugmenteerde views vanuit latente representaties) en een semantic preservation decoder (reconstrueert de originele sample). Dit waarborgt input-niveau getrouwheid en semantische consistentie over transformaties heen.
  4. Prototype Module: Leert $M$ prototypen per transformatieklasse in de latente ruimte. Deze prototypen vertegenwoordigen interpreteerbare concepten.
  5. Classificatie Module: Voert zelfgesuperviseerde classificatie uit door de gelijkenis tussen latente representaties en klasse-specifieke prototypen te berekenen, en deze gelijkenissen in een lineaire classifier in te voeren.

• Trainingsdoelstelling: Het model wordt getraind op ongelabelde normale data met behulp van een samengestelde verliesfunctie:

  • Classificatie Verlies ($L_{class}$): Cross-entropy verlies om transformatieklassen te onderscheiden.
  • Dual Reconstruction Verlies ($L_{recon}$): Omvat explainer-reconstructie, semantische preservatie en een mengeling-gebaseerde regularisatie (KL-divergentie) om latente representaties uit te lijnen met prototypen.
  • Prototype Learning Verlies ($L_{proto}$): Combineert een clustering verlies (zorgt dat samples dicht bij ten minste één prototype liggen) en een coverage verlies (voorkomt "ghost" of ongebruikte prototypen).

• Anomaliedetectie & Verklaring:

  • Detectie: De anomaliescore wordt gedefinieerd als de cross-entropy loss van de identiteitsview's classificatie. Een hoge fout geeft aan dat de sample de geleerde normale patronen schendt.
  • Verklaring: Voor een nieuwe sample wordt het dichtstbijzijnde prototype in de latente ruimte geïdentificeerd en via het explainer-netwerk gedecodeerd naar de input-ruimte. Dit biedt een visuele, menselijk interpreteerbare representatie van het anomalieprofiel.

Belangrijkste Bijdragen

1. Framework Voorstel: Introductie van ProtoX-AD, een zelf-verklaarbaar framework dat transformatie-bewuste latente representaties leert naast interpreteerbare prototypen.
2. Prestaties vs. Verklaarbaarheid: Demonstratie dat de methode een detectieprestatie bereikt die vergelijkbaar is met black-box zelfgesuperviseerde tegenhangers, terwijl het consistente, semantisch betekenisvolle verklaringen biedt voor anomaliekarakterisering.
3. Transformatie Analyse: Een systematische analyse van hoe transformatieontwerp (handmatig vs. leerbaar neuraal) de detectieprestaties, verklaarbaarheid en het vermogen om onderscheidende anomalieprofielen te karakteriseren beïnvloedt.

Experimentele Resultaten
De auteurs evalueerden ProtoX-AD op drie datasets: synthetisch (UMD), wereldwijde temperatuurafwijkingen (GTA) en real-world waterlekdetectie (Yorkshire).

• Detectieprestaties:

  • Met handmatig ontworpen transformaties (gebruikmakend van domeinkennis) behaalde ProtoX-AD prestaties die vergelijkbaar zijn met of iets beter zijn dan black-box zelfgesuperviseerde baselines, en presteerde het consequent beter dan shallow methoden (Isolation Forest, LOF, One-Class SVM).
  • Met leerbare neurale transformaties daalden de prestaties aanzienlijk over alle datasets, vooral in complexe scenario's, waarbij het vaak onderpresteerde ten opzichte van shallow methoden.
  • ProtoX-AD vertoonde over het algemeen meer consistente prestaties over verschillende datasets en settings vergeleken met de verklaarbare baseline KMEx.

• Kwaliteit van de Verklaarbaarheid:

  • Kwalitatief: ProtoX-AD produceerde gladdere, klasse-niveau prototypen die transformatie-geïnduceerde patronen vastlegden (bijv. specifieke klokvormige afwijkingen of temperatuurverschuivingen). In contrast vertoonden de prototypen van KMEx scherpere en instance-specifieke ruis. Neurale transformaties faalden in het produceren van betekenisvolle prototypen, waarbij ze anomalieën vaak naar de identiteit (normale) klasse mappen.
  • Kwantitatief: ProtoX-AD (met handmatige transformaties) behaalde een lagere Mean Absolute Error (MAE) en Mean Squared Error (MSE) tussen test samples en hun toegewezen prototype-verklaringen vergeleken met KMEx.
  • Consistentie: ProtoX-AD dwong een consistente uitlijning af tussen latente-ruimte toewijzingen en input-ruimte representaties, terwijl KMEx discrepanties vertoonde waarbij het dichtstbijzijnde latente prototype niet overeenkwam met het dichtstbijzijnde input-ruimte concept.

Betekenis en Claims
Het artikel claimt dat ProtoX-AD succesvol de kloof overbrugt tussen hoge-prestatie anomaliedetectie en intrinsieke verklaarbaarheid. De auteurs benadrukken dat het integreren van domeinkennis via handmatig ontworpen transformaties essentieel is voor zowel sterke detectieprestaties als betekenisvolle anomaliekarakterisering. Hoewel neurale transformaties algemeenheid bieden, suggereren de resultaten dat ze onvoldoende zijn om de semantische structuur te vangen die vereist is voor effectieve zelfgesuperviseerde TSAD en karakterisering zonder voorkennis.

Het werk concludeert dat ProtoX-AD een stabieler detectiemechanisme biedt dan bestaande verklaarbare baselines door prototypen direct in de leerdoelstelling te integreren. De auteurs merken echter bescheiden op dat de afhankelijkheid van handmatige transformaties een beperking kan zijn in scenario's waar domeinkennis niet beschikbaar is, wat suggereert dat toekomstig werk adaptieve benaderingen moet verkennen om transformaties progressief te leren op basis van gedetecteerde anomalieën. Het framework wordt gepresenteerd als uitbreidbaar naar andere datamodaliteiten buiten tijdreeksen.