Anomaly detection in time-series via inductive biases in the latent space of conditional normalizing flows

Each language version is independently generated for its own context, not a direct translation.

Il Problema: L'Inganno della "Popolarità"

Immagina di essere un detective che deve trovare un ladro in una folla.
Il metodo classico (usato dalle intelligenze artificiali tradizionali) funziona così: "Se qualcuno è molto popolare, è innocente. Se è poco popolare, è un ladro."

In termini tecnici, le vecchie intelligenze artificiali guardano quanto un dato è "probabile" (likelihood). Se un evento assomiglia molto a quelli che ha visto prima, gli danno un voto alto e dicono: "Tutto ok!".
Il problema? A volte un ladro può travestirsi da persona molto popolare. Può sembrare perfettamente normale (alta probabilità) ma comportarsi in modo strano rispetto alla sequenza degli eventi.
Esempio: Immagina un battito cardiaco. Se il battito è forte e veloce, l'AI classica potrebbe dire: "Wow, è un battito forte, è normale!". Ma se quel battito forte arriva dopo un silenzio improvviso, è un'anomalia. L'AI classica non se ne accorge perché guarda solo il singolo battito, non la storia.

La Soluzione: La "Bussola del Tempo" (Inductive Bias)

Gli autori di questo paper (Baumgartner e colleghi) dicono: "Basta guardare solo quanto un dato è popolare. Dobbiamo guardare se il dato segue le regole del tempo."

Hanno creato un nuovo sistema basato su tre idee chiave, spiegate con analogie:

1. Il Traduttore (Conditional Normalizing Flows)

Prima di giudicare, il sistema traduce i dati grezzi (i numeri complessi) in un linguaggio più semplice e ordinato, che chiamano spazio latente.

Analogia: Immagina di avere una conversazione in una lingua strana e confusa. Il sistema ha un "traduttore" che la converte in una lingua chiara e ordinata, dove ogni parola ha un significato preciso.

2. La Regola del Gioco (Inductive Bias)

Qui sta il genio. Invece di lasciare che il traduttore faccia ciò che vuole, gli danno una regola fissa su come le parole devono evolvere nel tempo.

Analogia: Immagina di insegnare a un bambino a camminare. Non gli dici solo "cammina", ma gli dai una regola: "Devi mettere un piede davanti all'altro in modo fluido e prevedibile".
- Se il bambino cammina bene, segue la regola.
- Se il bambino inizia a saltare su un piede solo o a camminare all'indietro, viola la regola, anche se i suoi movimenti sono fisicamente possibili.
- Nel loro sistema, la "regola" è che il movimento deve seguire una traiettoria matematica precisa (come una linea retta o una curva dolce). Questo si chiama Inductive Bias.

3. Il Controllo di Conformità (Goodness-of-Fit Test)

Quando arriva un nuovo dato, il sistema lo traduce e poi controlla: "Stai seguendo la regola del tempo?"
Non chiede "Sei strano?", chiede "Sei in regola?".

Analogia: È come un ispettore di un'orchestra. Non conta quanto è forte il suono (probabilità), ma controlla se il musicista sta suonando al momento giusto e con il ritmo giusto. Se un musicista suona una nota perfetta (alta probabilità) ma fuori tempo, l'ispettore lo ferma: "Anomalia!".

Perché è meglio dei metodi vecchi?

Non serve un "semaforo" manuale: I metodi vecchi richiedono che un umano dica: "Se il voto è sotto 50, è un'anomalia". Questo è difficile da calibrare. Il loro sistema usa un test statistico automatico (come un metro di riferimento) che dice: "Se non segui la regola, sei un'anomalia". Non serve impostare soglie a mano.
Cattura i ladri travestiti: Anche se un'anomalia sembra "normale" (alta probabilità), se rompe la sequenza temporale (es. un picco di rumore improvviso in un segnale stabile), il sistema la becca perché non rispetta la "regola del tempo".
Un termometro per l'AI: Il sistema ha anche un modo per dirsi da solo: "Ehi, ho imparato bene la regola?". Se durante l'addestramento i dati normali non rispettano la regola, il sistema si avvisa: "Qualcosa non va, non sono pronto a cercare anomalie". È come un allenatore che controlla se i giocatori hanno capito le tattiche prima della partita.

In Sintesi

Gli autori hanno creato un'Intelligenza Artificiale che non si fida solo di quanto un evento è "frequente", ma verifica se l'evento rispetta una legge fisica o temporale che gli abbiamo insegnato.

Vecchio metodo: "Sei comune? Allora sei a posto." (Facile da ingannare).
Nuovo metodo: "Sei comune, ma segui la regola del tempo? Se no, sei un'anomalia." (Molto più robusto).

Hanno testato questo metodo su dati sintetici e reali (come segnali medici o finanziari) e ha funzionato meglio, trovando anomalie che gli altri sistemi ignoravano, tutto senza bisogno di etichette o impostazioni manuali complicate.

Each language version is independently generated for its own context, not a direct translation.

Titolo: Rilevamento delle anomalie nelle serie temporali tramite bias induttivi nello spazio latente di flussi normalizzanti condizionali

1. Il Problema

Il rilevamento delle anomalie (AD) nelle serie temporali multivariate è una sfida fondamentale con applicazioni che spaziano dalla manutenzione predittiva alla sicurezza di rete.

Limiti degli approcci basati sulla verosimiglianza (Likelihood): I modelli generativi profondi (DGM) sono spesso addestrati massimizzando la verosimiglianza dei dati osservati. Tuttavia, la verosimiglianza nello spazio delle osservazioni misura la densità marginale e non la conformità alle dinamiche temporali strutturate. Di conseguenza, questi modelli possono assegnare un'alta probabilità (alta verosimiglianza) a campioni anomali o fuori distribuzione (OOD), fallendo nel distinguerli dal comportamento atteso.
Problema delle soglie: I metodi tradizionali spesso richiedono soglie manuali per convertire i punteggi di anomalia in decisioni binarie, il che è costoso, fragile e difficile da giustificare statisticamente quando le anomalie sono rare ed eterogenee.
Mancanza di bias induttivi: L'addestramento basato puramente sulla verosimiglianza non fornisce un concetto intrinseco di "comportamento inaspettato". Senza bias induttivi espliciti, il modello non sa cosa costituisce una violazione delle dinamiche temporali attese.

2. Metodologia

Gli autori propongono un framework probabilistico nello stato-spazio (state-space) per serie temporali, basato su Flussi Normalizzanti Condizionali (CNF) con bias induttivi espliciti nello spazio latente.

Modello Generativo Profondo:
- Utilizza un CNF per mappare le osservazioni $x_t$ in rappresentazioni latenti $z_t$ , condizionato a una finestra temporale storica $W_t$ .
- A differenza dei modelli standard che apprendono solo la distribuzione dei dati, questo modello impone una dinamica prescritta sull'evoluzione delle rappresentazioni latenti nel tempo.
Bias Induttivo (LG-LDM):
- Viene introdotta una dinamica latente lineare-Gaussiana (Linear-Gaussian Latent Dynamical Model).
- La media latente $\mu_t$ evolve secondo una legge deterministica: $\mu_t = A\mu_{t-1} + b$ , con incertezza latente non correlata.
- Questo vincola le traiettorie latenti a seguire una legge dinamica specifica (es. convergenza a un punto fisso o comportamento stazionario).
Addestramento:
- I parametri del CNF ( $\theta$ ) e della dinamica latente ( $\phi = \{A, b\}$ ) sono ottimizzati congiuntamente minimizzando la Negative Log-Likelihood (NLL).
- L'obiettivo è far sì che le traiettorie latenti apprese rispettino la distribuzione prescritta dalla dinamica.
Rilevamento delle Anomalie (Test di Goodness-of-Fit):
- Il rilevamento non si basa sul punteggio di verosimiglianza, ma su un test statistico di Goodness-of-Fit (GOF) nello spazio latente.
- Si utilizza il test Kolmogorov-Smirnov Multivariato (MV-KS) per verificare se le traiettorie latenti mappate da una nuova sequenza rispettano la distribuzione prescritta (es. Gaussiana standardizzata).
- Decisione: Se la statistica KS supera un valore critico ( $\tau$ ) calcolato in modo non parametrico, la sequenza è classificata come anomala (non conforme al bias induttivo).
- Questo approccio elimina la necessità di soglie manuali: la soglia è determinata statisticamente dal valore critico del test.

3. Contributi Chiave

Modello Stato-Spazio con Bias Induttivo: Un modello generativo che accoppia CNF con dinamiche latenti esplicite (es. lineari-Gaussiane), vincolando le osservazioni a mappare in traiettorie temporali coerenti e conformi a una densità prescritta.
Rilevatore di Anomalie Senza Etichette e Senza Soglie: Un metodo unsupervised basato su test GOF (MV-KS) nello spazio latente. È in grado di identificare anomalie anche in regioni ad alta densità di verosimiglianza, dove i metodi tradizionali falliscono.
Diagnostica di Conformità Integrata: Un meccanismo per verificare se l'addestramento del modello ha avuto successo nell'imporre il bias induttivo. Se le traiettorie di addestramento non superano il test GOF, il modello non è pronto per il rilevamento, fornendo un segnale di allarme automatico.
Validazione Empirica: Dimostrazione che i punteggi basati sulla NLL falliscono nel rilevare anomalie di ampiezza e frequenza in certi contesti, mentre il framework proposto mantiene alta accuratezza e robustezza.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti su dati sintetici e reali (TSB-AD benchmark).

Dati Sintetici:
- Il modello basato sulla NLL ha fallito nel rilevare anomalie di ampiezza che si trovavano in regioni ad alta densità di probabilità.
- Il metodo proposto (MV-KS) ha rilevato con successo anomalie di frequenza, ampiezza e rumore, anche quando la verosimiglianza era alta.
- È stata analizzata la sensibilità alla dimensione della finestra temporale ( $w$ ): una finestra troppo piccola è rumorosa, una troppo grande diluisce le anomalie. La dimensione ottimale è stata trovata intorno a $O(D^3)$ (es. $w=64$ per $D=4$ ), ottenendo un AUC-PR del 82.1% contro il 78.8% della NLL.
Dati Reali (TSB-AD):
- Il metodo ha ottenuto risultati competitivi (spesso superiori o in parità) rispetto a baseline consolidate (come TimesNet, OmniAnomaly, AutoEncoder) su dataset univariati e multivariati.
- Diagnostica di Addestramento: È stato dimostrato che il successo del rilevamento è correlato alla conformità del modello durante l'addestramento. Quando il test GOF sulle traiettorie di addestramento indica una buona conformità (es. 100% su dataset "Stock"), le prestazioni di rilevamento sono ottimali. Quando la conformità è bassa (es. 0% su MITDB), le prestazioni crollano, confermando l'utilità della diagnostica proposta.
Interpretabilità: Lo spazio latente "whitened" permette di visualizzare visivamente le deviazioni (es. forme a ciambella o allungate) rispetto alla distribuzione Gaussiana attesa, fornendo diagnosi interpretabili.

5. Significato e Implicazioni

Questo lavoro offre una prospettiva unificante per il rilevamento delle anomalie basato su modelli generativi profondi:

Spostamento del Paradigma: Passa dal cercare "dati rari" (bassa verosimiglianza) al cercare "comportamenti non conformi" alle dinamiche temporali attese.
Robustezza: Risolve il problema fondamentale dei modelli generativi che assegnano alta probabilità a dati OOD, spostando il controllo di qualità nello spazio latente dove le regole di dinamica sono esplicite.
Automazione: Elimina la dipendenza da esperti umani per la calibrazione delle soglie, sostituendola con criteri statistici rigorosi (valori critici del test KS).
Limiti e Futuro: L'efficacia dipende dalla scelta del bias induttivo (che deve riflettere la natura del dato) e dalla dimensione del campione per i test statistici in spazi ad alta dimensionalità. Il lavoro suggerisce futuri sviluppi su bias induttivi apprendibili e test GOF su sottospazi.

In sintesi, il paper dimostra che l'integrazione di bias induttivi strutturali nello spazio latente, verificati tramite test statistici, è una via più robusta e interpretabile per il rilevamento delle anomalie rispetto alla semplice massimizzazione della verosimiglianza.