SMT-AD: a scalable quantum-inspired anomaly detection approach

Il paper presenta SMT-AD, un approccio scalabile e parallelizzabile per il rilevamento di anomalie ispirato ai tensori quantistici, che utilizza una sovrapposizione di operatori prodotto di matrici con embedding assistito da Fourier per ottenere prestazioni competitive con un numero di parametri che cresce linearmente rispetto alla dimensione delle feature.

L'essenziale

🕵️‍♂️ Il Detective Quantistico: SMT-AD

Immagina di dover trovare un ladro in una folla di 10.000 persone oneste. Il problema è che non hai mai visto il ladro prima d'ora, non sai come si veste e non sai cosa ruba. Tutto quello che sai è come si comportano le persone oneste.

La maggior parte dei sistemi di sicurezza (come i vecchi algoritmi) cerca di disegnare un muro intorno alla folla onesta. Se qualcuno esce dal muro, è un ladro. Ma i muri sono rigidi: se un onesto si muove un po' di più del solito, viene scambiato per un ladro (falso allarme), o un ladro astuto riesce a strisciare sotto il muro.

SMT-AD è un nuovo tipo di "detective" ispirato alla meccanica quantistica (la fisica delle particelle più piccole) che risolve questo problema in modo molto più intelligente, veloce ed economico.

Ecco come funziona, passo dopo passo, con delle metafore:

1. La Preparazione: Pulire gli Occhiali

Prima di guardare la folla, il detective pulisce gli occhiali.

• Il problema: In un database, alcuni numeri sono enormi (come un conto bancario di un milione) e altri sono piccoli (come un caffè). Se li guardi così, il numero grande copre tutto.
• La soluzione SMT-AD: Trasforma tutti i dati in una scala da 0 a 1, basandosi solo sulla loro posizione nella fila (chi è il primo, il secondo, ecc.). È come dire: "Non importa quanto è alto il tuo conto, importa solo se sei più alto o più basso della media". Questo rende il detective immune ai "numeri strani" o agli errori di battitura.

2. La Lente Magica: L'Embedding a Fourier

Ora il detective non guarda solo il viso della persona, ma la guarda attraverso una lente magica che la scompone in diverse "frequenze".

• L'analogia: Immagina di ascoltare una canzone. Puoi sentire il ritmo generale (basso), la melodia (medio) e i dettagli fini degli strumenti (alto).
• Cosa fa SMT-AD: Prende ogni dato e lo "suona" su diverse frequenze (come onde radio). Questo permette al modello di vedere sia le grandi tendenze che i piccolissimi dettagli che normalmente sfuggirebbero. È come se il detective potesse vedere sia la sagoma della persona che i dettagli del suo sorriso.

3. Il Coro di Cantanti: La Superposizione

Qui entra in gioco la parte "quantistica". Invece di avere un solo detective che guarda la folla, SMT-AD ha un coro di molti piccoli cantanti (chiamati "operatori").

• Come funziona: Ogni cantante è molto semplice (ha una voce base), ma ce ne sono molti che cantano insieme. Ognuno guarda la folla da una prospettiva leggermente diversa (una frequenza diversa).
• Il trucco: Quando tutti cantano insieme, creano un'armonia complessa. Se la persona è onesta, il coro canta in perfetta armonia. Se c'è un ladro, la sua presenza "stona" e rompe l'armonia.
• Vantaggio: Anche se ogni cantante è semplice, insieme sono potentissimi. E la cosa bella è che questo coro è leggerissimo: richiede pochissima memoria e può essere eseguito anche su computer piccoli (come quelli degli smartphone o dei sensori IoT).

4. Il Test di Normalità: La Danza Perfetta

Come fa il detective a sapere se qualcuno è un ladro?

• Ha in mente una "danza perfetta" (lo stato di riferimento), che rappresenta la normalità assoluta.
• Quando arriva una persona, il detective la fa ballare.
  • Se è una persona onesta, la sua danza si sovrappone perfettamente alla danza di riferimento. Il punteggio di "normalità" è altissimo (quasi 100%).
  • Se è un ladro, i suoi passi sono stonati. La danza non corrisponde. Il punteggio di normalità crolla.
• Il risultato: Più il punteggio è basso, più è probabile che sia un'anomalia.

Perché è così speciale? (I Superpoteri)

1. Velocità ed Efficienza: Mentre altri metodi complessi (come le reti neurali profonde) sono come camion che consumano molta benzina, SMT-AD è una bicicletta elettrica. È così leggero che può girare su hardware economico, perfetto per la sicurezza in tempo reale (es. carte di credito, sensori industriali).
2. Capacità di Spiegazione (Interpretabilità): Spesso l'Intelligenza Artificiale è una "scatola nera": ti dice "è un ladro" ma non sai perché. SMT-AD è come un detective che ti dice: "È un ladro perché il suo modo di camminare (un dato specifico) e il modo in cui guarda (un altro dato) non combaciano con la norma".
   • Il modello usa un concetto chiamato "entropia" (che misura il caos) per dire: "Guarda, questi 3 dati specifici sono quelli che hanno rotto l'armonia". Questo permette di eliminare i dati inutili e rendere il sistema ancora più preciso.
3. Performance: Nei test su dati reali (come le frodi con le carte di credito), SMT-AD ha battuto o pareggiato i migliori metodi esistenti, pur usando una frazione dei "cervelli" (parametri) necessari agli altri.

In sintesi

SMT-AD è come un sistema di sicurezza che non cerca di memorizzare ogni possibile volto di ladro, ma impara a memoria la "musica" della normalità. Quando qualcuno arriva e stona, il sistema lo nota immediatamente. È veloce, economico, spiegabile e funziona anche su computer piccoli, rendendolo ideale per proteggere il mondo reale, dalle transazioni bancarie alle reti elettriche.

Sommario tecnico

1. Il Problema

L'rilevamento delle anomalie è un problema fondamentale nell'apprendimento automatico, con applicazioni che spaziano dalla rilevazione delle frodi alla cybersecurity e al monitoraggio industriale. L'obiettivo è identificare campioni rari o atipici che si discostano dalla popolazione dominante di dati "normali".
In molti scenari pratici, i campioni anomali sono scarsi, eterogenei e spesso non disponibili durante la fase di addestramento. Questo porta naturalmente a un'impostazione di apprendimento one-class, dove i modelli vengono addestrati esclusivamente su dati normali e devono rilevare le anomalie come deviazioni dalla nozione appresa di normalità. Le sfide principali includono la scalabilità, l'efficienza computazionale e la capacità di catturare correlazioni non lineari complesse tra le caratteristiche (feature) senza richiedere risorse eccessive.

2. Metodologia: SMT-AD

Gli autori propongono SMT-AD (Superposition of Multiresolution Tensors for Anomaly Detection), un approccio ispirato alla meccanica quantistica basato sulle reti tensoriali (Tensor Networks). Il modello è progettato per essere altamente parallelizzabile e scalabile.

Il flusso di lavoro si articola in tre fasi principali:

• Preprocessing e Normalizzazione:

  • I dati grezzi subiscono una normalizzazione basata sul rango (rank-based normalization) per ciascuna caratteristica. Questo trasforma i valori in un intervallo $[0, 1]$ riducendo l'influenza degli outlier e standardizzando le distribuzioni marginali.
  • Per le caratteristiche discrete, la normalizzazione preserva la struttura di ordinamento.

• Embedding delle Caratteristiche (Fourier-Assisted):

  • Ogni vettore di input normalizzato viene mappato in uno Stato di Prodotto di Matrici (MPS - Matrix Product State) non lineare.
  • Viene utilizzata un'embedding multirisoluzione assistita da Fourier. Ogni caratteristica viene mappata attraverso $P$ diverse modalità di frequenza (risoluzioni), definendo una mappatura $\Psi$ che arricchisce la rappresentazione catturando sia variazioni grossolane che fini.
  • Matematicamente, per una modalità $p$, l'MPS di input è definito come un prodotto tensoriale di vettori contenenti $\cos(\omega_p \tilde{x}_{nl})$ e $\sin(\omega_p \tilde{x}_{nl})$.

• Modello di Classificazione (MPO in Sovrapposizione):

  • Il cuore del modello è un Operatore di Prodotto di Matrici (MPO) costruito come una sovrapposizione di $M$ componenti di rango 1 (bond-dimension-1).
  • L'MPO è composto da rotazioni locali $SO(2)$ parametriche ($\theta_{l}^{mp}$) e coefficienti di sovrapposizione ($c_{mp}$).
  • Il modello trasforma l'MPS di input in un MPS di output. La "punteggio di normalità" ($a(x)$) è calcolato come il quadrato dell'overlap (sovrapposizione) tra lo stato di output e uno stato di riferimento fisso $|0\rangle^{\otimes L}$ (che rappresenta la normalità).
  • Addestramento: Il modello viene addestrato solo sui dati normali massimizzando la probabilità (o minimizzando il log-loss negativo) che i dati normali siano vicini allo stato di riferimento. Non sono necessari campioni anomali per l'addestramento.

3. Contributi Chiave

• Scalabilità e Parallelizzazione: A differenza delle reti tensoriali tradizionali che richiedono ottimizzazioni sequenziali, SMT-AD utilizza una struttura di sovrapposizione che rende il modello altamente parallelizzabile e vettorializzabile, ideale per hardware a basso costo e computing edge.
• Efficienza dei Parametri: Il numero di parametri apprendibili cresce linearmente con la dimensione delle caratteristiche ($L$), il numero di risoluzioni di embedding ($P$) e il numero di componenti MPO ($M$). Questo contrasta con la complessità cubica o quadratica di metodi come le SVM a una classe (OC-SVM).
• Interpretabilità Quantistica: Grazie alla struttura esplicita della rete tensoriale, è possibile analizzare il modello utilizzando quantità ispirate all'informazione quantistica, come l'entropia di entanglement e l'informazione mutua. Questo permette di identificare quali caratteristiche sono più rilevanti per distinguere le anomalie.
• Selezione delle Caratteristiche: Gli autori dimostrano che l'analisi dell'entropia di entanglement può essere utilizzata per selezionare le caratteristiche più critiche, migliorando le prestazioni e riducendo ulteriormente la dimensione del modello.

4. Risultati Sperimentali

Il modello è stato testato su cinque dataset standard (Wine, Lymphography, Thyroid, Satellite, Credit Card) e confrontato con baseline consolidate: OC-SVM, Isolation Forest (IF) e TNAD (Tensor Network Anomaly Detection).

• Prestazioni (AUROC e AUPRC):
  • SMT-AD ha ottenuto prestazioni AUROC coerentemente forti, eguagliando o superando OC-SVM, IF e TNAD su tutti i dataset.
  • Ha raggiunto quasi il "soffitto" (AUROC > 99%) su Wine, Lymphography e Thyroid.
  • Sul dataset altamente sbilanciato "Credit Card", SMT-AD ha ottenuto l'AUROC più alto (94.8%), sebbene l'AUPRC sia leggermente inferiore rispetto a OC-SVM e TNAD (a causa di un aumento dei falsi positivi a soglie specifiche), ma rimane competitivo considerando la natura del dataset.
• Risoluzione di Embedding ($P$): È stato scoperto che le risoluzioni intermedie (es. $P=2$ o $P=3$) offrono la migliore separazione tra campioni normali e anomali. Valori troppo bassi ($P=1$) o troppo alti ($P=4$) comprimono la distribuzione dei punteggi, riducendo il contrasto.
• Efficienza dei Parametri: SMT-AD ha raggiunto prestazioni ottimali sul dataset Credit Card con soli 620 parametri (riducibili a 380 con la selezione delle caratteristiche), un ordine di grandezza inferiore rispetto alle altre basi (es. OC-SVM ne richiede ~45.000).
• Analisi Strutturale:
  • L'entropia di entanglement mostra che per $P>1$ il modello cattura dipendenze non lineari complesse tra le caratteristiche, assenti per $P=1$.
  • L'informazione mutua rivela che le anomalie sono caratterizzate da una riorganizzazione collettiva delle correlazioni tra le caratteristiche, non solo da deviazioni locali.

5. Significato e Implicazioni

SMT-AD rappresenta un avanzamento significativo nell'ambito del rilevamento delle anomalie per diversi motivi:

1. Accessibilità Hardware: La sua natura altamente parallelizzabile e la bassa complessità parametrica lo rendono ideale per l'implementazione su dispositivi edge, IoT e sistemi con risorse limitate, dove i modelli deep learning tradizionali o le SVM sono spesso troppo pesanti.
2. Interpretabilità: Fornisce un ponte tra l'apprendimento automatico e la fisica quantistica, offrendo strumenti (entropia, informazione mutua) per spiegare perché un campione è considerato anomalo, identificando le caratteristiche chiave e le loro correlazioni.
3. Efficienza: Dimostra che modelli quantistici ispirati possono essere competitivi con le tecniche di stato dell'arte (Deep Learning, SVM) mantenendo una complessità computazionale e una memoria molto più contenute.

In sintesi, SMT-AD offre un framework scalabile, efficiente e interpretabile per l'apprendimento one-class, dimostrando che le tecniche di reti tensoriali possono essere efficacemente adattate per compiti pratici di sicurezza e monitoraggio industriale.