Sintesi Tecnica: Apprendimento di un Rilevatore di Anomalie Discriminativo e Generalizzabile per Grafi Dinamici con Supervisione Limitata (SDGAD)

1. Definizione del Problema

Il rilevamento di anomalie in grafi dinamici (Dynamic Graph Anomaly Detection - DGAD) è fondamentale per applicazioni quali il rilevamento di frodi finanziarie, interazioni sociali anomale e l'identificazione di attacchi informatici. Tuttavia, i metodi esistenti affrontano due sfide primarie negli scenari reali:

1. Scarsità di Anomalie Etichettate: Le anomalie sono estremamente rare rispetto alle istanze normali, rendendo difficile l'apprendimento supervisionato.
2. Limitazioni dei Paradigmi Correnti:
   • Metodi Non Supervisionati: Pur evitando la necessità di etichette, spesso producono confini decisionali ambigui dove i punteggi di anomalia collassano in un intervallo ristretto e di basso valore, con una significativa sovrapposizione tra campioni normali e anomali. Ciò rende la selezione della soglia instabile e inaffidabile.
   • Metodi Semi-supervisionati: Questi sfruttano limitate anomalie etichettate ma spesso vanno in overfitting sui pattern specifici delle poche etichette disponibili. Di conseguenza, generalizzano scarsamente verso tipi di anomalie non visti in scenari open-set.

Il paper affronta il divario nell'apprendimento di un confine decisionale discriminativo e generalizzabile a partire da dati normali/non etichettati, utilizzando efficacemente le limitate anomalie etichettate senza sacrificare la generalizzazione verso anomalie non viste.

2. Metodologia: Framework SDGAD

Gli autori propongono SDGAD, un framework agnostico rispetto al modello, progettato per integrarsi con gli esistenti encoder di Grafi Dinamici a Tempo Continuo (CTDG). Il framework si compone di tre componenti principali:

A. Codifica della Rappresentazione Residua

Gli encoder CTDG standard aggregano le interazioni storiche con l'evento corrente, il che spesso risulta in embedding dominati dal contesto a lungo termine. Ciò indebolisce la distinzione tra l'interazione corrente e la sua storia recente, che è cruciale per rilevare anomalie rare.

• Meccanismo: SDGAD calcola la rappresentazione residua ($\Delta E$) sottraendo l'embedding del nodo senza l'evento corrente dall'embedding con l'evento corrente.
• Obiettivo: Questo preserva esplicitamente il cambiamento incrementale introdotto dalla corrente interazione. I comportamenti normali esibiscono continuità locale (residui piccoli), mentre le anomalie interrompono questa continuità (residui grandi), fornendo un segnale più discriminativo.

B. Perdita di Restrizione della Rappresentazione (Representation Restriction Loss)

Diversi pattern di anomalia inducono residui a scale vastamente differenti, ostacolando l'apprendimento di un confine unificato. Gli autori introducono una perdita di restrizione per vincolare le rappresentazioni normali entro una specifica regione geometrica.

• Geometria: Invece di un singolo ipersfera centrato nell'origine (che può soffrire del "fenomeno della bolla di sapone" dove la massa si concentra sul confine), il metodo vincola i residui normali entro un intervallo delimitato da due ipersfere co-centriche (raggio interno $r_{min}$ e raggio esterno $r_{max}$).
• Funzione di Perdita:
  • Campioni Normali: Vengono penalizzati se cadono al di fuori dell'intervallo $[r_{min}, r_{max}]$, venendo attratti in una regione compatta con scale coerenti.
  • Campioni Anomali: Vengono penalizzati se cadono all'interno dell'ipersfera esterna (specificamente, entro un margine $\Delta r$ oltre $r_{max}$), venendo spinti al di fuori della regione normale.
• Adattamento: A differenza dei precedenti metodi a bi-ipersfera che assumono dati i.i.d., questo approccio è progettato per la natura non i.i.d. dei grafi dinamici ed è ottimizzato in modo end-to-end.

C. Ottimizzazione Bi-Boundary (Bi-Boundary Optimization)

Per costruire un confine decisionale esplicito e robusto, il framework impiega un Normalizing Flow come stimatore di densità per modellare la distribuzione della log-verosimiglianza dei campioni normali.

• Sfida: Negli spazi ad alta dimensionalità, i normalizing flow possono assegnare verosimiglianze elevate a input out-of-distribution, portando a confini ambigui.
• Strategia: Gli autori propongono una strategia di ottimizzazione bi-boundary. Invece di una singola soglia, definiscono un confine normale ($B_n$) e un confine anomalo ($B_a = B_n - \tau$), creando una regione cuscinetto (margine $\tau$).
• Obiettivo: La funzione di perdita ($L_{BO}$) utilizza una funzione softplus per imporre che i campioni normali si trovino sopra $B_n$ e i campioni anomali sotto $B_a$. Ciò crea un margine chiaro, riducendo l'ambiguità del confine e migliorando la robustezza rispetto alla selezione della soglia.

Obiettivo di Addestramento Complessivo: La perdita totale combina la perdita di massima verosimiglianza del normalizing flow ($L_{ML}$), la perdita di restrizione della rappresentazione ($L_{RR}$) e la perdita di ottimizzazione bi-boundary ($L_{BO}$).

3. Contributi Chiave

1. Framework SDGAD: Un framework generalizzabile e agnostico rispetto al modello che opera efficacemente sia in contesti non supervisionati che in contesti di supervisione limitata.
2. Componenti Innovative:
   • Un meccanismo di codifica della rappresentazione residua per catturare le deviazioni rilevanti per le anomalie.
   • Una perdita di restrizione della rappresentazione tramite ipersfere co-centriche per normalizzare le scale e migliorare la separabilità.
   • Una strategia di ottimizzazione bi-boundary utilizzando i normalizing flow per apprendere confini decisionali espliciti e robusti.
3. Valutazione Esaustiva: Esperimenti estesi su sei dataset (inclusi anomalie reali e sintetiche) attraverso tre setting: non supervisionato, supervisione limitata e few-shot.

4. Risultati Sperimentali

Il framework è stato valutato contro 15 baseline, inclusi metodi a tempo discreto (DTDG) e a tempo continuo (CTDG).

• Performance: SDGAD ha superato costantemente tutte le baseline in diversi dataset (Wikipedia, Reddit, MOOC, Enron, UCI, LastFM) e metriche di valutazione (AUROC, AP, F1).
• Robustezza:
  • Nel setting completamente non supervisionato (S3), SDGAD ha ottenuto prestazioni comparabili al setting a supervisione limitata (S1), dimostrando la sua capacità di apprendere confini discriminativi senza etichette.
  • Nei setting few-shot (S2), il framework è rimasto efficace anche con soli 1–3 campioni anomali etichettati, mentre le baseline semi-supervisionate hanno mostrato un addestramento instabile e un'alta varianza.
• Studi di Ablazione: La rimozione di uno qualsiasi dei tre componenti core (codifica residua, restrizione della rappresentazione o ottimizzazione bi-boundary) ha portato a un degrado delle prestazioni, particolarmente nei punteggi F1 e nella separabilità dei punteggi.
• Visualizzazione: Le distribuzioni dei punteggi di SDGAD hanno mostrato una chiara separazione tra campioni normali e anomali, mentre le baseline spesso producevano punteggi collassati vicino allo zero, rendendo difficile la selezione della soglia.

5. Significato e Rivendicazioni

Il paper sostiene che SDGAD affronti un limite fondamentale nel DGAD: il compromesso tra l'utilizzo della supervisione limitata e il mantenimento della generalizzazione verso anomalie non viste. Attraverso l'apprendimento esplicito di un confine discriminativo tramite codifica residua e ottimizzazione bi-boundary, il metodo offre:

• Regole Decisionali Stabili: A differenza dei metodi non supervisionati con confini ambigui, SDGAD offre punteggi ben calibrati adatti ad applicazioni ad alto rischio che richiedono cutoff fissi o a livelli.
• Generalizzazione: Evita l'overfitting sui pattern specifici delle scarse anomalie etichettate, operando in modo robusto in scenari open-set.
• Agnosticismo del Modello: Il framework può essere integrato senza problemi con vari encoder CTDG esistenti (es. TCL, CAWN, DyGFormer), potenziando le loro capacità di rilevamento delle anomalie senza richiedere una riprogettazione completa dell'architettura sottostante.

Gli autori osservano che, sebbene le anomalie sintetiche in alcuni dataset (come LastFM) possano essere facilmente rilevabili grazie a semplici indizi strutturali, la robustezza del framework attraverso diversi setting e la sua capacità di gestire anomalie reali ne evidenziano l'utilità pratica. Il lavoro futuro suggerisce di perfezionare i protocolli delle anomalie sintetiche ed estendere il problema alla tipizzazione delle anomalie.