A Geometry-Based View of Mahalanobis OOD Detection

Questo studio dimostra che l'efficacia del rilevamento OOD basato su Mahalanobis dipende dalla geometria dello spazio delle caratteristiche, introducendo una normalizzazione radialmente scalata che ottimizza le prestazioni sfruttando segnali geometrici intrinseci.

L'essenziale

Immagina di avere un guardia del corpo digitale (l'intelligenza artificiale) il cui lavoro è riconoscere i volti dei suoi clienti abituali (i dati su cui è stato addestrato) e avvisare se entra nella stanza un estraneo sconosciuto (un dato "fuori distribuzione" o OOD).

Il problema è che a volte questo guardia del corpo si confonde: a volte è bravissimo a notare gli estranei, altre volte li scambia per clienti abituali, o viceversa. Perché?

1. Il Problema: La "Mappa" cambia a seconda di chi disegna

Gli scienziati hanno scoperto che la bravura di questo sistema dipende da come è disegnata la mappa della stanza (lo spazio delle caratteristiche o feature space).

• L'analogia della mappa: Immagina che ogni immagine sia un punto su una mappa. I clienti abituali (es. gatti) formano un gruppo compatto, gli estranei (es. cani o auto) dovrebbero stare lontano.
• La scoperta: Il metodo "Mahalanobis" (un modo matematico per misurare la distanza) funziona benissimo se la mappa è disegnata in un certo modo, ma fallisce miseramente se la mappa è stata disegnata da un altro architetto (un diverso modello di intelligenza artificiale) o se la stanza è stata arredata diversamente (diversi dati di addestramento).
• La lezione: Non esiste una regola universale. La stessa formula matematica può essere un genio su una mappa e un disastro su un'altra.

2. La Soluzione: Due Segnali Geometrici

Gli autori hanno capito che per prevedere se il sistema funzionerà, non serve guardare tutto il caos, ma solo due cose fondamentali sulla forma dei gruppi di clienti:

1. La "Spremitura" del gruppo (Dimensionalità Intrinseca): Quanto è "stretto" o "diffuso" il gruppo dei clienti? Se il gruppo è molto compatto (come un mazzo di carte ordinato), è facile vedere chi non c'entra. Se è un mucchio disordinato, è difficile distinguere.
2. La "Coda" della distribuzione (Slope Spettrale): Immagina il gruppo di clienti come una montagna. La pendenza dei lati della montagna è importante. Se la montagna scende ripida, è facile dire dove finisce il cliente e inizia l'estraneo.

L'analogia della folla:
Immagina una folla di amici (i dati normali).

• Se stanno tutti stretti in un angolo (bassa dimensionalità) e la folla si dirada rapidamente verso l'esterno (pendenza ripida), è facilissimo vedere se qualcuno entra da fuori.
• Se la folla è sparsa in tutta la stanza e i bordi sono sfocati, è difficile dire chi è dentro e chi è fuori.

Il paper dimostra che combinando questi due segnali (quanto sono stretti e come scende la pendenza), possiamo prevedere se il sistema di sicurezza funzionerà o meno.

3. Il Trucco Magico: Il "Regolatore di Volume" Radiale

Qui arriva la parte più creativa. Gli autori hanno inventato un interruttore, chiamato $\beta$ (beta), che permette di modificare la forma della stanza senza cambiare i clienti.

• L'analogia del palloncino: Immagina che ogni punto (immagine) sia un palloncino legato a un filo.
  • Se il palloncino è gonfio (norma grande), occupa molto spazio.
  • Se è sgonfio (norma piccola), occupa poco spazio.
  • Tutti i palloncini puntano nella stessa direzione (l'immagine è la stessa), ma la loro "grandezza" cambia.

Il metodo Mahalanobis tradizionale guarda solo la direzione. Ma a volte, la grandezza del palloncino (la sua distanza dal centro) inganna il sistema.
L'interruttore $\beta$ permette di:

• Sgonfiare i palloncini grandi (se $\beta > 1$): rende tutto più compatto, come se schiacciassi la stanza.
• Gonfiare i palloncini piccoli (se $\beta < 1$): espande la stanza.

Perché è geniale?
Prima, si usava solo un'impostazione fissa (es. "tutti i palloncini devono essere della stessa grandezza", ovvero sulla superficie di una sfera). Ma gli autori hanno scoperto che ogni modello ha bisogno di una grandezza diversa.

• Per il modello A, serve un $\beta$ che sgonfia un po'.
• Per il modello B, serve un $\beta$ che gonfia.

4. Come si sceglie il trucco giusto senza guardare i nemici?

Di solito, per trovare il trucco perfetto, dovresti mostrare al sistema anche degli "estranei" (dati OOD) per vedere cosa succede. Ma questo è pericoloso: non vuoi mostrare al sistema i nemici prima di tempo!

Gli autori hanno creato un metodo intelligente:

1. Guardano solo i clienti abituali (i dati normali).
2. Misurano i due segnali geometrici di cui sopra (strettezza e pendenza) mentre girano l'interruttore $\beta$.
3. Cercano il punto in cui la "geometria" sembra più stabile e ordinata.
4. Usano quel punto come impostazione perfetta.

È come se un architetto, guardando solo la folla dei clienti, capisse: "Ah, se schiaccio un po' la stanza qui, i clienti si raggruppano meglio e gli estranei rimangono fuori". E lo fa senza mai aver visto un estraneo.

In sintesi

Questo paper ci dice che:

1. Non esiste un metodo "taglia unica" per rilevare dati strani.
2. La forma geometrica dei dati normali è la chiave del successo.
3. Possiamo usare un semplice "regolatore di volume" (l'interruttore $\beta$) per adattare la stanza alla forma dei dati.
4. Possiamo trovare la regolazione perfetta guardando solo i dati normali, rendendo i sistemi di sicurezza più affidabili e facili da usare nel mondo reale (come nelle auto a guida autonoma o nella diagnosi medica).

È come passare da un sistema di sicurezza rigido che funziona solo in un edificio specifico, a un sistema flessibile che sa come "piegare" lo spazio per adattarsi a qualsiasi edificio, rendendo tutto molto più sicuro.

Sommario tecnico

1. Il Problema

La rilevazione di dati fuori distribuzione (OOD - Out-of-Distribution) è fondamentale per il deployment affidabile dei modelli di visione artificiale, poiché permette di identificare input che non provengono dalla distribuzione di addestramento, prevenendo previsioni eccessivamente confidenti su dati inaspettati.
Sebbene i rilevatori basati sulla distanza di Mahalanobis rimangano baseline potenti e semplici (post-hoc, senza riaddestramento), le prestazioni variano drasticamente a seconda del modello pre-addestrato e del regime di fine-tuning.
Il problema centrale identificato dagli autori è la mancanza di comprensione su quali proprietà dello spazio delle caratteristiche (feature space) determinino il successo o il fallimento di questi rilevatori. La sensibilità alle rappresentazioni rende difficile un deployment affidabile e universale.

2. Metodologia

Gli autori adottano una prospettiva basata sulla geometria delle rappresentazioni per analizzare e migliorare la rilevazione OOD.

• Studio su larga scala: Hanno valutato diverse varianti di rilevatori Mahalanobis (MD standard, RMD - Relative Mahalanobis, MMD) su una vasta gamma di backbones moderni (ViT, BEiT, EVA, CLIP) con diversi dataset di pre-addestramento (ImageNet-1k, ImageNet-21k, CLIP) e strategie di fine-tuning.
• Analisi Geometrica: Invece di guardare solo i punteggi aggregati, hanno analizzato la struttura interna dello spazio delle caratteristiche:
  • Dimensionalità Intrinseca Locale (LID): Misura il numero di gradi di libertà locali in un vicinato.
  • Struttura Spettrale Within-Class: Analizzano la decadenza degli autovalori della matrice di dispersione intra-classe ($S_w$).
  • Hanno identificato una correlazione tra la geometria della distribuzione In-Distribution (ID) e le prestazioni OOD.
• Meccanismo di Controllo Geometrico: Per modificare la geometria senza cambiare il modello sottostante, introducono una normalizzazione $\ell_2$ scalata radialmente:
  $$\phi_\beta(z) = \frac{z}{\|z\|^\beta}$$
  Dove $\beta$ è un parametro che controlla la contrazione o l'espansione dei raggi (norme) delle feature, preservando le direzioni angolari.
  • $\beta = 0$: Feature originali.
  • $\beta = 1$: Normalizzazione standard sulla sfera unitaria (come in Mahalanobis++).
  • $\beta \neq 1$: Modifica continua della geometria radiale.

3. Contributi Chiave

1. Benchmark Esteso e Analisi Dimensionale: Hanno fornito un benchmark completo che dimostra come le prestazioni non siano universali ma dipendano fortemente dalla rappresentazione. L'analisi per dimensione (per auto-direzioni) rivela che la separazione OOD non deriva sempre dalle direzioni a varianza più alta, ma spesso dalle componenti a bassa varianza pesate inversamente.
2. Sintesi Geometrica ID-Only: Hanno identificato un indicatore composto che prevede consistentemente le prestazioni del rilevatore Mahalanobis su diverse varianti: il prodotto tra la dimensionalità intrinseca locale (LID) e la magnitudine della pendenza spettrale within-class ($|s|$).
   • Formula: $P = m \cdot |s|$.
   • Un valore basso di questo prodotto indica una geometria favorevole alla rilevazione OOD.
3. Normalizzazione Radiale Scalata e Selezione di $\beta$:
   • Introduttione di $\phi_\beta(z)$ come meccanismo per deformare lo spazio delle feature.
   • Proposta di una procedura pratica per selezionare il parametro ottimale $\hat{\beta}$ utilizzando solo dati ID (senza accesso a campioni OOD). La procedura cerca il punto di svolta interno nella curva del proxy geometrico $P(\beta) = m(\beta)|s(\beta)|$.
   • Questo approccio si avvicina alle prestazioni di un "oracolo" (che sceglierebbe $\beta$ basandosi sui veri dati OOD) senza richiedere dati OOD durante la selezione.

4. Risultati Sperimentali

• Variabilità delle Prestazioni: Le prestazioni dei rilevatori Mahalanobis variano notevolmente tra modelli diversi. Ad esempio, il Relative Mahalanobis (RMD) supera spesso lo standard MD, specialmente su modelli pre-addestrati ma non fine-tuned su ImageNet-1k.
• Correlazione Geometrica: È stata confermata una forte correlazione tra il proxy geometrico $m \cdot |s|$ e l'FPR (False Positive Rate) a 95% di recall. Modelli con una combinazione specifica di bassa dimensionalità locale e forte concentrazione spettrale intra-classe performano meglio.
• Efficacia della Selezione di $\beta$:
  • La selezione di $\beta$ basata sul proxy geometrico (RS-MD e RS-RMD) supera sistematicamente le baseline fisse ($\beta=0$ e $\beta=1$) su diversi backbones e dataset OOD (NINCO, iNaturalist, ecc.).
  • In molti casi, la selezione adattiva riduce l'FPR@95 rispetto alla normalizzazione standard o alla proiezione sulla sfera unitaria.
  • Il metodo riduce anche il comportamento "worst-case", rendendo le prestazioni più stabili tra diversi modelli.
• Indipendenza dall'Accuratezza: È stato dimostrato che l'accuratezza di classificazione non è un proxy affidabile per le prestazioni OOD; modelli con alta accuratezza possono avere prestazioni OOD inferiori se la loro geometria interna non è adatta.

5. Significato e Impatto

• Teorico: Il lavoro fornisce una spiegazione meccanistica del perché i rilevatori quadratici come Mahalanobis funzionano o falliscono, collegando le prestazioni alla struttura geometrica interna (spettro e dimensionalità) dello spazio delle feature. Introduce una "lente di stabilità unificata" che scompone il punteggio quadratico in canali di "dimensione" e "stiramento".
• Pratico:
  • Offre un metodo post-hoc semplice ed efficace per migliorare la rilevazione OOD senza riaddestrare il modello.
  • Risolve il problema della scelta del parametro di normalizzazione, fornendo una regola automatica basata solo sui dati di training (ID), cruciale per scenari reali dove i dati OOD non sono disponibili.
  • Migliora l'affidabilità dei sistemi di visione in ambiti critici (es. diagnostica medica, veicoli autonomi) riducendo i falsi positivi su dati inaspettati.

In sintesi, il paper trasforma la rilevazione OOD da un problema di "scommessa" su quale normalizzazione usare a un problema di ottimizzazione geometrica controllata, dimostrando che adattando la geometria radiale delle feature in base alle proprietà intrinseche del modello, si possono ottenere prestazioni superiori e più robuste.