Riepilogo Tecnico: Punteggi di Novità Vendi per il Rilevamento di Input Fuori Distribuzione

Enunciato del Problema

I moderni sistemi di apprendimento automatico spesso mostrano comportamenti imprevedibili quando incontrano input fuori distribuzione (OOD), producendo frequentemente previsioni ad alta confidenza ma errate. Ciò comporta rischi significativi in ambiti ad alto rischio come la guida autonoma, l'imaging medico e la scoperta scientifica. Sebbene il rilevamento OOD sia fondamentale per la sicurezza, i metodi esistenti post-hoc presentano limitazioni:

• Metodi basati sui logit (ad es. Massima Probabilità Softmax, punteggi Energy) ignorano le statistiche delle feature in distribuzione, riducendo l'affidabilità.
• Metodi basati sulla densità nello spazio delle feature (ad es. distanza di Mahalanobis) spesso si basano su assunzioni restrittive riguardo alla geometria delle rappresentazioni (ad es. gaussianità, collasso neurale) che potrebbero non valere per architetture diverse.
• Metodi basati sulla similarità (ad es. k-Nearest Neighbors) comportano un sovraccarico computazionale significativo al momento dell'inferenza.
• Metodi basati sui gradienti richiedono spesso molteplici passaggi in avanti e all'indietro, rendendoli poco pratici per applicazioni sensibili alla latenza.

È necessario un rilevatore OOD post-hoc computazionalmente efficiente che non dipenda da assunzioni distributive restrittive e possa operare efficacemente anche con un accesso limitato ai dati di addestramento.

Metodologia: Il Punteggio di Novità Vendi (VNS)

Gli autori propongono il Punteggio di Novità Vendi (VNS), un rilevatore OOD post-hoc fondato sul concetto di diversità piuttosto che sulla stima della densità. Il VNS sfrutta il Punteggio Vendi (VS), una famiglia di metriche di diversità basate sulla similarità, per quantificare quanto un campione di test aumenti la diversità di un insieme di feature in distribuzione (ID).

Algoritmo Principale

1. Novità Condizionata alla Classe:

   • Per un classificatore addestrato $f_\theta$ con $C$ classi, il metodo estrae gli embedding $h(x)$ dal penultimo strato.
   • Per ogni classe $c$, viene calcolata una matrice di densità condizionata alla classe $\rho_c$ a partire dagli embedding di addestramento di quella classe.
   • La novità di un campione di test $x$ rispetto alla classe $c$ è definita come l'aumento del rapporto logaritmico nel Punteggio Vendi di ordine 2 ($VS_2$) quando $x$ viene aggiunto all'insieme della classe:
     $$\Delta_c(x) = \log VS_2(\rho'_c) - \log VS_2(\rho_c)$$
   • Per garantire l'efficienza, gli autori impiegano un'approssimazione di rango 1. Invece di mantenere l'intero spettro degli autovalori di $\rho_c$, approssimano la variazione di $VS_2$ utilizzando solo il più grande autovalore $\lambda_c$ e il corrispondente autovettore $u_c$. Ciò riduce la complessità del calcolo dei punteggi condizionati alla classe a $O(D)$ per classe.

2. Aggregazione Ponderata per Probabilità:

   • Invece di fare affidamento su una singola classe prevista, il VNS aggrega i punteggi di novità condizionati alla classe utilizzando le probabilità di classe previste dal modello $p(x)$.
   • Il punteggio OOD locale è calcolato come:
     $$S_{\text{LOCAL-OOD}}(x) = \sum_{c \in T_K(x)} N_c p_c(x)^\gamma \Delta_c(x)$$
     dove $T_K(x)$ rappresenta le $K$ classi previste principali, $N_c$ è la dimensione della classe (usata per il ridimensionamento) e $\gamma$ controlla la nitidezza dell'aggregazione.

3. Correzione della Diversità Globale:

   • Per tenere conto delle variazioni di densità globale, viene calcolato un punteggio di novità globale basato sulla variazione di $VS_\infty$ (che dipende dal massimo autovalore della matrice di densità globale) quando il campione di test viene aggiunto all'intero dataset.
   • Il punteggio VNS finale combina segnali locali e globali:
     $$\text{VNS}(x) = S_{\text{LOCAL-OOD}}(x) - g \cdot S_{\text{GLOBAL-OOD}}(x)$$
     dove $g \in \{0, 1\}$ è un coefficiente binario che determina se applicare la correzione globale.

Complessità

• Complessità Temporale: $O(CD)$, dove $C$ è il numero di classi e $D$ è la dimensione dell'embedding. Questo è lineare in entrambi i parametri, rendendolo significativamente più veloce dei metodi basati su Mahalanobis ($O(CD^2)$) e degli approcci k-NN.
• Complessità Spaziale: $O(CD)$, poiché richiede solo la memorizzazione del massimo autovalore e del corrispondente autovettore per ogni classe.

Contributi Chiave

1. Nuovo Paradigma: Introduce una prospettiva basata sulla diversità per il rilevamento OOD, allontanandosi dalla modellazione tradizionale della densità o dall'analisi dei logit.
2. Punteggio di Novità Vendi (VNS): Propone un algoritmo specifico che quantifica la novità attraverso l'impatto di un campione di test sulla diversità delle rappresentazioni, utilizzando efficienti approssimazioni di rango 1 del Punteggio Vendi.
3. Integrazione di Segnali Ibridi: Combina segnali di novità locali (condizionati alla classe) e globali, ponderati dalle probabilità predittive, per migliorare la robustezza.
4. Efficienza dei Dati: Dimostra che il VNS mantiene prestazioni all'avanguardia anche quando calcolato utilizzando solo l'1% dei dati di addestramento, consentendo il deployment in ambienti con vincoli di memoria.
5. Validazione Teorica ed Empirica: Fornisce una giustificazione teorica per l'approssimazione di rango 1 e un'ampia validazione empirica su più dataset e architetture.

Risultati Sperimentali

Gli autori hanno valutato il VNS su benchmark OOD standard: CIFAR-10, CIFAR-100 e ImageNet-1K, utilizzando architetture tra cui ResNet, ViT e Swin-T.

• Prestazioni: Il VNS ha raggiunto prestazioni all'avanguardia (SOTA) su CIFAR-10 e risultati competitivi su CIFAR-100. Sul benchmark ImageNet-1K, il VNS ha ridotto il Tasso di Falsi Positivi al 95% di Tasso di Vero Positivo (FPR@95) del 13% rispetto al secondo algoritmo con le migliori prestazioni in media.
• Robustezza: A differenza di alcuni metodi di modellazione dell'attivazione che funzionano bene su ResNet ma degradano sui Transformer, il VNS ha dimostrato prestazioni coerenti su diverse architetture (ResNet, ViT, Swin-T).
• Efficienza: Il VNS è ordini di grandezza più veloce del secondo metodo più accurato (RMDS++) e ha una latenza paragonabile ai metodi basati solo sui logit (ad es. GEN, NCI).
• Scarsità di Dati: Quando addestrato solo sull'1% dei dati di addestramento di ImageNet, il VNS ha raggiunto un AUROC medio del 88,96%, quasi identico alle sue prestazioni con accesso completo ai dati (88,59% AUROC).

Significato e Affermazioni

Il documento afferma che il VNS offre una soluzione principale, efficiente e robusta per il rilevamento OOD. Il suo significato risiede in:

• Evitare Assunzioni Restrittive: Affidandosi a metriche di diversità piuttosto che ad assunzioni di densità gaussiana, il VNS è meno sensibile alle violazioni delle assunzioni geometriche comuni nelle rappresentazioni di deep learning.
• Deployment Pratico: La complessità lineare nel tempo e la capacità di funzionare con dati di addestramento minimi rendono il VNS adatto a scenari reali in cui l'accesso ai dati di addestramento è limitato o la latenza è critica.
• Sicurezza: Il metodo fornisce un meccanismo per i sistemi ML per identificare input oltre la loro competenza, innescando risposte più sicure come l'astensione o l'escalation umana.

Gli autori notano alcune limitazioni, inclusa la necessità di ottimizzazione degli iperparametri (che affrontano tramite un set di validazione automatizzato) e la dipendenza dal kernel coseno. Sottolineano che, sebbene il VNS migliori la sicurezza, non è una soluzione completa e dovrebbe far parte di un protocollo di sicurezza più ampio che includa monitoraggio e supervisione umana.