Empirical Evidence for Simply Connected Decision Regions in Image Classifiers

Riepilogo Tecnico: Evidenze Empiriche per Regioni Decisionali Semplamente Connesse nei Classificatori di Immagini

Enunciato del Problema
Mentre lavori empirici precedenti hanno stabilito che le regioni decisionali nelle reti neurali profonde sono connesse per archi (cioè, qualsiasi due immagini della stessa classe predetta possono essere collegate da un percorso continuo all'interno di tale classe), la struttura topologica di ordine superiore rimane incerta. Nello specifico, non è noto se queste regioni siano semplicemente connesse. Una regione è semplicemente connessa se ogni ciclo chiuso al suo interno può essere contratto continuamente a un punto senza uscire dalla regione. Se una regione decisionale contiene "buchi" (cicli non contraibili), ciò implica una topologia più complessa e frammentata che potrebbe influire sull'interpretabilità e sulla robustezza avversariale. Questo articolo affronta la domanda: i cicli chiusi all'interno di una regione decisionale predetta possono essere riempiti da una superficie che preserva l'etichetta?

Metodologia
Gli autori propongono una procedura iterativa di riempimento con mesh quadrate per costruire superfici a risoluzione finita che preservano l'etichetta, delimitate da un dato ciclo di immagini con la stessa etichetta.

1. Impostazione del Problema: Lo spazio di input è lo spazio delle immagini normalizzato. Dato un insieme di quattro immagini ($x_{00}, x_{10}, x_{01}, x_{11}$) assegnate alla stessa etichetta $y$, l'obiettivo è costruire una superficie $S: [0, 1]^2 \to X$ tale che il bordo corrisponda al ciclo e l'interno soddisfi $f(S(u, v)) = y$.
2. Costruzione del Bordo: I quattro angoli definiscono un ciclo. Poiché le linee rette tra immagini con la stessa etichetta possono attraversare i confini decisionali, gli autori costruiscono un ciclo di bordo a tratti lineare inizializzando i vertici lungo i lati e riparando i vertici con etichetta errata utilizzando una proiezione mirata in stile DeepFool all'interno della regione decisionale target.
3. Riempimento della Superficie (Suddivisione Adattiva):
   • Il metodo opera su una griglia dicotomica, partendo da un singolo quadrilatero (quad) definito dal bordo.
   • Controllo della Risoluzione: Un quad è accettato se i suoi vertici sono verificati come appartenenti alla regione target e il suo diametro geometrico (misurato in unità grey-RMS) è inferiore a una soglia $\tau$.
   • Controllo dell'Etichetta: Se la soglia di dimensione non è soddisfatta, l'interpolazione bilineare del quad viene campionata su una griglia adattiva. Se tutti i punti campionati mantengono l'etichetta target, il quad è accettato.
   • Suddivisione: Se il controllo dell'etichetta fallisce, il quad viene suddiviso in quattro quad figli. I nuovi punti medi dei bordi e i punti centrali sono inizializzati tramite interpolazione lineare.
   • Riparazione: Qualsiasi vertice appena creato che cade al di fuori della regione target viene riparato utilizzando un aggiornamento mirato DeepFool seguito da un passo di bisezione per proiettarlo nuovamente all'interno della regione.
4. Confronto Geometrico: Per valutare la complessità geometrica della superficie costruita, gli autori la confrontano con una patch di Coons canonica (un'interpolazione geometrica standard delle quattro curve di bordo). Calcolano il rapporto tra l'area della superficie costruita e l'area della patch di Coons ($\rho$).

Configurazione Sperimentale

• Dataset e Modelli: Il metodo è stato valutato sul set di validazione di ImageNet su sei architetture diverse: ResNet-50, DenseNet-121, EfficientNet-B0, ConvNeXt-Tiny, ViT-B/16 e Swin-T.
• Ambito: Per ogni modello sono stati costruiti 1.000 cicli (uno per ciascuna delle 1.000 classi di ImageNet), per un totale di 6.000 cicli e 24.000 immagini.
• Parametri: La soglia di arresto grey-RMS è stata impostata a $\tau = 0,5$. È stata utilizzata una configurazione di riparazione predefinita (50 iterazioni DeepFool), con una configurazione più forte (200 iterazioni) applicata solo ai fallimenti iniziali.

Risultati Chiave

1. Successo Universale: In tutti e sei i modelli e in tutti i 6.000 cicli testati, la procedura ha costruito con successo una superficie a risoluzione finita che preserva l'etichetta. Il tasso di successo finale è stato del 100% dopo aver applicato la configurazione di riparazione più forte ai pochi fallimenti iniziali.
2. Necessità della Rifinitura Adattiva: Una diagnosi a "livello radice" ha mostrato che l'interpolazione bilineare ingenua (il quad iniziale senza suddivisione) soddisfaceva il vincolo di etichetta solo per una minoranza di cicli (variando dal 6,9% per DenseNet-121 al 42,2% per Swin-T). Ciò conferma che il meccanismo di suddivisione adattiva e riparazione è essenziale.
3. Semplicità Geometrica: Il rapporto di area $\rho$ tra la superficie costruita e la patch di Coons era concentrato vicino a 1. Ciò indica che le superfici che preservano l'etichetta sono geometricamente vicine all'interpolazione naturale del bordo, piuttosto che essere altamente distorte o contorte.
4. Complessità della Mesh: Il numero di quad necessari per riempire i cicli variava in base all'architettura. I modelli basati su Transformer (Swin-T, ViT-B/16) e ConvNeXt-Tiny richiedevano significativamente meno quad (mesh più piccole) rispetto a ResNet-50 o DenseNet-121, suggerendo che le loro regioni decisionali sono localmente più piatte o più coerenti in queste aree campionate.

Significato e Affermazioni
Il documento fornisce forti evidenze empiriche (a risoluzione finita) a supporto dell'ipotesi che le regioni decisionali nei moderni classificatori di immagini non siano solo connesse per archi, ma anche semplicemente connesse.

• Insight Topologico: I risultati suggeriscono che le regioni decisionali sono organizzate in strutture globalmente coerenti in cui i cicli sono contraibili, sfidando l'idea che la vulnerabilità avversariale implichi una frammentazione topologica globale.
• Limitazioni: Gli autori dichiarano esplicitamente che questi risultati sono evidenze empiriche a risoluzione finita, non una prova topologica formale. Il metodo verifica i punti campionati a una specifica scala grey-RMS e non può escludere l'esistenza di buchi più piccoli o cicli non contraibili al di fuori della risoluzione testata o della famiglia di cicli esaminata.
• Implicazioni: I risultati offrono una nuova immagine empirica delle regioni decisionali delle reti neurali, suggerendo che, nonostante la fragilità avversariale locale, la topologia globale di queste regioni potrebbe essere sorprendentemente semplice e ben comportata.

Il lavoro non afferma di provare la connessione semplice per tutti i possibili input o a risoluzione infinita, ma stabilisce piuttosto un pattern robusto attraverso architetture diverse e l'intero spazio delle etichette di ImageNet alla risoluzione testata.