Sintesi Tecnica: Una Unificazione Geometrica dell'Apprendimento di Concetti con i Coni dei Concetti

Definizione del Problema

Il documento affronta la sfida di interpretare le reti neurali profonde colmando il divario tra due paradigmi dominanti ma distinti nell'apprendimento dei concetti: i Modelli a Collo di Bottiglia dei Concetti (CBM - Concept Bottleneck Models) e gli Autoencoder Sparsi (SAE - Sparse Autoencoders).

• I CBM sono metodi supervisionati che impongono l'interpretabilità allineando le attivazioni del modello con concetti etichettati dall'uomo. Sebbene forniscano una struttura semantica esplicita, si basano su tassonomie predefinite che possono essere incomplete o disallineate con le rappresentazioni interne del modello.
• Gli SAE sono metodi non supervisionati che scoprono concetti emergenti apprendendo rappresentazioni lineari sparse su un dizionario sovradimensionato (overcomplete). Sebbene scalabili, soffrono di non-identificabilità: molti dizionari diversi possono ricostruire le attivazioni con un errore simile, rendendo difficile determinare se i concetti appresi siano significativi. Inoltre, gli SAE sono instabili, dove piccole variazioni negli iperparametri (sparsità, dimensione del dizionario) producono decomposizioni profondamente diverse.

Attualmente, non esiste un modo sistematico per confrontare questi approcci supervisionati e non supervisionati o per valutare se un SAE non supervisionato abbia scoperto concetti "plausibili" per l'uomo senza una completa verità fondamentale (ground truth).

Metodologia: Il Framework del Cono dei Concetti

Gli autori propongono un framework geometrico unificato basato sull'apprendimento del dizionario e sui coni dei concetti per analizzare entrambi i paradigmi.

1. Unificazione Geometrica

Il documento postula che sia i CBM che gli SAE risolvano lo stesso problema inverso: decomporre i vettori di attivazione in combinazioni lineari non negative di direzioni di concetto.

• Visione dell'Apprendimento del Dizionario: Entrambi i metodi apprendono un dizionario (le righe sono direzioni di concetto) e codici (coefficienti).
• Non-negatività: Entrambi impongono codici non negativi ($c \geq 0$). Nei CBM, questo è imposto dalla funzione di attivazione (es. sigmoid/ReLU); negli SAE, è un vincolo esplicito.
• Cono dei Concetti: L'insieme di tutte le possibili attivazioni rappresentabili da un dizionario $D$ forma un cono dei concetti, definito come l'inviluppo conico del dizionario degli atomi:
  $$C_D = \{ v \in \mathbb{R}^d : v = \alpha^\top D, \alpha \in \mathbb{R}^c_+ \}$$
  Questa geometria unifica i due approcci: essi differiscono non nella struttura che apprendono, ma nel modo in cui selezionano lo specifico cono.

2. Ancoraggio Parziale tramite CBM

Poiché gli SAE sono non-identificabili, gli autori utilizzano i CBM come ancore geometriche parziali. L'ipotesi centrale è che una "buona" decomposizione SAE debba contenere le direzioni dei concetti apprese da un CBM all'interno del proprio cono dei concetti. Nello specifico, un sottoinsieme di atomi SAE dovrebbe essere in grado di ricostruire i concetti CBM tramite combinazioni sparse e non negative. Ciò non richiede un allineamento perfetto uno-a-uno, quanto piuttosto che la struttura plausibile per l'uomo esista all'interno dello spazio rappresentazionale dell'SAE.

3. Operazionalizzazione: Metriche

Per quantificare l'allineamento tra il cono SAE ($C_{SAE}$) e il cono CBM ($C_{CBM}$), gli autori introducono una suite di metriche complementari:

• Copertura (Coverage): Misura l'estensione in cui le direzioni dei concetti CBM giacciono all'interno del cono SAE. È calcolata risolvendo un problema di ricostruzione non negativa sparsa per ogni concetto CBM rispetto al dizionario SAE. Un'alta copertura implica che l'SAE può rappresentare i concetti CBM.
• Allineamento Geometrico ($\rho_{geom}$): Misura la somiglianza direzionale tra i singoli atomi SAE e i concetti CBM (usando la correlazione). Una versione top-$k$ permette mappature uno-a-molti o molti-a-uno.
• Allineamento di Attivazione ($\rho_{act}$): Misura se i concetti SAE e CBM si attivano su campioni di dati simili, tenendo conto delle differenze tra encoder e soglie.
• Predicibilità della Regressione ($R^2$): Adatta una mappa lineare dalle attivazioni SAE alle attivazioni CBM per misurare la preservazione globale dell'informazione.
• Accordo a livello di Campione (Sample-level Agreement): Calcola precisione, richiamo e punteggio F1 basandosi sui concetti top-$k$ attivi per ogni campione, mappando gli indici SAE ai concetti CBM.

Gli autori sottolineano che nessuna singola metrica è sufficiente; ad esempio, un'alta copertura può verificarsi con dizionari casuali (inflazione artificiale), mentre un alto allineamento geometrico non garantisce schemi di attivazione significativi.

Contributi Chiave

1. Framework Unificato: Dimostra che i CBM e gli SAE sono istanze della stessa struttura geometrica (apprendimento di un cono nello spazio delle attivazioni tramite apprendimento di dizionari non negativi).
2. Ipotesi di Allineamento Parziale: Formalizza l'idea che un SAE sia plausibile se un sottoinsieme sparso dei suoi atomi può recuperare concetti CBM validati indipendentemente, fungendo da controllo di sanità contro la non-identificabilità.
3. Metriche Diagnostiche: Introduce un insieme di metriche (Copertura, Allineamento Geometrico/Attivazione, $R^2$, Accordo a livello di Campione) e fornisce chiarimenti teorici su cosa misurano e sui loro limiti.
4. Linee Guida Empiriche: Attraverso estesi benchmark, identifica i "punti ottimali" (sweet spots) nel design degli SAE (sparsità e fattori di espansione) che recuperano meglio la struttura rilevante per l'uomo.

Risultati Sperimentali

Gli autori hanno valutato il loro framework su backbone di visione (ResNet-50, ViT, DINOv2) addestrati su ImageNet e CUB (Caltech-UCSD Birds). Hanno confrontato varie varianti di SAE (Vanilla, TopK, BatchTopK, JumpReLU, Matching Pursuit, Archetypal).

• Controllo di Sanità: Gli SAE addestrati hanno mostrato un allineamento con i CBM significativamente migliore rispetto agli SAE inizializzati casualmente. In particolare, gli SAE casuali hanno mostrato una Copertura artificialmente alta ma un basso allineamento e $R^2$, confermando che la copertura da sola è insufficiente e deve essere accoppiata ad altre metriche.
• Varianti SAE: Gli SAE JumpReLU e Vanilla hanno generalmente ottenuto una copertura superiore e un allineamento geometrico competitivo. L'analisi Archetypal ha mostrato punteggi F1 migliori.
• Compromesso di Sparità: Esiste una tensione tra sparsità e completezza. Una sparsità aggressiva (pochissime unità attive) produce un alto allineamento geometrico (prototipi localizzati) ma una minore copertura. Una sparsità meno restrittiva migliora la copertura e la ricostruzione ma disperde la struttura. Un regime di sparsità intermedia (circa lo 0,01–0,05% di unità attive) ha fornito il miglior equilibrio.
• Fattore di Espansione: Aumentare la dimensione del dizionario (fattore di espansione) ha migliorato la copertura e $R^2$ fino a un certo punto. Un fattore di espansione di 2x è stato identificato come il punto ottimale; oltre questo valore, l'allineamento direzionale ha iniziato a diffondersi.
• Analisi per Livello: In ResNet-50, gli strati più profondi (specificamente lo Strato 4, dopo l'ultimo pooling) hanno mostrato il più forte allineamento semantico con i concetti CBM, catturando caratteristiche di alto livello. Gli strati inferiori hanno catturato attributi di basso livello (bordi, colori) che si allineavano geometricamente ma mancavano di corrispondenza semantica con la tassonomia CBM.

Significato e Rivendicazioni

Il documento sostiene di fornire una base geometrica principiata per valutare la scoperta di concetti non supervisionata. Trattando i CBM non come una verità assoluta ma come un "ancoraggio semantico parziale", il lavoro offre un'alternativa strutturata alle pratiche esistenti per la valutazione degli SAE.

Gli autori sostengono che l'interpretabilità non richieda di scegliere tra supervisione (CBM) e scoperta (SAE). Al contrario, la strada da seguire risiede nell'armonizzare i due: utilizzare i concetti supervisionati per validare e guidare la scoperta non supervisionata all'interno di un framework geometrico condiviso. Questo approccio consente ai ricercatori di identificare i bias induttivi (come specifici meccanismi di sparsità o rapporti di espansione) che producono sistematicamente dizionari di concetti più plausibili e allineati con l'uomo.

Il lavoro conclude che, sebbene i CBM non siano verità fondamentali perfette (a causa del bias umano e dei limiti di annotazione), essi forniscono un punto di riferimento necessario per distinguere le decomposizioni significative dalle infinite possibilità consentite dalla non-identificabilità. Le metriche proposte servono come strumenti diagnostici per navigare i compromessi tra espressività e interpretabilità nelle moderne reti neurali.