Riepilogo Tecnico: Una Prospettiva Distribuzionale per l'Interpretabilità Meccanicistica Visiva

1. Enunciato del Problema

I paradigmi attuali nell'interpretabilità meccanicistica visiva (MI) faticano a bilanciare fedeltà (riflettere accuratamente come un modello attiva specifiche caratteristiche) e interpretabilità (produrre visualizzazioni comprensibili all'uomo). I metodi esistenti si basano tipicamente su approcci euristici che affrontano un compromesso fondamentale:

• Ricerca nel Dataset: Recupera esempi ad alta attivazione da dataset finiti. Sebbene percettivamente plausibili, questi approcci soffrono di bias di confine e instabilità della soglia, spesso fallendo nel catturare l'intera distribuzione della semantica di una caratteristica.
• Ottimizzazione con Regularizzazione (Massimizzazione dell'Attivazione): Sintetizza input per massimizzare l'attivazione della caratteristica. Sebbene altamente fedeli al punteggio di attivazione, questi metodi producono spesso "super-stimoli" o artefatti ad alta frequenza che si discostano significativamente dalla distribuzione delle immagini naturali, rendendoli percettivamente ininterpretabili.
• Generazione Guidata da Proxy (es. Diffusione basata su Prompt): Utilizza prompt testuali per guidare i modelli di diffusione. Ciò introduce un collo di bottiglia informativo e un divario semantico, poiché i prompt testuali non possono catturare completamente caratteristiche interne fini, non verbali o polisemantiche (es. caratteristiche SAE).

Il problema fondamentale è che questi metodi trattano l'interpretazione delle caratteristiche come un compito di riconoscimento di pattern su base di singolo campione piuttosto che come un problema di inferenza distribuzionale, portando a spiegazioni che sono o meccanicisticamente infedeli o percettivamente ininterpretabili.

2. Metodologia

2.1. La Prospettiva Distribuzionale

Gli autori propongono di riformulare la MI visiva come un problema di ottimizzazione minimale di Kullback-Leibler (KL). Invece di trovare una singola "migliore" immagine, l'obiettivo è identificare una distribuzione indotta $q$ che soddisfi due obiettivi in competizione:

1. Fedeltà: $q$ deve concentrarsi su input che attivano fortemente il punteggio intrinseco $s(x)$ (es. un'attivazione di una caratteristica SAE).
2. Interpretabilità: $q$ deve rimanere vicina alla prior delle immagini naturali $p(x)$ per garantire la percettibilità umana.

Questa visione scompone i paradigmi MI in tre dimensioni ortogonali:

• Oggetto di Studio: Cosa viene interpretato (es. neuroni vs caratteristiche SAE).
• Formulazione del Vincolo: Come viene imposta la fedeltà (vincoli rigidi vs vincoli morbidi).
• Metodologia di Campionamento: Come viene istanziata la distribuzione indotta (recupero, ottimizzazione o diffusione).

2.2. Il Principio del Vincolo Morbido Minimale-KL (KLSC)

Per risolvere i bias dei metodi precedenti, il documento introduce il Principio KLSC. A differenza dei metodi a vincolo rigido (che troncano la distribuzione a una soglia $m$, ovvero $s(x) > m$), KLSC impiega un vincolo morbido che richiede che l'attivazione attesa raggiunga un livello target: $\mathbb{E}_{q}[s(X)] \geq m$.

Teoricamente, la soluzione unica per minimizzare $KL(q \| p)$ sotto questo vincolo morbido è una distribuzione esponenzialmente inclinata:
$$q_{\beta}(x) \propto p(x) \exp(\beta s(x))$$
dove $\beta$ è un moltiplicatore di Lagrange che controlla l'intensità della guida.

Vantaggi Teorici di KLSC rispetto ai Vincoli Rigidi:

• Ridotto Bias di Confine: I vincoli rigidi concentrano la massa di probabilità in un guscio sottile vicino alla soglia (la regione "appena attivata"), mentre KLSC distribuisce la massa in modo più fluido, riducendo la sensibilità a piccole variazioni della soglia.
• Stabilità della Soglia: I vincoli rigidi inducono salti discontinui nella divergenza KL e nella distanza di Variazione Totale (TV) quando la soglia viene perturbata. KLSC forma una famiglia esponenziale fluida, garantendo continuità locale.
• Divario di Interpretabilità: Anche quando confrontati per fedeltà attesa, la soluzione KLSC minimizza la deviazione dalla prior delle immagini naturali $p$ in modo più efficace rispetto alle soluzioni troncate rigidamente.

2.3. Evitare l'Iniezione di Task e Colli di Bottiglia dei Proxy

Il documento si oppone all'iniezione di obiettivi di task esterni (es. etichette di classificazione o prompt testuali) nel processo di interpretazione.

• Deriva dell'Oggetto: Iniettare un punteggio di task $f_c(x)$ (es. allineamento CLIP) distorce la distribuzione indotta intrinseca. Il documento dimostra che soddisfare una richiesta di task comporta un costo KL strettamente positivo, portando a spiegazioni che riflettono il task piuttosto che il meccanismo intrinseco.
• Collo di Bottiglia del Prompt: I metodi guidati da proxy limitano lo spazio di ricerca a una famiglia parametrizzata dal prompt $Q_{prompt}$. Il documento dimostra che questa famiglia spesso non può rappresentare caratteristiche fini o polisemantiche, portando a campioni infedeli.

2.4. Campionamento dal Posterior Guidato dall'Energia (EnergyDPS)

Per realizzare praticamente il principio KLSC, gli autori propongono EnergyDPS.

• Meccanismo: Tratta il punteggio intrinseco $s(x)$ (es. attivazione di una caratteristica SAE) come una funzione di energia.
• Processo: Sfrutta il Campionamento dal Posterior di Diffusione (DPS). Invece di ottimizzare un prompt testuale, EnergyDPS inietta il gradiente del punteggio intrinseco, $\nabla_x s(\hat{x}_0)$, direttamente nel processo di diffusione inversa ad ogni passo.
• Vantaggio: Ciò permette di campionare direttamente dalla distribuzione indotta da KLSC senza la perdita di informazioni associata ai prompt testuali o il bias di ricerca di modalità dell'ottimizzazione punto per punto. È privo di addestramento e applicabile a qualsiasi punteggio intrinseco differenziabile.

3. Contributi Chiave

1. Prospettiva Distribuzionale per la MI Visiva: Il documento stabilisce un quadro teorico che modella l'interpretazione delle caratteristiche come un problema di inferenza distribuzionale minimale-KL, identificando bias statistici sistematici (bias di confine, instabilità della soglia e divari di interpretabilità) nei paradigmi esistenti.
2. Principio del Vincolo Morbido Minimale-KL (KLSC): Una nuova formulazione del vincolo che bilancia teoricamente fedeltà e interpretabilità cercando la distribuzione più vicina alla prior naturale mentre soddisfa un vincolo di attivazione attesa.
3. Algoritmo EnergyDPS: Un campionatore pratico e privo di addestramento che realizza il principio KLSC utilizzando modelli di diffusione. Evita i colli di bottiglia informativi dei metodi basati su prompt e gli artefatti dei metodi basati su ottimizzazione.
4. Tassonomia Unificata: Una categorizzazione sistematica dei metodi MI visiva basata sul loro oggetto di studio, formulazione del vincolo e metodologia di campionamento, chiarificando perché i metodi precedenti non riescono a raggiungere simultaneamente fedeltà e interpretabilità.

4. Risultati Sperimentali

Gli autori hanno valutato EnergyDPS sulle caratteristiche DINOv3 ResNeXt Large utilizzando un transcodificatore (una variante SAE).

• Metriche Quantitative:
  • Fedeltà: EnergyDPS ha raggiunto livelli di attivazione comparabili ai baseline (MACO, DiffExplainer) quando calibrato.
  • Interpretabilità: EnergyDPS ha superato significativamente i baseline su QualiCLIP (interpretabilità percettiva) e NRQM (metrica di qualità senza riferimento). Ad esempio, su caratteristiche casuali, EnergyDPS ha ottenuto un punteggio QualiCLIP di 0.5791 rispetto a 0.4228 per MACO e 0.3259 per DiffExplainer.
• Studio di Interpretabilità in Cieco:
  • Valutatori umani e AI (GPT-5.4, Gemini-3-flash-lite) hanno valutato set di immagini generate per concetti semantici condivisi.
  • EnergyDPS ha ricevuto i punteggi di interpretabilità più alti (es. 2.92 da umani contro 1.92 per MACO) e la varianza pesata più bassa nelle descrizioni semantiche, indicando concetti condivisi più coerenti e chiari.
• Validazione su Modello Giocattolo:
  • Esperimenti su un Modello a Mixture Gaussiana 2D (GMM) hanno confermato le previsioni teoriche: i vincoli rigidi hanno mostrato una massa di confine più elevata e instabilità TV rispetto al percorso KLSC fluido.
• Studi di Ablazione:
  • Robustezza del Livello: EnergyDPS è rimasto efficace su diversi livelli della rete.
  • Dipendenza dalla Prior: L'uso di una prior distorta (volti FFHQ) ha degradato i risultati, confermando l'importanza di una prior delle immagini naturali allineata con la distribuzione di addestramento del modello.
  • Deriva dell'Oggetto: Gli esperimenti hanno mostrato che l'aggiunta di iniezione di task (prompt CLIP o riferimenti a livello di pixel) ha causato significativi spostamenti semantici anche quando l'attivazione intrinseca era abbinata, validando la necessità di obiettivi esclusivamente intrinseci.

5. Significato e Affermazioni

Il documento afferma che il suo contributo principale è un cambiamento fondamentale di prospettiva dalla visualizzazione euristica all'inferenza distribuzionale.

• Solidità Teorica: Gli autori sostengono che i fallimenti precedenti nella MI visiva derivino da bias strutturali nella formulazione del vincolo (rigido vs morbido) e nel campionamento (recupero/ottimizzazione vs campionamento distribuzionale). Il principio KLSC fornisce una base matematica rigorosa per bilanciare fedeltà e interpretabilità.
• Efficacia Pratica: EnergyDPS dimostra che è possibile generare visualizzazioni che sono sia altamente fedeli ai meccanismi interni del modello sia percettivamente naturali, superando i metodi all'avanguardia sulle caratteristiche DINOv3.
• Limitazioni: Gli autori riconoscono modestamente che, sebbene le immagini naturali forniscano uno spazio di riferimento con minima perdita, potrebbero non catturare completamente tutti i concetti comprensibili all'uomo (es. evidenze non naturali ma rilevanti per il modello). Inoltre, EnergyDPS comporta un costo computazionale dovuto al processo di campionamento di diffusione, rendendolo più lento dei baseline basati su ottimizzazione.

In sintesi, il documento postula che la comprensione delle caratteristiche visive richiede la modellazione di come esse rimodellano la distribuzione delle immagini naturali, e che il principio KLSC combinato con EnergyDPS offre una soluzione teoricamente fondata e praticamente efficace a questa sfida.