Resumo Técnico: Uma Perspectiva Distribucional para a Interpretabilidade Mecanística Visual

1. Declaração do Problema

Os paradigmas atuais na interpretabilidade mecânica visual (IM) lutam para equilibrar fidelidade (refletir com precisão como um modelo ativa características específicas) e interpretabilidade (produzir visualizações compreensíveis por humanos). Os métodos existentes geralmente dependem de abordagens heurísticas que enfrentam um trade-off fundamental:

• Busca em Conjunto de Dados: Recupera exemplos de alta ativação de conjuntos de dados finitos. Embora perceptualmente plausíveis, essa abordagem sofre de viés de fronteira e instabilidade de limiar, frequentemente falhando em capturar a distribuição completa da semântica de uma característica.
• Otimização com Regularização (Maximização de Ativação): Sintetiza entradas para maximizar a ativação de uma característica. Embora altamente fiel à pontuação de ativação, esses métodos frequentemente produzem "super-estímulos" ou artefatos de alta frequência que se desviam significativamente da distribuição de imagens naturais, tornando-os perceptualmente não interpretáveis.
• Geração Guiada por Proxy (ex.: Difusão Baseada em Prompts): Utiliza prompts de texto para orientar modelos de difusão. Isso introduz um gargalo de informação e uma lacuna semântica, pois prompts de texto não conseguem capturar completamente características internas finas, não verbais ou polissêmicas (ex.: características de SAE).

O problema central é que esses métodos tratam a interpretação de características como uma tarefa de reconhecimento de padrões por amostra, em vez de um problema de inferência distribucional, levando a explicações que são ou mecanicamente não fiéis ou perceptualmente não interpretáveis.

2. Metodologia

2.1. A Perspectiva Distribucional

Os autores propõem reformular a IM visual como um problema de otimização mínimo de Kullback-Leibler (KL). Em vez de encontrar uma única imagem "melhor", o objetivo é identificar uma distribuição induzida $q$ que satisfaça dois objetivos concorrentes:

1. Fidelidade: $q$ deve se concentrar em entradas que ativam fortemente a pontuação intrínseca $s(x)$ (ex.: uma ativação de característica de SAE).
2. Interpretabilidade: $q$ deve permanecer próxima ao prior de imagem natural $p(x)$ para garantir a percepção humana.

Essa visão decompõe os paradigmas de IM em três dimensões ortogonais:

• Objeto de Estudo: O que está sendo interpretado (ex.: neurônios vs. características de SAE).
• Formulação de Restrição: Como a fidelidade é imposta (restrições duras vs. suaves).
• Metodologia de Amostragem: Como a distribuição induzida é instanciada (recuperação, otimização ou difusão).

2.2. O Princípio de Restrição Suave Mínima de KL (KLSC)

Para resolver os vieses dos métodos anteriores, o artigo introduz o Princípio KLSC. Diferentemente de métodos de restrição dura (que truncam a distribuição em um limiar $m$, ou seja, $s(x) > m$), o KLSC emprega uma restrição suave exigindo que a ativação esperada atinja um nível-alvo: $\mathbb{E}_{q}[s(X)] \geq m$.

Teoricamente, a solução única para minimizar $KL(q \| p)$ sob essa restrição suave é uma distribuição exponencialmente inclinada:
$$q_{\beta}(x) \propto p(x) \exp(\beta s(x))$$
onde $\beta$ é um multiplicador de Lagrange que controla a força da orientação.

Vantagens Teóricas do KLSC sobre Restrições Duras:

• Redução do Viés de Fronteira: Restrições duras concentram a massa de probabilidade em uma camada fina perto do limiar (a região "apenas-ativada"), enquanto o KLSC distribui a massa de forma mais suave, reduzindo a sensibilidade a pequenas mudanças de limiar.
• Estabilidade de Limiar: Restrições duras induzem saltos descontínuos na divergência KL e na distância de Variação Total (TV) quando o limiar é perturbado. O KLSC forma uma família exponencial suave, garantindo continuidade local.
• Lacuna de Interpretabilidade: Mesmo quando equiparados em fidelidade esperada, a solução KLSC minimiza o desvio do prior de imagem natural $p$ de forma mais eficaz do que soluções truncadas duramente.

2.3. Evitando Injeção de Tarefa e Gargalos de Proxy

O artigo argumenta contra a injeção de objetivos de tarefa externos (ex.: rótulos de classificação ou prompts de texto) no processo de interpretação.

• Deriva de Objeto: Injetar uma pontuação de tarefa $f_c(x)$ (ex.: alinhamento CLIP) distorce a distribuição induzida intrínseca. O artigo prova que atender a uma demanda de tarefa incorre em um custo KL estritamente positivo, levando a explicações que refletem a tarefa em vez do mecanismo intrínseco.
• Gargalo de Prompt: Métodos guiados por proxy restringem o espaço de busca a uma família parametrizada por prompt $Q_{prompt}$. O artigo demonstra que essa família frequentemente não consegue representar características finas ou polissêmicas, levando a amostras não fiéis.

2.4. Amostragem Posterior de Difusão Guiada por Energia (EnergyDPS)

Para realizar o princípio KLSC na prática, os autores propõem o EnergyDPS.

• Mecanismo: Trata a pontuação intrínseca $s(x)$ (ex.: ativação de característica de SAE) como uma função de energia.
• Processo: Aproveita a Amostragem Posterior de Difusão (DPS). Em vez de otimizar um prompt de texto, o EnergyDPS injeta o gradiente da pontuação intrínseca, $\nabla_x s(\hat{x}_0)$, diretamente no processo de difusão reversa em cada etapa.
• Vantagem: Isso permite amostrar diretamente da distribuição induzida pelo KLSC, sem a perda de informação associada a prompts de texto ou o viés de busca de modo da otimização ponto a ponto. É livre de treinamento e aplicável a qualquer pontuação intrínseca diferenciável.

3. Contribuições Principais

1. Perspectiva Distribucional para IM Visual: O artigo estabelece um quadro teórico que modela a interpretação de características como um problema de inferência distribucional mínimo de KL, identificando vieses estatísticos sistemáticos (viés de fronteira, instabilidade de limiar e lacunas de interpretabilidade) nos paradigmas existentes.
2. Princípio de Restrição Suave Mínima de KL (KLSC): Uma nova formulação de restrição que equilibra teoricamente fidelidade e interpretabilidade buscando a distribuição mais próxima do prior natural enquanto satisfaz uma restrição de ativação esperada.
3. Algoritmo EnergyDPS: Um amostrador prático e livre de treinamento que realiza o princípio KLSC usando modelos de difusão. Evita os gargalos de informação dos métodos baseados em prompts e os artefatos dos métodos baseados em otimização.
4. Taxonomia Unificada: Uma categorização sistemática dos métodos de IM visual baseada em seu objeto de estudo, formulação de restrição e metodologia de amostragem, esclarecendo por que os métodos anteriores falham em alcançar simultaneamente fidelidade e interpretabilidade.

4. Resultados Experimentais

Os autores avaliaram o EnergyDPS em características DINOv3 ResNeXt Large usando um transcodificador (uma variante de SAE).

• Métricas Quantitativas:
  • Fidelidade: O EnergyDPS alcançou níveis de ativação comparáveis aos baselines (MACO, DiffExplainer) quando calibrado.
  • Interpretabilidade: O EnergyDPS superou significativamente os baselines no QualiCLIP (interpretabilidade perceptual) e no NRQM (métrica de qualidade sem referência). Por exemplo, em características aleatórias, o EnergyDPS alcançou uma pontuação QualiCLIP de 0,5791, comparado a 0,4228 para o MACO e 0,3259 para o DiffExplainer.
• Estudo Cego de Interpretabilidade:
  • Avaliadores humanos e de IA (GPT-5.4, Gemini-3-flash-lite) avaliaram conjuntos de imagens geradas quanto a conceitos semânticos compartilhados.
  • O EnergyDPS recebeu as maiores pontuações de interpretabilidade (ex.: 2,92 de humanos vs. 1,92 para o MACO) e a menor variância ponderada nas descrições semânticas, indicando conceitos compartilhados mais consistentes e claros.
• Validação em Modelo Toy:
  • Experimentos em um Modelo de Mistura Gaussiana 2D (GMM) confirmaram previsões teóricas: restrições duras exibiram maior massa de fronteira e instabilidade de TV em comparação com o caminho suave do KLSC.
• Estudos de Ablação:
  • Robustez de Camada: O EnergyDPS permaneceu eficaz em diferentes camadas da rede.
  • Dependência de Prior: O uso de um prior enviesado (rostos FFHQ) degradou os resultados, confirmando a importância de um prior de imagem natural alinhado com a distribuição de treinamento do modelo.
  • Deriva de Objeto: Experimentos mostraram que adicionar injeção de tarefa (prompts CLIP ou referências em nível de pixel) causou deslocamentos semânticos significativos mesmo quando a ativação intrínseca foi equiparada, validando a necessidade de objetivos puramente intrínsecos.

5. Significado e Alegações

O artigo afirma que sua contribuição principal é uma mudança fundamental de perspectiva da visualização heurística para a inferência distribucional.

• Solvência Teórica: Os autores argumentam que as falhas anteriores na IM visual decorrem de vieses estruturais na formulação de restrições (duras vs. suaves) e na amostragem (recuperação/otimização vs. amostragem distribucional). O princípio KLSC fornece uma base matemática rigorosa para equilibrar fidelidade e interpretabilidade.
• Eficácia Prática: O EnergyDPS demonstra que é possível gerar visualizações que são tanto altamente fiéis aos mecanismos internos do modelo quanto perceptualmente naturais, superando os métodos mais avançados em características DINOv3.
• Limitações: Os autores reconhecem modestamente que, embora imagens naturais forneçam um espaço de referência minimamente perdedor, elas podem não capturar completamente todos os conceitos compreensíveis por humanos (ex.: evidências não naturais, mas relevantes para o modelo). Além disso, o EnergyDPS incorre em um custo computacional devido ao processo de amostragem de difusão, tornando-o mais lento do que os baselines baseados em otimização.

Em resumo, o artigo postula que entender características visuais requer modelar como elas remodelam a distribuição de imagens naturais, e que o princípio KLSC combinado com o EnergyDPS oferece uma solução teoricamente fundamentada e praticamente eficaz para esse desafio.