Resumo Técnico: Estruturando a Esparsidade: Featurizadores de Esparsidade em Bloco

1. Declaração do Problema

Os métodos atuais de interpretabilidade, particularmente os Autoencoders Esparsos (SAEs), decompõem as ativações de redes neurais em combinações esparsas de direções isoladas (átomos). Esta abordagem assume que os conceitos são representados por vetores únicos no espaço de ativação. No entanto, trabalhos recentes sugerem que os conceitos neurais frequentemente possuem uma geometria interna, manifestando-se como variedades (manifolds) de baixa dimensão, regiões convexas ou características densas, em vez de apenas direções isoladas.

Isso cria um descompasso entre a fenomenologia das representações neurais (estruturadas, multidimensionais) e o aparato utilizado para analisá-las (direções isoladas). O artigo postula que tratar conceitos como uma única direção força uma visão "fragmentada", onde um único conceito é estilhaçado em muitos átomos, falhando em capturar a geometria intrínseca e a variação contínua dentro de um conceito.

2. Metodologia

2.1 Fundamentação Teórica: Esparsidade Estruturada

Os autores propõem os Featurizadores de Esparsidade em Bloco (BSFs) para preencher essa lacuna. Baseando-se na literatura sobre esparsidade estruturada (especamente esparsidade de grupo), eles hipotetizam que as ativações neurais são geradas como uma soma esparsa de variedades de baixa dimensão.

• Processo Gerador de Dados (DGP): Uma ativação $x$ é modelada como $x = \sum_{i \in S} m_i + \epsilon$, onde $m_i$ reside em uma variedade $M_i$ de baixa dimensão e $S$ é um pequeno conjunto de fatores ativos.
• Derivação Bayesiana: Ao aplicar um prior spike-and-slab em blocos de coordenadas (onde o "slab" é uma distribuição uniforme sobre uma bola em $\mathbb{R}^b$), a estimativa de Máxima Verossimilhança a Posteriori (MAP) leva naturalmente a uma penalidade de esparsidade em bloco ($\ell_{2,0}$ norm). Esta penalidade impõe esparsidade através de grupos de direções, enquanto permite variação densa dentro de um grupo ativo.
• Interpretação Geométrica: Diferente dos SAEs, que selecionam direções únicas, os BSFs selecionam subespaços. O "átomo" é o próprio subespaço, e o código dentro do bloco representa a posição na variedade.

2.2 Três Variantes de Featurizador de Esparsidade em Bloco

O artigo implementa três arquiteturas distintas para instanciar este princípio:

1. BSF Vanilla: Utiliza um codificador e um decodificador lineares. A esparsidade é imposta por um operador de projeção rígida ($\Pi_k$) que retém apenas os $k$ blocos com os maiores normas $\ell_2$.
2. BSF Grassmanniano: Impõe que as direções dentro de um bloco sejam ortonormais (os blocos do decodificador residem na variedade de Stiefel). O codificador é vinculado à transposta do decodificador ($z = \gamma x D^\top$), e a esparsidade é imposta via $\Pi_k$. Isso modela explicitamente o bloco como um subespaço.
3. BSF de Lasso de Grupo: Utiliza um codificador linear com uma função de ativação de limiar suave (soft-thresholding) ($sh_\theta$) que reduz as normas dos blocos em direção a zero. A esparsidade é induzida via uma penalidade $\ell_{2,1}$ na função de perda, relaxando a restrição rígida para um objetivo suave.

2.3 Estrutura de Avaliação

• Validação Sintética: Um modelo controlado de brinquedo (toy model) onde variedades de verdade fundamental (círculos, esferas, toros) são incorporadas e somadas. A recuperação é medida pela capacidade de um único bloco reconstruir a contribuição da variedade específica ($R^2$).
• Análise de Mundo Real: Aplicado ao DINOv3 (modelo de fundação de visão), InceptionV1 e SDXL (modelo de difusão).
• Métricas:
  • Comprimento de Descrição Mínima (MDL): Usado para comparar BSFs contra SAEs. O custo inclui bits para o suporte (quais blocos disparam), o código (coordenadas dentro dos blocos), o resíduo e o dicionário.
  • Posto Estável (Stable Rank): Usado para quantificar a dimensionalidade intrínseca das características recuperadas.
  • Tarefas de Jusante (Downstream Tasks): Probing linear em classificação, segmentação e estimativa de profundidade.
  • Direcionamento de Variedade (Manifold Steering): Intervenção no espaço de ativação para controlar a geração de imagens.

3. Principais Contribuições

1. Alinhamento Teórico: O artigo conecta formalmente a hipótese de que conceitos são variedades à literatura de esparsidade estruturada, derivando a esparsidade em bloco como o prior correspondente para uma mistura aditiva de variedades.
2. Implementação Algorítmica: Introdução de três variantes de BSF (Vanilla, Grassmanniana, Lasso de Grupo) que vão além da suposição de "uma direção por conceito".
3. Evidência Quantitativa:
   • Análise de MDL: BSFs descrevem ativações de forma mais compacta que os SAEs. A dimensão de bloco ideal é encontrada como moderada (2–4 dimensões), sugerindo que os conceitos são inerentemente multidimensionais.
   • Recuperação Sintética: BSFs recuperam superposições de variedades aditivas com alta fidelidade ($R^2 \approx 0,93-0,97$), enquanto os SAEs padrão estilhaçam essas estruturas ($R^2 \approx 0,53$).
4. Descoberta de Variedades de Conceitos:
   • InceptionV1: Demonstrou que neurônios "detectores de curva" e características de SAE são, na verdade, fragmentos de uma única variedade de curva contínua. O BSF recupera isso como uma região conectada e revela modos de Fourier de ordem superior (ex: invariância de 180°) anteriormente obscurecidos.
   • DINOv3: Descobriu variedades correspondentes a atributos físicos da cena, como iluminação e sombras, que rastreiam a iluminação consistentemente através de diferentes identidades de objetos.
   • SDXL: Identificou variedades para objetos específicos (ex: pretzels) onde o direcionamento dentro do subespaço do bloco produz variações semanticamente coerentes, ao contrário do direcionamento ao longo de direções isoladas.

4. Resultados

• Eficiência de Reconstrução: Em um nível de distorção fixo (determinado pela tolerância de desempenho da tarefa), os BSFs alcançam comprimentos de descrição menores que os SAEs. A descrição mais eficiente ocorre quando as dimensões dos blocos estão entre 2 e 4, mesmo quando há capacidades maiores disponíveis.
• Dimensionalidade de Características: A análise de posto estável revela que as variedades de conceitos recuperadas no DINOv3 são tipicamente de 2 a 4 dimensões, confirmando que os blocos não são meramente direções sobreparametrizadas, mas utilizam sua geometria interna.
• Coerência Espacial: Os mapas de conceitos dos BSFs são significativamente mais suaves (menor Variação Total e Energia de Dirichlet) que os mapas SAE, indicando que eles rastreiam atributos de cena contíguos melhor.
• Direcionamento de Variedade (Manifold Steering): No SDXL, o direcionamento ao longo da geometria da variedade aprendida (usando mapas de Kohonen para percorrer o subespaço) gera imagens que variam suavemente ao longo das dimensões internas do conceito (ex: mudando a forma de um pretzel) sem degradar a qualidade da imagem, um feito difícil com as direções isoladas de um SAE.

5. Significância e Alegações

O artigo afirma que a esparsidade em bloco é o viés indutivo correto para decompor representações neurais quando estas são estruturadas como variedades de baixa dimensão.

• Conexão com a Neurociência: O trabalho alinha-se com modelos de neurociência visual (ex: o modelo de energia, células complexas) onde as características são carregadas por grupos coordenados de neurônios, em vez de unidades sintonizadas únicas. Os BSFs recuperam o comportamento de "célula complexa" ao reter a coordenada interna (fase/geometria) em vez de eliminá-la para obter invariância.
• Paradigma de Interpretabilidade: Os autores argumentam que um featurizador é uma hipótese sobre o processo gerador de dados. Ao combinar a estrutura do featurizador (blocos) com a geometria das variedades (manifolds), pode-se recuperar conceitos mais ricos e coerentes.
• Limitações e Escopo: O artigo nota modestamente que a esparsidade em bloco pode não ser um átomo universal para todas as modalidades (ex: linguagem ou vídeo podem exigir estruturas diferentes, como blocos temporais ou hierárquicos). A contribuição é específica para o caso onde as representações são misturas aditivas de variedades de baixa dimensão, uma propriedade observada nos modelos visuais testados.

Em resumo, o artigo fornece um caso teórico e empírico para a transição de featurizadores baseados em "direção" para featurizadores baseados em "região" (em bloco), demonstrando que esta mudança recupera a geometria interna dos conceitos, melhora a eficiência de descrição e permite um controle mais preciso sobre modelos generativos.