Critical Percolation as a Synthetic Data Model for Interpretability

Resumo Técnico: Percolação Crítica como um Modelo de Dados Sintéticos para Interpretabilidade

Definição do Problema
Redes neurais profundas aprendem características que refletem a estrutura hierárquica e multiescalar dos dados naturais. No entanto, os conjuntos de dados sintéticos atualmente utilizados para avaliar métodos de interpretabilidade mecanística carecem dessa estrutura realista, limitando sua utilidade como modelos de teste (toy models). Os modelos sintéticos existentes podem capturar esparsidade ou hierarquia isoladamente, mas falham em unificar propriedades como estatísticas de lei de potência, baixa dimensionalidade intrínseca e autossimilaridade encontradas em distribuições de dados naturais. Além disso, a "maldição da dimensionalidade" implica que os dados naturais devem possuir alta estrutura para serem aprendíveis de forma eficiente. A pesquisa atual em interpretabilidade, particularmente em relação aos Autoencoders Esparsos (SAEs), observa fenômenos como divisão (splitting) e absorção de características, sugerindo que as características aprendidas possuem uma organização hierárquica complexa que modelos esparsos simples não capturam totalmente. Há uma necessidade de um modelo de dados baseado em princípios e analiticamente tratável que incorpore essas propriedades estruturais para servir como um campo de testes realista para a pesquisa de interpretabilidade.

Metodologia
Os autores introduzem uma família de conjuntos de dados sintéticos baseados na teoria de percolação de campo médio crítica. O modelo é construído através dos seguintes componentes:

1. Geração de Dados via Percolação:

   • Espaço: Os pontos de dados são extraídos de uma rede hipercúbica de alta dimensão ($\Lambda \subset \mathbb{R}^d$).
   • Criticidade: Os sítios são ocupados com probabilidade $p = p_c$ (o limiar crítico), garantindo que o sistema esteja em um regime crítico onde os clusters exibem propriedades fractais e distribuições de tamanho de lei de potência ($n_s \propto s^{-5/2}$).
   • Suposição de Campo Médio: Assume-se que a dimensão $d$ é suficientemente grande ($d \gg 6$) para que a rede se comporte como uma rede de Bethe (uma árvore), tornando o modelo analiticamente tratável.
   • Geometria: Os clusters resultantes são fractais esparsos de baixa dimensão com dimensão intrínseca $D=4$.

2. Geração de Alvos Hierárquicos:

   • Os alvos são gerados por variáveis latentes organizadas em uma estrutura de árvore binária (uma "floresta latente").
   • À medida que as ligações entre sítios ocupados adjacentes são ativadas, elas fundem os clusters. Uma nova variável latente é introduzida para cada fusão, atuando como o pai das latentes dos subclusters fundidos.
   • O valor alvo $y_x$ para um ponto de dado $x$ é uma função linear das variáveis latentes ao longo do caminho da folha (o ponto) até a raiz da árvore de seu cluster, normalizada pela profundidade.

3. O Algoritmo de Coalescência Cíclica:

   • Simular diretamente a percolação em redes de alta dimensão é computacionalmente caro e não produz explicitamente a decomposição hierárquica.
   • Os autores aproveitam uma equivalência matemática entre clusters de percolação de campo médio crítica, árvores rotuladas aleatórias uniformes e o processo de coalescência aditiva.
   • Eles propõem um algoritmo de coalescência cíclica que amostra conjuntamente uma árvore aleatória e sua decomposição latente hierárquica. Ao organizar os nós em uma ordem cíclica aleatória e iterativamente fundir um nó com seu sucessor, o algoritmo gera uma árvore aleatória uniforme e a respectiva hierarquia em tempo quase linear, $O(n \alpha(n))$, onde $\alpha$ é a função inversa de Ackermann.

4. Configuração Experimental:

   • Dois conjuntos de dados foram gerados: um conjunto de "um cluster" ($2 \times 10^5$ pontos) e um conjunto de "múltiplos clusters" ($2 \times 10^6$ pontos, filtrados para tamanho de cluster $\ge 500$).
   • Um MLP (Perceptron Multicamadas) residual foi treinado nesses conjuntos de dados.
   • Experimentos de Sondagem (Probing): Sondas lineares foram treinadas para decodificar as variáveis latentes reais a partir das ativações da rede neural (entrada, camadas ocultas e fluxo residual).

Principais Contribuições

1. Um Modelo de Dados Sintéticos Baseado em Princípios: O artigo introduz um modelo de dados que unifica esparsidade, hierarquia taxonômica, estatísticas de lei de potência, baixa dimensionalidade intrínseca e autossimilaridade, todas derivadas da teoria de percolação crítica.
2. Tratabilidade Analítica: O modelo baseia-se em expoentes críticos conhecidos (ex: $\tau=5/2$, $D=4$) e não requer ajuste de hiperparâmetros para fixar suas propriedades estatísticas.
3. Algoritmo de Amostragem Eficiente: Os autores desenvolvem e provam a correção do algoritmo de coalescência cíclica, permitendo a geração de conjuntos de dados de percolação hierárquica em qualquer escala em tempo quase linear.
4. Validação Empírica: O estudo demonstra que as variáveis latentes reais neste modelo podem ser linearmente decodificadas das ativações da rede neural, validando a utilidade do modelo para a pesquisa de interpretabilidade.

Resultos

• Desempenho do Modelo: O MLP treinado alcançou desempenho comparável a um baseline de 1-vizinho mais próximo (1NN) e superou significativamente a regressão Ridge, confirmando a não linearidade da tarefa e sua capacidade de aprendizado.
• Decodificabilidade Linear: Experimentos de sondagem revelaram que as variáveis latentes reais são linearmente representáveis nas ativações da rede.
  • Sondas treinadas nas ativações das camadas ocultas alcançaram consistentemente um Erro Quadrático Médio (MSE) menor do que aquelas treinadas nas entradas brutas.
  • A lacuna de desempenho da sonda em relação à entrada bruta diminuiu conforme o "Fator de Mérito" (FOM) aumentou — definido como a razão entre o tamanho do latente e a raiz quadrada do tamanho do cluster.
• Tendências de Lei de Potência: O MSE por latente exibiu uma tendência de lei de potência em função do FOM, sugerindo que a importância estatística de um latente (determinada por seu tamanho e contexto de cluster) é um preditor melhor de decodificabilidade do que apenas sua profundidade na hierarquia.
• Estrutura por Camadas: Não foi observada uma progressão clara por camadas; o MSE da sonda foi semelhante em todos os blocos do MLP. Isso sugere que a rede não necessariamente constrói uma soma hierárquica camada por camada de maneira interpretável, ou que a hierarquia é representada de forma diferente de modelos composicionais.

Significância e Alegações
O artigo afirma que a percolação crítica fornece um campo de testes baseado em princípios para a pesquisa de interpretabilidade. Ao oferecer um conjunto de dados com latentes hierárquicos reais conhecidos e propriedades estruturais realistas (esparsidade, leis de potência, fractais), ele permite que pesquisadores:

• Validem e melhorem ferramentas de interpretabilidade (como SAEs) contra uma verdade fundamental (ground truth).
• Investiguem se as patologias de SAE (divisão e absorção de características) surgem quando treinadas em hierarquias taxonômicas.
• Estudem a relação entre a estrutura dos dados e a estrutura das ativações neurais.

Os autores posicionam este trabalho como um complemento aos estudos empíricos de Grandes Modelos de Linguagem (LLMs), oferecendo um ambiente controlado para testar hipóteses sobre como as redes neurais aprendem características hierárquicas. Eles explicitamente observam limitações, como a suposição de população de dados aleatória e o suporte atual para regressão escalar em vez de classificação de tokens, enquadrando estas como direções para trabalhos futuros em vez de soluções imediatas. O trabalho não pretende resolver a interpretabilidade, mas sim fornecer um ambiente sintético rigoroso e matematicamente fundamentado para facilitar essa pesquisa.