Resumo Técnico: Aprendendo Representações Coerentes: Uma Abordagem Topológica para Interpretabilidade

Declaração do Problema

Redes neurais profundas (DNNs) frequentemente aprendem representações onde características latentes individuais carecem de significado interpretável. Embora o treinamento de classificação consiga separar variedades (manifolds) de classes no espaço latente, isso não garante que neurônios individuais correspondam a conceitos compreensíveis por humanos. Em configurações não supervisionadas, como autoencoders, o problema é exacerbado: sem rótulos de classe para guiar a separação, as redes podem aprender representações onde amostras semanticamente relacionadas estão dispersas, e características individuais ativam em subconjuntos desconectados e incoerentes da variedade de dados.

Técnicas de regularização existentes, como a esparsidade (L1), incentivam características a ativarem em poucas amostras, mas falham em garantir que essas amostras sejam geometricamente relacionadas. Uma característica esparsa ainda pode disparar em regiões dispersas da variedade de dados. Por outro lado, circuitos neurais biológicos (ex: células de grade e células de direção de cabeça) alcançam interpretabilidade através da localidade: neurônios respondem a regiões contíguas do espaço de estados. Este artigo postula que a localidade é um princípio de design para códigos neurais interpretáveis e busca formalizar esse princípio para impô-lo em redes neurais artificiais.

Metodologia

1. Estrutura Teórica: Matrizes Coerentes

Os autores introduzem a coerência, uma propriedade geométrica inspirada na codificação neural e fundamentada na análise de dados topológicos (TDA). Eles modelam o espaço latente de uma rede com ativações não negativas como uma matriz não negativa $M$, onde linhas representam amostras e colunas representam características.

Uma matriz é definida como $\epsilon$-coerente se satisfaz duas condições:

1. $\epsilon$-localidade: Cada linha (amostra) atende a um conjunto agrupado geometricamente de colunas (características), e vice-versa. Isso é quantificado usando a variância de Fréchet. Especificamente, o mapa baricêntrico $\phi$ (mapeando uma amostra para a média ponderada das características) e $\psi$ (mapeando uma característica para a média ponderada das amostras) devem ter baixa variância em relação às características/amostras reais.
2. $\epsilon$-cobertura: Cada amostra é bem descrita por alguma característica, e cada característica é necessária por alguma amostra. Isso garante que nenhuma parte do espaço seja deixada sem cobertura ou seja redundante.

Garantia Topológica:
O artigo prova que, se uma matriz é $\epsilon$-coerente e os mapas baricêntricos são Lipschitz contínuos, as filtrações de Vietoris-Rips das amostras e características são $\epsilon^{1/2}$-entrelaçadas. Isso implica que o espaço de amostras e o espaço de características compartilham estruturas topológicas compatíveis. Por exemplo, se os dados residem em um círculo, as características coerentes devem pavimentar esse círculo em arcos contíguos, garantindo que o espaço de características espelhe a topologia do espaço de amostras.

2. O Objetivo COH

Para impor a coerência durante o treinamento, os autores derivam um objetivo diferenciável, o COH, baseado na variância de Fréchet.

• Normalização: O método utiliza normalização L1 ao quadrado para tratar linhas e colunas como distribuições de probabilidade.
• Componentes de Perda: A perda penaliza as quantidades de variância (localidade) e cobertura tanto para linhas quanto para colunas.
• Implementação: O objetivo é adicionado a qualquer arquitetura com ativações não negativas (ex: usando Softplus). Ele calcula mapas baricêntricos e suas variâncias, agregando os principais "ofensores" (outliers) para garantir robustez.

Principais Contribuições

1. Definição de Coerência: Os autores definem formalmente a $\epsilon$-coerência para matrizes não negativas, ligando-a ao entrelaçamento de filtrações de Vietoris-Rips. Isso fornece uma garantia teórica de que o espaço latente de amostras e o espaço latente de características compartilham uma topologia compatível.
2. Objetivo Diferenciável (COH): Eles introduzem o COH, uma função de perda prática que impõe restrições de localidade e cobertura. Ao contrário da esparsidade, que limita o número de ativações, o COH limita a conectividade geométrica das ativações.
3. Validação Empírica: O método é validado em três cenários distintos:
   • Dados Sintéticos: Recuperação da topologia de círculos disjuntos.
   • MNIST Rotacionado: Aprendizado de características interpretáveis para dígitos rotacionados.
   • Modelos de Linguagem: Aplicação de coerência aos embeddings de tokens do BERT para gerar características interpretáveis alinhadas com categorias legíveis por humanos.

Resultados Experimentais

Autoencoders de Dados Sintéticos e MNIST Rotacionado

• Recuperação de Topologia: No experimento de brinquedo "Dois Círculos", autoencoders padrão e modelos com regularização L1 falharam em produzir um espaço de características com a topologia circular correta. Apenas o modelo COH recuperou a topologia circular disjunta esperada tanto no espaço de amostras quanto no de características.
• Dígito Único (MNIST Rotacionado): Para um único dígito rotacionado (6), o COH alcançou 100% de características ajustadas (características que ativam em arcos de rotação coerentes), comparado a 63% para L1. As características do COH eram menos esparsas, mas significativamente mais interpretáveis em relação ao ângulo de rotação.
• Dígito Duplo (MNIST Rotacionado): Em um cenário mais complexo com dois dígitos, o COH produziu consistentemente espaços latentes coerentes. Embora as métricas de interpretabilidade (como pureza) tenham variado entre sementes devido à existência de múltiplas soluções coerentes válidas (ex: círculos separados vs. círculos fundidos), as métricas de coerência (Localidade e Cobertura) permaneceram estáveis. Combinar o COH com a esparsidade L1 guiou com sucesso o modelo para uma solução destilada com separação de classe confiável.

Embeddings de Tokens do BERT

• Configuração: Um pequeno modelo BERT foi treinado com embeddings de tokens não negativos (via Softplus) e o objetivo COH.
• Interpretabilidade:
  • Sobreposição: As características no modelo COH mostraram uma sobreposição significativamente maior com os vizinhos mais próximos dos clusters de tokens de um modelo BERT padrão (com sinal) (Sobreposição Média: 0,45 vs. 0,22 para apenas Softplus).
  • Categorias Legíveis por Humanos: Usando um LLM (Claude Opus) para julgar a interpretabilidade, 87,6 de 256 características no modelo COH foram consideradas interpretáveis, comparadas a 0 para a linha de base apenas com Softplus.
  • Categorias Identificadas: As características do COH alinharam-se com categorias semânticas específicas, incluindo anos, termos de parentesco, nomes de lugares, unidades de medida, advérbios de hesitação, preposições de direção e tipos específicos de verbos (ex: movimento, cognição, passado).

Significância e Alegações

O artigo afirma fornecer um arcabouço rigoroso para acoplar amostras latentes e características latentes de modo que compartilhem uma topologia compatível. A significância reside na mudança de foco da interpretabilidade de uma característica individual para a interpretabilidade do espaço de características como um todo.

• Garantia Geométrica: O trabalho demonstra que impor conectividade geométrica (coerência) resulta em características que não são apenas esparsas, mas estruturalmente alinhadas com a variedade de dados.
• Complementaridade: Os autores observam que a coerência é complementar a outros objetivos; por exemplo, a esparsidade pode ser usada para selecionar entre múltiplas soluções coerentes válidas sem sacrificar a garantia geométrica.
• Limitações: Os autores reconhecem modestamente que a suposição de Lipschitz nos mapas baricêntricos é verificada empiricamente em vez de ser imposta. Eles também observam que o método não controla qual solução coerente específica é encontrada em cenários complexos de múltiplas classes (ex: se os dígitos se fundem ou se separam), embora garanta que a solução seja coerente.

O trabalho conecta análise de dados topológicos, neurociência e aprendizado de representação, oferecendo tanto uma base teórica (via análogos de dualidade de Dowker e entrelaçamento) quanto uma ferramenta prática para aprender espaços latentes interpretáveis sem a necessidade de supervisão explícita.