Stimulus symmetries can confound representational similarity analyses

Resumo Técnico: Simetrias de Estímulo Podem Confundir Análises de Similaridade Representacional

Declaração do Problema
A Análise de Similaridade Representacional (RSA) e métricas relacionadas, como a Matriz de Similaridade Representacional (RSM) e o Alinhamento de Kernel Centralizado (CKA), são amplamente utilizadas para comparar códigos neurais em redes biológicas e artificiais. Uma premissa fundamental nessas comparações é que representações funcionalmente equivalentes — aquelas que realizam a mesma tarefa ou codificam a mesma informação — devem produzir estatísticas resumidas semelhantes. Embora trabalhos recentes tenham abordado simetrias intrínsecas (por exemplo, rotações globais de pesos dentro de uma camada de rede que podem ser compensadas por camadas subsequentes), há uma falta de compreensão sistemática sobre como as simetrias de estímulo (simetrias de dados externas, como rotação ou translação) afetam essas análises.

O problema central identificado é que as simetrias de estímulo podem gerar múltiplas representações neurais funcionalmente equivalentes que não estão relacionadas por transformações ortogonais simples (rotações) no espaço de representação. Consequentemente, essas configurações distintas podem produzir RSMs qualitativamente diferentes. Isso cria uma "dependência de gauge" onde a RSM varia com base em um parâmetro arbitrário e funcionalmente irrelevante (o gauge), levando potencialmente os pesquisadores a concluir erroneamente que dois códigos funcionalmente equivalentes são distintos.

Metodologia
Os autores empregam uma combinação de formalização teórica, modelos analíticos simplificados e simulações empíricas em dados sintéticos e do mundo real para demonstrar esse fenômeno.

1. Formalização Teórica: O artigo formaliza o conceito de simetrias de dados atuando em um espaço latente $Z$ via um grupo compacto $G$. Define "transformações de gauge" como ações de $G$ na função de codificação que deixam a precisão de decodificação invariante. Os autores provam que, para que uma RSM seja invariante de gauge, a codificação deve ser uma representação linear ortogonal do grupo de simetria (ou seja, a transformação de gauge deve atuar como uma rotação global no espaço de representação). Eles demonstram que, para códigos não lineares gerais, essa condição não se mantém.
2. Análise de Modelo Simplificado: Um modelo simplificado é construído onde neurônios azulejam um anel unidimensional ($S^1$) com campos receptivos (RFs) localizados. A orientação global desse azulejamento é definida por uma variável de gauge $\phi$. Os autores derivam analiticamente a RSM para essa configuração, mostrando que os elementos fora da diagonal dependem de $\phi$, levando a uma RSM variável apesar da reconstrução perfeita do estímulo.
3. Sensibilidade aos Parâmetros: O estudo investiga como fatores como o número de neurônios, a largura de sintonia dos RFs e o ruído de amplitude afetam a magnitude da variabilidade da RSM. Eles derivam expressões de forma fechada para a variabilidade $\Delta$ em função da contagem de neurônios $n$ e da largura de sintonia, mostrando que a variabilidade decai como $O(n^{-2})$ apenas no limite de azulejamento denso.
4. Dinâmicas de Aprendizado: Usando Descida de Gradiente Estocástica (SGD) em autoencoders com ativações ReLU, os autores simulam cenários de aprendizado. Eles demonstram que a SGD pode levar a soluções de "colapso" onde muitos neurônios se alinham, reduzindo efetivamente a rede a um azulejamento esparsos (por exemplo, 4 neurônios para um círculo), mantendo assim alta variabilidade da RSM. Eles também mostram que a regularização energética (penalidades L1) pode induzir esparsidade sem fixar o gauge.
5. Dados de Alta Dimensão e Reais: O framework é estendido para variedades esféricas de dimensões superiores ($S^{d-1}$), prevendo clusters estruturados de variabilidade da RSM correspondentes à dimensionalidade do grupo de gauge. Finalmente, os autores treinam autoencoders em imagens rotacionadas do conjunto de dados Kuzushiji-MNIST e analisam modelos de visão pré-treinados (ResNet-18, ConvNeXt, DINOv2) para mostrar que simetrias rotacionais latentes em dados de imagem induzem deriva sistemática da RSM e dependência de gauge em configurações realistas.

Principais Contribuições e Resultados

• Dependência de Gauge das RSMs: O artigo estabelece que, para códigos neurais não lineares, representações funcionalmente equivalentes relacionadas por simetrias de estímulo geralmente não estão relacionadas por transformações ortogonais. Portanto, suas RSMs diferem, violando a invariância assumida pelas métricas de similaridade padrão.
• Representações em Deriva: Os autores mostram que, mesmo com desempenho de tarefa estável (por exemplo, baixa perda de reconstrução), as representações podem "derivar" ao longo do tempo ou entre diferentes execuções de treinamento devido à seleção arbitrária de um gauge. Essa deriva manifesta-se como uma mudança sistemática na RSM, que se correlaciona com o ângulo de gauge inferido, mas não com o erro de reconstrução.
• Esparsidade e Variabilidade: Contrariamente à intuição de que aumentar o número de neurônios suprime a variabilidade, os autores descobrem que a esparsidade induzida pelo aprendizado (via ruído SGD ou regularização L1) pode manter alta variabilidade da RSM mesmo em redes grandes.
• Variabilidade Estruturada em Altas Dimensões: Para variedades simétricas de dimensões superiores, a variabilidade da RSM não é ruído aleatório, mas segue um padrão estruturado onde elementos fora da diagonal se agrupam em grupos que variam juntos, refletindo o grupo de simetria contínua subjacente.
• Validação Empírica: Em experimentos com dados de imagens rotacionadas, o ângulo de gauge inferido de redes treinadas prevê fortemente os elementos fora da diagonal da RSM (Pearson's $r = 0.76$) e a similaridade entre diferentes execuções (a similaridade CKA diminui à medida que a diferença de gauge aumenta, $r = -0.91$), enquanto a perda de reconstrução permanece não correlacionada com o gauge.

Significado e Afirmações
O artigo afirma que essas descobertas destacam uma limitação crítica na comparação de códigos neurais não lineares usando métricas baseadas em RSM quando simetrias de estímulo estão presentes. Especificamente:

• Risco de Interpretação Errada: Os pesquisadores podem erroneamente identificar representações funcionalmente equivalentes como distintas simplesmente porque ocupam "gauges" diferentes no espaço de soluções.
• Mecanismo de Deriva: O trabalho fornece um mecanismo para "deriva representacional" (observada tanto em cérebros quanto em redes artificiais) que é distinto de explicações anteriores baseadas em simetrias internas; aqui, a deriva é impulsionada por simetrias de estímulo extrínsecas e pela falta de uma base preferencial única.
• Limitações das Métricas Atuais: Métricas padrão como CKA e RSM não são invariantes a simetrias de dados, a menos que a rede seja explicitamente restringida a ser equivariante (o que a maioria das redes padrão não é).
• Direções Futuras: Os autores sugerem que, para comparar representações de forma confiável na presença de simetrias, são necessárias novas métricas invariantes às simetrias de estímulo específicas. Eles observam que tais métodos provavelmente exigiriam conhecimento da distribuição de estímulos ou o uso de métricas de pullback na variedade de dados intrínseca, mas reconhecem que, sem priors fortes, lidar com a invariância de gauge permanece um desafio aberto.

O artigo conclui modestamente, afirmando que, embora códigos de azulejamento de variedades tenham servido como um caso de teste tratável, a generalização desse fenômeno para outros códigos não lineares é esperada, já que a maioria das representações não é restringida a ser equivariante ortogonalmente.