Resumo Técnico: Interfaces de Representação Alinhadas ao Gerador para Equivariância Suave Diagnóstica

1. Definição do Problema

Arquiteturas equivariantes existentes (ex: Group CNNs, Redes Estaráveis, SE(3)-Transformers) impõem equivariância exata ao codificar ações de grupos específicos diretamente em seus operadores. Embora isso forneça fortes garantias teóricas, cria uma "rigidez de design" onde adaptar para um novo grupo, um backbone genérico ou uma modalidade de dados diferente exige o redesenho simultâneo do operador e da estrutura de representação. Por outro lado, os modernos backbones de sequências genéricas (ex: Transformers, Modelos de Espaço de Estado) oferecem alta portabilidade entre modalidades (imagens, genômica, nuvens de pontos), mas carecem de mecanismos inerentes para garantir que transformações nos inputs induzam transformações correspondentes na representação interna.

Este artigo identifica uma lacuna de integração: Como pode a estrutura de um grupo ser exposta a um backbone genérico sem redesenhar cada camada como um operador de equivariância rígida? Os autores argumentam que impor equivariância exata em cada camada é frequentemente desnecessário e restritivo, propondo em vez disso uma abordagem diagnóstica para aprender a "equivariância suave".

2. Metodologia: Interface de Representação Alinhada ao Gerador (GARI)

O artigo introduz a GARI, um princípio de design de representação que expõe geradores de transformação selecionados a um backbone de sequência genérico através de visões alinhadas. Em vez de codificar rigidamente a lei do grupo nos operadores, a GARI constrói uma interface treinável que torna a estrutura do gerador visível, aprendível e mensurável.

Componentes Principais

O framework é instanciado como GARI-Net, um modelo baseado em sequências com as seguintes características arquiteturais:

1. Fluxos Indexados por Geradores: Para um conjunto de geradores expostos $S = \{s_1, \dots, s_q\}$, o modelo constrói $q+1$ fluxos: um fluxo canônico ($P_\theta(x)$) e $q$ fluxos induzidos pelo gerador ($\rho_{s_j}P_\theta(x)$). Estes fluxos representam o input em diferentes frames alinhados à transformação.
2. Processamento de Backbone Compartilhado: Todos os fluxos são processados por um backbone de sequência compartilhado (ex: Mamba2, Transformer) com parâmetros compartilhados. Isso garante que o modelo aprenda uma família de funções consistente entre as visões, em vez de um ensemble de redes independentes.
3. Conversão de Frame e Reparo de Contexto:
   • ODBC (Convolução Retroativa Unidimensional): Aplicada a cada fluxo para reparar descasamentos de contexto local causados por reindexação (ex: reversão de sequência), particularmente para operadores direcionais ou autorregressivos.
   • Conversão de Frame Direcional: Os fluxos são temporariamente convertidos do frame de interação canônico para frames de processamento específicos do gerador e vice-versa, garantindo o alinhamento antes da interação entre fluxos.
4. Interação entre Fluxos: Um mecanismo de atenção "leave-one-out" permite que cada fluxo atenda aos outros, possibilitando a troca de evidências entre a visão canônica e a visão alinhada ao gerador sem tratar os fluxos como redes independentes.
5. Fusão Consciente de Discrepância: O bloco de fusão terminal evita a média cega. Em vez disso, utiliza um sinal de discrepância pareada (medindo o desacordo entre fluxos) e um sinal de soma de fluxos para ponderar a agregação. Isso permite que o modelo reaja ao desacordo inter-fluxo, preservando variações informativas.

Framework Diagnóstico: Equivariância Suave e DEE

O artigo redefine o objetivo de equivariância exata para equivariância suave, medida pelo erro residual da relação de transformação sob distribuições específicas de dados e transformações.

• Resíduo de Equivariância Suave: Definido como a distância quadrada esperada entre a representação de um input transformado e a transformação prescrita da representação canônica: $E_{\mu,\nu} = E[\Delta(F(\alpha_g x), \tau_g F(x))^2]$.
• Erro de Equivariância Direta (DEE): Uma métrica diagnóstica de probe finito computada em checkpoints congelados. Ela compara a representação de um input transformado contra a transformação prescrita da representação canônica usando reindexação conhecida de tokens ou voxels. O DEE não é uma perda de treinamento, mas um diagnóstico post-hoc para medir a consistência da representação.
• Localização de Resíduo: O framework decompõe o erro total em três fontes localizadas:
  1. Resíduo de Interface: Descompasso na conversão de dados transformados para representações indexadas.
  2. Resíduo de Fluxo: Incompatibilidade no processamento de backbone compartilhado.
  3. Resíduo de Fusão: Descompasso na agregação de múltiplas visões.

3. Principais Contribuições

1. Interfaces de Representação Alinhadas ao Gerador (GARI): Um primitivo de design agnóstico a modalidade que desloca a unidade de design de simetria de um operador especializado em grupos para uma interface reutilizável. Ela expõe a estrutura do gerador a backbones genéricos via visões canônicas e transformadas alinhadas.
2. Equivariância Suave Baseada em Resíduos e Medição Finita: Os autores definem a equivariância suave através do resíduo da relação de transformação e instanciam sua estimativa de probe finito como Erro de Equivariância Direta (DEE). Eles distinguem isso de robustez de tarefa e certificação exata.
3. Realização GARI-Net: Uma implementação concreta de modelo de sequência apresentando fluxos indexados por geradores, processamento compartilhado, reparo de contexto consciente de ordem, interação entre fluxos e fusão consciente de discrepância.
4. Evidência Cross-Domain: O princípio da interface é validado em três domínios distintos: sequências genômicas (reversão), imagens 2D (rotações planares) e nuvens de pontos 3D (transferência axial SO(3)).

4. Resultados Experimentais

Os experimentos são desenhados como uma cadeia diagnóstica para testar o princípio da interface sob transformações controladas de hold-out, em vez de estabelecer um ranking universal de SOTA.

• Sequências Genômicas (GenomicBenchmarks):
  • Tarefa: Reversão de sequência ($Z_2$).
  • Resultado: A GARI-Net alcançou a maior precisão média em inputs revertidos (0.627) comparada a Caduceus-PH (0.612) e Caduceus-PS (0.610), apesar de ter uma precisão ligeiramente menor em inputs normais. Isso demonstra que a interface alinhada ao gerador preserva melhor a informação relevante para a tarefa sob reversão de sequência sem treinar em amostras revertidas.
• Imagens Planares (ImageNet-1K & MNIST):
  • Tarefa: Rotações cíclicas ($C_2$ e $C_4$).
  • Resultado: No ImageNet-1K, a GARI-Net-C4 melhorou a precisão de rotação de generalização pura (ângulos fora do aumento de treino) em 1.34 pontos percentuais sobre um baseline Vision Mamba correspondente. Reduziu o C4 DEE de 0.983 para 0.831. No MNIST, a cobertura de geradores $C_4$ mais ampla superou as configurações $C_2$ na generalização de órbita amostrada, melhorando a precisão média da órbita em 2.61 pontos.
• Nuvens de Pontos 3D (ModelNet40):
  • Tarefa: Transferência axial controlada ($SO(3)$).
  • Resultado: Fortalecer a interface dos eixos $x/y$ de $C_2$ para $C_4$ aumentou a precisão do eixo $z$ em hold-out em 8.97 pontos com mudança mínima na precisão limpa. A adição de uma referência explícita $x/y/z$ adicionou apenas 0.51 pontos, localizando o ganho primário na transferência através da interface $x/y$ fortalecida, em vez da exposição explícita ao eixo $z$.

5. Significância e Alegações

O artigo posiciona a GARI como um complemento portátil e diagnóstico para arquiteturas de equivariância rígida, não um substituto.

• Modéstia das Alegações: Os autores afirmam explicitamente que suas descobertas são finitas e dependentes da distribuição. Eles não certificam a equivariância exata sobre um grupo contínuo, nem alegam que a robustez de transformação é equivalente à equivariância.
• Valor Central: A significância reside em tornar a estrutura do gerador acessível, aprendível e mensurável dentro de modelos neurais genéricos. Oferece um caminho para expor a estrutura do gerador de Lie-group a modelos de sequência gerais sem o overhead computacional e arquitetural de redesenhar operadores para cada novo grupo ou modalidade.
• Natureza Diagnóstica: O framework fornece um contrato "falseável". Se a interface falhar em melhorar a precisão de hold-out ou o DEE em probes declarados, a alegação de equivariância suave é enfraquecida. O artigo demonstra que esta interface suporta a consistência de transformação relevante para a tarefa e a generalização para probes de hold-out sem exigir o redesenho específico do grupo do backbone.