Gauge-Equivariant Graph Networks via Self-Interference Cancellation

Resumo Técnico: Redes Gráficas Gauge-Equivariantes via Cancelamento de Auto-Interferência

Declaração do Problema
Redes Neurais em Grafos (GNNs) alcançaram desempenho de última geração em grafos homófilos, mas frequentemente lutam sob heterofilia. Essa falha é atribuída à dependência de passagem de mensagens aditiva, que assume implicitamente interações simétricas e não negativas. Em sistemas do mundo real governados por transporte, difusão ou propagação de ondas, as interações frequentemente exibem comportamentos interferentes, direcionais ou oscilatórios. A agregação padrão amplifica indiscriminadamente componentes redundantes de baixa frequência e suprime estruturas antissimétricas. Isso leva a sinais "auto-reforçadores", onde a passagem repetida de mensagens acumula vieses, causando super-suavização (homogeneização de representações) e degradando o desempenho em grafos heterófilos. Abordagens existentes, como mensagens assinadas ou filtragem espectral, frequentemente falham em modelar explicitamente a estrutura de fase das interações ou o mecanismo de interferência destrutiva, dependendo em vez disso de reponderação escalar que não consegue capturar totalmente comportamentos oscilatórios ou assinados.

Metodologia: GESC
Os autores propõem Redes Gráficas Gauge-Equivariantes com Cancelamento de Auto-Interferência (GESC), uma estrutura que substitui a agregação aditiva por um mecanismo de interferência de ondas. A inovação central reside em modelar nós como embeddings complexos e arestas com conexões de fase $U(1)$ aprendíveis, garantindo transporte gauge-equivariante.

A metodologia consiste em três componentes principais:

1. Cancelamento de Auto-Interferência (SIC):
   Antes que a atenção seja aplicada, o GESC modela e cancela explicitamente a auto-interferência decorrente de componentes redundantes de baixa frequência. Ele emprega um operador de projeção de rank-1 regularizado por Tikhonov, $\Pi_\epsilon(h_i)$, para identificar o componente da mensagem de um vizinho que é paralelo ao estado atual do nó alvo. Este componente auto-paralelo é subtraído da mensagem:
   $$r^{(m)}_{j \to i} = \tilde{h}^{(m)}_{j \to i} - \eta_{sic} \cdot \Pi_\epsilon(h^{(t)}_i) \tilde{h}^{(m)}_{j \to i}$$
   onde $\tilde{h}$ representa a característica de origem transportada. Isso atua como um filtro notch por nó, atenuando direções auto-alinhadas que contribuem para a super-suavização, enquanto preserva sinais ortogonais.

2. Portão Consciente de Sinal com Transporte Gauge:
   Para lidar com vizinhos alinhados negativamente sem suprimir excessivamente informações de alta frequência úteis, o GESC introduz um portão consciente de sinal. Este portão modula o resíduo SIC com base em uma pontuação de alinhamento invariante a gauge derivada do produto interno complexo entre o alvo e o resíduo. O portão interpola suavemente entre a mensagem residual (com cancelamento de interferência) e a mensagem transportada original, equilibrando interferência construtiva e destrutiva.

3. Passagem de Mensagens Gauge-Equivariante:
   A estrutura utiliza embeddings de valor complexo e fatores de fase de magnitude unitária ($U_{ji} = e^{i\theta_{ji}}$) para transporte de arestas. Isso garante que o modelo seja equivariante a transformações de gauge locais $U(1)$ (re-fasagem local de embeddings de nós). Consequentemente, pontuações de alinhamento escalares e decisões de portão permanecem invariantes sob deslocamentos de fase locais arbitrários, fornecendo robustez contra perturbações de sinal e orientação.

O processo de agregação combina não-linearidades robustas à magnitude (modReLU) e logits de atenção híbrida que ponderam tanto a magnitude quanto a parte real normalizada do alinhamento complexo.

Principais Contribuições
O artigo faz três contribuições específicas:

• Cancelamento de Auto-Interferência (SIC): Um mecanismo baseado em projeção e principiado que remove componentes redundantes auto-alinhados antes da atenção, mitigando o viés de acumulação construtiva que leva à super-suavização.
• Portão Consciente de Sinal: Um mecanismo que aproveita o alinhamento de fase complexo para modular mensagens de vizinhos, permitindo propagação estável que respeita tanto correlações positivas quanto negativas sem depender de rótulos de direção explícitos.
• Validação Teórica e Empírica: Os autores fornecem provas teóricas demonstrando que o GESC mantém a equivariância a gauge e permutação, satisfaz limites de continuidade de Lipschitz (apertados ao longo de direções auto-alinhadas) e mitiga o colapso espectral. Empiricamente, o modelo mostrou superar bases de comparação de última geração em diversos benchmarks.

Resultados Experimentais
Os autores avaliaram o GESC em nove conjuntos de dados de benchmark, incluindo grafos homófilos clássicos (Cora, Citeseer, Pubmed) e grafos heterófilos desafiadores (Actor, Chameleon, Squirrel, Cornell, Texas, Wisconsin).

• Desempenho: O GESC alcançou a maior precisão em sete dos nove conjuntos de dados e classificou-se entre os três primeiros nos dois restantes. Demonstrou melhorias consistentes sobre modelos clássicos (GCN, GAT), arquiteturas conscientes de heterofilia (H2GCN, FAGCN) e métodos espectrais/assinados recentes (MagNet, DirGNN).
• Estudos de Ablação: A remoção do SIC, do mecanismo de portão residual ou do transporte gauge-equivariante resultou em quedas significativas de desempenho (até 3,8%), confirmando que cada componente é crítico para lidar com interferência e manter consistência de fase.
• Robustez à Profundidade: Experimentos empilhando até 12 camadas mostraram que, enquanto GCNs e GATs padrão sofreram com super-suavização severa e degradação de precisão, o GESC manteve desempenho estável, validando sua capacidade de preservar informações discriminativas em arquiteturas profundas.
• Sensibilidade: O modelo exibiu robustez a variações de hiperparâmetros, particularmente a taxa de cancelamento de interferência ($\eta_{sic}$) e o regularizador de consistência ($\lambda_{JS}$), mantendo alta precisão sem exigir ajuste preciso.

Significado e Alegações
O artigo alega que o GESC fornece uma visão unificada e consciente de interferência da passagem de mensagens. Ao mudar da agregação aditiva para um paradigma de interferência de ondas, o modelo aborda a limitação fundamental das GNNs existentes: a incapacidade de representar interferência destrutiva e estrutura de fase.

• Insight Teórico: O trabalho estabelece que a ausência de tratamento de interferência em GNNs baseadas em gauge existentes é um motor primário da super-suavização. O GESC oferece uma solução geométrica que suprime a dominância de baixa frequência e adia o colapso espectral.
• Impacto Prático: O modelo oferece uma estrutura robusta para classificação de nós semi-supervisionada em regimes tanto homófilos quanto heterófilos, fornecendo uma base geométrica para aprendizado em grafos consciente de interferência.
• Limitações: Os autores notam modestamente que a dependência de representações de valor complexo introduz custos computacionais (embora lineares nas arestas) e que o transporte $U(1)$ aprendido não se estende diretamente a grupos de gauge mais ricos. O desempenho pode ainda degradar em grafos extremamente ruidosos.

Em resumo, o GESC avança o campo ao integrar princípios da teoria de gauge e interferência de ondas no aprendizado em grafos, oferecendo uma alternativa principial a esquemas de reponderação heurística para lidar com estruturas de grafos complexas e não homófilas.