Resumo Técnico: Redes Neurais de Sheaf Temporais com Transporte Ortogonal Dinâmico

1. Definição do Problema

A previsão de links temporais envolve inferir conexões futuras em grafos que evoluem continuamente com base em um fluxo cronológico de eventos passados. Um desafio fundamental nos modelos de grafos de tempo contínuo existentes é o problema da representação-alinhamento. As arquiteturas atuais operam tipicamente dentro de um espaço de incorporação (embedding) global compartilhado, assumindo que os eixos de coordenadas que definem o estado de um nó permanecem semanticamente consistentes ao longo do tempo. No entanto, em sistemas dinâmicos, os papéis dos nós derivam (ex: usuários mudando de comunidades, proteínas adquirindo novos parceiros), fazendo com que a base subjacente das representações aprendidas se desloque. Embora os vetores armazenados possam permanecer numericamente estáveis, seu significado semântico pode tornar-se desalinhado, levando a previsões incorretas ao comparar estados que foram aprendidos em contextos locais distintos. Os métodos existentes, incluindo arquiteturas baseadas em memória e codificadores centrados em eventos, herdam essa suposição implícita de alinhamento global e carecem de um mecanismo explícito para alinhar estados interagentes antes da comparação.

2. Metodologia: Redes Neurais de Sheaf Temporais (TSNN)

A TSNN aborda este desafio estendendo o aprendizado de representação baseado em sheaves (feixes) para fluxos de interação de tempo contínuo. Em vez de um espaço global compartilhado, a TSNN equipa cada nó com um frame ortogonal variante no tempo (um sistema de coordenadas local). O modelo opera sob um protocolo estrito de predição-então-atualização, garantindo que todas as computações sejam estritamente causais e dependam apenas do histórico pré-evento.

Componentes Principais

• Frames Locais Dinâmicos: Cada nó $v$ mantém um vetor de estipe (stalk) $h_v(t)$ (memória semântica) e parâmetros de frame $F_v(t)$ que parametrizam um mapa ortogonal $U_v(t) \in \mathbb{R}^{d \times d}$. Esses frames são parametrizados eficientamente via produtos de Householder de baixo posto, exigindo apenas $O(kd)$ parâmetros por nó.
• Transporte Ortogonal Explícito: Para comparar ou agregar estados de diferentes nós, a TSNN transporta explicitamente esses estados para um frame local comum. O mapa de transporte entre os nós $u$ e $v$ é definido como $Q_{uv}(t) = U_u(t)^\top U_v(t)$. Isso garante que as interações sejam pontuadas com base em distâncias euclidianas geométricas em um sistema de coordenadas sincronizado, preservando o conteúdo semântico apesar da evolução dos frames locais.
• Evolução de Estado com Consistência de Coordenadas: Quando o frame de um nó é atualizado, o estado oculto armazenado não é descartado ou reinicializado. Em vez disso, ele é transportado exatamente via transformação $\bar{h}_v^- = (U_v^+)^\top U_v^- h_v(t^-)$. Isso garante que o conteúdo semântico da memória permaneça invariante sob mudanças na base de coordenadas locais.
• Decodificador de Resíduo Geométrico: O mecanismo de pontuação combina um ramo geométrico, que ancora as previsões na distância euclidiana quadrada transportada entre estados alinhados, e um ramo residual (MLP) que aprende correções baseadas em tipos de relação, recência e metadados do nó. Este design impõe um viés indutivo contrastivo enquanto permite flexibilidade para desvios sistemáticos.
• Difusão de Sheaf de Atividade Total (Full-Active Sheaf Diffusion): Após um evento, o modelo realiza $K$ rodadas de difusão de sheaf normalizada com escala de características sobre um grafo ativo local ao evento. Esta difusão é formulada como um passo de descida de gradiente métrico na energia de Dirichlet do sheaf combinatório, garantindo descida de energia monótona e não-expansividade.

Pipeline Algorítmico

Para cada evento recebido $(u, v, t, r, x)$:

1. Pontuação (Scoring): Os destinos candidatos são classificados usando apenas o histórico pré-evento ($E_{<t}$) via decodificador de resíduo geométrico.
2. Atualização: Ao observar o evento positivo, os frames dos pontos terminais são atualizados usando os estados dos parceiros transportados.
3. Transporte (Carry-Over): Os estipes pré-evento são transformados para as novas coordenadas locais.
4. Passagem de Mensagem: As mensagens são computadas nas coordenadas locais atualizadas e processadas por uma GRU.
5. Difusão: A difusão de atividade total é aplicada ao vizinhança local para suavizar e refinar os estados antes de comprometê-los ao armazenamento de estado.

3. Principais Contribuições

1. GNN de Sheaf Estruturada Temporalmente: Um novo framework para previsão de links causal onde cada nó possui um frame ortogonal variante no tempo. Os links candidatos são pontuados estritamente a partir do histórico pré-evento usando um decodificador de resíduo geométrico.
2. Evolução de Memória com Consistência de Coordenadas: Um mecanismo que transporta estados interagentes para um frame comum antes da agregação e transporta exatamente os estipes ocultos armazenados através de atualizações de frame, preservando o significado semântico conforme as coordenadas locais evoluem.
3. Garantias Espectrais e de Estabilidade:
   • O Laplaciano de sheaf induzido por grau normalizado é ortogonalmente similar ao Laplaciano de grafo normalizado simétrico, com um espectro limitado em $[0, 2]$.
   • O operador de difusão de escala de característica de atividade total é provado ser um passo de gradiente métrico na energia de Dirichlet do sheaf combinatório, garantindo descida monótona livre de grau e não-expansividade.
   • A deriva de frame (frame drift) perturba as atualizações apenas linearmente, com a estabilidade controlada por um regularizador de suavidade.
4. Desempenho Empírico: A TSNN atinge resultados de estado da arte em todo o conjunto de benchmarks TGB v2, heterogêneo temporal e DGB, destacando-se particularmente em grafos com forte heterogeneidade de papéis de nós.

4. Resultados Experimentais

Os autores avaliaram a TSNN em duas trilhas:

• Trilha A (TGB v2): Inclui conjuntos de dados de previsão de links (tgbl-wiki, tgbl-review) e um grafo heterogêneo temporal (thgl-software). A TSNN iguala ou supera 15 baselines oficiais, alcançando o maior MRR em tgbl-wiki (82,82%) e thgl-software (71,13%), e melhorias significativas em tgbl-review.
• Trilha B (DGB): Cobre 13 benchmarks padrão (ex: Wikipedia, Reddit, MOOC, Enron). A TSNN atinge o menor ranking médio em ambas as métricas de Precisão Média (AP) e AUC. Ganhos notáveis incluem +2,97 AP em MOOC e +6,50 AP em US Legis. comparado ao forte baseline TPNet.
• Configuração Indutiva: Na previsão de links indutiva (nós não vistos), a TSNN também atinge o menor ranking médio, demonstrando generalização robusta sem depender de trajetórias memorizadas.
• Estudos de Ablação: Experimentos confirmam que o pontuador residual, o transporte ortogonal explícito e os frames locais variantes no tempo são os principais motores de desempenho, com o transporte e os frames dinâmicos fornecendo melhorias consistentes em todos os datasets.

5. Significância e Alegações

O artigo afirma que a TSNN aborda uma lacuna crítica no aprendizado relacional dinâmico: a falta de um mecanismo ao nível de operador para preservar o significado da representação sob mudanças de semântica local de nós. Ao unificar frames locais variáveis, transporte explícito e atualizações de memória causal online, a TSNN fornece uma abordagem consistente com a base para o aprendizado de grafos temporais.

Os autores enfatizam que os ganhos empíricos não advêm de um espectro de difusão mais rico (pois as propriedades espectrais são equivalentes à difusão de grafo padrão quando os frames estão fixos), mas sim de frames locais dinâmicos, transporte exato através de mudanças de frame, difusão de atividade total local ao evento e atualizações não lineares em coordenadas locais. O modelo é descrito como "consistente com a base" em vez de totalmente equivariante ao gauge, pois a atualização de frame e os MLPs de mensagem operam em coordenadas locais escolhidas, enquanto o transporte e a decodificação respeitam mudanças ortogonais sincronizadas. O trabalho estabelece que o alinhamento explícito de estados interagentes é necessário para uma previsão temporal precisa quando os papéis dos nós derivam ao longo do tempo.