Resumo Técnico: Aprendizado Geométrico Profundo Consistente via Fibrados de Hilbert e Feixes Celulares

1. Declaração do Problema

O aprendizado profundo moderno encontra cada vez mais sinais que são infinito-dimensionais (por exemplo, séries temporais, distribuições de probabilidade, operadores) e definidos sobre domínios irregulares (por exemplo, variedades, grafos). Embora o Aprendizado Geométrico Profundo (GDL) tenha generalizado com sucesso as Redes Neurais Convolucionais (CNNs) para domínios não euclidianos como grafos e variedades, os frameworks existentes assumem predominantemente fibras finito-dimensionais (por exemplo, valores escalares ou vetores finitos em cada ponto).

Há uma falta de uma teoria de aprendizado unificada para sinais infinito-dimensionais suportados em variedades. Especificamente, os métodos atuais não conseguem lidar nativamente com sinais onde os dados em cada ponto $x \in M$ residem em seu próprio espaço de Hilbert infinito-dimensional $E_x$. Além disso, não há uma fundação teórica rigorosa conectando aproximações discretas de tais estruturas às suas contrapartes contínuas, deixando uma lacuna em garantias de consistência para o aprendizado sobre esses tipos de dados complexos.

2. Metodologia

Os autores propõem um framework chamado HilbNets, que unifica e generaliza abordagens existentes de aprendizado geométrico através da lente de Fibrados de Hilbert e Feixes Celulares.

2.1 Framework Contínuo: Fibrados de Hilbert e Laplacianos de Conexão

• Fibrados de Hilbert: Os autores modelam os dados como uma seção $S$ de um fibrado de Hilbert $E$ sobre uma variedade base $M$. Diferentemente de fibrados triviais onde as fibras são cópias idênticas de $\mathbb{R}^n$, aqui cada fibra $E_x$ é um espaço de Hilbert separável (possivelmente infinito-dimensional).
• Conexão e Transporte Paralelo: Para comparar sinais através de fibras diferentes (que carecem de uma identificação canônica), o framework emprega uma conexão $\nabla$. Isso induz mapas de transporte paralelo $P_{x \to y}: E_x \to E_y$ ao longo de caminhos na variedade, permitindo uma comparação coerente de dados infinito-dimensionais.
• Convolução via Laplaciano de Conexão: O operador convolucional central é o Laplaciano de Conexão $\Delta_\nabla = \nabla^* \nabla$. Este operador generaliza o operador Laplace-Beltrami (para campos escalares) e o Laplaciano de conexão para fibrados tangentes.
• Filtros: Filtros são definidos usando o cálculo funcional de Borel. Um filtro $g$ é aplicado ao operador auto-adjunto $\Delta_\nabla$ via $g(\Delta_\nabla)$, permitindo filtragem espectral de sinais infinito-dimensionais sem exigir um espectro discreto.
• HilbNets: Um HilbNet é uma arquitetura profunda composta por camadas desses filtros de fibrado de Hilbert seguidas por não-linearidades pontuais $\sigma$.

2.2 Discretização: Amostragem em Duas Etapas

Como os HilbNets contínuos não são diretamente implementáveis, os autores introduzem um procedimento de discretização em duas etapas para derivar HilbNets Discretizados:

1. Amostragem da Variedade (Discretização Espacial):

   • A amostragem de $n$ pontos $X_n$ da variedade $M$ induz um Feixe Celular de Hilbert $\mathcal{F}^t_n$.
   • Esta estrutura atribui um espaço de Hilbert (a fibra) a cada nó e aresta.
   • O acoplamento aresta-a-aresta é definido via mapas de restrição derivados dos operadores de transporte paralelo e um peso de kernel gaussiano $k^t_{ij} = e^{-d_M(x_i, x_j)^2 / 4t}$.
   • O Laplaciano de Feixe de Hilbert $\Delta_{\mathcal{F}^t_n}$ é construído a partir desses mapas de restrição.

2. Amostragem de Sinais (Discretização da Fibra):

   • Os sinais infinito-dimensionais nas fibras são projetados em um subespaço finito-dimensional de dimensão $d$ usando uma base ortogonal (por exemplo, base de Fourier para séries temporais).
   • Isso produz um Feixe de Rede $\mathcal{F}^t_{n,d}$ com estolhos finito-dimensionais ($\mathbb{R}^d$).
   • O Laplaciano de Feixe de Rede resultante $\Delta_{\mathcal{F}^t_{n,d}}$ é uma matriz em blocos onde os blocos representam os mapas de transporte paralelo discretizados.
   • O (n, d)-HilbNet implementável é definido como uma Rede Neural de Feixe operando sobre esta estrutura finita.

3. Contribuições Principais

1. Framework Convolucional de Fibrado de Hilbert: O artigo define uma operação de convolução principial para sinais infinito-dimensionais em variedades usando o Laplaciano de conexão e o cálculo funcional de Borel, estendendo o GDL além de fibras finito-dimensionais.
2. Feixes Celulares de Hilbert: Os autores estabelecem o primeiro vínculo rigoroso entre fibrados de Hilbert e Feixes Celulares de Hilbert, mostrando que amostrar uma variedade induz uma estrutura de feixe que captura tanto a geometria da variedade base quanto as regras de acoplamento das fibras do fibrado.
3. Garantias de Convergência (Núcleo Teórico):
   • Teorema 1 (Convergência do Laplaciano de Feixe): Prova que, à medida que a densidade de amostragem $n \to \infty$, o Laplaciano de Feixe de Hilbert converge em probabilidade para o Laplaciano de Conexão subjacente. Esta é uma generalização do resultado seminal Belkin & Niyogi [14] (Laplaciano de Gráfico $\to$ Laplaciano de Variedade) para o cenário de fibrados infinito-dimensionais.
   • Teorema 2 (Convergência de Rango Finito): Prova que o Laplaciano totalmente discretizado (implementável) converge para o operador contínuo à medida que as densidades de amostragem da variedade ($n$) e do sinal ($d$) aumentam.
4. Consistência e Transferibilidade:
   • Corolário 2.1: Estabelece que a saída dos HilbNets Discretizados converge para o HilbNet contínuo em Erro Quadrático Médio (MSE) à medida que as densidades de amostragem aumentam.
   • Corolário 2.2 (Transferibilidade): Demonstra que os HilbNets Discretizados são transferíveis entre diferentes amostragens do mesmo fibrado subjacente. A saída da arquitetura é consistente independentemente da nuvem de pontos específica amostrada, fornecendo garantias de consistência de resolução.

4. Resultados Experimentais

O framework é validado em duas tarefas:

• Recuperação de Transporte Sintético:

  • Configuração: Um fibrado estatístico sobre Gaussians centrados (usando a métrica Otto-Wasserstein) onde o transporte paralelo de verdade (conexão Levi-Civita) é conhecido.
  • Resultado: O modelo recupera com sucesso os operadores de transporte paralelo verdadeiros. A parametrização "Livre $O(d)$" recupera a verdade fundamental com precisão numérica ($\approx 1.6 \times 10^{-7}$), enquanto classes restritas (por exemplo, circulantes) convergem para seus limites de projeção analítica, confirmando que a classe de hipóteses restringe o aprendizado de maneira previsível.

• Previsão de Tráfego do Mundo Real (METR-LA e PEMS-BAY):

  • Configuração: Previsão de velocidades de tráfego onde nós são sensores e fibras são séries temporais. O framework aprende mapas de transporte aresta-a-aresta para alinhar padrões temporais antes da filtragem.
  • Baselines: Comparado contra MLPs (apenas fibra), baselines de Grafos Espaço-Temporais e GCNs padrão (transporte de identidade congelado).
  • Resultado: Aprender transportes não triviais supera consistentemente a identidade congelada (GCN) em todos os horizontes de previsão. A variante Livre $O(T)$ alcança a melhor precisão, enquanto a variante Circulante oferece desempenho competitivo com significativamente menos parâmetros (aprox. 1/10), demonstrando o valor de viéses indutivos estruturados e motivados fisicamente.

5. Significado e Alegações

O artigo alega que os HilbNets fornecem um framework unificado e geral para aprendizado geométrico profundo que eleva métodos clássicos baseados em Laplaciano para cenários com sinais infinito-dimensionais.

• Impacto Teórico: A contribuição primária é a extensão do teorema de convergência Belkin & Niyogi [14] para fibrados de Hilbert. Isso fornece a base teórica para aprendizado baseado em Laplaciano em dados infinito-dimensionais, justificando o uso de aproximações de feixe discretas para problemas de fibrado contínuos.
• Impacto Prático: O framework permite a incorporação principial de priors geométricos específicos de domínio (através da escolha de conexão e transporte) em arquiteturas de aprendizado profundo. Isso é particularmente benéfico em regimes de poucos dados ou quando os dados possuem restrições estruturais inerentes (por exemplo, alinhamento de séries temporais, geometria distribucional).
• Generalidade: Os autores notam que muitas arquiteturas existentes (CNNs, GNNs, Redes Neurais de Feixe, CNNs Equivariantes) podem ser vistas como instâncias específicas de HilbNets com escolhas particulares de fibrados e conexões. Assim, os resultados de convergência e transferibilidade derivados aqui potencialmente se estendem a uma ampla classe de métodos existentes de aprendizado geométrico.

O artigo conclui que este trabalho amplia o escopo do aprendizado geométrico ao fornecer uma abordagem consistente e teoricamente fundamentada para aprendizado em variedades onde os sinais vivem em seus próprios espaços de Hilbert.