Encoding the Euler Characteristic Transform

Resumo Técnico: Codificando a Transformada da Característica de Euler

Enunciado do Problema
A Transformada da Característica de Euler (ECT) é um descritor de forma injetivo e poderoso que agrega Curvas da Característica de Euler (ECCs) computadas através de múltiplas direções de amostragem. Embora a ECT Diferenciável (DECT) tenha possibilitado o aprendizado de ponta a ponta, um gargalo crítico permanece na forma como a ECT é codificada para redes neurais. Convencionalmente, as ECCs são discretizadas em uma grade fixa de limiares de altura ($H$) para cada direção ($D$), resultando em uma matriz $D \times H$. Essa discretização introduz um hiperparâmetro de resolução ($H$) que deve ser ajustado por dataset, criando um compromisso entre expressividade e custo computacional. Além disso, a discretização uniforme força a mesma resolução tanto em regiões de mudança rápida quanto em regiões planas, apesar de todo o fato de que toda a informação topológica em uma ECC é inerentemente atribuída aos vértices do complexo de células subjacente.

Metodologia
Os autores propõem uma codificação contínua da ECT que elimina a necessidade de uma grade de discretização. Em vez de amostrar a função ECC em alturas fixas, o método registra a mudança líquida da característica de Euler ($\Delta\chi$) atribuída a cada vértice $v$ para uma determinada direção $w_i$.

• Tokenização: Para um complexo de células com $N$ vértices e uma direção $w_i$, a altura de filtração para cada célula é determinada pelo seu "vértice responsável" (o vértice com a projeção máxima). A mudança líquida $\Delta\chi(v, w_i)$ é calculada somando as contribuições assinadas de todas as células que entram na filtração no limiar definido por esse vértice. Vértices com mudança líquida zero são descartados, resultando em uma sequência esparsa de tokens $\{( \langle v, w_i \rangle, \Delta\chi(v, w_i) )\}$.
• Codificador de ECC: Um pequeno codificador transformer processa essas sequências de tokens para cada direção, mapeando a sequência de comprimento variável para um vetor de características de comprimento fixo ($d_{out}$). Isso substitui a matriz discretizada tradicional por uma matriz de características $D \times d_{out}$.
• Arquiteturas de Representação: O estudo avalia seis arquiteturas distintas para processar a matriz ECT resultante, variando de modelos base sem conhecimento prévio de estrutura até modelos equivariantes:
  1. Rede Feedforward: Achata a matriz; sem viés indutivo estrutural.
  2. Deep Sets: Trata as direções como um conjunto não ordenado (invariante à permutação).
  3. Convolução 2D: Trata a matriz como uma imagem; utiliza preenchimento circular ao longo do eixo da direção para preservar a equivariância rotacional.
  4. Convolução 1D: Aplica convoluções ao longo do eixo da direção com preenchimento circular.
  5. Convolução Complexa 1D: Representa as ECCs no domínio complexo para preservar inerentemente a equivariância rotacional via codificação de fase.
  6. Híbrida: Combina convoluções 1D com camadas totalmente conectadas.

Principais Contribuições

1. Representação de ECT Contínua: Introdução de uma codificação contínua, sem grade, exata e parcimoniosa que registra mudanças topológicas em vértices em vez de amostrar valores da função. Isso remove o hiperparâmetro de resolução e é inerentemente diferenciável.
2. Estudo Arquitetural Sistemático: Uma avaliação abrangente de seis arquiteturas neurais abrangendo diferentes vieses indutivos (de agnosticismo de estrutura a equivariância rotacional) para determinar a melhor forma de agregar informações direcionais.
3. Benchmarking Empírico: Avaliação através de seis benchmarks de classificação cobrindo diversos tipos de dados: nuvens de pontos, grafos, complexos cubicais e malhas (tanto 2D quanto 3D).

Resultos

• Impacto da Codificação: A codificação contínua melhorou a precisão da classificação em cinco de seis datasets em comparação com a melhor codificação discreta. Os ganhos mais significativos foram observados no dataset Letter-high (+0.120) e SwissBuildings (+0.094).
• Tokenização vs. Capacidade: Experimentos de controle demonstraram que os ganhos de desempenho derivam da própria tokenização, e não da capacidade adicional do transformer. Aplicar um transformer à ECT discretizada não gerou melhorias consistentes.
• Interação de Arquitetura: A escolha da arquitetura de representação importou menos do que a escolha da codificação. No entanto, interações foram observadas:
  • Sob a codificação contínua, a simples rede feedforward foi a que apresentou o melhor desempenho em cinco dos seis datasets.
  • Sob a codificação discreta, a rede feedforward foi instável (por exemplo, colapsando em SwissBuildings), enquanto arquiteturas convolucionais (especificamente 1D e Híbrida) provaram ser mais robustas.
  • A codificação contínua forneceu um input mais "aprendível", estreitando a lacuna de desempenho entre a rede feedforward e os modelos convolucionais.
• Equivariância: Embora as arquiteturas rotacionalmente equivariantes (Conv 1D/Complexa) tenham sido projetadas para preservar simetria, a rede feedforward frequentemente superou as demais em datasets com orientações canônicas (como derivados de Fashion-MNIST), sugerindo que a equivariância estrita nem sempre é o viés indutivo ideal para todas as tarefas.

Significância
O artigo afirma que o método de codificação da ECT é um fator mais crítico para o desempenho downstream do que a arquitetura neural específica usada para processá-la. Ao mudar de uma representação baseada em grade e discretizada para uma tokenização contínua baseada em vértices, os autores alcançam maior precisão e estabilidade de treinamento sem depender de arquiteturas equivariantes complexas para a maioria das tarefas. A codificação contínua contorna efetivamente o ajuste de hiperparâmetros associado à resolução da grade, oferecendo uma representação exata da transformada topológica que é naturalmente adequada para o processamento neural. O trabalho sugere que, para descritores de forma globais, a fidelidade da representação de entrada (a codificação) supera a complexidade dos vieses indutivos do modelo.