Encoding the Euler Characteristic Transform

Resumen Técnico: Codificación de la Transformada de la Característica de Euler

Planteamiento del Problema
La Transformada de la Característica de Euler (ECT, por sus siglas en inglés) es un descriptor de forma inyectivo y potente que agrega Curvas de la Característica de Euler (ECC) computadas a través de múltiples direcciones de muestreo. Si bien la ECT Diferenciable (DECT) ha permitido el aprendizaje de extremo a extremo, un cuello de botella crítico persiste en cómo se codifica la ECT para las redes neuronales. Convencionalmente, las ECC se discretizan sobre una rejilla fija de umbrales de altura ($H$) para cada dirección ($D$), lo que resulta en una matriz de $D \times H$. Esta discretización introduce un hiperparámetro de resolución ($H$) que debe ajustarse por cada conjunto de datos, creando un compromiso entre expresividad y costo computacional. Además, la discretización uniforme impone la misma resolución tanto a las regiones de cambios rápidos como a las regiones planas de la curva, a pesar de que toda la información topológica en una ECC se atribuye inherentemente a los vértices del complejo celular subyacente.

Metodología
Los autores proponen una codificación continua de la ECT que elimina la necesidad de una rejilla de discretización. En lugar de muestrear la función ECC en alturas fijas, el método registra el cambio neto de la característica de Euler ($\Delta\chi$) atribuido a cada vértice $v$ para una dirección dada $w_i$.

• Tokenización: Para un complejo celular con $N$ vértices y una dirección $w_i$, la altura de filtración para cada celda se determina por su "vértice responsable" (el vértice con la proyección máxima). El cambio neto $\Delta\chi(v, w_i)$ se calcula sumando las contribuciones con signo de todas las celdas que entran en la filtración en el umbral definido por ese vértice. Los vértices con un cambio neto de cero se descartan, resultando en una secuencia dispersa de tokens $\{( \langle v, w_i \rangle, \Delta\chi(v, w_i) )\}$.
• Codificador de ECC: Un pequeño codificador de transformador (transformer encoder) procesa estas secuencias de tokens para cada dirección, mapeando la secuencia de longitud variable a un vector de características de longitud fija ($d_{out}$). Esto reemplaza la matriz discretizada tradicional con una matriz de características de $D \times d_{out}$.
• Arquitecturas de Representación: El estudio evalúa seis arquitecturas distintas para procesar la matriz resultante de la ECT, que van desde modelos base sin estructura hasta modelos equivariantes:
  1. Red Feedforward: Aplana la matriz; sin sesgo inductivo estructural.
  2. Deep Sets: Trata las direcciones como un conjunto desordenado (invariante a la permutación).
  3. Convolución 2D: Trata la matriz como una imagen; utiliza relleno circular a lo largo del eje de la dirección para preservar la equivariancia rotacional.
  4. Convolución 1D: Aplica convoluciones a lo largo del eje de la dirección con relleno circular.
  5. Convolución Compleja 1D: Representa las ECC en el dominio complejo para preservar inherentemente la equivariancia rotacional mediante la codificación de fase.
  6. Híbrida: Combina convoluciones 1D con capas totalmente conectadas.

Contribuciones Clave

1. Representación de ECT Continua: Introducción de una codificación continua, exacta y parsimoniosa que no depende de una rejilla y que registra los cambios topológicos en los vértices en lugar de muestrear valores de la función. Esto elimina el hiperparámetro de resolución y es inherentemente diferenciable.
2. Estudio Arquitectónico Sistemático: Una evaluación exhaustiva de seis arquitecturas neuronales que abarcan diferentes sesgos inductivos (desde carentes de estructura hasta rotacionalmente equivariantes) para determinar cómo agregar mejor la información direccional.
3. Evaluación Empírica Comparativa: Evaluación a través de seis entornos de clasificación que cubren diversos tipos de datos: nubes de puntos, grafos, complejos cubicales y mallas (tanto 2D como 3D).

Resultados

• Impacto de la Codificación: La codificación continua mejoró la precisión de la clasificación en cinco de los seis conjuntos de datos en comparación con la mejor codificación discreta. Las ganancias más significativas se observaron en el conjunto de datos Letter-high (+0.120) y SwissBuildings (+0.094).
• Tokenización vs. Capacidad: Los experimentos de control demostraron que las ganancias de rendimiento provienen de la tokenización en sí misma y no de la capacidad añadida del transformador. Aplicar un transformador a la ECT discretizada no produjo mejoras consistentes.
• Interacción de la Arquitectura: La elección de la arquitectura de representación importó menos que la elección de la codificación. Sin embargo, se observaron interacciones:
  • Bajo la codificación continua, la red feedforward simple fue la de mejor desempeño en cinco de los seis conjuntos de datos.
  • Bajo la codificación discreta, la red feedforward fue inestable (por ejemplo, colapsando en SwissBuildings), mientras que las arquitecturas convolucionales (específicamente 1D e Híbrida) resultaron más robustas.
  • La codificación continua proporcionó una entrada más "aprendible", estrechando la brecha de rendimiento entre la red feedforward y los modelos convolucionales.
• Equivarianza: Aunque las arquitecturas rotacionalmente equivariantes (Conv 1D/Compleja) fueron diseñadas para preservar la simetría, la red feedforward a menudo superó a estas en conjuntos de datos con orientaciones canónicas (como los derivados de Fashion-MNIST), lo que sugiere que la equivariancia estricta no siempre es el sesgo inductivo óptimo para todas las tareas.

Significancia
El artículo sostiene que el método de codificación de la ECT es un factor más crítico para el rendimiento en el proceso posterior que la arquitectura neuronal específica utilizada para procesarla. Al pasar de una representación discretizada basada en rejillas a una tokenización continua basada en vértices, los autores logran una mayor precisión y estabilidad de entrenamiento sin depender de arquitecturas equivariantes complejas para la mayoría de las tareas. La codificación continua sortea eficazmente el ajuste de hiperparámetros asociado con la resolución de la rejilla, ofreciendo una representación exacta de la transformada topológica que es naturalmente apta para el procesamiento neuronal. El trabajo sugiere que, para los descriptores de forma global, la fidelidad de la representación de entrada (la codificación) supera la complejidad de los sesgos inductivos del modelo.