NeuralFLoC: Neural Flow-Based Joint Registration and Clustering of Functional Data

1. Planteamiento del Problema

El artículo aborda el desafío de agrupar datos funcionales (por ejemplo, señales biológicas, trayectorias de movimiento) en presencia de variación de fase.

• El Problema Central: Los datos funcionales a menudo exhiben dos tipos de variabilidad: variación de amplitud (diferencias de magnitud vertical) y variación de fase (desalineación horizontal/temporal de las características).
• La Dificultad: Los algoritmos de agrupamiento estándar fallan cuando la variación de fase es significativa, ya que agrupan curvas basándose en la desalineación temporal en lugar de en las diferencias intrínsecas de forma.
• Limitaciones de los Métodos Existentes:
  • Enfoques de dos etapas: Realizan el registro (alineación) y el agrupamiento por separado. Esto conduce a la propagación de errores, sesgos derivados de plantillas preespecificadas e ineficiencia computacional.
  • Modelos estadísticos conjuntos: A menudo dependen de suposiciones paramétricas restrictivas (por ejemplo, desplazamientos temporales simples, procesos de Dirichlet) y luchan con la escalabilidad o los datos multivariados.

2. Metodología: NeuralFLoC

Los autores proponen NeuralFLoC, un marco de aprendizaje profundo completamente no supervisado y de extremo a extremo que integra Ecuaciones Diferenciales Ordinarias Neuronales (Neural ODEs) con agrupamiento espectral. El marco consta de tres módulos principales:

A. Inicialización Latente (Codificador CNN 1D)

• Los datos funcionales crudos $x_i(t)$ se pasan a través de una Red Neuronal Convolucional 1D (CNN) para extraer patrones morfológicos locales.
• La salida es un vector latente $z_i$ que sirve como condición inicial para las dinámicas de deformación subsiguientes. Esto asegura que la alineación comience desde una representación consciente de la forma.

B. Deformación Temporal Continua (Deformador Neural ODE)

• En lugar de una deformación discreta, el modelo aprende funciones de deformación suaves e invertibles $\gamma_i(t)$ utilizando Neural ODEs.
• Mecanismo: Un campo de velocidad aprendible $f$ (parametrizado por una MLP) gobierna el flujo continuo $\tau_i(t)$:
  $$\frac{d\tau_{ij}(t)}{dt} = f(\tau_{ij}(t), t, z_{ij}; \Theta_{ode})$$
• Restricciones: Una activación Softplus asegura que la derivada sea positiva ($\dot{\gamma} > 0$), garantizando que la función de deformación sea estrictamente monótona e invertible (un difeomorfismo).
• Mezcla Consciente del Grupo: La función de deformación final para una muestra es una mezcla de flujos específicos del grupo ponderada por probabilidades de asignación suave $p_{ij}$, permitiendo que la alineación se guíe por la estructura del grupo.

C. Agrupamiento Espectral y Función de Objetivo

• Alineación: Las curvas alineadas se transforman al espacio de la Función de Velocidad Raíz Cuadrada (SRVF). Esta métrica es invariante a la reparametrización, permitiendo cálculos de distancia geométricamente significativos.
• Agrupamiento: Las curvas alineadas se proyectan sobre una base de Fourier para filtrar el ruido y extraer coeficientes espectrales. Un mecanismo de asignación suave (utilizando un núcleo de distribución t de Student) asigna las curvas a los centroides de los grupos.
• Función de Pérdida Conjunta: El modelo minimiza un objetivo unificado:
  $$\mathcal{L}_{total} = \mathcal{L}_{reg} + \alpha \mathcal{L}_{clu}$$
  • $\mathcal{L}_{reg}$: Pérdida de registro SRVF condicional al grupo (minimizando la distancia a las medias de Karcher específicas del grupo).
  • $\mathcal{L}_{clu}$: Pérdida de agrupamiento (divergencia de Kullback-Leibler entre asignaciones suaves y una distribución objetivo) para fomentar una separación confiable de los grupos.
  • $\alpha$: Un hiperparámetro de equilibrio.

3. Contribuciones Clave

1. Marco Novel: El primer enfoque de aprendizaje profundo de extremo a extremo para el registro y agrupamiento simultáneos de datos funcionales.
2. Flujos Difeomórficos: Utiliza Neural ODEs para garantizar funciones de deformación suaves, invertibles y monótonas sin suposiciones distribucionales explícitas, superando las limitaciones de los métodos discretos o paramétricos.
3. Garantías Teóricas:
   • Aproximación Universal: Demuestra que el módulo Neural ODE puede aproximar cualquier función de deformación admisible arbitrariamente bien.
   • Consistencia Asintótica: Establece que el estimador conjunto converge a las asignaciones de grupo verdaderas a medida que aumenta el tamaño de la muestra, siempre que los grupos sean separables después del registro.
4. Escalabilidad: Logra una complejidad temporal lineal $O(N)$ con respecto al tamaño de la muestra y un uso de memoria constante mediante el método de sensibilidad adjunta, haciéndolo adecuado para grandes conjuntos de datos.

4. Resultados Experimentales

El método fue evaluado en diversos conjuntos de datos del Archivo de Series Temporales UCR (Formas, Ondas, Símbolos) que involucran tanto datos funcionales univariados como multivariados.

• Rendimiento: NeuralFLoC logró resultados de Estado del Arte (SOTA) tanto en registro (medido por la Variación Total Ajustada, ATV) como en agrupamiento (Precisión e Información Mutua Normalizada).
• Estudios de Ablación:
  • Reemplazar la Neural ODE con deformación discreta (SrvfRegNet) degradó significativamente el rendimiento, destacando la importancia de los flujos continuos.
  • Eliminar cualquiera de los módulos de registro o agrupamiento causó caídas severas en el rendimiento, confirmando la necesidad de la formulación conjunta.
• Robustez: El modelo demostró una fuerte robustez ante:
  • Datos Faltantes: Mantuvo el rendimiento con hasta un 20% de puntos faltantes.
  • Muestreo Irregular: Funcionó bien en cuadrículas muestreadas de manera desigual.
  • Ruido: Permaneció estable bajo niveles de ruido gaussiano de hasta $\sigma=0.10$.
• Escalabilidad: Escaló con éxito a ~70,000 muestras con una degradación mínima del rendimiento.

5. Significado

NeuralFLoC representa un cambio de paradigma en el Análisis de Datos Funcionales (FDA) al unificar el registro geométrico y el aprendizaje no supervisado.

• Desenredo: Separa efectivamente las variaciones de fase y amplitud, un paso crítico a menudo ignorado o manejado deficientemente en métodos anteriores.
• Flexibilidad: Al evitar suposiciones paramétricas restrictivas, puede modelar distorsiones temporales complejas y no lineales comunes en sistemas biológicos y físicos del mundo real.
• Practicidad: Su eficiencia computacional y robustez lo hacen aplicable a conjuntos de datos funcionales a gran escala, ruidosos y muestreados de manera irregular, donde los métodos estadísticos tradicionales fallan.

En resumen, NeuralFLoC proporciona una solución principista, escalable y altamente efectiva para analizar datos funcionales desalineados, cerrando la brecha entre la flexibilidad del aprendizaje profundo y el rigor geométrico requerido para el análisis de datos funcionales.