Resumen Técnico: HyFAD

Declaración del Problema

Los modelos de difusión existentes para la imputación de series temporales, aunque exitosos en capturar distribuciones de datos complejas, enfrentan tres limitaciones primarias:

1. Reconstrucción Insuficiente de Alta Frecuencia: La difusión estándar en el dominio del tiempo inyecta ruido gaussiano isotrópico, el cual distribuye la energía uniformemente a través de las frecuencias. Esto entra en conflicto con las series temporales del mundo real, donde la energía espectral suele concentrarse en frecuencias bajas, lo que dificulta la recuperación de detalles de alta frecuencia y variaciones temporales finas.
2. Modelado Desequilibrado entre Global y Local: Priorizar las estructuras a largo plazo a menudo conduce a salidas sobre-suavizadas, mientras que enfatizar las fluctuaciones a corto plazo puede romper la consistencia global. Los modelos existentes luchan por equilibrar estas dinámicas contrapuestas.
3. Modelado Insensible a la Frecuencia: Los enfoques actuales suelen utilizar embeddings de paso (step embeddings) que son ajenos a la frecuencia e inyectan ruido uniformemente en todas las bandas de frecuencia. Esto impide que el modelo adapte su comportamiento de eliminación de ruido a las distintas características de recuperación de los diferentes componentes espectrales, lo que conduce a una reconstrucción subóptima de las variaciones locales.

Metodología

Los autores proponen HyFAD (Difusión Híbrida Tiempo-Frecuencia con Embedding Consciente de la Frecuencia), un marco construido sobre el paradigma de los Modelos Probabilísticos de Difusión de Eliminación de Ruido (DDPM) que acopla explícitamente los dominios del tiempo y la frecuencia.

1. Marco de Difusión Híbrida Tiempo-Frecuencia

A diferencia de los enfoques convencionales centrados únicamente en el dominio del tiempo, HyFAD emplea un proceso de avance y reversión acoplado:

• Proceso de Avance (Forward Process): La inyección de ruido ocurre secuencialmente. Primero, se inyecta ruido en la representación del dominio de la frecuencia (mediante la Transformada de Fourier Discreta Real, rDFT), seguido de la inyección de ruido en el dominio del tiempo. Esto transforma la distribución de datos original en una distribución gaussiana objetivo.
• Proceso de Reversión (Reverse Process): La eliminación de ruido procede en un orden especular: primero se elimina el ruido del dominio del tiempo para estabilizar las tendencias globales, seguido de la eliminación del ruido del dominio de la frecuencia para refinar los componentes espectrales de alta frecuencia. Esto crea un mecanismo de generación de "grueso a fino".
• Formulación Matemática: El proceso se define mediante una distribución posterior unificada donde el estado en el paso $k$ es una transformación lineal de la señal original más dos grupos de ruidos gaussianos independientes (tiempo y frecuencia). La función de pérdida combina la estimación de ruido en el dominio del tiempo, la estimación de ruido en el dominio de la frecuencia y una pérdida de consistencia para evitar el desajuste entre las dos ramas.

2. Embedding de Difusión Consciente de la Frecuencia

Para abordar la falta de atención específica a la frecuencia, los autores introducen un nuevo embedding de paso que proporciona guía espectral dependiente del paso. Este embedding se construye basado en la proposición de que las bandas de mayor frecuencia alcanzan los umbrales de degradación antes que las bandas de menor frecuencia durante el proceso de avance. El embedding integra tres componentes:

• Puerta Consciente del Ruido (Noise-Aware Frequency Gate): Un mecanismo de compuerta que se ajusta según el nivel de ruido acumulado, asegurando que las diferentes bandas de frecuencia sean tratadas de acuerdo con su relación señal-ruido.
• Programación de Etapas Consciente (Stage-Aware Frequency Schedule): Un peso de programación que codifica la recuperación progresiva de baja a alta frecuencia a medida que avanzan los pasos de eliminación de ruido.
• Fiabilidad de la Banda (Band Reliability): Un peso que tiene en cuenta los valores faltantes, los cuales pueden introducir artefactos espectrales, al penalizar las bandas de frecuencia no fiables basándose en el patrón de ausencia de datos.

3. Arquitectura del Modelo

La red de eliminación de ruido central utiliza una arquitectura de doble rama en cascada basada en el transformador de características temporales de CSDI.

• Rama del Dominio del Tiempo: Procesa los datos con ruido y la información condicional para estimar el ruido del dominio del tiempo.
• Rama del Dominio de la Frecuencia: Toma la salida del dominio del tiempo (transformada al dominio de la frecuencia) y utiliza el Embedding de Difusión Consciente de la Frecuencia para estimar el ruido del dominio de la frecuencia.
• Proxy de la Señal (Signal Proxy): Para mitigar la fuga espectral causada por los valores faltantes, se utiliza un mecanismo de "Proxy de la Señal". Este combina los valores observados con las estimaciones del estado actual para crear una referencia espectral sincronizada con la difusión para el modelado de la frecuencia.

Principales Contribuciones

1. Marco Acoplado Tiempo-Frecuencia: La propuesta de HyFAD, que unifica el modelado de ruido en los dominios de tiempo y frecuencia dentro de un único marco DDPM, permitiendo la diferenciación explícita entre las bandas espectrales y facilitando la reconstrucción de grueso a fino.
2. Embedding de Paso Consciente de la Frecuencia: La introducción de un nuevo embedding que modela la correspondencia entre los pasos de difusión y las bandas de frecuencia, permitiendo que el modelo se enfoque adaptativamente en los componentes espectrales apropiados durante la eliminación de ruido.
3. Rendimiento de Vanguardia (State-of-the-Art): Experimentos extensos en conjuntos de datos de referencia (PhysioNet y Calidad del Aire) demuestran que HyFAD supera consistentemente a los métodos existentes, incluyendo interpolación clásica, bases de aprendizaje profundo (BRITS, SAITS, TimesNet) y otros modelos de difusión (CSDI, SSSD).

Resultados Experimentales

Los autores evaluaron HyFAD en los conjuntos de datos PhysioNet y Air Quality bajo diversas tasas de ausencia (10%, 50%, 90%).

• Rendimiento: HyFAD logró el mejor Error Absoluto Medio (MAE) y la Raíz del Error Cuadrático Medio (RMSE) en todos los escenarios. Por ejemplo, en PhysioNet con un 10% de ausencia, redujo el MAE en un 2.8% en comparación con la segunda mejor base (LSCD).
• Estudios de Ablación:
  • Reemplazar el embedding consciente de la frecuencia con embeddings estándar resultó en una degradación del rendimiento, validando la necesidad del embedding propuesto.
  • Se encontró que la rama del dominio del tiempo es dominante para la estructura global (óptimo $\lambda = 0.75$), mientras que la rama de la frecuencia refina eficazmente la dinámica local.
  • El peso de la pérdida de consistencia ($\omega$) fue crítico para equilibrar las dos ramas, siendo $\omega=0.4$ el que produjo el mejor equilibrio.

Significado y Reivindicaciones

El artículo afirma que HyFAD aborda las limitaciones fundamentales de los modelos de difusión centrados solo en el dominio del tiempo al modelar explícitamente la distribución desequilibrada de la energía espectral de las series temporales del mundo real. Al integrar la dinámica del dominio de la frecuencia y la guía espectral dependiente del paso, el modelo logra una reconstrucción por banda más precisa. Los autores aseguran que este enfoque recupera eficazmente tanto las tendencias globales como las variaciones locales finas, corrigiendo la subestimación de las amplitudes de media a alta frecuencia que se observa frecuentemente en trabajos previos como CSDI. El trabajo se presenta como un paso significativo hacia una imputación de series temporales más robusta que respeta las características de frecuencia intrínsecas de los datos.