FHRFormer: A Self-Supervised Masked Transformer Framework for Fetal Heart Rate Time-Series Inpainting and Forecasting

Resumen Técnico: FHRFormer

Enunciado del Problema
La monitorización de la Frecuencia Cardíaca Fetal (FHR) es crítica para evaluar el bienestar fetal y detectar la sufrimiento durante el parto. Aunque los monitores portátiles de FHR (por ejemplo, el dispositivo Moyo) han mejorado la accesibilidad en entornos de recursos limitados al permitir la monitorización continua sin restringir la movilidad materna, son propensos a interrupciones de la señal. Estas brechas surgen por el desplazamiento del sensor durante el movimiento o cambios en la posición fetal/materna. Tales datos faltantes comprometen la interpretación clínica y obstaculizan la fiabilidad de los sistemas de Inteligencia Artificial (IA) diseñados para predecir resultados neonatales. Los métodos de imputación tradicionales, como la interpolación lineal o por splines, no logran preservar las características espectrales complejas y la coherencia temporal de las señales de FHR, particularmente durante interrupciones prolongadas. Además, las arquitecturas de aprendizaje profundo existentes, como las RNN y las CNN, a menudo tienen dificultades para capturar las dependencias temporales de largo alcance y la naturaleza no estacionaria de la dinámica de la FHR requeridas para una reconstrucción y predicción precisas.

Metodología
Los autores proponen FHRFormer, un marco de autoencoder basado en Transformers con enmascaramiento auto-supervisado diseñado para la restauración (inpainting) y predicción de señales de FHR.

• Arquitectura: El modelo utiliza una estructura codificador-decodificador basada en Transformers. La señal de entrada de FHR (normalizada a una longitud fija de 7.200 pasos de tiempo, representando una hora) se divide en parches no superpuestos.
  • Codificador: Procesa los parches visibles (no enmascarados) a través de cinco bloques de Transformer utilizando atención auto-referencial multi-cabeza (MHSA) para capturar dependencias temporales y espectrales globales.
  • Decodificador: Reconstruye la señal completa procesando tanto los parches visibles codificados como los tokens de máscara aprendibles que representan los segmentos faltantes. Emplea atención bidireccional para razonar sobre todo el contexto temporal.
• Estrategia de Entrenamiento: El modelo se entrena utilizando un enfoque de autoenmascaramiento auto-supervisado. Se aplica una máscara binaria aleatoria a un subconjunto de parches (ratio de enmascaramiento objetivo $\gamma$), y se le asigna al modelo la tarea de reconstruir los valores originales de la señal para estas regiones enmascaradas.
• Función de Pérdida: Para garantizar tanto la precisión temporal como la fidelidad fisiológica, el objetivo de entrenamiento combina dos pérdidas:
  1. Pérdida de Reconstrucción ($L_{recon}$): Error Cuadrático Medio (MSE) en los parches enmascarados.
  2. Pérdida Focal de Frecuencia ($L_{freq}$): Una pérdida en el dominio de la frecuencia que penaliza las discrepancias en los espectros de magnitud de la Transformada Discreta de Fourier (DFT) entre las señales original y reconstruida. Esto asegura la preservación de características espectrales críticas como la variabilidad de la línea base y los patrones de desaceleración.
     La pérdida total es una suma ponderada: $L_{total} = 0.95 \cdot L_{recon} + 0.05 \cdot L_{freq}$.
• Datos: El modelo se entrenó con 4.486 episodios de FHR del proyecto "Safer Births" en Tanzania, recopilados mediante el monitor Laerdal Moyo. Los datos se preprocesaron para eliminar el ruido Doppler y se normalizaron.

Contribuciones Clave

1. Reconstrucción Basada en Transformers: Introducción de un autoencoder Transformer enmascarado específicamente adaptado para la reconstrucción de señales de FHR, capaz de modelar dependencias temporales multi-escala mejor que las RNN o las CNN.
2. Estrategia de Restauración Auto-supervisada: Un método para recuperar segmentos faltantes de FHR sin requerir datos etiquetados emparejados, aprovechando el enmascaramiento sintético en datos fisiológicos no etiquetados.
3. Pipeline de Predicción: Una extensión del modelo entrenado para realizar una predicción progresiva de valores futuros de FHR, mejorando su utilidad para la evaluación de riesgos en tiempo real.
4. Aprendizaje Consciente de la Frecuencia: La integración de la pérdida focal de frecuencia para mantener la fidelidad espectral, abordando una limitación clave de los métodos de reconstrucción basados únicamente en el dominio del tiempo.

Resultados
El modelo se evaluó en conjuntos de validación y prueba utilizando múltiples métricas, incluidas Pérdida de Reconstrucción (RL), Relación Pico Señal-Ruido (PSNR), Índice de Similitud Estructural (SSIM), Distancia de Inception Fréchet (FID), MSE, RMSE y Coeficiente de Correlación (CC).

• Sensibilidad al Tamaño del Parche: Experimentos con tamaños de parche que oscilaban entre 30 y 480 muestras revelaron que los parches más pequeños produjeron un rendimiento superior. La configuración con un tamaño de parche de 30 (Híbrido-30) logró los mejores resultados, con un PSNR de prueba de 41,38 dB, un SSIM de 0,9984 y un CC de 0,9993. Los parches más grandes resultaron en una pérdida de resolución morfológica local.
• Ratio de Enmascaramiento: El rendimiento alcanzó su punto máximo con un ratio de enmascaramiento del 15%. Más allá de este umbral, la densidad de datos faltantes degradó el contexto estructural disponible para la reconstrucción.
• Restauración (Inpainting): Las comparaciones visuales demostraron que FHRFormer reconstruyó eficazmente los segmentos faltantes, preservando las desaceleraciones transitorias y la estabilidad de la línea base mejor que la interpolación lineal.
• Predicción: En una tarea de predicción progresiva (predecir 15 segundos de antelación basándose en 30 minutos de historia), FHRFormer superó la línea base TimeGPT, rastreando con éxito trayectorias fisiológicas complejas sin sucumbir a la acumulación de errores ni a suposiciones de estado estacionario.

Significado y Afirmaciones
El artículo posiciona a FHRFormer como una herramienta transformadora para la monitorización de FHR habilitada por IA de próxima generación, particularmente para dispositivos portátiles en entornos con recursos limitados. Al manejar eficazmente las interrupciones de la señal, el marco garantiza la continuidad y la calidad de los datos necesarios para algoritmos robustos de estratificación de riesgos. Los autores afirman que el método puede aplicarse retrospectivamente a conjuntos de datos de investigación para mejorar el desarrollo de algoritmos de IA. Además, sugieren que integrar este enfoque en dispositivos portátiles podría permitir una detección más temprana y robusta del sufrimiento fetal al mantener la continuidad de los datos incluso durante pérdidas transitorias de señal. El trabajo cierra la brecha entre las limitaciones del procesamiento de señales tradicional y las capacidades modernas de aprendizaje profundo, abordando específicamente las complejidades no estacionarias y espectrales de las señales de FHR.