Resumen Técnico: Aprendizaje Multimodal de Doble Flujo para el Pronóstico de Influenza de Largo Horizonte

1. Definición del Problema

El artículo aborda el desafío de pronosticar la actividad de la enfermedad similar a la influenza (ILI, por sus siglas en inglés) a largo plazo, específicamente prediciendo 12 semanas de tendencias futuras de ILI basándose en una ventana histórica de 36 semanas. La dificultad central radica en fusionar eficazmente dos modalidades de datos distintas disponibles en el mismo origen de pronóstico:

1. Señales Numéricas: Datos de vigilancia epidemiológica estructurados y semanales (por ejemplo, porcentajes de ILI por grupos de edad).
2. Señales Textuales: Titulares de noticias y resúmenes de búsqueda semanales, ruidosos y de estructura laxa, que describen síntomas, virus circulantes y observaciones de salud pública.

Los enfoques existentes suelen tratar estas modalidades como características fijas, concatenándolas después de una codificación independiente o utilizando el texto como una señal de condicionamiento unidireccional. Esto no logra modelar explícitamente la interacción dinámica donde el estado de una modalidad debe influir en la interpretación de la otra (por ejemplo, usar el texto para contextualizar un pico numérico, o usar las tendencias numéricas para determinar la relevancia epidemiológica de una señal textual). Además, las señales textuales suelen tener un desfase o estar indirectamente relacionadas con las tendencias a corto plazo, lo que requiere un diseño arquitectónico cuidadoso para evitar la propagación de ruido.

2. Metodología: Atención de Doble Flujo (DSA)

Los autores proponen Dual-Stream Attention (DSA), un marco de aprendizaje profundo multimodal diseñado para permitir que los flujos numéricos y textuales se condicionen mutuamente antes de la agregación temporal. La arquitectura consta de cinco componentes clave:

2.1. Codificador Numérico

El historial numérico ($\mathbf{X}_{num} \in \mathbb{R}^{36 \times 14}$) se proyecta a un tamaño oculto y es procesado por un codificador Transformer de 4 capas. Notablemente, los autores omiten la codificación posicional en esta etapa, confiando en su lugar en la máscara causal aplicada posteriormente en el modelo temporal para preservar el orden, ya que añadir codificación posicional tempranamente degradó el rendimiento en sus experimentos.

2.2. Codificador de Titulares

Los fragmentos de texto semanales son tokenizados y codificados utilizando BioLinkBERT-base, un modelo de lenguaje preentrenado en textos biomédicos.

• Adaptación: Solo las últimas 8 capas se descongelan durante el entrenamiento para equilibrar la adaptación con el sobreajuste.
• Agrupación (Pooling): En lugar de utilizar un token [CLS], el modelo emplea una agrupación de media enmascarada sobre las representaciones de los tokens para generar las incrustaciones (embeddings) semanales ($\mathbf{e}_t$).
• Atención Intersemanal: Estas incrustaciones pasan por una capa de autoatención para permitir que la representación textual en la semana $t$ incorpore el contexto de otras semanas antes de la fusión.

2.3. Módulo de Atención Cruz-Modal (CMA)

Esta es la innovación central de DSA. En lugar de una simple concatenación, el CMA implementa un mecanismo de atención bidireccional:

• Numérico $\to$ Texto: El flujo numérico consulta al flujo de texto para interpretar cómo debe leerse el texto dado el estado epidemiológico actual.
• Texto $\to$ Numérico: El flujo de texto consulta al flujo numérico para interpretar cómo debe leerse la tendencia numérica dado el contexto textual.
• Fusión: Las salidas de ambas direcciones de atención se concatenan, se proyectan y se suman de nuevo a los flujos normalizados mediante conexiones residuales, seguidas de una Normalización de Capa (Layer Normalization). Esto permite que la representación de cada modalidad sea reponderada en función de la otra.

2.4. Modelo Temporal Causal

La representación fusionada se pasa a un Transformer causal de 2 capas. Una máscara de atención estricta asegura que el modelo solo pueda atender a las posiciones actuales y pasadas dentro de la ventana de observación, evitando la filtración de información de pasos de tiempo futuros. El estado oculto final del último paso de tiempo se agrupa para el pronóstico.

2.5. Regresor

Un Perceptrón Multicapa (MLP) de dos capas mapea la representación temporal final directamente a un horizonte de pronóstico de 12 semanas. El modelo se entrena de extremo a extremo utilizando el Error Cuadrático Medio (MSE).

3. Contribuciones Clave

1. Arquitectura: Introducción de DSA, que modela explícitamente la condicionación cruz-modal bidireccional entre el historial epidemiológico numérico y el texto semanal concurrente, yendo más allá de la concatenación no condicionada.
2. Evaluación Rigurosa: Una evaluación multi-semilla (10 semillas aleatorias) contra bases sólidas unimodales (iTransformer, DLinear, PatchTST), aumentadas con texto (TaTS) y basadas en LLM (GPT4MTS). El estudio incluye análisis de riesgo de cola, rendimiento por horizonte, robustez estratificada por fases y Conjuntos de Modelos de Confianza.
3. Análisis de Ablación: Experimentos controlados que demuestran que la ganancia de rendimiento proviene principalmente del mecanismo de fusión bidireccional y no del ajuste fino del modelo de lenguaje o de la elección de codificadores específicos.
4. Análisis de Fidelidad: Análisis de enmascaramiento basado en perturbaciones que muestra que la atención cruz-modal aprendida es funcionalmente informativa, observándose un efecto más fuerte en la dirección de Texto $\to$ Numérico.

4. Resultados Experimentales

Evaluado en el conjunto de datos Time-MMD Health_US (36 semanas de observación, 12 semanas de pronóstico):

• Precisión: DSA logró una mediana de MSE de prueba de 0.416, superando significativamente a iTransformer (0.668), TaTS (0.607) y GPT4MTS (0.851). Esto representa reducciones de error medio de 54.95%, 37.29% y 67.23% respectivamente.
• Robustez y Riesgo de Cola: DSA demostró un error de ventana máxima (Max MSE) y un MSE P90 sustancialmente menores en comparación con todos los modelos de referencia. Clasificó en primer lugar en el 100% de los sorteos de bootstrap, mientras que GPT4MTS clasificó último en el 74.6% de los sorteos a pesar de tener errores promedio competitivos.
• Rendimiento Estratificado por Fase:
  • Fase de Pico: DSA logró el margen más claro sobre todos los modelos de referencia durante el pico de la epidemia, el régimen más críticamente operativo.
  • Otras Fases: DSA se mantuvo competitivo en las fases de temporada baja, ascenso y descenso, aunque fue ligeramente superado por TaTS en la fase de ascenso y por GPT4MTS en la fase de descenso.
• Generalización: En un conjunto de datos externo (Time-MMD Health_Africa), DSA también clasificó primero entre nueve bases evaluadas.
• Ablaciones:
  • Eliminar la máscara causal aumentó el MSE significativamente (1.09 $\to$ 1.71).
  • Congelar el codificador de texto (sin ajuste fino) aún superó al mejor modelo de fusión base (TaTS), lo que indica que el mecanismo de fusión es el principal motor de la mejora.
  • La atención bidireccional superó a las variantes unidireccionales (solo Texto$\to$Num o Num$\to$Texto).
  • Reemplazar BioLinkBERT con BERT de dominio general o modelos más pequeños (MiniLM) causó una ligera caída en el rendimiento pero no colapsó la efectividad del modelo, sugiriendo que la ventaja reside más en la arquitectura de fusión que en el preentrenamiento específico.

5. Significado y Reivindicaciones

El artículo afirma que DSA ofrece una arquitectura robusta en general para el pronóstico de la influenza a largo horizonte, en lugar de un modelo que domine bajo cada condición epidemiológica específica. Su principal significancia radica en:

• Interacción Explícita: Modelar con éxito cómo el texto de vigilancia, ruidoso y con desfase temporal, debe informar las tendencias numéricas sin ser aceptado incondicionalmente.
• Valor Operativo: Al mantener una competitividad constante a través de todas las fases epidémicas (especialmente la fase crítica de pico) y minimizar el riesgo de cola (errores del peor caso), DSA proporciona un valor más práctico para la asignación de recursos de salud pública que los modelos que sobresalen solo en regímenes específicos o casos promedio.
• Perspectiva Metodológica: Demostrar que la atención cruz-modal bidireccional es superior al condicionamiento unidireccional o a la simple concatenación en el pronóstico de series temporales multimodales, particularmente cuando las modalidades tienen diferentes niveles de fiabilidad y escalas temporales.

Los autores concluyen que, si bien DSA no es universalmente dominante en cada fase individual (por ejemplo, la fase de descenso), su consistencia a través de semillas aleatorias, fases y geografías lo convierte en una opción superior para los sistemas de pronóstico desplegados donde la fase epidemiológica futura es desconocida.