Disentangling Confounders from Pathology in Long-COVID Trajectory Prediction for Women: An Interpretable Large-Language-Model Approach

Resumen Técnico: Desentrañando los Confundidores de la Patología en la Predicción de la Trayectoria de la Long-COVID en Mujeres

Planteamiento del Problema
Las secuelas posagudas de la infección por SARS-CoV-2 (PASC, o "Long-COVID") afectan desproporcionadamente a las mujeres, particularmente a aquellas en la mediana edad. Surge un desafío metodológico crítico debido a que los síntomas característicos de la PASC (p. ej., insomnio, fatiga, palpitaciones, dificultad cognitiva) se solapan significamente con comorbilidades comunes y transiciones fisiológicas, específicamente la menopausia. Los modelos predictivos entrenados con tales datos corren el riesgo de aprender correlaciones espurias, atribuyendo la severidad futura de los síntomas a la patología viral cuando en realidad es impulsada por el ruido fisiológico basal o confundidores como la menopausia y la diabetes. Los autores postulan que los modelos predictivos estándar pueden lograr métricas de error bajas mientras aprenden "lo incorrecto", lo que conduce a un marcado sistemático excesivo de subpoblaciones en el despliegue clínico.

Metodología
El estudio utiliza una cohorte retrospectiva de 1,155 mujeres adultas (mediana de edad 61) del programa RECOVER del NIH. El conjunto de datos integra tres modalidades:

1. Perfiles Clínicos Estáticos: Demografía y comorbilidades (p. ej., afecciones cardíacas, trastornos del sueño, estado de la menopausia).
2. Encuestas Longitudinales de Síntomas: Índices de síntomas de PASC (escala 0–30) en el nivel basal y en el seguimiento.
3. Fisiología de Wearables de Consumo: Cuatro semanas de datos agregados por media (frecuencia cardíaca, sueño, actividad) antes de los horizontes de predicción.

Arquitectura del Modelo:
Los autores proponen un enfoque de Modelo de Lenguaje Grande (LLM) interpretable y causalmente desentrañado utilizando un backbone Qwen2.5-0.5B ajustado mediante LoRA.

• Representación de Entrada: Cada paciente se renderiza como una narrativa de lenguaje natural estructurada que combina perfiles estáticos, puntuaciones históricas y datos de wearables agrupados.
• Mecanismo de Desentrañamiento: Una variante específica del modelo introduce una capa de desentrañamiento basada en atención. Esta capa segmenta el estado oculto latente ($h$) en dos componentes escalares:
  • Componente Causal ($x_o$): Destinado a capturar señales de patología invariantes (p. ej., "falta de aire", "malestar").
  • Componente de Confundidor ($x_c$): Destinado a capturar el ruido basal (p. ej., estado de la menopausia, diabetes, relleno lingüístico).
• Objetivo de Entrenamiento: El modelo emplea un objetivo de contraste de mezcla de entornos (InfoNCE). Crea representaciones contrafactuales mezclando las características causales del Paciente A con las características de confundidor del Paciente B. Esto obliga a la lectura (readout) a predecir el resultado basándose en la señal causal independientemente del entorno de confusión, suprimiendo así la dependencia de correlaciones espurias.
• Predicción: El output final es una puntuación de regresión acotada [0, 30] para la severidad de la PASC en horizontes de 3, 6 y 9 meses.

Protocolo de Benchmarking
El regresor LLM fue evaluado frente a un conjunto exhaustivo de líneas base sobre 20 remuestreos estratificados:

• Historia: Carry-forward del último valor (el valor observado más reciente).
• ML Tradicional: Lasso, Ridge, XGBoost.
• Aprendizaje Profundo: Deep MLP, Tabular ResNet, Self-Attention Network.
  La significancia estadística se evaluó mediante pruebas de Wilcoxon signed-rank y t-tests pareados.

Resultos Clave

1. La Fuerza de la Línea Base: Debido a la fuerte autocorrelación de la severidad de la PASC, el método simple de carry-forward del último valor fue el predictor más preciso para la cohorte completa en todos los horizontes (3, 6 y 9 meses). El regresor LLM no superó estadísticamente al carry-forward en la cohorte completa en términos de Error Absoluto Medio (MAE).
2. Rendimiento entre Modelos Aprendidos: Entre todos los modelos aprendidos (excluyendo el simple carry-forward), el regresor LLM logró el MAE más bajo en todos los horizontes. Por ejemplo, a los 3 meses, el LLM logró un MAE de 3.11 comparado con el 3.57 de XGBoost ($p \le 0.01$).
3. Fenotipos Dinámicos (Grupo de Respuesta): El valor del modelo aprendido es condicional. En el fenotipo de "Respuesta" (pacientes con trayectorias de síntomas dinámicas y cambiantes), el LLM fue el método más preciso en general a los 3 y 6 meses, superando incluso a la línea base de carry-forward (aunque la diferencia no fue estadísticamente significativa debido a las restricciones del tamaño de la muestra).
4. Interpretabilidad y Saliencia: La capa de desentrañamiento asignó con éxito la máxima saliencia (peso $\approx 1.00$) a los tokens de patología directa (p. ej., "falta de aire", "malestar") mientras suprimía los confundidores como "menopausia" y "diabetes" (peso $< 0.27$) y el relleno lingüístico ($< 0.17$).

Significancia y Reivindicaciones
Los autores enmarcan su contribución con un enfoque en la "honestidad" e interpretabilidad más que en la ganancia de precisión bruta:

• Integridad del Benchmarking: El artículo afirma que cualquier modelo futuro de predicción de PASC debe ser juzgado frente a una línea base de carry-forward del último valor, ya que este heurístico simple es extremadamente difícil de vencer para pacientes estables.
• Utilidad Condicional: El valor principal del modelo desentrañado y aprendido no es la mejora de la precisión universal, sino:
  1. Precisión Dinámica: Mejora del rendimiento específicamente en pacientes con trayectorias de síntomas cambiantes (Responders).
  2. Honestidad Clínica: La capacidad de proporcionar una atribución interpretable que reduzca el peso de los confundidores. Los autores argumentan que un modelo que identifica correctamente que la "menopausia" no es "Long-COVID" es clínicamente superior a un modelo ligeramente más preciso pero opaco que las confunde, ya que reduce el riesgo de diagnóstico erróneo sistemático en la salud de la mujer.

Limitaciones
Los autores señalan explícitamente algunas restricciones:

• El estudio depende de una única cohorte (RECOVER) sin validación externa.
• El subgrupo de "Respuesta" es pequeño, lo que limita el poder estadístico para las afirmaciones de subgrupos.
• Los datos de wearables para horizontes más largos se solapan con la encuesta de resultados, actuando más como monitoreo que como una estricta predicción pre-basal.
• La variante de desentrañamiento solo fue evaluada para el horizonte de 3 meses para la interpretabilidad; los resultados de precisión multihorizonte utilizaron una configuración ligeramente diferente (fusión residual).

Conclusión
El artículo concluye que, para la previsión de la severidad de la Long-COVID en mujeres, los heurísticos simples son referencias sólidas. El enfoque propuesto sirve como un complemento que aumenta la transparencia de estos heurísticos, ofreciendo un mecanismo de atribución "clínicamente honesto" que separa las señales patológicas del ruido fisiológico de confusión, particularmente en poblaciones de pacientes dinámicas.