Recovering Clinical Utility Under Differential Privacy: Empirical Validation of Adaptive Federated Aggregation on Heterogeneous Cardiovascular Datasets

Resumen Técnico: Recuperación de la Utilidad Clínica bajo Privacidad Diferencial

Planteamiento del Problema
El desafío central abordado es la tensión entre la necesidad de conjuntos de datos grandes y diversos para entrenar modelos de riesgo cardiovascular de alta calidad y las prohibiciones legales (p. ej., GDPR, LGPD) contra la centralización de registros de pacientes. Si bien el Aprendizaje Federado (FL) permite que las instituciones colaboren sin compartir datos brutos, enfrenta dos barreras técnicas que se agravan en entornos clínicos:

1. Heterogeneidad Estadística (No-IID): Los datos clínicos del mundo real varían significativamente entre instituciones en términos de demografía, prevalencia de enfermedades y protocolos de recolección, lo que causa el "desvío del cliente" (client drift), donde los gradientes locales divergen del óptimo global.
2. Compromiso entre Privacidad y Utilidad: La Privacidad Diferencial (DP) es necesaria para prevenir ataques de inferencia, pero introduce ruido calibrado que desestabiliza la convergencia del modelo, particularmente bajo condiciones No-IID. Esto suele provocar una degradación significativa de la utilidad clínica, especialmente para las clases minoritarias (pacientes de alto riesgo).

El trabajo previo de los autores estableció una base teórica y sintética para una solución, pero carecía de validación en datos clínicos heterogéneos auténticos. Este estudio cierra esa brecha pasando de los entornos controlados de benchmarks sintéticos a una validación multiinstitucional del mundo real.

Metodología
El estudio valida el marco FedCVR, una arquitectura que integra la optimización adaptativa en el lado del servidor con la Privacidad Diferencial en el lado del cliente.

• Arquitectura:
  • Lado del Cliente: Cinco instituciones heterogéneas (Framingham, Cleveland, Hungría, Suiza, Long Beach VA) realizan el entrenamiento local en Registros Médicos Electrónicos (EHR) privados. Los clientes aplican Privacidad Diferencial mediante el recorte de gradiente (norma L2 $C=1.0$) y la adición de ruido gaussiano calibrado ($\sigma$) antes de transmitir los vectores de actualización al servidor.
  • Lado del Servidor: En lugar del promedio ponderado estándar (FedAvg), el servidor emplea un optimizador adaptativo basado en Adam. Este mantiene estimaciones del primer momento (media) y del segundo momento (varianza) de los gradientes. Este mecanismo actúa como un "denominador temporal", utilizando el impulso (momentum) para suavizar el ruido gaussiano de media cero inyectado por la DP y amortiguar las oscilaciones causadas por el desvío del cliente.
• Configuración de Datos:
  • Tres conjuntos de datos cardiovasculares del mundo real fueron armonizados a un esquema UCI de 13 atributos.
  • Los conjuntos de datos exhiben una heterogeneidad genuina: tamaños de muestra variables (de 123 a 4,238 registros), prevalencia de enfermedad (15% a 94%) y patrones de datos faltantes (p. ej., ausencia casi total de colesterol en el conjunto de datos de Suiza).
  • Protocolo de Evaluación: Se utilizó una validación cruzada de tipo leave-one-institution-out a nivel de cliente. En cada iteración, una institución se deja fuera por completo para las pruebas, mientras el modelo se entrena con las cuatro restantes. Esto pone a prueba la generalización a instituciones de salud no vistas.
• Configuración Experimental:
  • Los modelos fueron entrenados durante 100 rondas de comunicación con 5 épocas locales.
  • Los presupuestos de privacidad variaron desde $\epsilon \approx 4.2$ (operacional) hasta $\epsilon \approx 1.2$ (estricto).
  • Las comparaciones se realizaron contra FedAvg estándar, FedCVR sin DP y modelos puramente locales.

Contribuciones Clave

1. Primera Validación Empírica con Datos Reales: Este trabajo proporciona la primera evaluación de la arquitectura FedCVR en datos cardiovasculares reales y multiinstitucionales, extendiendo los hallazgos sintéticos previos a una red federada realista.
2. Protocolo de Evaluación Robusto: La introducción de un protocolo de validación cruzada a nivel de cliente con un conjunto de prueba global compuesto ofrece una medida de generalización más fuerte que el remuestreo independiente, simulando directamente el escenario de despliegue al añadir una nueva institución a una federación.
3. Caracterización de la Heterogeneidad del Mundo Real: El estudio cuantifica cómo los desafíos de los datos auténticos (características faltantes, desequilibrio de clases no controlado, casos límite de distribución) impactan el compromiso entre privacidad y utilidad, yendo más allá de los benchmarks sintéticos diseñados.

Resultados

• Desempeño: Bajo un presupuesto de privacidad operacional ($\sigma=0.8, \epsilon \approx 4.2$), FedCVR alcanzó un F1-Score de 79.2% y un AUC de 0.96.
• Superioridad Estadística: FedCVR superó estadísticamente a FedAvg estándar en todas las métricas (pruebas t pareadas, todos $p \le 0.003$, significativos bajo la corrección de Bonferroni). El mecanismo adaptativo mejoró el F1-Score en 2.8 puntos porcentuales sobre FedAvg.
• Convergencia: FedCVR convergió significativamente más rápido, alcanzando el 95% de su desempeño final en 45 rondas en comparación con las 85 rondas de FedAvg. El mecanismo adaptativo mitigó eficazmente el comportamiento oscilatorio ("desvío del cliente") observado en FedAvg.
• Costo de Privacidad: La introducción de la Privacidad Diferencial incurrió en un costo de utilidad mínimo. Comparado con la línea base adaptativa no privada (F1 79.5%), el régimen de privacidad más estricto ($\epsilon \approx 1.2$) resultó en una caída de solo 1.4 puntos porcentuales (F1 78.1%).
• Generalización: El modelo federado global se desempeñó de manera competitiva o incluso mejor que los modelos entrenados localmente en todas las instituciones. Notablemente, las instituciones más pequeñas (Cleveland, Hungría) vieron ganancias significativas (+3.2% y +2.8% en F1, respectivamente), mientras que la institución más grande (Framingham) no sufrió degradación, confirmando el valor del marco para sitios con escasez de datos sin penalizar a los que poseen abundancia de estos.

Significancia y Reivindicaciones
El artículo sostiene que la optimización adaptativa en el lado del servidor es un prerrequisito estructural para recuperar la utilidad clínica en el aprendizaje federado bajo Privacidad Diferencial. Los resultados demuestran que la propiedad de "denominación temporal" del agregador basado en impulso se generaliza desde entornos sintéticos hacia datos clínicos auténticos y heterogéneos.

Los puntos clave enfatizados por los autores incluyen:

• Viabilidad Regulatoria: El cumplimiento estricto de la privacidad (GDPR/LGPD) y la alta utilidad clínica no son mutuamente excluyentes; el marco logra garantías de privacidad rigurosas con un sacrificio de rendimiento insignificante (<2% de degradación).
• Democratización de la IA: El enfoque permite que instalaciones de salud más pequeñas y con recursos limitados accedan a la calidad de modelos que antes solo eran alcanzables mediante la centralización de datos a gran escala, sin comprometer la soberanía de los datos.
• Robustez Arquitectónica: El mecanismo de agregación adaptativa filtra intrínsecamente tanto el ruido estocástico de la heterogeneidad estadística como el ruido deliberado de la Privacidad Diferencial, estabilizando la convergencia en redes federadas complejas del mundo real.

Los autores mantienen una postura modesta, reconociendo que, si bien los resultados son estadísticamente significativos y robustos en todas las iteraciones, el estudio se basa en conjuntos de datos públicos curados en lugar de EHR brutos y no curados, y que el trabajo futuro requiere validación clínica prospectiva para confirmar el impacto en los resultados de los pacientes.