Resumen Técnico: Fed-CausalDiff

Declaración del Problema

En sectores como la atención médica multicéntrica, la publicidad algorítmica y la gestión de riesgos financieros, los sistemas de decisión generan registros secuenciales masivos mediante interacciones de "contexto-acción-retroalimentación". Sin embargo, las estrictas regulaciones de privacidad (por ejemplo, el RGPD) y las barreras de propiedad de los datos impiden la centralización de estos conjuntos de datos, lo que hace necesario el Aprendizaje Federado (FL, por sus siglas en inglés) para el modelado colaborativo.

Los enfoques actuales de FL enfrentan dos limitaciones primarias con respecto a la inferencia intervencional:

1. Sesgo Observacional: Los métodos de FL estándar (por ejemplo, FedGAN, TimeGAN) se centran en ajustar distribuciones observacionales históricas. Carecen de un modelado explícito de la semántica do (intervención), lo que los hace propensos a un sesgo sistemático al evaluar nuevas políticas o resultados contrafácticos, particularmente en secuencias de largo plazo con confusión variable en el tiempo.
2. Falta de Simuladores: Aunque existen métodos de inferencia causal secuencial (por ejemplo, estimadores Doblemente Robustos) para la evaluación de políticas, estos suelen carecer de un simulador muestreable capaz de generar trayectorias contrafácticas completas bajo políticas específicas. Los métodos causales federados existentes a menudo abordan la identificación de mecanismos, pero descuidan la simulación de políticas muestreables.

Metodología: Fed-CausalDiff

Los autores proponen Fed-CausalDiff, un marco de difusión causal federada diseñado para la simulación do y la evaluación de políticas. El marco se fundamenta en Modelos Causales Estructurales (SCM) y utiliza difusión latente condicional.

Arquitectura Central y Sincronización Desacoplada

La innovación central es la descomposición estructural de la evolución del estado latente ($K_t$) en dos subespacios:

• Subespacio Causal Invariante ($K^{(c)}_t$): Captura leyes causales compartidas entre todos los clientes.
• Subespacio de Confusión Específico del Sitio ($K^{(s)}_t$): Captura la heterogeneidad local y los factores de molestia específicos de cada cliente.

Esta descomposición permite la Sincronización Desacoplada (DSS):

• Agregación Global: El servidor agrega únicamente los parámetros ($\Theta_c$) asociados con la dinámica de la puntuación causal y el decodificador de resultados.
• Retención Local: Los parámetros ($\Theta^i_s$) asociados con las puntuaciones de confusión permanecen locales a cada cliente, evitando el promedio de confundidores heterogéneos que degradaría el rendimiento en entornos no-IID.

Pipeline de Entrenamiento de Tres Etapas

El modelo se entrena mediante un proceso de tres fases, aplicando DSS en cada ronda de comunicación:

1. Inferencia Latente y Desentrelazamiento: Un codificador recurrente mapea las trayectorias observadas al espacio latente particionado $K = [K^{(c)}, K^{(s)}]$. Un objetivo de desentrelazamiento (usando Capas de Reversión de Gradiente) asegura que $K^{(c)}$ no codifique artefactos específicos del sitio, mientras que $K^{(s)}$ los captura.
2. Dinámica de Puntuación Condicional: La evolución del estado se modela como un proceso de eliminación de ruido condicional. La función de puntuación se descompone en un término causal global ($S_{causal}$) y un término de confusión local ($S_{confound}$). Esto permite ejecuciones estocásticas estables bajo intervenciones.
3. Decodificador Causal y Agregación: Un decodificador traduce los estados latentes en resultados observables. Solo se sincronizan los parámetros causales compartidos, mientras que los parámetros de confusión locales se actualizan localmente.

Objetivos de Optimización

El objetivo de entrenamiento local equilibra la fidelidad generativa con la consistencia causal:

• Fidelidad Generativa: Incluye Pérdida de Reconstrucción ($L_{recon}$) y Pérdida de Eliminación de Ruido de Difusión ($L_{diff}$) para minimizar los errores de predicción de ruido.
• Regularización Causal: Incluye Alineación de Intervención ($L_{align}$) para minimizar la distancia MMD entre las distribuciones fácticas e intervencionales, pérdida de Desentrelazamiento ($L_{dis}$), y Consistencia Contrafáctica ($L_{cf}$).

Contribuciones Clave

1. Simulación Do Federada: Introduce el primer marco que combina aprendizaje federado con difusión condicional basada en puntuación para generar secuencias intervencionales, yendo más allá del simple ajuste observacional.
2. Sincronización Desacoplada (DSS): Propone una estrategia de sincronización novedosa que agrega solo los mecanismos causales compartidos mientras retiene los confundidores locales, manejando eficazmente la heterogeneidad de los clientes sin comprometer la identificación causal.
3. Evaluación de Políticas Robusta: Proporciona un simulador muestreable para la evaluación de políticas fuera de línea (OPE), permitiendo la estimación de Efectos de Tratamiento Promedio (ATE) y valores de política bajo escenarios contrafácticos de manera preservadora de la privacidad.

Resultados Experimentales

El marco fue evaluado en cuatro conjuntos de datos: DKT-Synth (semi-sintético con verdad de campo), Statics2011, Diabetes-130 y OpenBandit. Los modelos de referencia incluyeron RCGAN, TimeGAN, CRN y FedCM.

• Fidelidad Intervencional (DKT-Synth): Fed-CausalDiff logró los errores más bajos en todas las métricas: PEHE (0.057), ATE (0.045) y Valor de Política (0.049). Los estudios de ablación confirmaron que eliminar DSS o la pérdida de desentrelazamiento degradaba significativamente el rendimiento, validando la necesidad de la arquitectura propuesta.
• Valor de Política Fuera de Línea: En Diabetes y DKT-Synth, Fed-CausalDiff proporcionó estimaciones de la media Doblemente Robusta (DR) más altas en comparación con los modelos de referencia, indicando una captura superior de los impactos causales a largo plazo. En OpenBandit, aunque CRN mostró valores DR brutos más altos, Fed-CausalDiff mantuvo un rendimiento moderado con mejor estabilidad.
• Utilidad de Aplicación Posterior: El modelo mantuvo un rendimiento competitivo de TSTR (Entrenar en Sintético, Probar en Real), demostrando que imponer restricciones intervencionales no comprometía significativamente la fidelidad fáctica.
• Eficiencia del Sistema: Fed-CausalDiff demostró una convergencia más rápida y una mayor estabilidad en la precisión intervencional en comparación con TimeGAN (que mostró alta varianza) y RCGAN. Sin embargo, el compromiso comunicación-rendimiento dependió del conjunto de datos; aunque fue eficiente en DKT-Synth y Diabetes, no dominó estrictamente a los modelos de referencia más ligeros en términos de optimalidad de Pareto en OpenBandib y Statics2011.

Significado y Reivindicaciones

El artículo afirma que Fed-CausalDiff cierra con éxito la brecha entre el aprendizaje federado y la inferencia causal al permitir la construcción de "modelos de mundo secuenciales intervenibles". Su principal significado radica en:

• Superar las Limitaciones Observacionales: Va más allá del ajuste de correlaciones históricas para modelar explícitamente la semántica do, permitiendo una inferencia contrafáctica confiable en entornos descentralizados.
• Manejo de la Heterogeneidad: El mecanismo DSS aborda el desafío de la heterogeneidad de los clientes en el modelado causal, un punto de falla común en los enfoques federados estándar.
• Compromiso Equilibrado: El marco ofrece un compromiso favorable entre los costos de comunicación y la fidelidad de la inferencia, proporcionando una base robusta para la evaluación de políticas sin requerir el intercambio de datos brutos.

Los autores señalan limitaciones con respecto a la falta de contrafácticos de verdad de campo en conjuntos de datos del mundo real (dependiendo de estimadores fuera de línea) y la simulación actual de FL en una sola máquina sin considerar factores complejos del sistema como la privacidad diferencial o las desconexiones de clientes. Se propone trabajo futuro para abordar la cuantificación de la incertidumbre y el aprendizaje federado personalizado.