Resumen Técnico: Consistencia Contrafactual Selectiva para Aprendizaje Federado Vertical (SCC-VFL)

1. Planteamiento del Problema

El artículo aborda el desafío de garantizar la equidad individual en entornos de Aprendizaje Federado Vertical (VFL) donde las características de los datos están distribuidas entre múltiples instituciones (partes), y los atributos sensibles (por ejemplo, raza, edad, género) pueden ser mantenidos en privado por una sola parte o un enclave.

En VFL, las partes poseen subconjuntos de características disjuntas para entidades superpuestas. Si bien el aprendizaje federado permite el entrenamiento colaborativo de modelos sin centralizar los datos crudos, complica la aplicación de la equidad. Los enfoques de equidad existentes a menudo dependen de métricas a nivel de grupo (por ejemplo, paridad demográfica, probabilidades iguales) o asumen acceso completo a las características y grafos causales, los cuales no están disponibles en VFL. Además, las intervenciones contrafactuales ingenuas en VFL son inestables debido a:

1. Visibilidad Parcial: Ninguna parte observa todas las características, lo que dificulta determinar qué características son mediadores permitidos frente a proxies impermisibles de un atributo sensible.
2. Restricciones de Privacidad: Los atributos sensibles suelen ser privados, lo que impide la intervención directa durante el entrenamiento.
3. Filtración: Las representaciones o actualizaciones compartidas pueden filtrar inadvertidamente información sensible o permitir que los proxies transmitan influencia sensible.

Los autores se centran en la estabilidad contrafactual a nivel individual: garantizar que la predicción de un individuo permanezca sin cambios bajo una intervención hipotética sobre su atributo protegido, siempre que las características no descendientes se mantengan fijas y solo se permitan variar los mediadores permitidos por la política.

2. Metodología: SCC-VFL

Los autores proponen SCC-VFL (Consistencia Contrafactual Selectiva para Aprendizaje Federado Vertical), un marco centrado en el servidor que operacionaliza la equidad individual a través de tres componentes integrados:

A. Descubrimiento de Máscaras Libre de Grafos y con Privacidad Diferencial (DP)

Dado que los grafos causales rara vez están disponibles en entornos multipartita, SCC-VFL utiliza un procedimiento libre de grafos y DP para particionar las características de cada parte en tres conjuntos:

• No descendientes ($N$): Características que deben permanecer fijas bajo una intervención de atributo sensible.
• Mediadores ($M$): Características que es permisible cambiar (vías permitidas por la política).
• Proxies ($P$): Un subconjunto de mediadores que actúan como vías impermisibles para la influencia sensible y deben ser suprimidos.

Mecanismo:

1. Un titular de confianza (o enclave) genera un bosquejo DP ($z_s$) del atributo sensible $s$ recortando y añadiendo ruido gaussiano a las tablas de contingencia. Este bosquejo satisface la propiedad $(\epsilon, \delta)$-DP, pero no se aplica a toda la tubería de entrenamiento.
2. Las partes utilizan $z_s$ como una covariable auxiliar para probar si sus características locales son estadísticamente sensibles a $s$.
3. El sistema calcula dos métricas para cada característica:
   • Ganancia de Riesgo ($\Delta_j$): Mejora en la predicción de la característica cuando se incluye $z_s$.
   • Criterio de Independencia Hilbert-Schmidt (HSIC): Dependencia residual con respecto a $z_s$ después de condicionar sobre otras características locales.
4. Las características con bajo HSIC se asignan a $N$; aquellas con alto HSIC son candidatas para $M$. Dentro de $M$, las características con alta ganancia de riesgo (alta sensibilidad a $s$ pero baja relevancia para la tarea) se marcan como proxies $P$.

B. Generación Contrafactual Enmascarada

Cada parte entrena un generador condicional local (un cVAE) para crear entradas contrafactuales.

• Preservación de Identidad: Los no descendientes ($N$) se copian exactamente ($x^{cf}_N = x_N$).
• Edición de Mediadores: Los mediadores ($M$) se editan para situarse en el soporte de la distribución condicional $p(x_M | x_N, c, z_{s'})$, donde $z_{s'}$ es la incrustación sensible objetivo.
• Supresión de Filtración: Los proxies ($P$) pasan sin cambios pero están sujetos a una pérdida adversarial. Un adversario intenta recuperar $z_s$ a partir de las características proxy contrafactuales; el generador minimiza esta tasa de éxito para suprimir las señales sensibles residuales.

C. Pérdida de Consistencia Contrafactual Selectiva (SCC) en el Lado del Servidor

El servidor agrega representaciones de las entradas originales y contrafactuales enmascaradas para formar representaciones fusionadas $z$ y $z^{cf}$.

• Penalización de Consistencia: El servidor minimiza un término de pérdida $\mathcal{L}_{SCC}$ que penaliza la diferencia entre las predicciones $f_\theta(z)$ y $f_\theta(z^{cf})$.
• Objetivo: Esto impone que la decisión del modelo no cambie arbitrariamente cuando solo se editan los mediadores permitidos por la política. El objetivo total combina la utilidad de la tarea, la consistencia SCC y las restricciones de validez (identidad, soporte, filtración).

3. Contribuciones Clave

1. Formulación del Problema: Definición de la Consistencia Contrafactual Selectiva (SCC) para VFL, dirigida a la estabilidad por instancia bajo intervenciones especificadas por la política en lugar de la paridad de grupo.
2. Descubrimiento de Máscaras DP: Introducción de un mecanismo libre de grafos y con privacidad diferencial para identificar candidatos a no descendientes, mediadores y proxies sin requerir un grafo causal predefinido ni acceso a datos sensibles crudos.
3. Generación Enmascarada con Control de Filtración: Diseño de generadores locales por parte que editan solo mediadores, mientras imponen identidad en los no descendientes y suprimen la filtración de proxies mediante entrenamiento adversarial.
4. Aplicación Centrada en el Servidor: Implementación de una pérdida de consistencia en el servidor que penaliza cambios de predicción impermisibles, validada en diversos dominios.

4. Resultados Experimentales

Los autores evaluaron SCC-VFL en tres conjuntos de datos del mundo real: Crédito Alemán (Banca), Enfermedad Cardíaca UCI (Salud) y COMPAS Cox (Justicia Penal), bajo divisiones IID y No-IID (cambio de distribución).

• Métricas de Equidad: SCC-VFL redujo significativamente la Tasa de Inversión (FR) (la fracción de muestras que cambian de predicción bajo intervención) hasta en un 98% en comparación con líneas base sólidas (por ejemplo, Adv-NoMask, Uniform-CF, Máscara ciega a la política). También logró la menor Brecha de Consistencia Selectiva (SCG).
  • Ejemplo: En Crédito Alemán (No-IID), SCC-VFL redujo la FR al 0.12% en comparación con el 6.24–8.22% de las líneas base.
• Utilidad: El método mantuvo o mejoró la precisión predictiva y la LogLoss, demostrando compensaciones favorables entre utilidad y equidad.
• Privacidad y Robustez:
  • Ataques de Inferencia de Atributos (AIA): SCC-VFL redujo las tasas de éxito del ataque en 4–5 puntos porcentuales en comparación con las líneas base.
  • Ataques Subspace-PGD: Bajo perturbaciones dirigidas de las coordenadas de los mediadores, SCC-VFL mostró las tasas de éxito más bajas (por ejemplo, 9.3% en $\epsilon=0.20$ frente a 21.7% para Adv-NoMask), lo que indica fronteras de decisión aplanadas a lo largo de direcciones sensibles.
• Estudios de Ablación: Eliminar cualquier componente (descubrimiento de máscara, generador o pérdida de consistencia) degradó el rendimiento, confirmando la necesidad de toda la tubería para la estabilidad y el control de filtración.

5. Significado y Afirmaciones

El artículo afirma que SCC-VFL proporciona un objetivo de equidad auditables en la práctica para implementaciones de VFL donde los datos están aislados y los atributos sensibles son privados.

• Responsabilidad Individual: A diferencia de las métricas a nivel de grupo que pueden ocultar inconsistencias individuales, SCC-VFL garantiza que individuos específicos reciban decisiones estables bajo cambios contrafactuales en atributos protegidos, alineándose con los requisitos legales contra la discriminación (por ejemplo, discriminación por edad en préstamos).
• Alineación con Políticas: El marco hace cumplir una política declarada sobre qué vías causales son permisibles. No afirma descubrir la causalidad de la verdad fundamental, sino que operacionaliza una especificación definida por la gobernanza ($N/M/P$) en un algoritmo de aprendizaje.
• Robustez ante Cambios: El método sigue siendo efectivo en entornos No-IID y bajo cambios de distribución, donde los métodos de línea base a menudo sufren degradación de la estabilidad.
• Alcance de Privacidad: Los autores declaran explícitamente que la garantía formal de DP aplica solo al bosquejo utilizado para el descubrimiento de máscaras, no a toda la tubería de entrenamiento (representaciones, gradientes o parámetros del modelo). Los beneficios de privacidad observados en los experimentos son reducciones empíricas de filtración bajo modelos de amenaza específicos, no garantías formales de DP de extremo a extremo.

El trabajo posiciona la estabilidad contrafactual a nivel individual como un complemento viable a la equidad de grupo, ofreciendo un mecanismo para que las partes interesadas auditen, impugnen y verifiquen que las decisiones algorítmicas no estén impulsadas arbitrariamente por atributos protegidos en entornos de aprendizaje distribuido.