🤖 machine learning

Federated and differentially private estimation of KL divergence

Este artículo presenta FedPriKL, un nuevo método de privacidad diferencial para estimar la divergencia KL en entornos federados que logra una precisión insesgada y de baja varianza con sensibilidad acotada, al tiempo que minimiza la sobrecarga de comunicación en comparación con los modelos de referencia existentes.

Autores originales: Sayan Biswas, Graham Cormode, Carsten Maple, Mary Scott

Publicado 2026-08-24

📖 4 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Sayan Biswas, Graham Cormode, Carsten Maple, Mary Scott

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

En el mundo moderno de los datos, la información suele estar dispersa en millones de dispositivos individuales, desde teléfonos inteligentes hasta rastreadores de salud portátiles. Esta naturaleza dispersa crea una forma poderosa de aprender sobre el mundo sin necesidad de reunir los datos de todos en una bóveda central. Este enfoque, conocido como aprendizaje federado, permite que un sistema central construya modelos pidiendo a los dispositivos que realicen cálculos sobre sus propios datos locales y luego compartan únicamente los resultados. Sin embargo, persiste un desafío crítico: ¿cómo sabemos si los datos que se están utilizando están cambiando con el tiempo? Si el comportamiento de las personas que utilizan una aplicación cambia, los modelos construidos con datos antiguos pueden volverse inexactos o irrelevantes. Para solucionar esto, los analistas necesitan medir la diferencia entre los datos actuales y un estándar conocido, una tarea que normalmente requiere ver los datos brutos. Pero en un mundo donde la privacidad es primordial, revelar los datos brutos suele ser imposible. La solución requiere una forma de medir esta diferencia matemáticamente sin exponer nunca los detalles individuales que componen los datos.

Investigadores de la EPFL, la Universidad de Oxford, la Universidad de Warwick y el Observatorio de Datos de Enfermedades Infecciosas han desarrollado un nuevo método llamado FedPriKL para resolver este problema exacto. Su trabajo se centra en una medida matemática específica utilizada para comparar dos conjuntos de datos, una herramienta que nos indica cuánto se ha desviado un grupo de información de un punto de referencia. En este escenario, el punto de referencia es un estándar público con el que todos están de acuerdo, mientras que el otro grupo son los datos privados y sensibles que los usuarios mantienen en sus dispositivos. El objetivo es calcular la distancia entre estos dos grupos sin que el servidor central vea jamás los registros individuales. Los investigadores crearon un protocolo que permite a un coordinador central pedir una pequeña selección aleatoria de dispositivos que comprueben con qué frecuencia aparecen ciertos elementos en sus datos locales. Estos dispositivos envían de vuelta únicamente los recuentos de esos elementos específicos, los cuales se combinan de forma segura. Para garantizar que incluso estos recuentos no puedan rastrearse hasta una sola persona, el sistema añade una cantidad cuidadosamente calculada de ruido matemático al resultado final.

El equipo descubrió que su método funciona con un alto grado de precisión manteniendo estrictas garantías de privacidad. Demostraron matemáticamente que su enfoque produce una estimación insesgada, lo que significa que el resultado es correcto en promedio, y que la cantidad de ruido necesaria para proteger la privacidad es lo suficientemente pequeña como para no arruinar la utilidad de los datos. En sus experimentos, probaron el sistema utilizando un gran conjunto de datos de dígitos escritos a mano, simulando un escenario del mundo real donde miles de usuarios aportan datos. Descubrieron que, al elegir cuidadosamente a cuántos dispositivos pedir y cuánto ruido añadir, el sistema podía producir resultados casi tan precisos como si no se hubiera utilizado ninguna protección de privacidad. Esto representa una mejora significativa respecto a métodos anteriores donde los dispositivos intentaban ocultar sus datos añadiendo ruido antes de enviarlos, una técnica que a menudo conducía a resultados inexactos. El nuevo método mantiene la adición de ruido hasta el final del proceso, después de que los datos se hayan combinado de forma segura, lo que preserva la integridad de la medición.

Los investigadores también exploraron cómo diferentes configuraciones afectan el resultado. Descubrieron que el sistema funciona bien incluso cuando solo una pequeña fracción de los usuarios totales es invitada a participar en cualquier ronda dada, y que la cantidad de datos que cada usuario necesita enviar es muy pequeña, a menudo menos de un kilobyte. Esto hace que el sistema sea práctico para dispositivos con batería y memoria limitadas. El estudio demostró que el método puede distinguir con precisión entre cambios pequeños y grandes en los datos, lo cual es esencial para decidir cuándo debe actualizarse un modelo informático. Aunque la versión actual del sistema depende de un paso intermedio de confianza para combinar los datos de forma segura, los investigadores demostraron que este paso puede realizarse utilizando hardware seguro existente o técnicas criptográficas avanzadas, asegurando que ninguna entidad vea jamás los datos brutos. El trabajo proporciona un camino concreto para monitorear las tendencias de los datos de una manera que respete la privacidad del usuario, permitiendo que las organizaciones mantengan sus modelos precisos sin comprometer la confidencialidad de los individuos que generan los datos.

Resumen Técnico: FedPriKL – Estimación de la Divergencia KL de forma Federada y con Privacidad Diferencial

Planteamiento del Problema

En el aprendizaje federado y la analítica moderna, una tarea crítica es el monitoreo del desplazamiento de la distribución (distribution drift) para determinar cuándo los modelos requieren reentrenamiento o ajuste fino (fine-tuning). Esto requiere comparar la distribución empírica de los datos mantenidos por clientes distribuidos ( $P$ ) contra una distribución de referencia pública fija ( $\Pi$ ). Sin embargo, compartir directamente los datos de los clientes o histogramas completos suele ser inviable debido a los altos costos de comunicación y las restricciones de privacidad.

Los enfoques existentes enfrentan obstáculos significativos:

Privacidad: La recolección centralizada de muestras viola la privacidad del usuario.
Resultados de Imposibilidad: El Teorema de Invarianza de Desplazamiento [9] implica que estimar la divergencia KL entre dos distribuciones desconocidas en un espacio más pequeño que el tamaño del dominio es imposible.
Comunicación: Transmitir histogramas completos desde los clientes hacia un servidor es prohibitivo en términos de ancho de banda para dominios grandes.
Sesgo en la Perturbación Local: Los enfoques estándar de privacidad diferencial local (LDP), donde los clientes añaden ruido antes de la agregación, introducen un sesgo significativo al estimar funciones no lineales como la divergencia KL, particularmente al manejar masas de probabilidad pequeñas.

El artículo aborda el problema de estimar $D_{KL}(\Pi \parallel P)$ en un entorno de aprendizaje federado horizontal donde $P$ está definida por los datos agregados de $n$ clientes, y $\Pi$ es un referente público conocido. El objetivo es lograr una estimación de la divergencia de nivel de ejemplo con formalidad de privacidad diferencial (DP) mientras se minimiza la sobrecarga de comunicación y se mantiene la precisión del estimador.

Metodología: FedPriKL

Los autores proponen FedPriKL, un protocolo basado en muestreo que aprovecha un modelo de "agregador de confianza" para lograr una estimación insesgada bajo DP. La innovación técnica central es un estimador de Monte Carlo insesgado basado en razones de verosimilitud, combinado con agregación segura e inyección de ruido calibrado.

Componentes Clave:

Estimador de Monte Carlo Insesgado:
En lugar de computar la divergencia completa, el método toma muestras de $m$ puntos $x_i$ de la distribución de referencia $\Pi$ . Para cada muestra, el protocolo estima la razón de verosimilitud $r(x) = P(x)/\Pi(x)$ .
Utilizando la identidad derivada en el Hecho IV.2, la divergencia KL se estima mediante la función:
$\Phi(r(x), \lambda) = \lambda(r(x) - 1) - \ln(r(x))$
La esperanza de esta función sobre las muestras de $\Pi$ es igual a $D_{KL}(\Pi \parallel P)$ . El parámetro $\lambda$ controla la varianza del estimador.
Flujo de Trabajo del Protocolo (Algoritmo 2):
- Muestreo: El servidor selecciona lotes disjuntos de clientes ( $C_t$ ) y toma muestras de puntos $x_{i,t}$ de $\Pi$ .
- Agregación Segura (SecAgg): Los clientes computan la frecuencia de los puntos muestreados en sus conjuntos de datos locales. Estas frecuencias se agregan utilizando un protocolo de agregación segura (por ejemplo, la partición de secretos de Shamir) para computar la masa de probabilidad empírica global $P(x)$ sin revelar los datos individuales de los clientes.
- Procesamiento del Agregador de Confianza: Las probabilidades agregadas se envían a un agregador de confianza. El agregador computa las razones de verosimilitud $r(x)$ , aplica la transformación no lineal $\Phi$ y añade ruido gaussiano calibrado ( $\eta_{\epsilon, \delta}$ ) al resultado.
- Estimación Final: Los valores transformados ruidosos se promedian para producir la estimación final de DP.
Mecanismo de Privacidad:
A diferencia de los enfoques base donde los clientes añaden ruido localmente (pre-agregación), FedPriKL añade el ruido después de la agregación segura pero antes de que la transformación no lineal se finalice. Esto evita el sesgo introducido por el recorte (clipping) de valores negativos en el ruido local (un problema común en LDP). La sensibilidad del estimador está acotada (Teoremas IV.4 y IV.5), lo que permite una calibración precisa del ruido para satisfacer $(\epsilon, \delta)$ -DP.
Modelo de Confianza:
El protocolo asume un agregador de confianza (o una realización de TEE/SMC) que solo ve las estadísticas agregadas de forma segura de los puntos muestreados, no los datos brutos de los clientes. El servidor es "honesto pero curioso" y solo recibe la estimación ruidosa final.

Contribuciones Clave

Formalización del Problema: El artículo formaliza el problema de computar la divergencia KL en un entorno federado con garantías formales de privacidad diferencial, abordando específicamente el caso de una referencia pública frente a una población empírica privada.
Algoritmo FedPriKL: Los autores presentan el primer estimador federado basado en muestreo y eficiente en comunicación para $D_{KL}(\Pi \parallel P)$ que ofrece privacidad diferencial de nivel de ejemplo.
Análisis Teórico:
- Insesgadez: Se demuestra que el estimador es insesgado (Teorema IV.7).
- Límites de Sensibilidad: Se establecieron límites de sensibilidad para el estimador, permitiendo la derivación de escalas de ruido óptimas (Teoremas IV.4, IV.5).
- Caracterización de la Varianza: Proveyeron una caracterización teórica de la varianza del estimador como una función de $\lambda$ , $\epsilon$ y el tamaño de la muestra, y derivaron el $\lambda$ óptimo para minimizar la varianza (Teoremas V.1, V.3).
Eficiencia de Comunicación: La carga útil (payload) por cliente es independiente del tamaño del dominio. Para un dominio de $2^{16}$ elementos, la carga útil permanece por debajo de 1 KB.

Resultados Experimentales

Los autores evaluaron FedPriKL con el conjunto de datos FEMNIST (dígitos escritos a mano particionados por autor), comparándolo con un estimador no privado y un enfoque base de LDP (Algoritmo 1).

Precisión vs. Privacidad: FedPriKL logra una precisión comparable a la del estimador no privado cuando el presupuesto de privacidad $\epsilon$ es moderado ( $0.5 \le \epsilon \le 1.0$ ).
Superioridad sobre el Base: FedPriKL supera significativamente al enfoque base (perturbación local) en términos de precisión y estabilidad. El enfoque base sufre de sesgo debido al recorte necesario de las estimaciones de probabilidad negativas.
Sensibilidad de Parámetros:
- $\lambda$ : Se encontró empíricamente que el parámetro de varianza óptimo $\lambda$ es cercano a 0.
- Tamaño de la Muestra ( $m$ ): Un número pequeño de muestras ( $m=10$ ) es suficiente para lograr una precisión casi óptima, manteniendo la comunicación del cliente ligera.
- Tamaño del Lote (Batch Size): Variar el número de clientes participantes afecta la tasa de convergencia pero no altera fundamentalmente el $\lambda$ óptimo.
Robustez: El método mantiene un error absoluto bajo a través de diferentes magnitudes de divergencia (desde valores de KL pequeños hasta grandes).

Significado y Reivindicaciones

El artículo afirma que FedPriKL es el primer estimador federado para la divergencia KL entre una referencia pública y una población privada que es eficiente en comunicación y ofrece privacidad diferencial formal de nivel de ejemplo.

Su importancia radica en su capacidad para:

Habilitar la Detección de Desplazamiento: Proporcionar un mecanismo de preservación de la privacidad para que las plataformas detecten cambios en la distribución y activen el reentrenamiento de modelos sin exponer datos sensibles de los usuarios.
Superar la Imposibilidad: Al restringir el problema a una referencia pública conocida, esquiva los resultados de imposibilidad relacionados con el sketching de distribuciones desconocidas.
Equilibrar Utilidad y Privacidad: Demuestra que se puede mantener una alta utilidad bajo estrictas restricciones de privacidad al mover el paso de inyección de ruido a una fase de post-agregación mediante un componente de confianza, evitando así el sesgo inherente a los métodos de perturbación local.

Los autores señalan que la dependencia de un agregador de confianza (o TEE/SMC) es un compromiso práctico que puede resolverse mediante hardware seguro o computación multipartita, e identifican la eliminación de este supuesto de confianza como una dirección para trabajos futuros.