🤖 machine learning

Federated Learning with Uncertainty and Personalization via Efficient Second-order Optimization

Este artículo propone un nuevo método de optimización de segundo orden, computacionalmente eficiente, para el Aprendizaje Federado que logra los beneficios de cuantificación de la incertidumbre y personalización de los enfoques bayesianos, superando significativamente a los métodos actuales del estado del arte en precisión y eficiencia.

Autores originales: Shivam Pal, Aishwarya Gupta, Saqib Sarwar, Piyush Rai

Publicado 2026-06-09

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Shivam Pal, Aishwarya Gupta, Saqib Sarwar, Piyush Rai

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina un grupo de estudiantes (los clientes) que viven en casas diferentes y tienen sus propios conjuntos únicos de tareas. Quieren aprender una materia juntos, pero hay una regla estricta: nadie puede salir de su casa ni compartir sus hojas de tareas reales. Solo pueden enviar sus respuestas a un profesor (el servidor) que se encuentra en medio.

Esto es el Aprendizaje Federado (Federated Learning). El profesor recolecta las respuestas, las promedia para crear una "Guía Maestra" y se la devuelve a los estudiantes.

El problema con la forma antigua

Normalmente, el profesor solo toma un promedio simple de las respuestas (como FedAvg). Esto funciona de maravilla si todos tienen tareas similares. Pero, ¿qué pasa si el Estudiante A solo tiene problemas de matemáticas, el Estudiante B solo tiene historia y el Estudiante C tiene una mezcla de ambos? Una única "Guía Maestra" no ayudará mucho a nadie porque será una mezcla borrosa de todo.

Además, los métodos antiguos no te dicen qué tan seguro están de una respuesta. Si un estudiante adivina, el profesor no sabe si es un golpe de suerte o un cálculo con confianza.

Algunos investigadores intentaron solucionar esto usando el Aprendizaje Bayesiano. En lugar de enviar solo una respuesta, los estudiantes enviarían toda una "nube de posibilidades" (una distribución de probabilidad) para mostrar qué tan seguros están. Esto es ideal para la personalización y para saber cuándo no se está seguro. Pero, calcular y enviar estas "nubes" es como intentar enviar por correo una biblioteca de libros en lugar de una simple postal. Es demasiado pesado, lento y costoso para estudiantes con un internet débil o computadoras viejas.

La nueva solución: FedIvon

Los autores de este artículo crearon un nuevo método llamado FedIvon. Piensa en esto como una forma de enviar un "resumen inteligente" que se siente como una biblioteca pesada pero pesa tanto como una postal.

Así es como funciona, usando una analogía simple:

1. El atajo de "Segundo Orden" (El Mapa Inteligente)

Imagina que estás bajando una montaña para encontrar el valle más bajo (la mejor respuesta).

Los métodos antiguos (como Adam) son como un excursionista que solo mira la pendiente directamente bajo sus pies. Da pasos pequeños basados en qué tan empinado está el terreno en ese momento. Funciona, pero puede ser lento y podría quedarse atrapado en pequeñas depresiones.
Los métodos Bayesianos tradicionales intentan mapear toda la cadena montañosa para entender perfectamente la forma del valle. Esto es preciso, pero toma una eternidad dibujar el mapa.
FedIvon es como un excursionista que usa una brújula inteligente. No mapea toda la montaña, pero estima rápidamente la curvatura del terreno (¿es un acantilado pronunciado o una pendiente suave?) usando un truco llamado IVON. Esto le permite dar pasos más grandes e inteligentes sin necesidad de dibujar todo el mapa. Obtiene los beneficios del "mapa completo" (incertidumbre y precisión) sin la pesada carga de trabajo.

2. El "Prior" Personalizado (La Pista del Profesor)

En este nuevo sistema, el profesor envía de vuelta una "pista" (una distribución previa o prior) basada en lo que toda la clase sabe.

Cuando un estudiante aprende, comienza con la pista del profesor pero luego la ajusta fuertemente basándose en su propia tarea específica.
Si un estudiante tiene muy poca tarea (datos), depende más de la pista del profesor.
Si un estudiante tiene mucha tarea única, confía más en sus propios datos.
Esto crea un Modelo Personalizado para cada estudiante que sigue conectado al grupo.

3. El Intercambio Eficiente

En lugar de enviar una "nube" pesada de datos, FedIvon envía solo dos números pequeños para cada parte del modelo:

La mejor suposición (el promedio).
El nivel de confianza (cuánto puede variar la respuesta).

Debido a que las matemáticas detrás de FedIvon son tan eficientes (calcula estos números de forma implícita mientras aprende, en lugar de hacer un cálculo separado y costoso), funciona casi tan rápido como los métodos simples que no son bayesianos.

¿Qué descubrieron?

Los autores lo probaron en tres diferentes "conjuntos de tareas" (conjuntos de datos):

EMNIST (letras/números escritos a mano).
SVHN (números de casas de señales de tráfico).
CIFAR-10 (imágenes de objetos como gatos, coches, etc.).

Simularon un escenario donde 200 estudiantes tenían muy pocos ejemplos (menos de 100) y tipos de datos muy diferentes.

Los Resultados:

Mejor Precisión: FedIvon obtuvo puntuaciones más altas en las pruebas que los antiguos métodos de "promedio" e incluso mejores que otros métodos bayesianos complejos.
Mejor Confianza: Fue mucho mejor en saber cuándo no estaba seguro. En una prueba donde intentaron detectar imágenes "extrañas" (Fuera de Distribución / Out-of-Distribution), FedIvon fue el mejor en decir: "No sé qué es esto", en lugar de adivinar erróneamente con total confianza.
Velocidad: A pesar de hacer toda esta matemática sofisticada, no ralentizó el proceso. Fue tan rápido como los métodos simples.

La Conclusión

FedIvon es una nueva forma para que las computadoras aprendan juntas sin compartir datos privados. Logra ser inteligente (sabiendo qué tan segura está), personal (adaptándose a los datos únicos de cada usuario) y rápido (sin ralentizar la red). Resuelve el problema de "el aprendizaje bayesiano es demasiado pesado" utilizando un ingenioso atajo matemático que hace que el trabajo pesado se sienta ligero.

Resumen Técnico: Aprendizaje Federado con Incertidumbre y Personalización mediante Optimización de Segundo Orden Eficiente

Planteamiento del Problema

El Aprendizaje Federado (FL, por sus siglas en inglés) permite el entrenamiento colaborativo de modelos a través de clientes descentralizados sin compartir datos brutos. Sin embargo, los enfoques estándar de FL enfrentan dos desafíos principales:

Heterogeneidad de Datos: Cuando los datos de los clientes son no-IID (no independientes e idénticamente distribuidos), un único modelo global suele fallar al representar eficazmente las distribuciones individuales de los clientes, lo que conduce a un rendimiento subóptimo.
Falta de Cuantificación de la Incertidumbre: Los métodos de FL estándar suelen aprender estimaciones puntuales de los parámetros del modelo. Esto los hace susceptibles al sobreajuste en regímenes de pocos datos y les impide proporcionar incertidumbre predictiva, lo cual es crucial para tareas como la detección de datos fuera de distribución (OOD, por sus siglas en inglés).

Aunque el FL Bayesiano ofrece una solución fundamentada al aprender distribuciones posteriores para capturar la incertidumbre y permitir la personalización (mediante marcos jerárquicos), los métodos existentes sufren de cuellos de botella significativos. Los enfoques actuales de FL Bayesiano suelen depender de rutinas computacionalmente costosas (por ejemplo, muestreo MCMC, la aproximación de Laplace que requiere el cálculo explícito de la Hessiana, o ensambles profundos) e incurren en altos costos de comunicación al transmitir distribuciones posteriores completas. Estos factores limitan la escalabilidad, particularmente para clientes con recursos restringidos.

Metodología: FedIvon

Los autores proponen FedIvon, un nuevo algoritmo de FL Bayesiano que aprovecha el IVON (Improved Variational Online Newton) para realizar una inferencia variacional de segundo orden eficiente. El método equilibra los beneficios de la inferencia bayesiana con una eficiencia computacional y de comunicación comparable a los optimizadores de primer orden como Adam.

Componentes Principales

Inferencia Variacional en el Cliente (IVON):
- En lugar de aprender una estimación puntual, cada cliente aproxima su distribución posterior local $q_k(\theta)$ utilizando una Gaussiana con una matriz de covarianza diagonal: $N(\theta | m_k, \text{diag}(\sigma_k^2))$ .
- Eficiencia de Segundo Orden: A diferencia de Adam, que ajusta las tasas de aprendizaje basándose en los cuadrados de los gradientes, IVON utiliza una reparametrización para estimar implícitamente la Hessiana diagonal ( $h$ ) sin un cálculo explícito. La varianza se deriva como $\sigma^2 = 1/(h + \delta)$ .
- Optimización: El algoritmo actualiza tanto el vector de medias ( $m$ ) como las varianzas ( $\sigma^2$ ) utilizando gradientes naturales. Esto proporciona estimaciones de incertidumbre de forma natural y captura la geometría de la función de pérdida para una convergencia más rápida, todo ello manteniendo costos computacionales similares a los de Adam.
Agregación de la Posterior en el Servidor:
- El servidor agrega las posteriores de los clientes para calcular una posterior global. Dado que el producto de distribuciones Gaussianas también es una Gaussiana, la posterior global se aproxima como una Gaussiana $N(\theta | \mu, \Lambda^{-1})$ .
- Estrategia de Agregación: La media global ( $\mu$ ) y la matriz de precisión ( $\Lambda$ ) se calculan como sumas ponderadas de las medias y precisiones locales, donde los pesos son proporcionales a los tamaños de los conjuntos de datos de los clientes ( $N_k$ ). Esta estrategia es computacionalmente eficiente ya que solo requiere transmitir la media y la varianza diagonal (o la Hessiana) en lugar de los pesos completos del modelo o distribuciones complejas.
Personalización mediante el Marco Bayesiano Jerárquico:
- FedIvon soporta naturalmente el FL personalizado. La posterior global del servidor sirve como un prior ( $p_k(\theta)$ ) para la optimización local del cliente.
- El cliente minimiza una función de pérdida personalizada: $L_k(q) = \mathbb{E}_{q_k}[\bar{\ell}_k(\theta)] + \beta D_{KL}(q_k(\theta) \| p_k(\theta))$ .
- El hiperparámetro $\beta$ controla el equilibrio entre la adaptación local y el conocimiento global. Cuando $\beta=0$ , el modelo está totalmente personalizado; valores más altos incorporan más información global.

Contribuciones Clave

FL Bayesiano de Segundo Orden Eficiente: Introducción de FedIvon, que utiliza IVON para realizar inferencia variacional con costos computacionales similares a los de los métodos de primer orden (como Adam), pero proporciona información de segundo orden (estimaciones de la Hessiana) de forma implícita.
Mejor Rendimiento e Incertidumbre: Demostración de que FedIvon logra una precisión predictiva superior y mejores estimaciones de incertidumbre en comparación con los métodos de FL bayesianos y no bayesianos de última generación (SOTA).
Personalización Nativa: Un marco que permite naturalmente la personalización del modelo a nivel de cliente aprovechando el prior del servidor, equilibrando eficazmente las características de los datos locales con el conocimiento compartido global.

Resultados Experimentales

Los autores evaluaron FedIvon en tres conjuntos de datos (EMNIST, SVHN, CIFAR-10) bajo configuraciones no-IID con 200 clientes, cada uno con datos limitados (<100 ejemplos).

Resultados de FL Estándar

Precisión y Calibración: FedIvon superó a los modelos de referencia (FedAvg, FedLaplace) en precisión de prueba, Error de Calibración Esperado (ECE), Log-Verosimilitud Negativa (NLL) y puntuación de Brier en todos los conjuntos de datos.
Detección de OOD: En tareas de detección de datos fuera de distribución (OOD), FedIvon logró puntuaciones AUROC competitivas o superiores en comparación con los modelos de referencia, validando su capacidad para cuantificar la incertidumbre predictiva de manera efectiva.
Convergencia: Aunque FedIvon mostró una convergencia inicial ligeramente más lenta debido al muestreo estocástico de pesos para la estimación de gradientes, superó a otros métodos a medida que avanzaba el entrenamiento debido a la mejora en la aproximación de la Hessiana.

Resultados de FL Personalizado

Experimentos en CIFAR-10 (sesgo de distribución de clases) y CIFAR-100 (deriva de concepto de clase) compararon FedIvon contra pFedME, pFedBayes y pFedVEM.

CIFAR-10: FedIvon logró una precisión de cliente comparable a pFedVEM, pero demostró mejoras significativas en la precisión global del servidor, indicando una mejor agregación de datos heterogéneos.
CIFAR-100: FedIvon mostró mejoras significativas sobre todos los modelos de referencia tanto en la precisión personalizada del cliente como en la precisión global del servidor, destacando su robustez al manejar la deriva de conceptos.

Significado y Reivindicaciones

El artículo afirma que FedIvon cierra la brecha entre los beneficios teóricos del FL Bayesiano (cuantificación de la incertidumbre, personalización) y las restricciones prácticas de los sistemas federados (computación, comunicación). Al utilizar un enfoque de optimización de segundo orden eficiente, el método evita la pesada carga computacional de MCMC o los cálculos explícitos de la Hessiana presentes en trabajos anteriores.

Los autores sostienen que FedIvon es el primer método que ofrece:

Eficiencia computacional comparable a los optimizadores de primer orden (como Adam).
Todos los beneficios bayesianos (incertidumbre y personalización) sin los problemas de escalabilidad de los métodos de FL bayesianos existentes.
Rendimiento superior tanto en entornos de FL estándar como personalizados, particularmente en escenarios con alta heterogeneidad de datos y pocos datos por cliente.

El trabajo posiciona a FedIvon como una solución escalable y práctica para desplegar modelos de aprendizaje robustos, conscientes de la incertidumbre y personalizados en entornos de aprendizaje federado del mundo real.