🤖 machine learning

Who Trains Matters: Federated Learning under Enrollment and Participation Selection Biases

Este artículo aborda la brecha persistente de rendimiento en el aprendizaje federado causada por los sesgos de selección tanto en la inscripción como en la participación, formalizando un modelo de selección en dos etapas y proponiendo \textsc{FedIPW}, un esquema de agregación ponderado por probabilidad inversa que recupera eficazmente los objetivos de la población objetivo incluso cuando las covariables a nivel de cliente son limitadas.

Autores originales: Gota Morishita

Publicado 2026-04-30

📖 6 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Gota Morishita

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás intentando hornear el pastel perfecto para toda una ciudad. Para lograrlo, pides a miles de panaderos caseros que te envíen un pequeño trozo de su masa para que puedas mezclarlo todo y descubrir la receta ideal. Esto es esencialmente cómo funciona el Aprendizaje Federado (FL): en lugar de reunir todos los datos en un solo lugar, un servidor central pide a muchos dispositivos (como teléfonos) que entrenen un modelo localmente y devuelvan solo las "actualizaciones" (los trozos de masa).

El problema, como explica este artículo, es que a quién pides que envíe masa importa tanto como cómo la mezclas.

El Filtro de Dos Etapas: ¿Quién Entra por la Puerta?

El artículo argumenta que, en la vida real, los panaderos de los que terminas oyendo rara vez son una muestra perfecta de toda la ciudad. Esto ocurre en dos etapas distintas, como un control de seguridad de dos pasos en un concierto:

El Sesgo de "Inscripción" (¿Quién recibe la invitación?):
Primero, debes ser elegible para unirte al proyecto. Quizás necesites un tipo específico de teléfono, una cierta versión de software, o simplemente tengas que hacer clic en "Acepto" en un formulario de consentimiento. Si tu teléfono es antiguo o vives en una zona con mala conexión a internet, ni siquiera recibes la invitación. Te filtran antes de que el juego siquiera comience. El artículo llama a esto Sesgo de Inscripción.
- Analogía: Imagina que solo invitas a personas que poseen un coche rojo a tu club de repostería. Incluso si pides a todos los dueños de coches rojos que participen, ya has perdido a todos los que tienen un coche azul, una bicicleta o ningún vehículo en absoluto. Tu "club de repostería" ya está sesgado.
El Sesgo de "Participación" (¿Quién realmente se presenta?):
Segundo, incluso entre las personas que sí recibieron la invitación, no todos se presentan a cada reunión. Quizás su batería esté agotada, su conexión a internet sea inestable, o sean las 3 de la mañana en su zona horaria. Están inscritos, pero no participan en esa ronda específica. El artículo llama a esto Sesgo de Participación.
- Analogía: Incluso si invitaste a todos los dueños de coches rojos, quizás solo los que están despiertos y tienen el tanque lleno realmente conduzcan a la reunión.

El Problema: Hornear el Pastel Incorrecto

La mayoría de los métodos existentes intentan solucionar el segundo problema (quién se presenta). Dicen: "Bien, la gente que se presentó esta noche son mayoritariamente trabajadores del turno de noche; ajustemos la receta para tenerlo en cuenta".

Pero este artículo señala un problema mayor: Si las personas que recibieron la invitación en primer lugar (los dueños de coches rojos) no se parecen al resto de la ciudad, solucionar la parte de "quién se presenta" no ayudará. Podrías ajustar perfectamente el turno de noche, pero seguirás horneando un pastel basado enteramente en dueños de coches rojos. El resultado final sabrá genial para los dueños de coches rojos, pero terrible para todos los demás.

El artículo llama a esto una "Discrepancia con la Población Objetivo". El modelo aprende a servir a las personas que son alcanzables, no a las personas a las que debería servir.

La Solución: Una Báscula Ponderada (FedIPW)

Para solucionar esto, el autor propone un nuevo método llamado FedIPW (Ponderación Inversa de Probabilidad Federada).

Piensa en esto como usar una báscula ponderada en lugar de un promedio simple.

La Vieja Forma (FedAvg): Si 10 personas envían actualizaciones, le das a cada persona 1/10 del peso.
La Nueva Forma (FedIPW): Miras a quién no se presentó y preguntas: "¿Por qué?".
- Si un grupo de personas (digamos, personas con teléfonos Android) rara vez recibe invitaciones debido a reglas estrictas de software, pero sí se presentan cuando son invitadas, el algoritmo da a sus actualizaciones peso extra.
- Si un grupo (digamos, personas con iPhones nuevos) recibe invitaciones a menudo pero rara vez se presenta, sus actualizaciones también se ponderan cuidadosamente para representar a las que sí se presentaron.

Al "re-pesarse" matemáticamente las actualizaciones basándose en la probabilidad de ser invitado y la probabilidad de presentarse, el servidor puede reconstruir lo que habría contribuido el "panadero promedio de la ciudad", incluso si nunca envió realmente un trozo de masa.

¿Qué Pasamos Si No Tenemos Todos los Detalles? (La Solución de "Información Limitada")

A veces, el servidor no conoce los detalles de las personas que no recibieron la invitación (por ejemplo, no sabe cuántas personas en la ciudad tienen teléfonos antiguos). Solo conoce la imagen general (por ejemplo, "el 20% de la ciudad usa Android").

En este caso, el artículo sugiere un truco de Calibración.

Analogía: Imagina que estás horneando con una muestra de panaderos, pero no conoces la demografía exacta de toda la ciudad. Sin embargo, sí tienes un informe del censo que dice: "La ciudad es 50% hombres y 50% mujeres".
Si tu muestra de panaderos es 80% hombres, no puedes simplemente ignorar a las mujeres. En su lugar, das menos peso a las actualizaciones de los hombres y más peso a las de las mujeres hasta que tu muestra se parezca al informe del censo (50/50).
Esto no lo arregla todo perfectamente, pero te acerca mucho más a la receta correcta que no hacer nada.

La Advertencia del "Suelo de Sesgo"

El artículo también advierte sobre un "Suelo de Sesgo".
Imagina que estás intentando dar en el blanco. Si te sales ligeramente del objetivo porque tu puntería es inestable (error aleatorio), puedes mejorar con la práctica. Pero si tu pistola está doblada (error estructural), siempre te saldrás del centro, no importa cuánto practiques.

El artículo demuestra que si ignoras la etapa de "Inscripción" (la pistola doblada), alcanzarás un Suelo de Sesgo. No importa cuántas rondas de entrenamiento realices, el modelo nunca alcanzará la verdadera mejor solución para toda la población. Se quedará atrapado en una zona "suficientemente buena" que en realidad es incorrecta para las personas que te importan.

Resumen

El Problema: El aprendizaje federado a menudo falla porque las personas que se unen al entrenamiento (inscripción) y las personas que realmente participan no son representativas de toda la población.
La Solución: Utilizar una corrección de dos pasos (FedIPW) que pondera matemáticamente las actualizaciones para tener en cuenta quién fue excluido al principio y quién abandonó durante el proceso.
La Conclusión: No basta con solucionar quién se presenta a la reunión; tienes que solucionar quién fue invitado a la reunión en primer lugar. Si no lo haces, tu modelo estará sesgado hacia un grupo específico, no importa cuán inteligente sea el algoritmo.

Aquí se presenta un resumen técnico detallado del artículo "Quién Entrena Importa: Aprendizaje Federado bajo Sesgos de Inscripción y Participación" de Gota Morishita.

1. Planteamiento del Problema

El Aprendizaje Federado (FL) tiene como objetivo entrenar un modelo global sobre una población objetivo de clientes distribuidos sin centralizar los datos crudos. Los algoritmos estándar (por ejemplo, FedAvg) asumen implícitamente que los clientes que participan en cada ronda de comunicación constituyen una muestra representativa de la población objetivo. Sin embargo, en la práctica, esta suposición a menudo falla debido al sesgo de selección, que el artículo identifica como ocurriendo en dos etapas distintas:

Sesgo de Inscripción: Determinado por reglas de elegibilidad (restricciones del dispositivo, requisitos de software, consentimiento del usuario) que dictan qué clientes son alcanzables para el entrenamiento. Esto crea una discrepancia entre el grupo inscrito y la población objetivo.
Sesgo de Participación: Determinado por factores dinámicos (batería, red, hora local) que dictan qué clientes inscritos participan realmente en una ronda de comunicación específica.

El Problema Central: La literatura existente aborda principalmente el sesgo de participación a nivel de ronda. Sin embargo, el artículo argumenta que incluso si el sesgo de participación se corrige perfectamente, el sesgo de inscripción induce una discrepancia persistente entre el objetivo de entrenamiento (optimizar para el subconjunto inscrito) y el objetivo de la población objetivo. Si el grupo inscrito no es representativo, el modelo converge a una solución subóptima para la población prevista.

2. Metodología

El artículo formaliza el FL bajo un modelo de selección de dos etapas y propone un marco de desviación basado en Ponderación por Probabilidad Inversa (IPW).

A. Marco de Selección de Dos Etapas

Los autores modelan la inclusión de clientes como un proceso causal:

Etapa 1 (Inscripción): Un cliente $i$ está inscrito ( $E_i=1$ ) con probabilidad $\pi^{enroll}_i = P(E_i=1 | Z_i)$ , donde $Z_i$ son covariables pre-inscripción (por ejemplo, tipo de dispositivo, región).
Etapa 2 (Participación): Condicionada a la inscripción, el cliente $i$ participa en la ronda $r$ ( $A_{i,r}=1$ ) con probabilidad $\pi^{part}_{i,r} = P(A_{i,r}=1 | E_i=1, Z_i, X_{i,r})$ , donde $X_{i,r}$ son covariables pre-ronda (por ejemplo, batería, red).

La probabilidad de inclusión total se factoriza como:
$p_{i,r} = \pi^{enroll}_i \times \pi^{part}_{i,r}$

B. El Algoritmo Propuesto: FedIPW

Para recuperar la actualización media de la población objetivo, los autores proponen FedIPW (Ponderación por Probabilidad Inversa Federada).

Mecanismo: En lugar de promediar las actualizaciones por igual, el servidor pondera la actualización $\Delta_{i,r}$ de cada cliente por el inverso de su probabilidad de inclusión:
$\hat{\bar{\Delta}}_r = \frac{1}{N} \sum_{i: A_{i,r}=1} \frac{\Delta_{i,r}}{\hat{p}_{i,r}}$
Estimación: Dado que las probabilidades reales son desconocidas, FedIPW estima los dos componentes por separado:
1. $\hat{\pi}^{enroll}_i$ se estima utilizando covariables pre-inscripción e indicadores de inscripción (requiriendo datos a nivel de población).
2. $\hat{\pi}^{part}_{i,r}$ se estima entre los clientes inscritos utilizando covariables a nivel de ronda.
Garantía Teórica: Bajo supuestos de ignorabilidad y positividad, FedIPW proporciona un estimador insesgado de la actualización media de la población objetivo.

C. Extensión de Información Limitada: Calibración Agregada

En muchos escenarios del mundo real, las covariables a nivel individual para clientes no inscritos no están disponibles, lo que hace imposible la IPW completa de inscripción.

Solución: Los autores introducen una extensión de Calibración Agregada.
Método: Repondera la muestra inscrita de modo que la distribución ponderada de las covariables pre-inscripción (por ejemplo, región, versión del sistema operativo) coincida con resúmenes agregados conocidos de la población objetivo (por ejemplo, datos del censo).
Función: Esto actúa como una corrección parcial del sesgo de inscripción cuando faltan datos individuales completos.

3. Contribuciones Clave

Formalización de la Selección de Dos Etapas: El artículo distingue el sesgo de inscripción del sesgo de participación, formalizándolos como un proceso causal secuencial. Demuestra que ignorar el sesgo de inscripción conduce a una discrepancia estructural que las correcciones centradas solo en la participación no pueden solucionar.
Algoritmo FedIPW: Derivación de un esquema de agregación ponderado por probabilidad inversa que recupera el objetivo de la población objetivo bajo supuestos estándar.
Análisis de Optimización con Suelo de Sesgo: Los autores proporcionan un análisis agnóstico al algoritmo que muestra que los errores residuales de ponderación (debidos al error de estimación o a una especificación estructural incorrecta, como omitir la etapa de inscripción) inducen un suelo de sesgo no desvanecible.
- El límite de error se descompone en un término transitorio, un término de varianza y un suelo de sesgo proporcional a $\epsilon_w^2 G^2 / \mu$ , donde $\epsilon_w$ es el error de ponderación y $G$ es la heterogeneidad del gradiente.
- Esto demuestra que una corrección de selección incompleta (por ejemplo, corregir solo la participación) resulta en una suboptimalidad persistente.
Calibración Agregada: Un método práctico para regímenes de información limitada que utiliza resúmenes poblacionales para mitigar parcialmente el sesgo de inscripción.

4. Resultados Experimentales

Los autores validan su teoría utilizando regresión logística federada sintética, donde el óptimo real de la población objetivo puede calcularse con precisión.

Discrepancia de Objetivo: FedAvg ingenuo converge a una "solución de cliente seleccionado" con una pérdida de población objetivo significativamente mayor en comparación con el óptimo real.
Rendimiento de FedIPW: FedIPW recupera con éxito el objetivo de la población objetivo, siguiendo de cerca el rendimiento "Oráculo" (ideal) incluso a medida que aumenta el sesgo de inscripción.
Fallo Solo de Participación: Los métodos que corrigen solo la participación a nivel de ronda mejoran sobre FedAvg pero no logran alcanzar el óptimo a medida que se intensifica el sesgo de inscripción, confirmando la existencia del suelo de sesgo.
Calibración Agregada: En configuraciones donde faltan datos individuales de no inscritos, la calibración agregada reduce significativamente el error residual dejado por los métodos de solo participación, aunque es sensible al ruido en los resúmenes poblacionales.

5. Significado e Implicaciones

Cambio de Paradigma: El artículo argumenta que "quién puede entrenar en absoluto" (inscripción) es tan crítico como "quién participa en una ronda" (participación). Los esfuerzos actuales de desviación en FL centrados únicamente en la selección a nivel de ronda son insuficientes si el grupo inscrito no es representativo.
Error Estructural vs. Estadístico: El análisis distingue entre errores de estimación estadística (que pueden reducirse con mejores modelos) y especificación estructural incorrecta (por ejemplo, omitir la etapa de inscripción), lo cual crea un suelo de sesgo irredudible.
Guía Práctica: El trabajo proporciona una hoja de ruta para los profesionales:
1. Si se dispone de datos individuales para usuarios no inscritos, utilice FedIPW con ponderación de dos etapas.
2. Si solo se dispone de datos poblacionales agregados, utilice Calibración Agregada para corregir parcialmente el sesgo de inscripción.
3. Confiar únicamente en la corrección de participación es teóricamente insuficiente para lograr objetivos alineados con la población en entornos heterogéneos.

En resumen, este artículo establece que lograr un modelo representativo de la población objetivo en FL requiere corregir el sesgo de selección en ambas etapas, la de inscripción y la de participación, ofreciendo un marco matemático riguroso y algoritmos prácticos para lograrlo.