Federated Active Learning Under Extreme Non-IID and Global Class Imbalance

El artículo presenta FairFAL, un marco de aprendizaje activo federado adaptativo que supera los desafíos del desequilibrio de clases global y la heterogeneidad de datos mediante la selección inteligente de modelos de consulta, el etiquetado pseudo-guiado por prototipos y una estrategia de muestreo equilibrada, logrando un rendimiento superior en escenarios no IID.

Lo esencial

¡Claro que sí! Imagina que este artículo de investigación es como una historia sobre cómo organizar un gran proyecto de cocina colaborativo en un mundo donde nadie quiere compartir sus recetas secretas ni sus ingredientes crudos.

Aquí tienes la explicación de "FairFAL" (el método que proponen los autores) usando analogías sencillas:

1. El Problema: La Cocina Desigual y Secreta

Imagina que tienes 10 cocineros (los "clientes" o dispositivos) repartidos por todo el mundo. Todos quieren aprender a cocinar el plato perfecto (el modelo de Inteligencia Artificial) juntos, pero hay dos reglas estrictas:

• Privacidad: Nadie puede enviar sus ingredientes crudos al centro. Solo pueden enviar sus "notas de cocina" (actualizaciones del modelo).
• Presupuesto: Contratar a un chef experto para que pruebe y corrija los platos es muy caro. Solo pueden pedirle al experto que pruebe pocos platos (muestras) para aprender.

El gran problema:

• Desbalance Global: En la comunidad, hay miles de recetas de "Pizza" (clase mayoritaria) pero solo unas pocas de "Sushi" (clase minoritaria).
• Desigualdad Local: Algunos cocineros solo tienen ingredientes para hacer Pizza, otros solo para Sushi, y otros tienen una mezcla rara.

Si el experto (el sistema de aprendizaje) elige los platos a probar al azar o solo basándose en lo que sabe el cocinero local, nunca aprenderá bien a hacer Sushi. Se quedará obsesionado con la Pizza y el modelo final será malo para los platos raros.

2. La Gran Descubrimiento: ¿Quién debe elegir los platos?

Los autores se preguntaron: ¿Quién debería elegir los platos que el experto va a probar?

• Opción A: El Jefe de Cocina Global (el modelo global que ve todo el mundo).
• Opción B: El Cocinero Local (el modelo que solo conoce los ingredientes de su propia cocina).

Su hallazgo sorprendente:
No hay una respuesta única. Depende de la situación:

• Si el mundo está muy desbalanceado (muchísima Pizza, muy poco Sushi) pero todos los cocineros son muy parecidos entre sí, el Jefe Global es mejor. Él sabe que falta Sushi y busca activamente esos platos.
• Si los cocineros son muy diferentes entre sí (cada uno tiene ingredientes raros), el Cocinero Local es mejor. Él conoce mejor sus propios "huecos" y sabe qué le falta a su cocina específica.

3. La Solución: FairFAL (El "Gerente Inteligente")

Los autores crearon un sistema llamado FairFAL (Federated Active Learning Justo). Imagina que es un Gerente Inteligente que se sienta en la mesa de cada cocinero y decide qué hacer en tres pasos mágicos:

Paso 1: El Termómetro de Decisión (Selección Adaptativa)

El Gerente mira dos cosas:

1. ¿Qué tan raro es el Sushi en todo el mundo? (Desbalance global).
2. ¿Qué tan diferente es la cocina de este cocinero respecto a las demás? (Heterogeneidad).

• La analogía: Es como un termómetro. Si la temperatura indica que el Sushi es muy escaso pero todos son similares, el Gerente dice: "¡Usa al Jefe Global!". Si la temperatura indica que cada cocina es un mundo aparte, dice: "¡Usa al Cocinero Local!".
• Resultado: El sistema elige automáticamente al mejor "buscador" para cada situación, sin que nadie tenga que adivinar.

Paso 2: El Mapa de Tesoros (Etiquetado con Prototipos)

Una vez que saben quién busca, necesitan saber qué buscar.

• El problema: Si solo buscas lo que el cocinero local "cree" que es Sushi, podría confundirlo con una Pizza porque nunca ha visto Sushi real.
• La solución: El Gerente usa el Jefe Global para crear un "Mapa de Tesoros" (prototipos). Imagina que el Jefe Global tiene una foto perfecta de cómo se ve un Sushi real.
• La acción: El Gerente compara los platos desconocidos con esa foto perfecta. Si se parecen, les pone una etiqueta provisional de "Sushi". Así, asegura que el sistema no se olvide de los platos raros, incluso si el cocinero local no los reconoce bien.

Paso 3: La Cesta de Compra Equilibrada (Muestreo por Incertidumbre y Diversidad)

Ahora tienen una lista de platos candidatos. Pero, ¿cuáles elegir?

• El error común: Elegir solo los platos que más dudan (los más "confusos"). Esto es peligroso porque podrías elegir 100 pizzas que se parecen mucho entre sí (redundancia) y olvidar el Sushi.
• La solución de FairFAL:
  1. Etapa 1: Busca los platos que más dudan dentro de cada categoría (asegura que haya Sushi, Pizza, etc.).
  2. Etapa 2: De esos platos dudosos, elige los que son más diferentes entre sí (diversidad).
• La analogía: Es como hacer una cesta de compra. No compras 10 manzanas rojas idénticas. Compras una manzana roja, una verde, una pera y una uva. Aseguras que la cesta tenga variedad y equilibrio.

4. El Resultado Final

Gracias a este sistema, cuando todos los cocineros se unen al final:

• El modelo final sabe cocinar todo, no solo lo más popular.
• Se gasta menos dinero (menos etiquetas necesarias) porque cada plato que se pide probar aporta algo nuevo y valioso.
• Funciona incluso si los ingredientes son muy raros o si los cocineros son muy distintos.

En resumen

FairFAL es como un director de orquesta inteligente que sabe cuándo dejar que cada músico toque su propia partitura (modelo local) y cuándo pedirles que sigan al director principal (modelo global), asegurándose siempre de que en la orquesta suenen todos los instrumentos, incluso los más raros y silenciosos, para crear la mejor sinfonía posible.

¡Y lo mejor es que todo esto se hace sin que nadie tenga que mostrar sus ingredientes secretos!

Resumen técnico

1. Problema y Motivación

El Aprendizaje Activo Federado (FAL) combina el Aprendizaje Federado (FL) y el Aprendizaje Activo (AL) para reducir los costos de anotación de datos manteniendo la privacidad. Sin embargo, su eficacia se degrada significativamente en escenarios del mundo real caracterizados por dos desafíos críticos:

1. No-IID Extremo: Los datos de los clientes son altamente heterogéneos (distribuciones diferentes entre clientes).
2. Desequilibrio Global de Clases (Long-Tailed): La distribución global de etiquetas está fuertemente sesgada hacia clases mayoritarias, dejando clases minoritarias críticas con muy pocos ejemplos.

Limitaciones de los métodos existentes:
La mayoría de los enfoques actuales tratan la heterogeneidad como un problema de partición de datos, asumiendo implícitamente que la distribución global es equilibrada o recuperable mediante agregación. En la práctica, esto lleva a que las estrategias de adquisición de datos existentes fallen en identificar clases minoritarias, generando un sesgo sistemático hacia las clases mayoritarias ("head categories") y un uso ineficiente del presupuesto de anotación.

2. Observaciones Clave (Análisis Empírico)

Los autores realizaron un estudio sistemático sobre la selección de modelos de consulta (global vs. local) en FAL, revelando tres hallazgos fundamentales:

• Observación 1 (Selección de Modelo): El modelo que logra un muestreo más equilibrado por clase (especialmente para clases minoritarias) siempre conduce a un mejor rendimiento final.
  • Si el desequilibrio global es severo pero los clientes son homogéneos, el modelo global es superior.
  • En otros casos (distribución global equilibrada o alta heterogeneidad local), el modelo local suele ser la mejor opción.
• Observación 2 (Relación Muestreo-Rendimiento): Existe una alineación directa entre la capacidad de adquirir muestras de clases minoritarias y la precisión final del modelo.
• Observación 3 (Muestreo por Diversidad): Para estrategias basadas en diversidad (como Coreset), el modelo global supera consistentemente al local porque ofrece representaciones de características más discriminativas y alineadas globalmente.

3. Metodología: FairFAL

Basándose en estas observaciones, proponen FairFAL, un marco de FAL adaptativo y justo en términos de clases. Consta de tres componentes principales:

A. Selección Adaptativa de Modelos

Para decidir dinámicamente si un cliente debe usar el modelo global o el local como selector de consultas, el método estima dos métricas sin filtrar datos privados:

1. Gravedad del desequilibrio global ($\bar{\gamma}$): Estimada mediante la discrepancia de predicción en un subconjunto balanceado de datos etiquetados localmente.
2. Divergencia local-global ($d_k$): Mide cuánto se desvía la distribución predictiva local de la global.

• Mecanismo: Se calcula una puntuación continua $s_k$. Si la distribución global es muy desequilibrada y los clientes son homogéneos, se selecciona el modelo global; de lo contrario, se usa el local.

B. Etiquetado Pseudo-Guiado por Prototipos

Para garantizar un muestreo equilibrado por clase incluso cuando las distribuciones están sesgadas:

• Se utilizan las características del modelo global (que son más robustas) para calcular prototipos por clase (el promedio de las características normalizadas de las muestras etiquetadas).
• Las muestras no etiquetadas reciben "pseudo-etiquetas" basadas en la similitud coseno con estos prototipos, en lugar de las logits directas del clasificador (que suelen estar sesgadas).
• Esto divide el conjunto de datos no etiquetado en subconjuntos específicos por clase para una adquisición controlada.

C. Muestreo Equilibrado de Incertidumbre-Diversidad (Dos Etapas)

Para evitar redundancia y asegurar cobertura:

1. Etapa 1 (Selección de Candidatos): Dentro de cada clase (definida por los pseudo-etiquetas), se seleccionan las muestras más inciertas (alta entropía) para formar un conjunto de candidatos sobredimensionado.
2. Etapa 2 (Refinamiento por Diversidad): Se aplica un algoritmo k-center en un espacio de incrustación de gradientes (usando el modelo global) para seleccionar el subconjunto final. Esto asegura que las muestras seleccionadas sean diversas y cubran bien el espacio de características, evitando duplicados.

4. Resultados Experimentales

El método se evaluó en cinco conjuntos de datos (FMNIST, CIFAR-10, CIFAR-100, OCTMNIST y DermaMNIST) bajo configuraciones extremas de $\alpha$ (heterogeneidad) y $\rho$ (desequilibrio global).

• Rendimiento Superior: FairFAL superó consistentemente a los enfoques más avanzados (SOTA) como KAFAL, LoGo, IFAL y métodos de AL centralizados (Entropy, Coreset, BADGE).
• Robustez en Escenarios Difíciles: La ventaja de FairFAL fue más pronunciada en conjuntos de datos complejos (CIFAR-100) y en escenarios médicos reales (OctMNIST, DermaMNIST) que tienen distribuciones de etiquetas naturalmente long-tailed.
• Estabilidad: En configuraciones donde otros métodos fallaban o se acercaban al rendimiento aleatorio (especialmente cuando la heterogeneidad era baja y el desequilibrio global alto), FairFAL mantuvo un alto rendimiento gracias a su mecanismo de balanceo de clases.
• Análisis de Ablación: Se demostró que cada componente (selección de modelo, prototipos globales, y muestreo de dos etapas) es crucial para el rendimiento final.

5. Contribuciones y Significancia

• Insight Fundamental: Demostraron que la clave del éxito en FAL bajo desequilibrio no es solo la incertidumbre o la diversidad, sino la equidad en el muestreo por clase, y que la elección del modelo (global vs. local) debe adaptarse al grado de desequilibrio y heterogeneidad.
• Marco Práctico: FairFAL ofrece una solución práctica para entornos federados reales (como diagnóstico médico o inspección industrial) donde los datos son escasos, privados y desequilibrados.
• Eficiencia y Privacidad: Logra mejorar la eficiencia de las muestras (menos anotaciones necesarias para el mismo rendimiento) sin violar la privacidad, utilizando solo estadísticas agregadas para la toma de decisiones.

En conclusión, FairFAL establece un nuevo estado del arte para el aprendizaje activo federado en condiciones extremas, demostrando que la adaptación dinámica y el equilibrio de clases son esenciales para entrenar modelos globales robustos en ecosistemas de datos fragmentados y desequilibrados.