Resumen Técnico: Diferencia de Energía de Elemento de Recurso para Aprendizaje Federado No Coherente en el Aire

1. Enunciado del Problema

El Aprendizaje Federado en el Aire (OTA-FL) busca reducir la latencia de enlace ascendente y el consumo de ancho de banda aprovechando la superposición de ondas para calcular agregados (por ejemplo, sumas ponderadas de actualizaciones del modelo) directamente en el aire. Sin embargo, los esquemas convencionales de OTA-FL dependen de una agregación analógica coherente. Estos métodos requieren:

• Información de Estado del Canal (CSI) instantánea en los transmisores.
• Inversión o truncamiento del canal.
• Alineación de fase coherente precisa entre dispositivos.

En sistemas inalámbricos prácticos con muchos clientes, canales de desvanecimiento, desviaciones de osciladores y transmisiones repetidas de alta dimensión, mantener estos requisitos es difícil. Un cambio directo a la recepción no coherente (detección de energía) presenta un obstáculo fundamental: las mediciones de energía son invariantes a los cambios de signo. Dado que las actualizaciones de Aprendizaje Federado (FL) son cantidades con signo de valor real, un receptor no coherente estándar no puede recuperar la suma lineal con signo requerida para la agregación del modelo, lo que conduce a un problema de "pérdida de signo".

Las alternativas no coherentes existentes o bien cuantizan las actualizaciones a signos (votación mayoritaria), lo que pierde información continua, o dependen de modelos complejos de recuperación ciega o asintóticas de massive-MIMO que difieren del estimador mínimo y sin memoria deseado para el FL estándar.

2. Metodología: Diferencia de Energía de Elemento de Recurso (REED)

El artículo propone la Diferencia de Energía de Elemento de Recurso (REED), un primitivo de agregación no coherente diseñado para recuperar sumas con signo continuas sin CSI instantánea ni alineación de fase.

Mecanismo Central

REED resuelve el problema de la pérdida de signo separando los componentes positivos y negativos de una actualización escalar antes de la transmisión:

1. Descomposición: Para una actualización de valor real $u_k$, el cliente la descompone en partes positiva y negativa: $u_k = [u_k]_+ - [u_k]_-$.
2. Mapeo: Estos dos componentes no negativos se mapean a energías de transmisión en un par coincidente de elementos de recurso (RE) ortogonales.
3. Transmisión: Los clientes transmiten símbolos $a_{k,+}$ y $a_{k,-}$ en los dos RE. La potencia de transmisión se escala con una ganancia de agregación común $\eta$ y se normaliza por la potencia promedio del canal a escala de tiempo lento $\mu_k^2$. Se aplican ditheres de fase aleatorios para garantizar la independencia.
4. Recepción: El servidor realiza detección de energía no coherente en ambos RE, obteniendo $E_+ = |y_+|^2$ y $E_- = |y_-|^2$.
5. Estimación: La suma con signo se estima restando las dos mediciones de energía:
   $$\hat{u} = \frac{E_+ - E_-}{\eta}$$

Propiedades Teóricas

Bajo desvanecimiento Rayleigh y calibración de potencia promedio del canal a escala de tiempo lento coincidente:

• Insesgadez: El estimador es insesgado para la suma con signo deseada ($E[\hat{u}] = \sum u_k$).
• Varianza Exacta: El artículo deriva una expresión de varianza en forma cerrada exacta. La varianza consiste en "ruido propio no coherente" (inducido por el desvanecimiento y la división de la masa) y términos de ruido del receptor. Crucialmente, la varianza separa estos componentes, permitiendo un análisis preciso.
• Sin CSI Instantánea: El esquema requiere solo calibración de potencia promedio del canal a largo plazo, eliminando la necesidad de CSI instantánea en el transmisor (CSIT) o compensación de fase.

3. Integración con Aprendizaje Federado

Los autores integran REED en el algoritmo estándar FedAvg con participación completa de clientes.

• Protocolo: En cada ronda, los clientes realizan pasos de SGD locales para generar incrementos del modelo. Estos incrementos se escalan coordenada a coordenada y se transmiten mediante REED. El servidor agrega los incrementos y actualiza el modelo global.
• Análisis de Convergencia: El artículo demuestra un límite de estacionariedad para optimización no convexa suave.
  • El error de agregación de REED se modela como una perturbación aditiva de media cero con un segundo momento acotado.
  • Bajo un presupuesto de energía promedio por cliente, la ganancia de agregación $\eta$ se programa como $\Theta(1/\beta)$ (donde $\beta$ es el paso local).
  • Esta programación asegura que la perturbación inducida por REED se escale como $O(\beta^2)$.
  • En consecuencia, el sistema alcanza la tasa canónica de estacionariedad $O(1/\sqrt{T})$, igualando el comportamiento de convergencia de FedAvg ideal a pesar del ruido no coherente.

4. Resultados Experimentales

Se realizaron experimentos en los conjuntos de datos MNIST y Fashion-MNIST utilizando una red neuronal convolucional (CNN) con 10 clientes. La configuración comparó REED contra:

1. FedAvg Limpio: Agregación digital ideal sin ruido.
2. Línea Base Coherente con CSIT: Un esquema oráculo con CSI instantánea perfecta y alineación de fase.

Hallazgos Clave:

• Regímenes IID: En configuraciones de datos Independientes e Idénticamente Distribuidos (IID), REED coincide estrechamente con el rendimiento tanto de FedAvg Limpio como de la línea base Coherente con CSIT. La brecha de rendimiento es despreciable (por ejemplo, < 0.3 puntos porcentuales en Fashion-MNIST).
• Regímenes Heterogéneos: Bajo fuerte heterogeneidad de datos (división Dirichlet con $\alpha=0.3$), surge una brecha de rendimiento.
  • En MNIST, la brecha permanece moderada (~0.6 puntos porcentuales).
  • En Fashion-MNIST, la brecha es más significativa (~3.17 puntos porcentuales), acompañada de una mayor varianza entre ejecuciones.
• Conclusión sobre Heterogeneidad: La degradación en entornos heterogéneos se atribuye a la interacción entre el ruido de agregación de REED y el aumento del desplazamiento del cliente. El artículo señala explícitamente que, aunque REED permanece estable y convergente, incurre en una penalización de precisión no despreciable en regímenes fuertemente heterogéneos en comparación con esquemas coherentes.

5. Significado y Afirmaciones

El artículo posiciona a REED como un primitivo de agregación libre de CSI que llena una brecha específica entre la agregación AirComp continua coherente y la agregación de signo/mayoría no coherente.

• Contribución Principal: REED permite la agregación con signo continua sin CSI instantánea, inversión de canal ni alineación de fase, utilizando solo calibración de potencia a escala de tiempo lento.
• Rigor Teórico: Proporciona una ley de distorsión escalar exacta y un límite de segundo momento vectorial, demostrando que la tasa de convergencia canónica de FedAvg se preserva bajo restricciones de energía.
• Posicionamiento Moderado: Los autores declaran explícitamente que REED no es un sustituto sin pérdidas de AirComp coherente en todos los regímenes estadísticos. Su valor radica en ofrecer una alternativa simple, robusta y teóricamente fundamentada para escenarios donde mantener CSI instantánea y coherencia de fase es poco práctico, aceptando una distorsión controlada que es mínima en entornos benignos (IID) pero visible bajo fuerte heterogeneidad.

El trabajo demuestra que el OTA-FL no coherente es viable para actualizaciones continuas, siempre que el sistema esté diseñado con una comprensión de las características específicas de ruido introducidas por la estimación de diferencia de energía.