Resumen Técnico: Confianza de Vecinos Aprendida para Despliegue Colaborativo en Aprendizaje Descentralizado Agnóstico al Modelo

Enunciado del Problema

El aprendizaje descentralizado se formula tradicionalmente como un problema de coordinación durante el entrenamiento, donde los nodos intercambian parámetros o gradientes para mejorar modelos compartidos o personalizados. Sin embargo, en escenarios de despliegue realistas como IoT, computación en el borde y en la niebla, este paradigma enfrenta limitaciones significativas:

1. Heterogeneidad: Los dispositivos a menudo poseen capacidades computacionales diferentes y deben desplegar arquitecturas de modelo distintas (por ejemplo, MobileNet frente a EfficientNet), lo que hace inviables los métodos de intercambio de parámetros.
2. Escasez y Asimetría de Datos: Los conjuntos de datos locales suelen ser pequeños, no IID y sesgados, limitando el rendimiento de los modelos aislados.
3. Objetivo Incompleto: Los métodos existentes a menudo optimizan la colaboración durante el entrenamiento pero despliegan cada nodo en aislamiento. Esto ignora el potencial de que los nodos aprovechen la capacidad superior de sus vecinos durante la inferencia, incluso cuando esos vecinos no formaron parte de la coordinación de entrenamiento.
4. Restricciones de Comunicación: El intercambio de parámetros de alta dimensión consume mucho ancho de banda.

La pregunta central abordada es: ¿Cómo deben entrenarse los nodos para que sus predicciones se combinen bien en el despliegue, y cómo debe aprender cada nodo a combinar las predicciones que recibe, sin compartir parámetros, gradientes ni etiquetas crudas?

Metodología: Confianza de Vecinos Aprendida (LNTrust)

Los autores proponen LNTrust, un protocolo sin servidor y agnóstico al modelo donde los nodos intercambian únicamente consultas (entradas sin etiquetar) y predicciones suaves (logits/probabilidades). El enfoque consta de dos etapas distintas:

1. Protocolo de Entrenamiento en Dos Etapas

• Etapa 1 (Entrenamiento Supervisado Local): Cada nodo entrena su modelo local $h_{\theta_i}$ utilizando sus datos etiquetados $D^L_i$ sin comunicación. Se construye un conjunto de validación retenido $D^V_i$ a partir de la distribución de datos local para estimar la calidad de los vecinos.
• Etapa 2 (Distilación Puenteada por Confianza):
  • Sondeo: El nodo $i$ consulta a todos los vecinos $j \in \bar{N}(i)$ (vecindad cerrada) sobre imágenes de $D^V_i$.
  • Extracción de Características: El nodo $i$ calcula características relacionales $\phi_{ij}$ para cada vecino basándose en:
    • Rendimiento del Sondeo: Precisión por clase en $D^V_i$.
    • Alineación Distribucional: Divergencia KL entre la distribución de clases local del nodo y la distribución predicha por el vecino en datos sin etiquetar.
    • Especialización: Entropía de las predicciones del vecino.
    • Topología: Grado normalizado del vecino.
  • Aprendizaje de Confianza: El nodo $i$ entrena un modelo local de confianza compacto $g_{\psi_i}$ (un pequeño MLP) para mapear estas características a pesos de confianza $\alpha_{ij}$. El modelo se entrena para minimizar la entropía cruzada del conjunto ponderado por confianza en $D^V_i$.
  • Distilación Puenteada: Durante el entrenamiento, el nodo $i$ utiliza datos sin etiquetar para realizar distilación de conocimiento a partir de los vecinos. Sin embargo, esto está puenteado:
    • Una Puerta de Transferencia Negativa compara el rendimiento de validación del conjunto contra el modelo propio del nodo. Si el conjunto es más débil, el peso de distilación se reduce o se anula.
    • Un Filtro de Confianza descarta pseudoetiquetas de baja confianza.
    • La pérdida es una suma ponderada de la pérdida supervisada y la pérdida de distilación, donde el peso de distilación se ajusta dinámicamente por la puerta.

2. Estrategia de Despliegue

En el momento de la inferencia, el nodo $i$ no despliega su modelo local en solitario. En su lugar, forma un conjunto de vecindad cerrada:
$$p^{deploy}_i(x) = \sum_{j \in \bar{N}(i)} \alpha^{deploy}_{ij} p_j(x)$$
Los pesos $\alpha^{deploy}_{ij}$ son los mismos pesos de confianza aprendidos durante la Etapa 2. Esto asegura que la colaboración aprendida durante el entrenamiento se transfiera directamente al despliegue.

Contribuciones Clave

1. Algoritmo (LNTrust)

• Agnóstico al Modelo y Sin Servidor: Opera sin un coordinador central y soporta arquitecturas heterogéneas (por ejemplo, mezclando MobileNetV2 y EfficientNet-B0) intercambiando únicamente predicciones suaves.
• Función de Confianza Aprendida: Los nodos aprenden una función de confianza compacta a partir de evidencia de validación local para decidir a qué vecinos confiar tanto para la distilación durante el entrenamiento como para el ensamblaje durante la inferencia.
• Mecanismos de Seguridad: Incluye una puerta de transferencia negativa para evitar que la colaboración degrade el rendimiento local si los vecinos no son adecuados.

2. Garantías Teóricas

• Límite de Despliegue: Los autores demuestran un límite de muestra finita que muestra que los pesos de confianza ajustados a la validación incurren en una pérdida de logaritmo excedente de solo $O(\epsilon^{-1}_{dep} \sqrt{\log |\bar{N}(i)|/m_i})$ sobre la mejor distribución de pesos posible, asumiendo que las características relacionales son distintas.
• Perturbación Controlada: Demuestran que la trayectoria de entrenamiento de LNTrust permanece cerca de una trayectoria de entrenamiento supervisado "solo para sí mismo". La puerta de confianza asegura que si los vecinos proporcionan señales pobres, la perturbación colaborativa colapsa, protegiendo al nodo de una divergencia catastrófica.

3. Artefacto

• Los autores lanzan una herramienta unificada de evaluación de aprendizaje descentralizado que implementa LNTrust junto con líneas base (DML, DESA, FedPAE, Mean Teacher, D-PSGD, etc.) bajo un protocolo común que contabiliza la comunicación.

Resultados Experimentales

El método fue evaluado en CIFAR-10, CIFAR-100 y EuroSAT a través de tres configuraciones topológicas:

1. Heterogéneo Disperso: Gráfico Barabási-Albert con arquitecturas mixtas (90% MobileNetV2, 10% EfficientNet-B0 en los hubs).
   • Resultado: LNTrust alcanzó una precisión del 86.5% en CIFAR-10 y del 61.5% en CIFAR-100, superando significativamente a la mejor línea base de solo salida (DML con 79.5% y 56.9%, respectivamente). Los métodos de intercambio de parámetros fueron inviables aquí.
2. Geográfico (EuroSAT): Datos espaciales del mundo real con conectividad decaída por distancia.
   • Resultado: LNTrust alcanzó una precisión del 96.7%, superando a todas las líneas base (agrupadas alrededor del 94.2–94.8%).
3. Homogéneo Denso: Gráfico aleatorio uniforme con arquitecturas idénticas (todos MobileNetV2).
   • Resultado: LNTrust alcanzó una precisión del 84.4%, superando a todas las líneas base de solo salida y igualando a los métodos de intercambio de parámetros como Gossip-FedAvg (84.2%), aunque quedó por detrás del mejor método de intercambio de parámetros, D-PSGD (87.0%).

Eficiencia de Comunicación:
LNTrust intercambia únicamente logits unidireccionales de dimensión $C$. En términos de precisión por GB comunicado, supera significativamente a los métodos que intercambian vectores de características (DESA) o pesos completos (métodos de intercambio de parámetros), particularmente en configuraciones heterogéneas.

Estudios de Ablación:

• Mecanismo de Confianza: Reemplazar el MLP aprendido con heurísticas escalares (LinUCB, Mayoría Ponderada) resultó en un rendimiento inferior, confirmando el valor de las características relacionales estructuradas.
• Costo de Validación: Retener el 20% de los datos etiquetados para validación produjo el mejor equilibrio entre la calidad de la estimación de confianza y la disponibilidad de datos de entrenamiento.
• Presupuesto de Distilación: El rendimiento mejoró con presupuestos moderados de pseudoetiquetas pero se degradó con presupuestos muy altos, indicando un punto de saturación donde las señales de los pares sobrescriben la información local.

Significado y Afirmaciones

El artículo afirma que LNTrust aborda una brecha crítica en el aprendizaje descentralizado: la desconexión entre la coordinación durante el entrenamiento y la realidad durante el despliegue. Al aprender a quién confiar basándose en evidencia local, los nodos pueden:

• Aprovechar la Heterogeneidad: Utilizar vecinos más fuertes (por ejemplo, hubs con modelos más grandes) sin requerir homogeneidad arquitectónica.
• Optimizar el Ancho de Banda: Lograr alta precisión con significativamente menos comunicación que los métodos anteriores, haciéndolo adecuado para entornos con restricciones de ancho de banda como IoT.
• Garantizar Seguridad: El mecanismo puenteado por confianza asegura que la colaboración sea "segura", evitando que los nodos degraden su rendimiento local cuando los vecinos son poco fiables.

Los autores enfatizan que, aunque LNTrust mejora sobre las líneas base de solo salida y iguala a los métodos de intercambio de parámetros en configuraciones homogéneas, su principal significado radica en permitir una colaboración efectiva en entornos heterogéneos y sin servidor donde el intercambio tradicional de parámetros es imposible. El método no afirma resolver la robustez adversarial ni proporcionar garantías formales de privacidad contra fugas basadas en consultas, señalando estos como direcciones futuras importantes.