FeDepth: Federated Learning for Depth Estimation under Robot Heterogeneity

Resumen Técnico de FeDepth: Aprendizaje Federado para la Estimación de Profundidad bajo Heterogeneidad Robótica

Planteamiento del Problema
La percepción robótica, particularmente la estimación de profundidad monocular, depende en gran medida de datos de entrenamiento provenientes de entornos diversos para garantizar la generalización. Sin embargo, los enfoques existentes utilizan predominantemente el Aprendizaje Centralizado (CL), el cual requiere la transmisión de datos sensoriales brutos de alto ancho de banda a un servidor central. Esto crea una sobrecarga de comunicación significativa, cuellos de botella en la escalabilidad y preocupaciones de privacidad. El Aprendizaje Federado (FL) ofrece una alternativa distribuida donde los robots entrenan localmente y comparten únicamente los pesos del modelo. No obstante, el FL estándar (por ejemplo, FedAvg) e incluso los métodos actuales de FL por Clústeres (CFL) presentan dificultades en despliegues robóticos debido a una severa heterogeneidad. Esta heterogeneidad surge de diversas plataformas robóticas (por ejemplo, UGV, UAV, robots con patas), entornos variables (por ejemplo, urbano, bosque, interior) y cantidades desequilibradas de datos.

Un vacío crítico identificado en este trabajo es que las distribuciones de datos robóticos en el mundo real son a menudo parcialmente superpuestas en lugar de estar claramente separables. Un solo robot puede operar en múltiples entornos, o diferentes robots pueden compartir entornos similares pero diferir en su dinámica de plataforma. Los métodos convencionales de CFL asumen que los clientes pueden ser particionados en clústeres distintos y no superpuestos (agrupamiento rígido o hard clustering). Esta suposición falla en entornos robóticos donde los cambios de dominio son continuos y ambiguos, lo que conduce a una degradación del rendimiento cuando los clientes son forzados a un único clúster, potencialmente erróneo.

Metodología: Marco de Trabajo FeDepth
Los autores proponen FeDepth, un marco de FL por Clústeres basado en descriptores diseñado para manejar estas relaciones inter-cliente complejas y superpuestas mediante el agrupamiento suave (soft clustering). El marco opera en tres etapas principales:

1. Agrupamiento Suave (Generación de Descriptores de Cliente):

   • En lugar de depender únicamente de imágenes brutas o parámetros del modelo, FeDepth utiliza un codificador pre-entrenado (proveniente de modelos de profundidad base como AdaBins, NeWCRfs o DCDepth) para extraer descriptores visuales de un subconjunto de los datos locales de cada cliente.
   • Estos mapas de características se comprimen utilizando el agrupamiento de Media Generalizada (GeM); la media y la varianza de estas características agrupadas se agregan para formar un descriptor de cliente $(\mu_c, \sigma_c^2)$, que representa la distribución de características del cliente.
   • El servidor calcula las similitudes por pares entre clientes utilizando la divergencia de Jeffreys (una forma simétrica de la divergencia KL) entre sus aproximaciones gaussianas.
   • A diferencia del agrupamiento rígido, FeDepth emplea una estrategia de agrupamiento suave. Los clientes son asignados a múltiples clústeres basados en un umbral de similitud $\tau$. Esto permite que un solo cliente participe en múltiples clústeres relevantes, capturando las transiciones continuas y ambiguas comunes en los entornos robóticos. Un paso de fusión resuelve las particiones redundantes para finalizar el mapa de clústeres.

2. Actualización del Modelo del Clúster:

   • Durante las rondas de entrenamiento, los clientes realizan actualizaciones locales.
   • El servidor agrega los modelos por clúster. Para cada clúster, promedia los modelos de los clientes asignados a dicho clúster (ponderados por el tamaño de los datos).
   • Posteriormente, los clientes descargan los modelos de todos los clústeres a los que pertenecen y los promedian para inicializar su siguiente ronda de entrenamiento local. Este mecanismo permite que los clientes se beneficien del conocimiento en múltiples dominios relacionados.

3. Inferencia:

   • Para una nueva secuencia de prueba, el sistema extrae un descriptor y calcula la similitud con los centroides de los clústeres existentes.
   • La secuencia se asigna a un conjunto de clústeres candidatos (aquellos por debajo del umbral $\tau$), y la predicción final es un promedio de los modelos de estos clústeres seleccionados.

Contribuciones Clave

1. Investigación Sistemática de la Heterogeneidad Impulsada por Robots: El artículo destaca que el FL de percepción robótica enfrenta desafíos únicos debido a los cambios en la plataforma, el entorno y la distribución de profundidad, los cuales han sido menos explorados en comparación con el FL de clasificación de imágenes estándar.
2. Nuevos Escenarios No-IID (HPE y BMR): Los autores introducen dos bancos de pruebas realistas derivados de conjuntos de datos existentes (M3ED, NYUv2, KITTI):
   • Heterogeneidad de Plataforma-Entorno (HPE): Simula variaciones combinatorias donde los clientes comparten atributos (por ejemplo, mismo entorno, diferente robot) o tienen trayectorias superpuestas, creando fronteras de dominio ambiguas.
   • Rango Bi-Modal (BMR): Simula un cambio severo entre las distribuciones de profundidad de interiores (corto alcance) y exteriores (largo alcance), probando la capacidad de manejar escalas de profundidad fundamentalmente distintas.
3. Marco de Trabajo FeDepth: Un marco de CFL agnóstico al modelo que utiliza el agrupamiento suave para permitir que los clientes pertenezcan a múltiples grupos. Esto aborda la limitación del agrupamiento rígido al manejar distribuciones de datos superpuestas.
4. Evaluación Exhaustiva: El método se valida a través de múltiples arquitecturas de estimación de profundidad (AdaBins, NeWCRFs, DCDepth) y supera consistentemente al FL estándar, al FL personalizado y a las bases de comparación de agrupamiento rígido.

Resultados Experimentales

• Escenario HPE: FeDepth supera consistentemente a todas las bases de comparación (FedAvg, FedProx, FedDyn, SCAFFOLD, FedClust, PACFL) en todas las arquitecturas probadas. Por ejemplo, con la arquitectura NeWCRFs, FeDepth logró un Abs Rel de 0.249, significativamente menor que el de FedAvg (0.366) y el de PACFL de agrupamiento rígido (0.318). Los resultados demuestran que el agrupamiento suave captura mejor la naturaleza continua de las distribuciones de datos robóticos.
• Escenario BMR: En el escenario claramente separado de interiores/exteriores, FeDepth tiene un desempeño comparable a los métodos de agrupamiento rígido (PACFL) para arquitecturas como NeWCRFs y DCDepth, donde los clústeres son naturalmente distintos. Sin embargo, para AdaBins, donde las representaciones de características son menos separables, FeDepth sigue superando al aprendizaje centralizado (CL) y al FL estándar, mostrando robustez incluso cuando el agrupamiento rígido sería teóricamente óptimo.
• Estudios de Ablación:
  • Suave vs. Rígido: El agrupamiento suave supera consistentemente al agrupamiento rígido bajo el mismo umbral, confirmando que las distribuciones de datos robóticos son demasiado continuas para una partición rígida.
  • Sensibilidad de la Superposición: Un ratio de superposición del 20% (clientes asignados a múltiples clústeres) produjo un rendimiento óptimo. Una superposición insuficiente limita el intercambio de conocimiento; una excesiva (100%) colapsa el sistema en un FedAvg estándar.
  • Basado en Etiquetas vs. Basado en Distribución: El agrupamiento basado en etiquetas de verdad de campo (ground-truth labels: plataforma/entorno) resultó en un rendimiento inestable en comparación con el agrupamiento de FeDepth basado en la distribución, sugiriendo que las etiquetas semánticas no siempre se alinean con la similitud de la distribución de características.

Significancia y Reivindicaciones
El artículo sostiene que FeDepth proporciona una solución práctica y efectiva para la percepción robótica federada al abordar el desafío específico de los dominios de clientes superpuestos. Al alejarse de la suposición de clústeres claramente separables, FeDepth permite un entrenamiento robusto en sistemas multi-robot heterogéneos donde los robots comparten múltiples atributos. Los autores posicionan a FeDepth no solo como una mejora en la precisión, sino como un paso necesario hacia una percepción escalable y preservadora de la privacidad para despliegues robóticos diversos en el mundo real. Este trabajo establece nuevos referentes (HPE y BMR) para evaluar el FL bajo una heterogeneidad robótica realista, yendo más allá de los entornos controlados de laboratorio.