Neural Conjugate Aggregation: Identifiable Unsupervised Multi-Sensor Regression under Heterogeneous Sensor Bias

Resumen Técnico: Agregación de Conjugación Neuronal (NCAM)

Planteamiento del Problema
El artículo aborda el desafío de la regresión multisensores no supervisada, un escenario común en redes de sensores, conjuntos de simulaciones y monitoreo científico donde se dispone de múltiples fuentes de medición ruidosas y sesgadas, pero no existen etiquetas de verdad fundamental (ground-truth) para la variable objetivo durante el entrenamiento. En tales entornos, los sensores suelen presentar sesgos heterogéneos (multiplicativos y aditivos), niveles de ruido variables y deriva temporal. Los métodos de fusión clásicos suelen fallar aquí porque dependen de características conocidas de los sensores o de datos etiquetados para la calibración. Además, los modelos de fusión de variables latentes en entornos no supervisados sufren de no identificabilidad estructural, donde múltiples parametrizaciones pueden explicar las mismas observaciones de manera equivalente, lo que vuelve ambiguo el estado latente recuperado. Los enfoques existentes suelen abordar solo subconjuntos de estos problemas (por ejemplo, calibración supervisada, agregación heurística o cuantificación de la incertidumbre con etiquetas), pero carecen de un marco unificado para la calibración no supervisada, la estimación de fiabilidad, la identificabilidad y la cuantificación de la incertidumbre de forma simultánea.

Metodología: Modelo de Agregación de Conjugación Neuronal (NCAM)
Los autores proponen NCAM, un marco bayesiano jerárquico que integra redes neuronales con inferencia gaussiana conjugada para realizar la fusión multifuente no supervisada.

1. Modelo Generativo:

   • Prior Latente: Una variable objetivo latente $\Theta_i$ se modela con un prior gaussiano $p(\Theta_i | X_i)$, donde la media y la varianza son salidas de una red neuronal condicionada a covariables contextuales $X_i$.
   • Modelo de Medición: Cada sensor $j$ proporciona una observación ruidosa $b_{ij}$ modelada como $b_{ij} = a_j(X_i)\Theta_i + c_j(X_i) + \epsilon_{ij}$. Aquí, las redes neuronales parametrizan el sesgo multiplicativo específico del sensor ($a_j$), el sesgo aditivo ($c_j$) y la varianza del ruido dependiente de la fuente ($\sigma^2_j$).
   • Agregación de la Posterior: Debido a la estructura gaussiana conjugada, la distribución posterior sobre la variable objetivo latente $\Theta_i$ dado todos los sensores es analíticamente tratable. La media posterior sirve como una fusión de todos los sensores corregida por sesgo y ponderada por fiabilidad, donde los pesos están determinados por la precisión aprendida ($a_j^2 / \sigma_j^2$).

2. Resolución de la No Identificabilidad (Anclaje de Sensores):

   • El modelo de medición es invariante bajo transformaciones afines de la variable latente, lo que conduce a la no identificabilidad. Para resolver esto, NCAM emplea una estrategia de anclaje de sensores: se fija un sensor de referencia con un sesgo multiplicativo $a_{j^*} \equiv 1$ y un sesgo aditivo $c_{j^*} \equiv 0$. Esto rompe la simetría, haciendo que el estado latente sea identificable en relación con el ancla y asegurando que las mejoras en la verosimilitud correspondan a una verdadera precisión predictiva.

3. Objetivo de Entrenamiento:

   • Dado que la verdad fundamental no está disponible, el modelo se entrena maximizando la verosimilitud marginal de las mediciones observadas de los sensores.
   • Para evitar la inflación de la varianza (donde las varianzas del ruido crecen arbitrariamente sin afectar la verosimilitud), se añade un término explícito de regularización de la varianza a la función de pérdida, penalizando las varianzas extremas tanto del prior como de los sensores.

4. Cuantificación de la Incertidumbre:

   • Incertidumbre Bayesiana: El modelo proporciona naturalmente la incertidumbre epistémica (vía la varianza posterior) y la incertidumbre aleatoria (vía el ruido residual).
   • Calibración Libre de Verdad Fundamental: Para proporcionar garantías de cobertura de muestra finita sin objetivos etiquetados, los autores integran la Predicción Conforme de Monte Carlo Localmente Adaptativa (MC-CP). Este procedimiento genera realizaciones sintéticas de la distribución predictiva posterior para calcular puntuaciones de conformidad, produciendo intervalos de predicción heterocedásticos.
   • Calibración Anclada a Sensores: Un mecanismo complementario evalúa la consistencia de las predicciones fusionadas frente a las observaciones de los sensores corregidas por sesgo directamente, ofreciendo una verificación externa contra la especificación errónea del modelo.

Contribuciones Clave

• Formulación: El artículo formula la regresión multisensores no supervisada como un problema de inferencia de estado latente probabilístico que gestiona conjuntamente sesgos heterogéneos, estimación de fiabilidad, identificabilidad y cuantificación de la incertidumbre.
• Marco NCAM: Introducción de un modelo bayesiano jerárquico que aprende el sesgo y la fiabilidad de los sensores permitiendo la agregación de la posterior conjugada en forma cerrada.
• Solución de Identificabilidad: Una estrategia de anclaje de sensores basada en principios que resuelve la no identificabilidad estructural, obteniendo estimaciones del estado latente interpretables e identificables.
• Calibración: Desarrollo de un procedimiento de calibración de Monte Carlo conforme libre de verdad fundamental que produce intervalos de predicción localmente adaptativos sin requerir observaciones de la variable objetivo etiquetadas.
• Validación Empírica: Demostración de una mejora en la precisión predictiva y una incertidumbre bien calibrada en conjuntos de datos sintéticos y del mundo real (datos de calidad del aire) en comparación con las bases no supervisadas (agregación de la media, PCA probabilístico, filtrado de Kalman y VELI).

Resultados Experimentales
Los autores evaluaron NCAM en tres conjuntos de datos: un conjunto de datos sintético "Toy", SensEURCity (PM2.5 espacio-temporal de tres ciudades) y CAIRSENSE (sensores de PM2.5 co-localizados).

• Precisión Predictiva: NCAM logró el mejor rendimiento o un rendimiento cercano al mejor en todos los conjuntos de datos. En el conjunto de datos sintético con sesgos heterogéneos conocidos, NCAM redujo el RMSE aproximadamente un 50% en comparación con la siguiente mejor base no supervisada (VELI) y más del 100% en comparación con métodos clásicos como el filtrado de Kalman. En los conjuntos de datos del mundo real, las ganancias fueron sustanciales donde el sesgo del sensor era significativo (SensEURCity) y competitivas donde los sensores eran casi homogéneos (CAIRSENSE).
• Identificabilidad y Sesgo: Los estudios de ablación confirmaron que sin el anclaje de sensores, el modelo sufre de no identificabilidad (mejorando la verosimilitud pero degradando la precisión predictiva). Eliminar el modelado explícito del sesgo causó caídas drásticas en el rendimiento en entornos heterogéneos, pero tuvo efectos insignificantes o ligeramente positivos en entornos altamente correlacionados y de bajo sesgo.
• Calibración de la Incertidumbre: Los métodos de MC-CP propuestos proporcionaron intervalos de predicción válidos sin verdad fundamental. "MC-CP (Model)" produjo los intervalos más estrechos al aprovechar la varianza adaptativa del modelo, mientras que "MC-CP Sensor-Anchored" ofreció una alternativa más conservadora y fundamentada en las mediciones.

Significancia y Reivindicaciones
El artículo sostiene que la regresión multisensores fiable es alcanzable en entornos totalmente no supervisados combinando la agregación probabilística con la calibración de la incertidumbre. La significancia no reside en la introducción de componentes individuales (inferencia bayesiana, redes neuronales o predicción conforme), sino en su integración basada en principios para resolver los desafíos únicos y acoplados de la fusión de sensores no supervisada. El marco permite:

1. La estimación del sesgo y la fiabilidad de los sensores sin etiquetas.
2. La resolución de la no identificabilidad del estado latente.
3. La generación de predicciones conscientes de la incertidumbre con garantías de cobertura de muestra finita.

Los autores concluyen que la fusión de sensores precisa y consciente de la incertidumbre es factible sin supervisión, particularmente en regímenes con un sesgo significativo entre sensores, manteniéndose competitiva en entornos homogéneos. Se sugiere como trabajo futuro explorar la calibración dependiente de la dependencia y extensiones a objetivos multivariantes.