Wavelet Tree Ensembles for Triangulable Manifolds

Resumen Técnico: Conjuntos de Árboles de Wavelets para Variedades Triangulables

Planteamiento del Problema
El artículo aborda el desafío de la regresión no paramétrica en variedades triangulables, como esferas o superficies curvas generales. La literatura existente sobre regresión de wavelets (ondículas) suele basarse en bases de wavelets definidas sobre árboles de partición recursivos fijos en rejillas euclidianas regulares (por ejemplo, intervalos dibádicos). Estos enfoques estándar presentan dificultades en variedades debido a la falta de ejes de coordenadas naturales y a la distorsión causada por los sistemas de coordenadas globales. Por el contrario, los métodos de conjuntos basados en árboles (por ejemplo, Random Forests, Boosting) se han generalizado a dominios no euclidianos, pero a menudo carecen de las capacidades de representación multiescala y dispersa de las wavelets, lo que puede conducir a una alta varianza o sobreajuste, particularmente en regímenes de baja relación señal-ruido. Los autores postulan que es necesario un marco unificado que combine representaciones de wavelets ortogonales con particiones recursivas basadas en datos y técnicas de conjuntos modernas para mejorar la estimación e inferencia en estos domios complejos.

Metodología
Los autores proponen Conjuntos de Árboles de Wavelets de Haar Desbalanceados (UH), un marco que extiende las wavelets clásicas de Haar desbalanceado (UH) desde rejillas regulares hacia variedades triangulables genéricas. La metodología consta de tres componentes principales:

1. Construcción de Haar Desbalanceado (UH) en Variedades:

   • En lugar de puntos medios fijos, el método emplea particiones recursivas basadas en datos de triángulos geodésicos.
   • Un triángulo se divide conectando un punto $\xi$ en un borde con el vértice opuesto mediante un arco geodésico. La ubicación de la división se elige para maximizar el coeficiente de la wavelet UH empírica, lo que permite divisiones "desbalanceadas" que se adaptan a la variación de los datos locales y a la geometría.
   • Las funciones de wavelet resultantes forman un sistema ortonormal en $L^2(\mu_n)$, donde $\mu_n$ es la medida empírica sobre los puntos de la muestra. Esto garantiza la reconstrucción exacta en las ubicaciones muestreadas y la ortogonalidad independientemente de la geometría de la variedad subyacente.
   • Las reglas de división incluyen "balance" (bisección de punto medio de borde), "adapt" (elegir el borde con el coeficiente más grande) y "adapt_vertex" (elegir tanto el borde como el punto de corte basados en los datos).

2. Estrategias de Aprendizaje de Conjuntos (Ensemble Learning):

   • Boosting basado en Optimización: Los autores desarrollan un algoritmo de boosting de etapa hacia adelante (forward stagewise boosting) donde los aprendices débiles son árboles UH ajustados a los residuales. Para asegurar la diversidad entre los árboles en las variedades, emplean movimientos rígidos aleatorios (por ejemplo, rotaciones en $SO(3)$ para esferas) o reparametrizaciones intrínsecas antes de ajustar cada árbol. La regularización se logra mediante la parada temprana, tasas de aprendizaje y el umbral suave (soft-thresholding) de los coeficientes de la wavelet durante la reconstrucción.
   • Backfitting Bayesiano (RUHWT): Se introduce una formulación probabilística donde se coloca una distribución previa (prior) sobre las dimensiones y ubicaciones de división. Esto induce una distribución posterior sobre las estructuras de los árboles, permitiendo la cuantificación de la incertidumbre. Los autores utilizan un muestreador de Gibbs con pasos de Metropolis-dentro-de-Gibbs para actualizar las estructuras de los árboles y sus coeficientes, de forma análoga a los Árboles de Regresión Adaptativos Bayesianos (BART).

3. Análisis Teórico:

   • El artículo deriva límites de tipo oráculo comparando los estimadores UH propuestos con los estimadores estándar de "hoja" (como CART). El análisis demuestra que el término de error estocástico para los estimadores UH escala con el número de coeficientes activos (no nulos), mientras que los estimadores de hoja escalan con el número total de hojas. Esto sugiere que los conjuntos UH son particularmente ventajosos para señales que son dispersas en el diccionario de wavelets.

Contribuciones Clave

• Generalización a Variedades: El trabajo extiende las wavelets UH de rejillas 2D/3D a variedades triangulables, preservando las propiedades de ortogonalidad y reconstrucción exacta mediante triangulaciones geodésicas y medidas empíricas.
• Adaptabilidad Basada en Datos: A diferencia de las bases de Haar balanceadas en rejillas fijas, el método propuesto permite divisiones en ubicaciones arbitrarias a lo largo de los bordes de los triángulos, adaptándose a las variaciones de la señal local y a las densidades de muestreo.
• Integración de Conjuntos: El artículo presenta el primer marco que combina wavelets ortogonales, particiones recursivas conscientes de la geometría y técnicas de conjuntos modernas (tanto de boosting como bayesianas) para la regresión en variedades.
• Cuantificación de la Incertidumbre: Se proporciona una variante bayesiana (RUHWT), que ofrece la cuantificación de la incertidumbre posterior para las estimaciones de funciones en variedades.

Resultos
Los autores evalúan el método en conjuntos de datos sintéticos y del mundo real:

• Reducción de Ruido de Imágenes (Rejilla Euclidiana): En una imagen de un astronauta con ruido, los conjuntos UH superan sustancialmente a los conjuntos de Haar Balanceado (BH). Los resultados indican que el boosting es ineficaz si los aprendices débiles están restringidos a dividir en puntos medios; la capacidad de dividir lejos de los puntos medios (desbalanceado) es crucial para las ganancias de rendimiento.
• Regresión en Esfera Sintética: En datos simulados sobre una esfera unitaria, el enfoque de Boosting de Rotación Aleatoria utilizando árboles UH logra el Error Cuadrático Medio (MSE) más bajo en comparación con los Bosques de Fréchet, los Bosques Aleatorios de Rotación Aleatoria y modelos de procesos gaussianos profundos de última generación. El método suaviza eficazmente las fronteras artificiales presentes en las predicciones no rotadas.
• Aplicación en el Mundo Real (GISS): Aplicado a datos de anomalías de temperatura superficial global (GISS), el conjunto UH en una esfera triangulada supera a los métodos de árboles competidores. Las predicciones muestran una mejora en la precisión, particularmente al capturar variaciones espaciales complejas, observándose el MSE de prueba más bajo con el conjunto de Boosting de Rotación Aleatoria.

Significancia y Reivindicaciones
El artículo afirma presentar el primer método de regresión unificado que integra wavelets ortogonales, particiones recursivas conscientes de la geometría y técnicas de conjuntos modernas para variedades triangulables. Los autores enfatizan que su construcción preserva tres propiedades clave: (i) ortogonalidad y reconstrucción exacta, (ii) particiones recursivas basadas en datos adaptadas a la geometría de la variedad, y (iii) compatibilidad tanto con la construcción de conjuntos basada en optimización como en la bayesiana.

Los resultados teóricos sugieren que los conjuntos UH ofrecen una representación adaptativa a la dispersión donde el riesgo se controla por el número de coeficientes significativos en lugar del tamaño total del árbol, proporcionando una ventaja teórica sobre los estimadores tradicionales de hoja. Empíricamente, el método demuestra mejoras sustanciales sobre los conjuntos de árboles clásicos y las wavelets de malla no adaptativas, particularmente en escenarios con bajas relaciones señal-ruido y geometrías complejas. Los autores posicionan este trabajo como una herramienta práctica y teóricamente fundamentada para la regresión multiescala en dominios complejos, cerrando la brecha entre la teoría clásica de wavelets y el aprendizaje automático basado en árboles moderno.