Resumen Técnico: Conjuntos Rashomon Confinados por Horizonte para Pronósticos Caóticos

Declaración del Problema

La multiplicidad predictiva (la existencia de múltiples modelos con precisión equivalente pero predicciones divergentes) y la dinámica caótica (donde pequeñas diferencias iniciales conducen a resultados que divergen exponencialmente) son dos desafíos fundamentales en el aprendizaje automático que históricamente han evolucionado de forma aislada. Si bien el efecto Rashomon está bien caracterizado en tareas de predicción estática, los marcos existentes no tienen en cuenta las dinámicas temporales. Por el contrario, la literatura sobre pronósticos caóticos suele optimizar un único modelo "mejor" sin caracterizar la multiplicidad de alternativas igualmente precisas.

Esta desconexión genera riesgos críticos en aplicaciones de seguridad crítica (por ejemplo, despacho de energía eólica, gestión del tráfico, pronóstico del tiempo). En sistemas caóticos, modelos que coinciden en pronósticos a corto plazo pueden divergir exponencialmente a medida que se extiende el horizonte de predicción. Los métodos actuales de selección, que se basan en métricas de precisión estáticas como el RMSE, carecen de una forma fundamentada para elegir entre modelos casi óptimos cuando la utilidad aguas abajo depende del comportamiento a largo plazo. Este artículo aborda la brecha investigando cómo el caos transforma la estructura de la equivalencia predictiva a lo largo del tiempo y cómo seleccionar modelos que maximicen la utilidad de la decisión aguas abajo en lugar de solo la precisión del pronóstico.

Metodología

Marco Teórico

Los autores introducen Conjuntos Rashomon Confinados por Horizonte, una extensión teórica del conjunto Rashomon clásico que varía con el tiempo de adelanto de predicción $k$.

• Definición: Para un tiempo de adelanto $k$ y una tolerancia $\epsilon_k$, el conjunto $R^{(k)}_{\epsilon_k}$ contiene todos los modelos $h$ cuya pérdida $L_k(h)$ está dentro de $\epsilon_k$ de la pérdida óptima $L^*_k$.
• Contracción Exponencial: El artículo demuestra (Teorema 1) que en sistemas caóticos, el tamaño efectivo de este conjunto se contrae exponencialmente con el tiempo de adelanto. La tasa de contracción está gobernada por el exponente de Lyapunov máximo ($\lambda_{max}$), que cuantifica la sensibilidad del sistema a las condiciones iniciales.
• Métricas Ponderadas por Lyapunov: Para abordar la importancia variable de diferentes horizontes, los autores proponen Razones Rashomon ponderadas por Lyapunov (Definición 2). Estas métricas ponderan el desacuerdo entre modelos mediante un factor de decaimiento exponencial $e^{-\lambda_{max}k}$, proporcionando límites más ajustados sobre la ambigüedad predictiva efectiva que las métricas clásicas no ponderadas (Teorema 2).

Enfoque Algorítmico

El artículo desarrolla Algoritmos de Selección Alineados con la Decisión (Algoritmo 1) que seleccionan modelos del conjunto Rashomon variable en el tiempo basándose en funciones de utilidad aguas abajo en lugar del error de pronóstico.

• Proceso: El algoritmo muestrea modelos de la intersección de conjuntos confinados por horizonte, calcula la acción óptima aguas abajo para cada modelo en varios horizontes y agrega la utilidad utilizando pesos de Lyapunov.
• Convergencia: El análisis teórico (Teorema 3) establece límites de complejidad de muestra para este proceso de selección, mostrando que el tamaño de muestra requerido crece exponencialmente con el horizonte de decisión efectivo ponderado por el exponente de Lyapunov.

Implementación Experimental

• Construcción del Modelo: Los autores construyen conjuntos Rashomon enumerando sistemáticamente variantes de Computadoras de Reservorio. Varían hiperparámetros incluyendo el tamaño del reservorio ($N_r$), el radio espectral ($\rho$), la dispersión ($p$) y la tasa de fuga ($\alpha$), resultando en 1.080 configuraciones candidatas.
• Estimación de Lyapunov: El exponente de Lyapunov máximo se estima utilizando el algoritmo de Rosenstein en espacios de fase embebidos con retraso temporal, verificados contra verdades sintéticas.
• Tolerancia Adaptativa: La tolerancia $\epsilon_k$ se define de forma adaptativa basándose en el rango de rendimiento empírico en cada horizonte, asegurando que el tamaño del conjunto permanezca manejable (10–100 modelos) mientras refleja la equivalencia específica del horizonte.

Resultados Clave

Sistemas Sintéticos

Los experimentos en los sistemas Lorenz-96 y Kuramoto-Sivashinsky validan las afirmaciones teóricas:

• Contracción del Conjunto: Las mediciones empíricas confirman que la cardinalidad del conjunto Rashomon decae exponencialmente con el tiempo de adelanto, con tasas de decaimiento que coinciden estrechamente con las predicciones teóricas basadas en $\lambda_{max}$ ($R^2 > 0.95$).
• Fuerza del Caos: Aumentar la fuerza del caos (mediante el parámetro de forzamiento $F$) acelera la contracción del conjunto. Para caos fuerte, el conjunto colapsa a menos de 10 modelos para el horizonte 30, mientras que el caos más débil retiene ~50 modelos.

Aplicaciones del Mundo Real

El marco fue evaluado en tres conjuntos de datos del mundo real: Energía Eólica SDWPF, Tráfico METR-LA y Clima ERA5.

• Utilidad de la Decisión: El método propuesto de selección alineado con la decisión mejoró la calidad de la decisión aguas abajo en un 18–34% en comparación con las líneas base (Mejor Único, Promedio de Ensemble, Selección Aleatoria).
• Dependencia del Horizonte: Las mejoras fueron monótonas con el horizonte de predicción. Por ejemplo, en energía eólica, las ganancias de utilidad aumentaron del 18,4% a 6 horas al 27,2% a 24 horas. En tráfico, las ganancias aumentaron del 21,3% (30 min) al 31,7% (60 min).
• Diversidad Arquitectónica: Incluir familias de modelos diversas (Reservorios, CNNs, Transformers) en el grupo de candidatos produjo ganancias adicionales de utilidad (hasta un 38%) en comparación con la selección dentro de una sola familia, lo que sugiere que la diversidad arquitectónica complementa la diversidad de hiperparámetros.

Significado y Afirmaciones

El artículo afirma establecer la primera conexión rigurosa entre la teoría del caos y la multiplicidad predictiva. Sus contribuciones principales son:

1. Unificación Teórica: Demuestra que el caos transforma fundamentalmente la equivalencia predictiva, haciendo que el espacio de modelos "igualmente buenos" se reduzca exponencialmente a medida que los pronósticos se extienden hacia el horizonte de predictibilidad del sistema.
2. Orientación Práctica: Proporciona un marco fundamentado para la selección de modelos en dominios caóticos de seguridad crítica, avanzando más allá de las métricas centradas en la precisión hacia una selección centrada en la utilidad.
3. Rendimiento: El marco supera consistentemente a las estrategias de selección estándar en tareas de pronóstico caótico del mundo real, ofreciendo mejoras sustanciales en la calidad de la decisión mientras mantiene una precisión predictiva competitiva.

Los autores reconocen limitaciones, señalando que el marco depende de estimaciones precisas del exponente de Lyapunov (que pueden ser difíciles para sistemas de alta dimensión o parcialmente observados) y asume el acceso a un grupo suficientemente grande de modelos casi óptimos. Sugieren que el trabajo futuro debería explorar la adaptación en línea, la optimización multiobjetivo y aplicaciones a la modelización climática y las EDO neuronales.