Resumen Técnico: Predicción Conforme Basada en Perturbaciones para el Aprendizaje de Operadores en Regímenes de Escasez de Datos

1. Formulación del Problema

El artículo aborda el desafío de la Cuantificación de la Incertidumbre (UQ) para operadores neuronales que aprenden las ecuaciones de Navier–Stokes incompresibles en 2D. Aunque los operadores neuronales (p. ej., FNO) proporcionan sustitutos eficientes para los resolvedores de EDP costosos, sus predicciones puntuales carecen de estimaciones de incertidumbre calibradas para campos espaciotemporales. Esto es crítico en contextos de seguridad o de toma de decisiones donde los errores varían a través del espacio y el tiempo.

El problema específico se formula como el aprendizaje de un operador de solución $G: \mathbf{a} \to \mathbf{u}$, que mapea un historial de campos de vorticidad de entrada $\mathbf{a}$ a una trayectoria futura $\mathbf{u}$. El objetivo es construir un conjunto de predicción $C(\mathbf{a})$ que satisfaga la cobertura simultánea sobre toda la rejilla espaciotemporal con una probabilidad de al menos $1-\alpha$:
$$P(\mathbf{u}_{new} \in C(\mathbf{a}_{new})) \geq 1 - \alpha$$
Los autores se centran en el régimen de escasez de datos, donde el presupuesto total de etiquetas es fijo. En este escenario, los métodos que requieren redes de incertidumbre separadas (como UQNO) deben particionar los datos limitados entre un modelo predictivo y un modelo de incertidumbre auxiliar, lo que potencialmente reduce el rendimiento de ambos.

2. Metodología: Puntuación de No Conformidad Basada en Perturbaciones

El marco propuesto envuelve un operador neuronal entrenado con Predicción Conforme Dividida (Split Conformal Prediction - CP). La innovación central reside en la construcción de una puntuación de no conformidad basada en perturbaciones que genera una escala de incertidumbre adaptativa y espacialmente variable sin requerir una red de incertidumbre separada o divisiones de datos disjuntas.

2.1 Mecanismo Central

El método se basa en el principio de que la sensibilidad de un operador aprendido a pequeñas perturbaciones en las etiquetas de entrenamiento se correlaciona con la incertidumbre predictiva.

1. Entrenamiento Dual: Se entrenan dos operadores neuronales con arquitecturas idénticas sobre el mismo conjunto de entrenamiento adecuado:
   • $\hat{G}$: Entrenado con las etiquetas originales $\mathbf{u}_i$.
   • $\hat{G}_\epsilon$: Entrenado con etiquetas perturbadas $\tilde{\mathbf{u}}_i = \mathbf{u}_i + \boldsymbol{\epsilon}_i$, donde $\boldsymbol{\epsilon}_i \sim \mathcal{N}(0, \sigma_\epsilon^2)$.
2. Desacuerdo Bruto: Para una nueva entrada $\mathbf{a}$, la medida de incertidumbre bruta en la coordenada $k$ es la diferencia absoluta puntual:
   $$d(\mathbf{a})_k = | \hat{G}(\mathbf{a})_k - \hat{G}_\epsilon(\mathbf{a})_k |$$
3. Estabilización: Para evitar la inestabilidad numérica (división por valores cercanos a cero) y garantizar la robustez, el desacuerdo bruto se somete a dos pasos:
   • Suavizado Espacial: El mapa de desacuerdo se suaviza utilizando una ventana espacial de $K \times K$ (p. ej., $15 \times 15$) para promediar el ruido local.
   • Estabilización por Suelo (Floor Stabilization): Se impone un suelo $\tau_0$ dependiente de los datos, definido como una fracción de la mediana del desacuerdo en el conjunto de entrenamiento. La escala final es $\sigma(\mathbf{a})_k = \max(\bar{d}(\mathbf{a})_k, \tau_0)$.
4. Puntuación de No Conformidad: La puntuación conforme para una muestra de calibración se define como el máximo residuo normalizado sobre todas las coordenadas de salida:
   $$S(\mathbf{a}, \mathbf{u}) = \max_k \frac{| u_k - \hat{G}(\mathbf{a})_k |}{\sigma(\mathbf{a})_k}$$
   Este tipo de puntuación de tipo "máximo" tiene como objetivo la cobertura simultánea en toda la rejilla.

2.2 Calibración y Predicción

Utilizando el protocolo de predicción conforme dividida, la puntuación $S$ se calcula en un conjunto de calibración. El cuantil $\hat{Q}_{1-\alpha}$ de estas puntuaciones determina el ancho de las bandas de predicción. Para una nueva entrada, la banda de predicción en la coordenada $k$ es:
$$C(\mathbf{a})_k = \left[ \hat{G}(\mathbf{a})_k - \hat{Q}_{1-\alpha}\sigma(\mathbf{a})_k, \quad \hat{G}(\mathbf{a})_k + \hat{Q}_{1-\alpha}\sigma(\mathbf{a})_k \right]$$
Las garantías teóricas aseguran que, bajo intercambiabilidad, toda la trayectoria se cubre simultáneamente con una probabilidad $\geq 1-\alpha$.

3. Contribuciones Clave

• Escala Basada en Perturbaciones: Introducción de un método para derivar escalas de incertidumbre adaptativas directamente del desacuerdo entre un modelo base y un modelo entrenado con etiquetas perturbadas. Esto evita la necesidad de redes de incertidumbre auxiliares.
• Eficiencia de Datos: El enfoque está diseñado específicamente para el régimen de escasez de datos. A diferencia de métodos como UQNO que dividen los datos de entrenamiento, el método de perturbación utiliza el conjunto de entrenamiento adecuado completo tanto para el modelo base como para el perturbado, maximizando la información disponible para aprender el operador.
• Cobertura Simultánea: El uso de una puntuación de no conformidad de tipo máximo asegura que las bandas de predicción proporcionen una cobertura simultánea válida en toda la rejilla de salida espaciotemporal de alta dimensión, en lugar de solo cobertura marginal en puntos individuales.
• Técnicas de Estabilización: Se demuestra que la inclusión del suavizado espacial y la estabilización por suelo es crítica para la eficiencia de las bandas conformes, evitando la inflación de las estimaciones de incertidumbre debido a desacuerdos aislados cercanos a cero.

4. Resultados Experimentales

Se realizaron experimentos en un benchmark de vorticidad de Navier–Stokes 2D (rejilla de $64 \times 64$, 10 pasos de tiempo) con un presupuesto total de etiquetas de 1200 trayectorias. El método propuesto se comparó contra:

• MC Dropout: Usando dropout en la inferencia para la estimación de la varianza.
• Aproximación de Laplace: Aproximación de la última capa diagonal.
• UQNO: Una red de cuantiles auxiliar entrenada en un subconjunto de datos disjunto.
• Sin Escala (Unscaled): Un baseline con bandas de ancho constante ($\sigma \equiv 1$).

Hallazgos:

• Eficiencia: El método basado en perturbaciones produjo bandas conformes sustancialmente más estrechas que todos los baselines mientras mantenía la cobertura simultánea objetivo.
  • Para $\alpha=0.04$, el método de perturbación logró un radio promedio de 3.786, comparado con 4.192 (Sin Escala), 4.403 (Laplace), 8.530 (MC Dropout) y 16.784 (UQNO).
  • La mejora sobre UQNO fue particularmente significativa (reducción de radio del 77.4%), atribuida a la penalización por división de datos inherente al entrenamiento de una red de incertidumbre separada.
• Estudios de Ablación:
  • Suavizado Espacial: Crítico para el rendimiento. Eliminar el suavizado aumentó el radio promedio de ~3.8 a ~83.6.
  • Estabilización por Suelo: Menos crítica para la eficiencia que el suavizado, pero necesaria para la estabilidad; eliminarla por sí sola tuvo un efecto insignificante en el radio.
• Sensibilidad: El método es robusto a la magnitud del ruido de perturbación ($c \in [0.02, 0.10]$), con la cobertura manteniéndose cerca del objetivo nominal en todo este rango.
• Análisis Cualitativo: Las bandas de incertididad resultantes se ensanchan correctamente en regiones físicamente complejas (núcleos de vórtices, capas de cizalla) y se contraen en áreas laminares más suaves, alineándose con la dificultad esperada de la tarea de predicción.

5. Significación y Reivindicaciones

El artículo sostiene que la sensibilidad a la perturbación sirve como un proxy práctico y eficiente en términos de muestras para la incertidumbre en operadores neuronales conformalizados. La principal significación radica en el desacoplamiento de la calibración de la incertidumbre del modelado auxiliar. Al aprovechar el desacuerdo entre dos modelos entrenados con datos casi idénticos, el método logra una cobertura simultánea y adaptativa sin sacrificar datos de entrenamiento para una red secundaria.

Los autores posicionan esto como un mecanismo general aplicable a problemas de regresión más allá de las EDP, siempre que se pueda entrenar dos modelos con datos casi idénticos. El enfoque ofrece una alternativa eficiente en datos para la regresión conformalizada, particularmente valiosa cuando los datos son limitados y el costo de entrenar modelos auxiliares es prohibitivo. Los resultados sugieren que, para el aprendizaje de operadores en el régimen de escasez de datos, la escala basada en perturbaciones supera a los métodos adaptativos existentes (MC Dropout, Laplace, UQNO) en términos de estrechez de las bandas, preservando al mismo tiempo garantías estadísticas rigurosas.