🤖 machine learning

Geometry-Aware Post-Hoc Uncertainty Quantification in Operator Learning

Este artículo introduce REEF-GP, un marco de cuantificación de incertidumbre post-hoc escalable que aprovecha los incrustaciones intrínsecas conscientes de la geometría de un operador neuronal para ajustar un Proceso Gaussiano sobre los residuales de predicción, logrando estimaciones de incertidumbre calibradas y robustas a través de diversas geometrías de EDP a una fracción del costo de los ensambles profundos.

Autores originales: Oriol Vendrell-Gallart, Nima Negarandeh, Ramin Bostanabad

Publicado 2026-06-17

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Oriol Vendrell-Gallart, Nima Negarandeh, Ramin Bostanabad

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

La visión general: El resolvedor "Rápido pero Ciego"

Imagine que tiene un robot súper inteligente y súper rápido que puede predecir cómo fluye el viento sobre un coche, cómo se desplaza el estrés a través de un puente o cómo se propaga el calor en una máquina. Este robot es un Operador Neuronal. Es increíblemente rápido y preciso, pero tiene un fallo importante: es determinista.

Piense en este robot como un chef seguro de sí mismo que siempre sirve el mismo plato exacto. Si le pregunta: "¿Cómo sabrá esta sopa?", el robot dice: "Sabrá exactamente así". Nunca dice: "Podría estar un poco salada" o "Si los ingredientes fueran ligeramente distintos, podría estar insípida". En el mundo real, necesitamos saber qué tan seguro está el robot, especialmente cuando la forma del objeto (la geometría) cambia de maneras extrañas.

El problema: Por qué fallan los controles de "confianza" actuales

Los científicos han intentado solucionar esto enseñando al robot a tener dudas mientras está aprendiendo (métodos de tiempo de entrenamiento o Train-Time). Pero esto es como intentar enseñar a un chef a dudar mientras todavía está aprendiendo a cocinar. Es lento, costoso y a menudo hace que el chef sea peor cocinando en realidad.

Otros métodos intentan añadir un "medidor de confianza" después de que el robot ya ha sido entrenado (métodos post-hoc). Sin embargo, la mayoría de estos medidores existentes son como reportes meteorológicos genéricos. Dicen: "Puede que llueva", pero no miran la forma específica de las montañas o los patrones de viento locales. Pasan por alto el hecho de que la incertidumbre suele ocurrir en lugares muy específicos y físicamente significativos (como justo donde una onda de choque golpea un ala).

La solución: REEF-GP (El "Detective Inteligente")

Los autores proponen un nuevo método llamado REEF-GP. Piense en REEF-GP como un detective inteligente que investiga los errores del robot después de que el robot ha terminado su trabajo.

Así es como funciona, paso a paso:

1. El Robot "Congelado"

Primero, toman al robot rápido y preciso y lo congelan. No cambian su cerebro ni lo vuelven a entrenar. Simplemente dejan que haga su trabajo y realice una predicción.

2. El "Residual" (El Error)

El detective observa la diferencia entre lo que el robot predijo y lo que realmente sucedió. Esta diferencia se llama residual.

Analogía: Si el robot predice que un puente soportará 100 toneladas, pero en realidad soporta 90, el "residual" es esas 10 toneladas faltantes.

3. Usando las propias "Notas Secretas" del Robot

Esta es la parte ingeniosa. La mayoría de los detectives solo mirarían el error final. Pero REEF-GP observa las notas internas (sus capas ocultas) del robot mientras resolvía el problema.

Analogía: Imagine que el robot es un pintor. En lugar de solo mirar la pintura final para ver si es buena, REEF-GP mira los bocetos y las pinceladas que el robot hizo mientras pintaba.
El artículo afirma que estas notas internas ya contienen un "mapa" de la geometría. El robot ya ha aprendido cómo la forma del objeto se deforma y cambia. REEF-GP reutiliza estas notas para construir un mapa personalizado para la incertidumbre.

4. El Mapa "Consciente de la Geometría"

Debido a que REEF-GP utiliza las propias notas internas del robot, sabe exactamente dónde buscar problemas.

Analogía: Si el robot está prediciando el flujo de aire sobre un ala, un medidor genérico podría decir: "La incertidumbre está en todas partes". Pero REEF-GP mira las notas internas del robot y dice: "Ah, el mapa interno del robot muestra una grieta justo en la onda de choque. Ahí es donde debería estar la incertidumbre".
El resultado es un mapa de confianza que se ilumina exactamente donde la física es complicada (como en los frentes de choque), en lugar de simplemente adivinar al azar.

5. El Truco del "Subconjunto" (Escalabilidad)

Normalmente, calcular este tipo de confianza detallada es tan pesado que colapsa las computadoras (como intentar contar cada grano de arena en una playa).

Analogía: En lugar de contar cada grano de arena, REEF-GP toma un puñado aleatorio, lo estudia y usa eso para hacer una muy buena estimación sobre toda la playa. Hace esto una y otra vez con diferentes puñados. Esto lo hace lo suficientemente rápido como para ejecutarse en computadoras estándar, incluso para formas 3D enormes.

Los Resultados: Rápido, Barato y Preciso

El artículo probó REEF-GP en cinco problemas de física diferentes (como el aire fluyendo sobre un ala o el agua en una tubería).

No ralentiza al robot: Añadir este medidor de confianza no empeoró las predicciones del robot.
Es tan bueno como el "Estándar de Oro": La forma más precisa de obtener la incertidumbre es entrenar a 5 robots diferentes y compararlos (Ensembles Profundos o Deep Ensembles). Esto es muy costoso. REEF-GP logró una precisión similar a este método costoso, pero con una fracción mínima de la potencia de cómputo.
Maneja nuevas formas: Cuando el robot fue probado con formas que nunca había visto antes (como un coche con una forma extraña), REEF-GP se dio cuenta correctamente de: "No estoy seguro de esto", y su incertidumbre creció exactamente donde estaban los errores. Otros métodos se confundieron y dieron una falsa sensación de confianza.

Resumen

REEF-GP es una forma de añadir un "medidor de confianza" a un resolvedor de física por IA que es rápido, sin necesidad de reentrenarlo. Funciona observando los propios "bocetos" internos del resolvedor para comprender la forma del problema, lo que permite localizar exactamente dónde la IA podría estar equivocada. Es como darle a un robot rápido y seguro un asistente inteligente que sabe exactamente dónde volver a revisar el trabajo, ahorrando tiempo y dinero mientras mantiene la seguridad alta.

Resumen Técnico: Cuantificación de la Incertidumbre Post-hoc Sensible a la Geometría en el Aprendizaje de Operadores

Planteamiento del Problema

Los operadores neuronales han emergido como sustitutos potentes para resolver ecuaciones diferenciales parciales (PDE) en dominios como la dinámica de fluidos y la mecánica de sólidos. Sin embargo, su naturaleza determinista estándar limita su utilidad en aplicaciones científicas que requieren una cuantificación de la incertidumbre (UQ) rigurosa, particularmente cuando se trata de variabilidad geométrica. Los enfoques de UQ existentes generalmente se dividen en dos categorías:

Métodos en tiempo de entrenamiento: Técnicas como los Ensembles Profundos (Deep Ensembles) o aproximaciones bayesianas (por ejemplo, MC Dropout) que modelan la incertidumbre en los parámetros de la red. Estos suelen ser computacionalmente prohibitivos para el aprendizaje de operadores a gran escala en mallas no estructuradas.
Métodos post-hoc: Enfoques como la aproximación de Laplace que añaden componentes probabilísticos a un modelo congelado. Aunque son más eficientes, muchos dependen de aproximaciones locales en el espacio de pesos o mapas de características genéricos que no logran capturar las representaciones específicas sensibles a la geometría aprendidas por el operador.

Existe una brecha crítica en el aprovechamiento de las representaciones latentes intrínsecas y conscientes de la física de un operador neuronal preentrenado para construir incertidumbres sensibles a la geometría sin reentrenar el modelo ni imponer priors mal especificados en espacios de dimensión infinita.

Metodología: REEF-GP

Los autores proponen REEF-GP (Residual on Embedded Features Gaussian Process - Proceso Gaussiano de Residuos sobre Características Embebidas) un marco de UQ post-hoc que modela la discrepancia entre un operador neuronal congelado y la solución real directamente en el espacio de características aprendido por el operador.

Marco Central

El método trata al operador neuronal preentrenado $G_\theta$ como un modelo computacional determinista. La solución real $v(x)$ en una coordenada de consulta $x$ se modela como:
$v(x) = G_\theta(u, a)(x) + \delta(u, x, h(u, a, x)) + \epsilon$
donde $\delta$ representa la insuficiencia del modelo (residuo) y $\epsilon$ es el ruido de observación. A diferencia de los marcos KOH (Kennedy–O'Hagan) estándar que tratan al modelo como una caja negra, REEF-GP explota la estructura interna de $G_\theta$ .

Componentes Técnicos Clave

Kernel Profundo Sensible a la Geometría:
- En lugar de aprender un mapa de características desde cero, REEF-GP utiliza las capas ocultas del operador congelado (específicamente Transolver), que ya codifica representaciones deformadas y conscientes de la física de la geometría de entrada.
- Selecciona un subconjunto de capas informativas (tempranas, medias y tardías) basándose en el Alineamiento de Kernel Centrado (CKA) para construir un estado aumentado $h(u, a, x)$ .
- Se define un kernel profundo sobre el producto de las coordenadas espaciales, las funciones de entrada y estos embeddings latentes: $k_\phi(\bar{z}, \bar{z}') = k_{space} \cdot k_{fun} \cdot k_{latent}$ . El kernel latente utiliza un MLP con normalización espectral para deformar los embeddings, creando un prior no estacionario que se adapta a regímenes físicos locales.
Modelado de Discrepancia Probabilística:
- El residuo $\delta$ se modela como un Proceso Gaussiano (GP) de media cero con un término de ruido heterocedástico.
- La varianza del ruido depende de la entrada, parametrizada por una red densa con normalización espectral para prevenir el colapso de características y asegurar la estabilidad.
Entrenamiento e Inferencia Escalables:
- Optimización de Subconjuntos Estocásticos: Para manejar la complejidad $O((MN)^3)$ del entrenamiento exacto de GP (donde $M$ es el número de muestras y $N$ es el número de puntos de discretización), REEF-GP emplea una estrategia de subconjuntos estocásticos inspirada en Kernel Flows (KF). Optimiza los hiperparámetros utilizando mini-batches de residuos, desacoplando las restricciones de memoria de la resolución completa de la malla.
- Producto de Expertos Generalizado (gPoE): Para la inferencia, el método condiciona $K$ expertos GP independientes en subconjuntos aleatorios de los datos. La distribución predictiva final se obtiene agregando estos expertos en el espacio de precisión, limitando la huella de memoria en tiempo de prueba a $O(N_s^2)$ por experto en lugar del tamaño completo del conjunto de datos.

Contribuciones Clave

Kernel Profundo Sensible a la Geometría: El diseño de un kernel que aprovecha las representaciones internas y congeladas de un operador neuronal preentrenado, evitando la necesidad de aprender un mapa de características separado o imponer un prior que pueda estar mal especificado para la regularidad del operador.
UQ Post-hoc Escalable: El desarrollo de procedimientos de entrenamiento e inferencia basados en la optimización de subconjuntos estocásticos y gPoE, haciendo que la UQ basada en GP sea práctica para conjuntos de datos de aprendizaje de operadores que contienen millones de puntos.
Validación Empírica: Demostración de una calibración competitiva en cinco benchmarks de PDE 2D y 3D (incluyendo Airfoil, ShapeNet Car y Ahmed Body), mostrando robustez bajo cambios de distribución geométrica.

Resultados

El artículo evalúa REEF-GP contra seis líneas base: Deep Ensembles, MC Dropout, Probabilistic Neural Operator (PNO), Input Perturbation, Laplace Approximation (LUNO-LA) y Deep Vecchia Ensemble (DVE-spatial).

Precisión Predictiva: REEF-GP preserva la precisión predictiva del operador determinista base (Transolver) en todos los datasets, con errores relativos $L_2$ idénticos a la línea base. En contraste, los métodos de tiempo de entrenamiento (MC Dropout, PNO) y la perturbación de la entrada incurren en penalizaciones significativas de precisión.
Calibración de la Incertidumbre: En benchmarks 3D (ShapeNet Car), REEF-GP logra puntuaciones de Log-Verosimilitud Negativa (NLL) competitivas con Deep Ensembles (por ejemplo, 2.84 vs. 4.16 para Ensembles) y supera significativamente a otros métodos post-hoc como LUNO-LA (33.55).
Coherencia Espacial: Los mapas de incertidumbre generados por REEF-GP son espacialmente significativos, concentrándose alrededor de regiones físicamente importantes de alto error, como los frentes de choque en perfiles alares y el parachoques delantero de geometrías de automóviles.
Robustez Geométrica OOD: Bajo cambios de distribución geométrica (medidos por la Distancia de Máximo Medio), REEF-GP mantiene una calibración estable. Mientras que otros métodos como LUNO-LA y Perturbation muestran una degradación significativa de la NLL a medida que las geometrías de prueba divergen de la distribución de entrenamiento, la NLL de REEF-GP permanece relativamente estable.
Costo Computacional: REEF-GP incurre en un overhead de entrenamiento un orden de magnitud menor que Deep Ensembles. Aunque su evaluación de memoria es mayor que la de algunas líneas base debido a las matrices de kernel, permanece dentro de los límites de las GPU de consumo.

Significado y Reivindicaciones

Los autores afirman que REEF-GP demuestra que se puede lograr una UQ post-hoc precisa y escalable para operadores neuronales trabajando directamente en el espacio de características aprendido por el operador. Al reutilizar los embeddings sensibles a la geometría de un operador congelado, el método ofrece una alternativa práctica a los enfoques centrados en parámetros (como Deep Ensembles) que son demasiado costosos para problemas a gran escala.

El artículo enfatiza que la geometría que un operador neuronal aprende mientras resuelve una PDE codifica inherentemente gran parte de la información necesaria para cuantificar su propia incertidumbre. Este enfoque abre un eje complementario a la UQ basada en parámetros, proporcionando un punto de partida natural para la cuantificación de la incertidumbre en operadores cada vez más grandes y conscientes de la geometría sin el costo prohibitivo de reentrenar o utilizar métodos de ensambles. Los autores señalan limitaciones respecto a backbones que no preservan la correspondencia espacial punto a punto (por ejemplo, FNOs estándar) y el enfoque actual en problemas estacionarios de una sola salida, identificándolos como direcciones naturales para trabajos futuros.