Hybrid operator learning of wave scattering maps in high-contrast media

Título: Aprendizaje de operadores híbrido de mapas de dispersión de ondas en medios de alto contraste

1. El Problema

La modelización sustituta (surrogate modeling) de la propagación y dispersión de ondas en medios heterogéneos es crucial para aplicaciones como la imagenología sísmica y la inversión. Sin embargo, los entornos de alto contraste (por ejemplo, modelos del subsuelo con cuerpos de sal) presentan desafíos significativos:

• Generan una dispersión fuerte y una alta sensibilidad de fase.
• Las arquitecturas de operadores neuronales clásicas, como los Operadores Neuronales de Fourier (FNO), funcionan bien en medios suaves pero luchan para generalizar en regímenes de alto contraste debido a la complejidad de las interacciones espaciales dependientes de la geometría.
• Los métodos tradicionales (FDM, FEM) son computacionalmente prohibitivos para problemas inversos que requieren múltiples resoluciones directas.
• Los transformadores basados en atención (como scOT) tienen potencial para capturar interacciones complejas, pero su rendimiento en la predicción directa de campos de onda completos en altos contrastes no ha sido óptimo sin una estrategia adecuada.

2. Metodología: Arquitectura Híbrida

Los autores proponen una arquitectura híbrida que descompone el operador de dispersión en dos componentes físicos distintos, asignando a cada uno el modelo de aprendizaje más adecuado:

A. Descomposición Física del Problema:
El mapa directo (de velocidad de onda a campo de presión) se divide en:

1. Propagación de fondo suave ($F_{bg}$): Representa la evolución de fase y propagación en un medio suavizado.
2. Corrección de dispersión de alto contraste ($F_{sc}$): Representa el campo residual generado por las discontinuidades agudas (obstáculos como cuerpos de sal).
   • Matemáticamente, la velocidad de onda $v(x)$ se descompone en un fondo suave $v_{bg}(x)$ (mediante convolución suavizante) y un residuo $\delta v(x)$.
   • El campo de presión total $p$ se recupera por superposición: $p = p_{bg} + \delta p$.

B. Arquitectura del Modelo:

1. Fase 1 (Fondo Suave - FNO):

   • Se utiliza un Operador Neuronal de Fourier (FNO) para aprender el mapa $F_{bg}$.
   • El FNO toma la velocidad suavizada y la fuente, generando un campo de presión de fondo $p_{bg}$.
   • Justificación: Los FNOs son eficientes para aproximar operadores con coeficientes suaves y generan representaciones de características acopladas globalmente (tokens) que codifican la propagación de fondo.

2. Fase 2 (Corrección de Dispersión - Vision Transformer):

   • Se utiliza un Transformador de Visión (ej. scOT) para aprender el mapa $F_{sc}$.
   • El transformador toma como entrada el campo de fondo $p_{bg}$ (generado por el FNO) y el residuo de velocidad $\delta v$.
   • Predice el campo residual $\delta p$.
   • Justificación: Las interacciones de dispersión son fuertemente dependientes de la geometría y locales pero con efectos globales. Los mecanismos de atención (self-attention) en los transformadores son ideales para capturar estas interacciones espaciales complejas y dependientes del contenido. Se utiliza una arquitectura tipo Swin (ventanas desplazadas) para mantener la complejidad lineal y capturar la conectividad global a través de capas.

3. Salida Final:

   • Se suman las salidas: $p_{total} = p_{bg} + \delta p$.

3. Contribuciones Clave

• Descomposición del Operador Consciente de la Dispersión: Introducen una división física del problema de Helmholtz que aísla los efectos de las discontinuidades de velocidad en un problema de aprendizaje separado. Esto mejora el acondicionamiento del aprendizaje al separar escalas y regularidades dispares.
• Arquitectura Híbrida Operador-Transformador: Combinan la fuerza de los FNOs para la propagación suave con la capacidad de los transformadores para modelar la corrección de dispersión de alto contraste. Esto actúa como un "sesgo inductivo" específico para problemas con obstáculos agudos.
• Validación Empírica Rigurosa: Demuestran que esta descomposición permite un aprendizaje más eficiente y preciso que intentar aprender el mapa completo con una sola arquitectura.

4. Resultados

Los experimentos se realizaron en problemas de Helmholtz de alta frecuencia (40 Hz) con contrastes de velocidad fuertes (cuerpos de sal):

• Precisión: El modelo híbrido superó consistentemente a los FNOs y a los transformadores (scOT) entrenados de forma independiente (end-to-end) en términos de error relativo $L_2$ en fase y amplitud.
• Reducción de Error: Mientras que los modelos individuales mostraban errores significativos alrededor de los cuerpos de sal (donde ocurren reflexiones y difracciones fuertes), el modelo híbrido capturó con gran precisión las características de la onda dispersa y redujo drásticamente el error en esas regiones.
• Eficiencia de Parámetros: El modelo híbrido mostró una escalabilidad favorable: a medida que aumentaba la capacidad del modelo, la pérdida disminuía más rápidamente que en las arquitecturas base.
• Desempeño por Tarea:
  • En la tarea "suave" (fondo), el FNO fue superior.
  • En la tarea "residual" (dispersión), el transformador (scOT) superó al FNO.
  • En la tarea completa ("sharp"), la combinación híbrida fue la única que logró alta precisión.

5. Significado e Impacto

• Avance Teórico: El trabajo establece que la dispersión de ondas de alto contraste constituye un régimen distinto donde los modelos basados en transformadores superan a los operadores neuronales clásicos, pero solo cuando se les proporciona una representación de fondo adecuada.
• Aplicaciones Prácticas: Este enfoque puede reducir drásticamente los costos computacionales de la modelización directa en sísmica, acelerando workflows de inversión de forma de onda completa (FWI), monitoreo de reservorios, exploración de geotermia y secuestro de CO2.
• Generalización: La metodología sugiere que para problemas físicos complejos con múltiples escalas de regularidad, la descomposición física del operador antes del aprendizaje profundo es una estrategia superior a la búsqueda de una arquitectura "todo en uno".

En resumen, el artículo propone una solución elegante que alinea la arquitectura de la red neuronal con la física subyacente del problema, logrando una precisión superior en uno de los escenarios más difíciles para la simulación de ondas: los medios de alto contraste.