Comparison of data-driven symmetry-preserving closure models for large-eddy simulation

Este trabajo compara modelos de cierre para simulaciones de grandes remolinos basados en redes neuronales que preservan simetrías con modelos clásicos y redes no restringidas, demostrando que, aunque todos superan a los clásicos en precisión, los enfoques que respetan las simetrías generan estadísticas de gradientes de velocidad más físicamente consistentes.

Lo esencial

Imagina que quieres predecir el clima de un huracán gigante. El problema es que el aire tiene remolinos de todos los tamaños: desde gigantes que cubren continentes hasta micro-remolinos tan pequeños que ni siquiera puedes verlos.

Para simular esto en una computadora, no podemos calcular cada gota de agua o cada molécula de aire; sería como intentar contar cada grano de arena en una playa para predecir la marea. Es demasiado lento y costoso.

Aquí es donde entra la Simulación de Grandes Remolinos (LES). Es como mirar el huracán a través de una cámara con poca resolución. Ves los remolinos grandes claramente, pero los pequeños se desvanecen en una "niebla". La computadora necesita una "regla" o modelo de cierre para adivinar cómo esa niebla de pequeños remolinos afecta a los grandes. Si la regla es mala, la simulación explota o da resultados ridículos.

El Problema: La "Inteligencia Artificial" que olvida las reglas del juego

En los últimos años, hemos usado Redes Neuronales (una forma de Inteligencia Artificial) para aprender esas reglas. Imagina que le das a un estudiante (la IA) millones de fotos de huracanes reales para que aprenda a predecir la niebla.

El problema es que, si no le dices explícitamente cómo comportarse, el estudiante puede aprender cosas que no tienen sentido físico. Por ejemplo, podría predecir que si giras el huracán 90 grados, el viento cambia de dirección de una manera que viola las leyes de la física. En la vida real, la física es simétrica: si giras el mundo, las leyes de la física no cambian.

La Solución: Entrenando a dos tipos de "Estudiantes"

Los autores de este artículo compararon tres tipos de "estudiantes" (modelos de IA) para ver cuál aprende mejor a predecir esa niebla de remolinos:

1. El Estudiante Libre (Red Neuronal Convencional):

   • La analogía: Es como un estudiante brillante pero rebelde. Le das los datos y él intenta adivinar la respuesta.
   • El resultado: Adivina muy bien qué pasa (la precisión numérica es buena), pero a veces olvida las reglas de la física. Si giras la simulación, sus predicciones se vuelven un poco extrañas y poco realistas.

2. El Estudiante con "Guía de Estructura" (Red Neuronal de Base Tensorial - TBNN):

   • La analogía: Imagina que le das al estudiante un kit de construcción de LEGO con piezas que solo encajan de una manera correcta. No puede construir una casa que se caiga porque las piezas no lo permiten.
   • El resultado: Este estudiante está obligado a seguir las reglas de simetría desde el principio. Aprende a predecir muy bien y sus predicciones siempre respetan la física, incluso si giras el huracán.

3. El Estudiante con "Máscara de Simetría" (Red Neuronal de Convolución de Grupo - G-conv):

   • La analogía: Este es un estudiante que tiene un espejo mágico. Cada vez que intenta hacer un cálculo, el espejo le muestra cómo se vería el resultado si giraras el mundo. El estudiante debe asegurarse de que su respuesta sea la misma (o coherente) en todos los espejos.
   • El resultado: Al igual que el anterior, respeta las reglas de la física perfectamente. Sin embargo, es un poco más lento y pesado de calcular porque tiene que mirar en todos esos espejos.

¿Qué descubrieron?

Los autores probaron estos modelos en una simulación de turbulencia (como el aire moviéndose caóticamente). Aquí están las conclusiones clave, explicadas de forma sencilla:

• Todos los modelos de IA ganaron a los modelos antiguos: Los modelos clásicos (como el de Smagorinsky) son como reglas viejas y rígidas. Las redes neuronales, incluso las que no respetan las reglas, aprendieron a predecir mejor los detalles.
• La precisión no es todo: El "Estudiante Libre" (el que no sigue reglas) fue muy preciso en los números, pero sus predicciones sobre la estructura del viento eran un poco "ruidosas" y físicamente inconsistentes.
• La simetría crea mejores físicos: Los modelos que respetaban las simetrías (TBNN y G-conv) produjeron estadísticas de velocidad mucho más realistas. Imagina que el estudiante libre dibuja un huracán perfecto, pero si lo giras, el dibujo se deforma. Los estudiantes con simetría dibujan un huracán que se ve igual de realista sin importar desde qué ángulo lo mires.
• El equilibrio perfecto: El modelo "TBNN" (el de LEGO) fue el más eficiente. Logró la misma precisión que el modelo más pesado (G-conv) pero usando menos recursos de computadora.

En resumen

Este artículo nos dice que, cuando usamos Inteligencia Artificial para predecir fenómenos físicos complejos como el clima o el flujo de fluidos, no basta con que la IA sea "lista" o precisa en los números. Debemos programarla para que respete las leyes fundamentales del universo (como la simetría y la rotación).

Si le enseñamos a la IA a respetar estas reglas desde el principio, no solo obtenemos predicciones más precisas, sino que también creamos modelos que son más estables, seguros y físicamente coherentes, como un estudiante que no solo memoriza las respuestas, sino que entiende las leyes que gobiernan el mundo.

Resumen técnico

A continuación se presenta un resumen técnico detallado del artículo "Comparison of data-driven symmetry-preserving closure models for large-eddy simulation" (Comparación de modelos de cierre impulsados por datos que preservan la simetría para la simulación de grandes remolinos), escrito por Syver Døving Agdestein y Benjamin Sanderse.

1. Planteamiento del Problema

La Simulación de Grandes Remolinos (LES) es una técnica fundamental para estudiar flujos turbulentos, resolviendo las escalas grandes del flujo y modelando los efectos de las escalas no resueltas (sub-malla) mediante un modelo de cierre. Sin embargo, existen desafíos críticos:

• Estabilidad y Generalización: Los modelos de cierre basados en aprendizaje automático (ML) a menudo logran alta precisión en datos de entrenamiento (a-priori), pero pueden volverse inestables o generar comportamientos no físicos cuando se despliegan en simulaciones reales (a-posteriori).
• Violación de Simetrías: Las ecuaciones de Navier-Stokes poseen simetrías fundamentales (invarianza galileana, rotacional, de reflexión y de escala). Los modelos de cierre clásicos (como la viscosidad de remolino o modelos estructurales) preservan estas simetrías por diseño. En cambio, las redes neuronales estándar no las respetan automáticamente, lo que puede introducir fuerzas espurias dependientes del marco de referencia y violar la isotropía rotacional, comprometiendo la consistencia física y la estabilidad numérica.
• Brecha de Conocimiento: Aunque se han propuesto arquitecturas que preservan simetrías (como redes de base tensorial o convoluciones grupales), faltan comparaciones sistemáticas sobre si estas restricciones arquitectónicas mejoran realmente la calidad de la simulación más allá de las métricas de error agregado.

2. Metodología

Los autores comparan tres arquitecturas de redes neuronales para el cierre estructural de LES, junto con modelos clásicos de referencia (Smagorinsky y el modelo de gradiente de Clark). Todos los modelos utilizan el tensor de gradiente de velocidad (VGT) como entrada para garantizar la invarianza galileana y de escala.

A. Modelos Comparados

1. Red Neuronal de Base Tensorial (TBNN):

   • Enfoque: Utiliza la teoría de representación de tensores (bases de Pope/Smith). El tensor de estrés de sub-malla se expresa como una combinación lineal de tensores base que son equivariantes bajo rotaciones y reflexiones.
   • Mecanismo: Una red neuronal predice los coeficientes escalares (invariantes) de esta combinación. La estructura tensorial asegura la preservación de la simetría independientemente de la función de los coeficientes.
   • Base utilizada: Se emplea una base reducida y completa de 7 tensores (según Stallcup et al.) para flujos incompresibles.

2. Red Neuronal de Convolución Grupal (G-conv):

   • Enfoque: Implementa capas de convolución que son equivariantes bajo el grupo de simetría octaédrico ($G$, 48 elementos: rotaciones y reflexiones discretas en una cuadrícula cartesiana).
   • Mecanismo: Utiliza el espacio de representación regular ($\mathbb{R}^{48}$) para las capas ocultas. Se introduce un operador de proyección de pesos (proyectando pesos arbitrarios al subespacio equivariante) y una técnica novedosa de compartición de pesos basada en descomposición espectral para reducir la redundancia computacional.
   • Ventaja: La arquitectura misma fuerza la equivarianza rotacional y de reflexión.

3. Red Neuronal Convolucional Sin Restricciones (Conv):

   • Enfoque: Una red neuronal estándar que predice directamente los componentes del tensor de estrés.
   • Propósito: Sirve como línea base para evaluar si la imposición explícita de simetrías es necesaria para obtener buenos resultados.

B. Configuración Experimental

• Datos: Se generaron datos de Simulación Numérica Directa (DNS) de turbulencia isotrópica forzada en una caja periódica.
• Entrenamiento: Se utilizó una función de pérdida a-priori (minimizando el error entre el estrés predicho y el estrés de referencia calculado consistentemente con el esquema numérico).
• Evaluación:
  • A-priori: Precisión en la predicción del tensor de estrés.
  • A-posteriori: Estabilidad y precisión de las trayectorias de la simulación LES a lo largo del tiempo.
  • Métricas: Errores relativos de tensor, errores de solución, errores de equivarianza, espectros de energía y distribuciones de invariantes del gradiente de velocidad ($q$ y $r$).

3. Contribuciones Clave

1. Implementación de Convoluciones Grupales para LES: Desarrollo y aplicación de redes G-conv para el grupo octaédrico en 3D, incluyendo una nueva técnica de compartición de pesos mediante descomposición espectral para hacer viable el entrenamiento de estos modelos.
2. Comparación Exhaustiva: Primera comparación directa entre TBNN, G-conv y redes no restringidas en el contexto de cierre estructural de LES, evaluando tanto la precisión de predicción como la consistencia física.
3. Análisis de Consistencia Física: Demostración de que, aunque las redes no restringidas pueden lograr errores de predicción bajos, fallan en capturar correctamente las estadísticas de los gradientes de velocidad (distribuciones $q-r$), lo que indica una falta de consistencia física.
4. Eficiencia Computacional: Análisis detallado del costo computacional, mostrando que TBNN ofrece un equilibrio superior entre preservación de simetría y eficiencia en comparación con G-conv.

4. Resultados Principales

• Precisión de Predicción (A-priori):

  • Los tres modelos basados en datos superaron a los modelos clásicos (Smagorinsky y Clark) en la predicción del tensor de estrés.
  • Los modelos estructurales directos (Conv y G-conv) tuvieron un error de tensor ligeramente menor que el TBNN.
  • El modelo Conv (sin restricciones) no aprendió la equivarianza rotacional/reflexional, mostrando un error de equivarianza del ~5.8%, a pesar de que los datos de entrenamiento eran isotrópicos.

• Estabilidad y Trayectorias (A-posteriori):

  • El modelo clásico de Clark fue inestable y divergió rápidamente.
  • Los tres modelos de ML (TBNN, G-conv, Conv) fueron estables y produjeron errores de solución muy similares, sugiriendo que para turbulencia isotrópica, la violación de simetría no destruye la solución a corto plazo.

• Consistencia Física (El hallazgo más importante):

  • Distribuciones de Invariantes ($q, r$): Las redes sin restricciones (Conv) produjeron distribuciones de invariantes de gradiente de velocidad que se desviaban significativamente de la referencia DNS (no capturaban la forma de "lágrima" característica).
  • Modelos Simétricos: Tanto TBNN como G-conv reprodujeron fielmente las estadísticas físicas de los gradientes de velocidad, incluyendo la forma de la cola de Vieillefosse.
  • Conclusión: La preservación de simetrías mejora la consistencia física del cierre aprendido, algo que las métricas de error agregado (como el error relativo del tensor) no capturan.

• Espectros de Energía:

  • TBNN mostró una acumulación de energía espuria en altos números de onda (insuficiente disipación).
  • G-conv y Conv coincidieron mejor con el espectro de referencia, aunque fueron ligeramente más disipativos.

• Costo Computacional:

  • G-conv: Es ~7 veces más lento que Conv en inferencia debido a la representación regular expandida (48 canales).
  • TBNN: Tiene un costo de inferencia comparable a Conv y es más eficiente que G-conv, ya que predice solo 7 coeficientes escalares en lugar de todo el tensor, y la estructura de simetría se maneja en la reconstrucción de salida, no en la arquitectura interna masiva.

5. Significado y Conclusiones

El estudio concluye que imponer simetrías en los modelos de cierre de LES es crucial para la consistencia física, incluso si no mejora drásticamente las métricas de error estándar en flujos isotrópicos.

• TBNN vs. G-conv: Aunque ambos preservan simetrías, TBNN se presenta como la opción más atractiva para aplicaciones prácticas debido a su eficiencia computacional y su capacidad para capturar bien la transferencia de energía hacia adelante (forward transfer), mientras que los modelos directos (G-conv/Conv) capturaron mejor la retrodispersión (backscatter) pero fueron excesivamente disipativos.
• Futuro: Se sugiere que combinar la formulación de base tensorial (para la estructura física) con la flexibilidad de la predicción estructural directa podría ser una dirección prometedora. Además, se destaca la necesidad de estudiar la generalización a diferentes números de Reynolds y flujos anisotrópicos, donde la simetría rotacional completa podría no ser apropiada.

En resumen, el trabajo valida que la incorporación de principios físicos (simetrías) en la arquitectura de las redes neuronales no es solo una cuestión teórica, sino una necesidad práctica para garantizar que los modelos aprendidos sean robustos, estables y físicamente coherentes en simulaciones de turbulencia.