Multi-GPU fast Fourier transforms in MATLAB (for large-scale phase-field crystal simulations)

El artículo presenta un marco de trabajo en MATLAB que implementa estrategias multi-GPU para realizar transformadas rápidas de Fourier en dos y tres dimensiones, logrando aceleraciones significativas (hasta sesenta veces) en simulaciones a gran escala de cristales de campo de fase en comparación con implementaciones puramente basadas en CPU.

Lo esencial

Imagina que estás intentando simular cómo se forma y crece un cristal, como el hielo en un cubito o la estructura de un metal, pero a una escala tan pequeña que necesitas ver cada átomo, y a la vez quieres ver cómo evoluciona durante un tiempo muy largo.

Este es el desafío que enfrentan los científicos que usan lo que llaman modelos de cristales de campo de fase. El problema es que para hacer estos cálculos con tanta precisión, necesitan una computadora extremadamente potente.

Aquí te explico qué hacen estos autores (Maik y Marco) de una forma sencilla:

1. El Problema: La "Mochila" de la Computadora

Imagina que tienes una mochila de viaje (la memoria de una sola tarjeta gráfica o GPU). Quieres meter en ella todos los datos necesarios para simular un cristal gigante.

• El problema: La mochila es demasiado pequeña. Si intentas meter todo el cristal, se desborda y el cálculo falla.
• La solución tradicional: Usar muchas computadoras normales (CPU) que trabajan juntas. Funciona, pero es como tener un equipo de 100 personas escribiendo a mano: es lento y tedioso.

2. La Solución: Un Equipo de Superhéroes (Múltiples GPUs)

Los autores crearon un nuevo sistema en MATLAB (un lenguaje de programación muy usado en ciencia) que permite usar varias tarjetas gráficas potentes (GPUs) al mismo tiempo, como si fueran un equipo de superhéroes.

Usan dos estrategias creativas para resolver el problema de la "mochila pequeña":

Estrategia A: El Rompecabezas Gigante (Descomposición de Dominio)

Imagina que tienes un rompecabezas de 10,000 piezas que es demasiado grande para que una sola persona lo arme.

• Cómo lo hacen: Cortan el rompecabezas en tiras verticales.
• El trabajo: Cada tarjeta gráfica (GPU) toma una tira y arma su parte localmente.
• La magia: Luego, se pasan las piezas entre ellas (como si se pasaran las piezas del rompecabezas de mano en mano) para que cada una pueda ver lo que necesita de sus vecinas y terminar de armar el cuadro completo.
• Resultado: Ahora pueden armar rompecabezas (simulaciones) que son 6 veces más rápidos que usar solo computadoras normales, y pueden hacerlos mucho más grandes de lo que una sola GPU podría soportar.

Estrategia B: La Línea de Ensamblaje Especializada (Multiphysics)

Ahora imagina que no solo estás armando un rompecabezas, sino que también tienes que pintar, enmarcar y envolver el cuadro al mismo tiempo. Si una sola persona hace todo, se agota.

• El escenario: En simulaciones más complejas (donde el cristal también se mueve o cambia de temperatura), hay varios "campos" de datos (densidad, velocidad, temperatura).
• Cómo lo hacen: Asignan una tarea diferente a cada tarjeta gráfica.
  • La GPU 1 solo se encarga de la densidad del cristal.
  • La GPU 2 solo calcula la velocidad.
  • La GPU 3 y 4 calculan otras variables.
• La magia: Trabajan en paralelo y se pasan los datos necesarios al final de cada paso, como una línea de ensamblaje muy eficiente.
• Resultado: Para estos problemas súper complejos, el sistema es hasta 60 veces más rápido que las computadoras tradicionales.

3. ¿Por qué es importante esto?

Antes, para hacer estos cálculos en MATLAB, tenías que elegir entre:

1. Simulaciones pequeñas (porque la memoria se llenaba).
2. Simulaciones lentas (usando muchas computadoras normales).

Ahora, con este nuevo "kit de herramientas", los científicos pueden:

• Simular cristales gigantes que antes eran imposibles.
• Hacerlo muchísimo más rápido (ahorrando días o semanas de tiempo de cálculo).
• Usar un lenguaje (MATLAB) que es fácil de entender y modificar, en lugar de tener que escribir código complejo y difícil de mantener.

En resumen

Los autores han creado un "puente" que permite a las computadoras modernas (con varias tarjetas gráficas) trabajar en equipo perfectamente para resolver problemas matemáticos muy difíciles sobre cómo crecen los cristales. Es como pasar de intentar mover una montaña con una cuchara a usar una excavadora gigante en equipo.

¿Dónde está el código?
Lo han hecho público y gratuito (código abierto) para que cualquier investigador pueda usarlo y mejorar sus propias simulaciones.

Resumen técnico

Resumen Técnico: Transformadas Rápidas de Fourier Multi-GPU en MATLAB para Simulaciones de Cristales de Campo de Fase a Gran Escala

1. El Problema

Las simulaciones numéricas a gran escala basadas en el método pseudo-espectral de Fourier, particularmente para modelos de cristales de campo de fase (PFC), enfrentan un cuello de botella crítico: la limitación de memoria y rendimiento de las unidades de procesamiento gráfico (GPU) individuales.

• Requisitos de los modelos PFC: Estos modelos resuelven el orden cristalino a escalas atómicas mientras evolucionan en escalas de tiempo difusivas grandes. Requieren dominios espaciales periódicos extensos y una resolución espacial muy fina, lo que genera demandas masivas de memoria.
• Limitaciones actuales: Los solucionadores espectrales dependen de transformadas rápidas de Fourier (FFT) multidimensionales repetidas en cada paso de tiempo. Las implementaciones existentes en MATLAB se limitan a una sola GPU (por falta de memoria para problemas grandes) o a paralelización basada en CPU, que es menos eficiente.
• Extensión a multifísica: Las extensiones de multifísica (acoplamiento de densidad, velocidad, temperatura) aumentan la complejidad y el número de campos variables, haciendo que la ejecución en una sola GPU sea inviable incluso para dominios moderados.

2. Metodología

Los autores presentan un marco de trabajo basado en MATLAB que implementa dos estrategias complementarias para ejecutar FFTs en múltiples GPUs, superando las limitaciones de memoria y acelerando los solucionadores espectrales.

• Estrategia A: FFT Distribuida en una sola GPU (Descomposición de Dominio)

  • Enfoque: Descomposición de "barras" (slab decomposition) de una FFT 3D a través de múltiples GPUs.
  • Funcionamiento: Se divide el dominio computacional a lo largo de una dimensión (eje z). Cada GPU realiza FFTs 2D locales, luego se comunica mediante comunicación peer-to-peer (P2P) para redistribuir los datos, y finalmente se realiza la FFT 1D restante en la dimensión compartida.
  • Objetivo: Permitir el procesamiento de tamaños de problema que exceden la memoria de una sola GPU.

• Estrategia B: Uso Múltiple de GPUs para Multifísica (Asignación de Campos)

  • Enfoque: Asignar diferentes campos físicos (ej. densidad, componentes de velocidad) a GPUs separadas.
  • Funcionamiento: Cada GPU procesa su campo asignado de forma concurrente. Se realiza una comunicación sincronizada entre dispositivos después de cada paso de tiempo para intercambiar los datos necesarios para el acoplamiento de las ecuaciones.
  • Objetivo: Acelerar la simulación de sistemas con múltiples variables acopladas y manejar problemas donde la suma de la memoria de todos los campos supera la capacidad de un solo dispositivo.

• Implementación:

  • El código utiliza la funcionalidad spmd (Single Program, Multiple Data) de MATLAB para gestionar sesiones paralelas en GPU.
  • Se utilizan primitivas de comunicación como spmdCat (para apilar datos) y spmdSend/spmdReceive para la transferencia de datos entre GPUs.
  • Se aplica a la ecuación de evolución PFC clásica y al modelo de hidrodinámica PFC (acoplado con campos de velocidad).

3. Contribuciones Clave

1. Primera implementación Multi-GPU en MATLAB: Presentan la primera implementación de FFTs Multi-GPU en el entorno MATLAB, independiente de aplicaciones específicas, lo que proporciona una base accesible y extensible para simulaciones espectrales aceleradas por GPU.
2. Dos estrategias complementarias: Ofrecen soluciones tanto para problemas que exceden la memoria de un solo dispositivo (descomposición de dominio) como para problemas con múltiples campos físicos (asignación de campos).
3. Validación en modelos PFC: Demuestran la aplicabilidad de estas estrategias en modelos de cristales de campo de fase en 2D y 3D, incluyendo extensiones de hidrodinámica que involucran campos de velocidad acoplados.
4. Código abierto: El software está disponible públicamente bajo licencia MIT, facilitando su adopción por la comunidad científica.

4. Resultados

Los autores realizaron pruebas de rendimiento (benchmarks) en clusters HPC de la TU Dresden utilizando hardware NVIDIA (H100 y A100) y CPUs de referencia (Intel Xeon Platinum).

• Comparativa CPU vs. GPU:
  • Simulaciones PFC estándar: Se logró una aceleración de aproximadamente 6 veces en comparación con una implementación puramente basada en CPU ejecutada en cientos de núcleos.
  • Extensiones de Multifísica: Se observaron aceleraciones de hasta 60 veces en comparación con la implementación en CPU.
• Escalabilidad:
  • La estrategia de descomposición de dominios permitió simular tamaños de hasta $1400^3$ puntos de malla, superando las limitaciones de memoria de las GPUs individuales (94 GiB en H100).
  • La estrategia de asignación de campos demostró reducciones sustanciales en el tiempo de ejecución para dominios computacionales grandes donde las simulaciones en una sola GPU son inviables.
• Casos de prueba: Se visualizaron fenómenos físicos complejos, como la solidificación dendrítica (2D) y el engrosamiento policristalino (3D) en el marco de hidrodinámica PFC.

5. Significado e Impacto

Este trabajo es fundamental para la comunidad de simulación computacional de materiales y física de fluidos por varias razones:

• Superación de barreras de memoria: Permite realizar simulaciones de alta resolución en dominios grandes que antes eran imposibles de ejecutar en una sola GPU, democratizando el acceso a simulaciones de alta fidelidad.
• Eficiencia en MATLAB: Al llevar el rendimiento de las GPUs múltiples a MATLAB (un lenguaje de alto nivel muy utilizado en investigación pero a menudo limitado en paralelismo GPU avanzado), se elimina la necesidad de reescribir códigos en lenguajes de bajo nivel (como C++ o CUDA) para obtener escalabilidad.
• Habilitación de Multifísica: La capacidad de manejar múltiples campos acoplados de manera eficiente abre la puerta a simulaciones más realistas de fenómenos complejos como la interacción entre microestructura cristalina y flujo de fluidos, cruciales para el diseño de nuevos materiales y procesos industriales.
• Reproducibilidad: La disponibilidad del código y la documentación detallada fomentan la reproducibilidad y el desarrollo futuro de métodos pseudo-espectrales escalables.