Hybrid Unet-Transformer Model for Generating Stress and Strain Fields from Composite Geometrics

Resumen Técnico: Modelo Híbrido Unet-Transformer para la Generación de Campos de Esfuerzo y Deformación en Geometrías Compuestas

Planteamiento del Problema
La predicción precisa de los campos de esfuerzo (stress) y deformación (strain) dentro de microestructuras compuestas jerárquicas es esencial para el diseño de materiales con información física (physics-informed). Sin embargo, la herramienta computacional estándar para esta tarea, el Método de Elementos Finitos (FEM), es computacionalmente prohibitiva a gran escala. Mientras que una sola simulación de FEM puede tomar minutos o días, la optimización del diseño y la cuantificación de la incertidumbre a menudo requieren evaluar miles de configuraciones candidatas, lo que hace que la evaluación exhaustiva mediante FEM sea intratable. Aunque el aprendizaje profundo ha surgido como un sustituto del FEM, las arquitecturas existentes suelen depender de sesgos inductivos convolucionales (campos receptivos locales) que restringen el modelado de dependencias espaciales de largo alcance, las cuales son críticas en la predicción de campos mecánicos. Además, los Vision Transformers estándar suelen requerir conjuntos de datos de preentrenamiento a gran escala, lo cual es incompatible con los volúmenes limitados de datos típicos de los conjuntos de datos generados por FEM.

Metodología
Este trabajo propone una arquitectura Híbrida Unet-Transformer diseñada para predecir distribuciones complejas de campos mecánicos directamente a partir de imágenes de geometría de compuestos. El modelo plantea la tarea como un problema de traducción de imagen a imagen, tomando una imagen de geometría RGB de 128×128 como entrada y produciendo una imagen correspondiente de campo de esfuerzo o deformación de 128×128.

• Arquitectura:
  • Codificador (Encoder): Utiliza un codificador convolucional residual de cuatro etapas para extraer características espaciales multiescala. Cada etapa emplea bloques residuales con Normalización de Grupo y activaciones SiLU, submuestreando la entrada a un cuello de botella espacial de 8×8 mientras preserva las conexiones de salto (skip connections).
  • Cuello de Botella (Bottleneck): El mapa de características de 8×8 se aplana en una secuencia de 64 tokens (dimensión 256) y se aumenta con incrustaciones posicionales sinusoidales 2D fijas. Esta secuencia pasa a través de seis bloques Transformer que cuentan con Normalización de Capa pre-norm, atención de múltiples cabezales (8 cabezales) y un MLP de dos capas con activación GELU. Este componente captura relaciones espaciales globales sin restricciones de localidad.
  • Decodificador (Decoder): Un decodificador convolucional multiescala reconstruye el campo de resolución completa utilizando el sobremuestreo bilinear y conexiones de salto desde el codificador. Emplea FuseBlocks y ResBlocks para integrar características en diferentes escalas.
• Estrategia de Entrenamiento: El modelo se entrena de extremo a extremo (end-to-end) en un conjunto de datos de 22,000 pares generados por FEM (provenientes de Yang et al.) que cubren diez subconjuntos distintos. El entrenamiento utiliza una función de pérdida compuesta que combina el Índice de Similitud Estructural (SSIM) y la pérdida L1 a través de tres escalas de salida (128×128, 64×64 y 32×32) para asegurar tanto la precisión píxel a píxel como la fidelidad estructural. No se aplicaron aumentos que alteren la física (por ejemplo, rotación) para mantener la consistencia física.

Contribuciones Clave

1. Innovación Arquitectónica: El artículo introduce un Unet-Transformer híbrido diseñado específicamente para la predicción de campos mecánicos, combinando la extracción de características locales de las CNN con el modelado de contexto global de los Transformers. Esto aborda la limitación de las CNN puras para capturar rutas de transferencia de carga no locales, evitando al mismo tiempo la necesidad de grandes volúmenes de datos de los Vision Transformers puros.
2. Benchmarking Empírico: El trabajo proporciona la primera comparación arquitectónica directa entre la traducción de imágenes convolucional (específicamente la línea base de GAN condicional de Yang et al.) y la predicción de campos basada en atención global en un benchmark de geometrías de dos fases.
3. Interpretabilidad: El estudio emplea Grad-CAM y Grad-CAM++ para analizar la atención del codificador, demostrando que el modelo aprende representaciones internas físicamente significativas (por ejemplo, localizando la atención en los límites de fase y las uniones de ligamentos) sin supervisión estructural explícita.

Resultados
El modelo fue evaluado a través de ocho subconjuntos de datos que representan diversas configuraciones (teselaciones cuadradas, hexagonales y triangulares, diversas condiciones de contorno y geometrías de alta resolución).

• Desempeño: El modelo alcanzó un sólido desempeño predictivo en la mayoría de los subconjuntos de datos.
  • Precisión Máxima: En los subconjuntos de condiciones de contorno y teselación triangular, el modelo alcanzó un $R^2 = 0.9991$ y un $R^2 = 0.9980$ respectivamente, con puntuaciones SSIM superiores a 0.98 y un MAE inferior a 0.006.
  • Generalización: El modelo se generalizó eficazmente a teselaciones no cuadradas (Hexagonal: $R^2 = 0.9935$) y geometrías de alta resolución (Stitch/GEO MISES: $R^2 = 0.9929$).
  • Limitaciones: El desempeño se degradó en geometrías de rejilla cuadrada irregulares con inclusiones de fase blanda dispersas (subconjunto S11), obteniendo un $R^2 = 0.7735$ y un SSIM = 0.7126. Los autores atribuyen esto a la limitación conocida de los modelos de traducción de imágenes de pérdida suave para reproducir discontinuidades de esfuerzo nítidas.
• Eficiencia: El tiempo de inferencia se redujo de minutos-a-días por simulación de FEM a menos de un segundo por predicción.
• Análisis Cualitativo: Los mapas de atención confirmaron que el modelo identificó correctamente las regiones mecánicamente críticas, como las zonas de contacto del indentador y los límites de fase, alineándose con las expectativas físicas.

Significancia y Reivindicaciones
El artículo establece que los modelos híbridos Unet-Transformer son un sustituto de aprendizaje profundo viable y eficiente para la predicción de campos mecánicos en materiales compuestos. Los autores afirman que este enfoque ofrece un procedimiento de entrenamiento de red única más simple en comparación con los métodos previos basados en GAN, logrando al mismo tiempo una precisión competitiva. El trabajo demuestra que un único modelo unificado puede generalizarse a través de diversos tipos de geometrías estructurales y cantidades de campo dentro del mismo marco de entrenamiento.

Los autores concluyen que estas arquitecturas sirven como una alternativa práctica a los resolvedores iterativos de FEM para la exploración del diseño de ingeniería, permitiendo predicciones de campo casi instantáneas. Se sugiere como trabajo futuro extender esta arquitectura a modelos Unet 3D con cuellos de botella de Transformer para la predicción de direcciones de esfuerzo y deformación en 3D.