🔬 applied physics

Fast and Accurate Foundation Models for Equivariant Machine-Learned Interatomic Potentials

Este artículo presenta una familia de modelos fundacionales equivariantes, rápidos, escalables y precisos para potenciales interatómicos que superan las compensaciones entre velocidad y precisión mediante arquitecturas NequIP y Allegro optimizadas, al tiempo que enfatiza que las mejoras futuras en el descubrimiento de materiales dependen más de la diversidad de los conjuntos de datos y de descripciones consistentes de metales de transición que de la complejidad del modelo por sí sola.

Autores originales: Seán R. Kavanagh, Chuin Wei Tan, Menghang Wang, Marc L. Descoteaux, Gabriel de Miranda Nascimento, Ulrik Unneberg, Laura Zichi, Francesco Libbi, Norma Rivano, Austin Glover, Vivek Bharadwaj, Anders Jo

Publicado 2026-07-31

📖 4 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Seán R. Kavanagh, Chuin Wei Tan, Menghang Wang, Marc L. Descoteaux, Gabriel de Miranda Nascimento, Ulrik Unneberg, Laura Zichi, Francesco Libbi, Norma Rivano, Austin Glover, Vivek Bharadwaj, Anders Johansson, William C. Witt, Albert Musaelian, Boris Kozinsky

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás intentando predecir cómo se comportará un castillo de Lego gigante e invisible. ¿Se desmoronará si lo sacudes? ¿Conducirá el calor como una sartén de metal o aislará como un suéter de lana? En el mundo de la ciencia de materiales, los científicos utilizan supercomputadoras para simular estos diminutos bloques de construcción (átomos) para diseñar nuevas baterías, medicinas y metales superresistentes. Pero hay un inconveniente: la forma más precisa de calcular cómo interactúan estos átomos es como intentar resolver un rompecabezas de un millón de piezas a mano: toma una eternidad y cuesta una fortuna en tiempo de computación. Para acelerar esto, los científicos crearon "potenciales interatómicos aprendidos por aprendizaje automático" (MLIP, por sus siglas en inglés). Piensa en ellos como el motor de un videojuego superinteligente que avanza a cámara rápida. En lugar de calcular cada regla física desde cero, el motor ha "aprendido" de millones de cálculos previos cómo se comportan usualmente los átomos, permitiéndole adivinar el resultado en un parpadeo. Recientemente, los científicos comenzaron a entrenar estos motores con conjuntos de datos masivos para crear "modelos fundacionales", una especie de código de trucos universal que puede ajustarse para trabajos específicos. Pero aquí está la gran pregunta: ¿Podemos hacer que estos códigos de trucos sean increíblemente rápidos y también increíblemente precisos, o tenemos que elegir uno sobre el otro?

Este artículo es la historia de un equipo que decidió construir el código de trucos definitivo, demostrando que no tienes que elegir un bando. Desarrollaron una nueva familia de "modelos fundacionales" utilizando dos arquitecturas específicas llamadas NequIP y Allegro. Imagina estos modelos como dos tipos diferentes de súper atletas: uno es un arquitecto meticuloso que revisa cada ángulo (NeuQIP), y el otro es un velocista ultrarrápido que ve el panorama general sin detenerse en los detalles (Allegro). Los investigadores entrenaron a estos atletas en una biblioteca masiva de más de 100 millones de estructuras atómicas, un conjunto de datos tan grande que habría tomado semanas entrenar en sistemas anteriores. Al utilizar algunos trucos de software ingeniosos —como la "compilación de grafos" (que organiza los datos antes de que comience la carrera) y la "matemática de precisión mixta" (usar una calculadora ligeramente menos detallada para las partes fáciles de la carrera)— lograron entrenar estos modelos de 5 a 10 veces más rápido que antes, reduciendo el costo de semanas de tiempo de computación a solo unos pocos cientos de horas de GPU.

Los resultados cambian las reglas del juego. El equipo descubrió que estos nuevos modelos no solo son rápidos; también son los más precisos que se hayan visto jamás para predecir cómo se comportan los materiales. Los probaron en tres desafíos principales: encontrar la forma más estable para nuevos materiales (como encontrar la estructura de Lego perfecta), predecir qué tan bien conduce el calor un material (crucial para la electrónica) y calcular cómo se estiran o se comprimen los materiales. Los modelos pasaron con honores, superando a menudo récords anteriores. Sin embargo, el artículo también señala un "punto ciego" específico. Si bien los modelos son excelentes en química general, todavía tienen dificultades con los metales de transición (como el hierro, el cromo y el manganeso) porque los datos de entrenamiento para estos elementos complicados son un poco inconsistentes. Es como si los modelos fueran fluidos en la mayoría de los idiomas pero se confundieran con algunos dialectos donde las reglas gramaticales cambian inesperadamente.

Los autores también analizaron cómo escalan estos modelos. Demostraron que estos modelos pueden ejecutarse en miles de chips informáticos trabajando juntos, simulando sistemas con más de 100 millones de átomos. Esto es enorme porque significa que los científicos ahora pueden simular granos de arena enteros o pequeñas gotas de líquido con precisión atómica, algo que antes era imposible. El artículo sugiere que el futuro de los mejores materiales no se trata solo de hacer modelos más grandes, sino de limpiar los datos de entrenamiento —especialmente para esos complicados metales de transición— y asegurar que las "reglas" utilizadas para generar los datos sean consistentes. En resumen, han construido una herramienta más rápida, aguda y confiable para el descubrimiento de los materiales del mañana, demostrando que con las actualizaciones de software adecuadas, podemos tener nuestro pastel y comérnoslo también: velocidad y precisión, todo en un mismo paquete.

Resumen Técnico: Modelos de Fundación Rápidos y Precisos para Potenciales Interatómicos Aprendidos mediante Máquina con Equivarianza

Planteamiento del Problema
Los potenciales interatómicos aprendidos mediante aprendizaje automático (MLIP, por sus siglas en inglés) se han vuelto esenciales para la ciencia de materiales computacional, particularmente como "modelos de fundación" entrenados en conjuntos de datos grandes y diversos (p. ej., MPtrj, Alexandria, OMat24) para el ajuste fino (fine-tuning) posterior. Sin embargo, existe un cuello de botella crítico: las aplicaciones científicas como la dinámica molecular (MD) requieren tanto alta precisión como altas velocidades de inferencia/entrenamiento. Si bien las arquitecturas equivariantes (que codifican simetrías físicas como la rotación y la inversión) ofrecen una precisión y eficiencia de datos superiores, entrenarlas en conjuntos de datos ultra masivos (cientos de millones de estructuras) ha sido históricamente prohibitivo desde el punto de vista computacional, requiriendo a menudo semanas de entrenamiento. Además, sigue sin estar claro cómo equilibrar las demandas contrapuestas del tamaño del modelo, la velocidad de inferencia y la precisión, especialmente al escalar a conjuntos de datos masivos donde la eficiencia de los datos es menos crítica que el rendimiento bruto.

Metodología
Los autores presentan una familia de potenciales de fundación basados en las arquitecturas de redes neuronales de grafos equivariantes NequIP y Allegro, entrenadas en conjuntos de datos de materiales inorgánicos cada vez más grandes: DIRECT (~~186k), MPtrj (~~1.58M), MPA (~~10.5M) y OAM (~~113M estructuras).

Avances metodológicos clave incluyen:

Aceleraciones de Infraestructura: El trabajo aprovecha desarrollos recientes en el marco de trabajo NequIP, incluyendo la compilación de grafos en tiempo de entrenamiento (torch.compile), estrategias de paralelismo de datos distribuido (DDP) para el entrenamiento en múltiples GPUs, y núcleos de producto tensorial optimizados (OpenEquivariance para NequIP, cuEquivariance para Allegro).
Entrenamiento de Precisión Mixta: Los autores utilizan estrategias de precisión mixta (float64 para embeddings, float32 para productos tensoriales y precisión mixta automática para computaciones intermedias) para acelerar el entrenamiento hasta 3 veces sin una pérdida significativa de precisión.
Entrenamiento en Dos Etapas: Un protocolo de entrenamiento óptimo implica una ejecución inicial con un alto peso en los errores de fuerza, seguida de una ejecución de continuación con un aumento en el peso del error de energía, tasas de aprendizaje reducidas y precisión completa.
Variantes de Modelos: Se entrenaron modelos de diversos tamaños (Pequeño, Mediano, Grande, Extra-Grande) para explorar la relación entre el número de parámetros, la precisión y la velocidad. El entrenamiento del conjunto de datos OAM involucró un protocolo específico: pre-entrenamiento en OMat24 (geometrías fuera del equilibrio) seguido de un ajuste fino en MPA para asegurar la compatibilidad con los entornos de Materials Project.

Contribuciones Clave

Pipeline de Entrenamiento Acelerado: La integración de la compilación de grafos y núcleos acelerados permite el entrenamiento de modelos de fundación de alta precisión en conjuntos de datos que superan los 100 millones de estructuras con un costo computacional modesto de ~100–750 horas de GPU (usando GPUs H100/H200), una reducción significativa respecto a los requisitos previos de múltiples semanas.
Suite de Benchmarking: Los modelos fueron evaluados rigurosamente contra benchmarks de la comunidad que cubren:
- Descubrimiento de Materiales: Predicción de geometrías de estado fundamental y energías de envolvente convexa (Matbench Discovery).
- Conductividad Térmica: Predicción de propiedades fuera del equilibrio mediante constantes de fuerza fonónica.
- Propiedades Cercanas al Equilibrio: Evaluación de módulos de compresibilidad/cizalladura, capacidad calorífica y ratios de magnitud de fuerza (MatCalc).
Análisis de Escalabilidad: El documento demuestra que la arquitectura NequIP, anteriormente limitada por el paso de mensajes iterativo, ahora soporta una inferencia eficiente en múltiples GPUs en LAMMPS a través de la interfaz ML-IAP acelerada por Kokkos, permitiendo simulaciones de sistemas de hasta 100 millones de átomos.

Resultados

Precisión: El modelo NequIP-OAM-XL logra un rendimiento de vanguardia en los benchmarks, con un MAE de energía de envolvente convexa de 19.7 meV/átomo y un Error Medio Relativo Simétrico ( $\kappa_{SRME}$ ) de conductividad térmica de 0.129.
Leyes de Escalamiento:
- Tamaño del Modelo: La precisión generalmente sigue una mejora de ley de potencia con el tamaño del modelo para modelos de pequeño a grande. Sin embargo, el modelo XL muestra signos de saturación, lo que sugiere rendimientos decrecientes para arquitecturas específicas en escalas extremas.
- Tamaño del Conjunto de Datos: La precisión de la conductividad térmica escala idealmente con el tamaño del conjunto de datos (exponente de ley de potencia $\alpha \approx 0.24$ para NequIP), confirmando el valor de las geometrías fuera del equilibrio. La precisión en el descubrimiento de materiales, sin embargo, muestra una mejora limitada al escalar de MPA a OAM.
Análisis de Error: La falta de mejora en la precisión del descubrimiento de materiales se atribuye a la diversidad composicional y a las descripciones inconsistentes de compuestos de metales de transición. Específicamente, los metales de transición de la primera fila multivalentes (V, Cr, Mn, Fe) y los actínidos (Np, Pu) exhiben errores significativamente mayores. Los autores atribuyen esto a la aplicación inconsistente de las correcciones de Hubbard $U$ en los datos de entrenamiento (aplicadas a óxidos/fluoruros pero no a metales) y a la complejidad inherente de los sistemas electrónicos correlacionados.
Velocidad vs. Precisión: Los modelos entrenados definen la frontera de Pareto de la relación precisión-velocidad. Por ejemplo, NequIP-OAM-XL logra puntuaciones de desempeño combinado comparables a otros modelos líderes (p. ej., eSEN-30M-OAM) pero con velocidades de inferencia aproximadamente un orden de magnitud más rápidas.
Sobre-suavizado (Over-softening): Los modelos grandes entrenados en conjuntos de datos diversos (incluyendo estructuras fuera del equilibrio) exhiben un sobre-suavizado mínimo (subestimación de fuerzas en estados de alta energía), con ratios de magnitud de fuerza ( $f/f_{DFT}$ ) que alcanzan 0.98.

Significancia y Reivindicaciones
El artículo sostiene que la barrera principal para entrenar potenciales de fundación de alta precisión ya no es el costo computacional, sino la calidad y diversidad de los datos. Los autores argumentan que el progreso futuro en los MLIPs de descubrimiento de materiales depende menos del escalamiento bruto del modelo y más de:

Datos Consistentes: Eliminar errores sistemáticos causados por configuraciones computacionales inconsistentes (p. ej., la aplicación de Hubbard $U$ ) a través de los conjuntos de datos de entrenamiento.
Diversidad Química: Expandir los conjuntos de datos más allá de la sustitución iónica para incluir una mayor diversidad química y estructural, particularmente para sistemas complejos de metales de transición.
Adaptabilidad Arquitectónica: Desarrollar modelos que puedan ajustar dinámicamente la resolución radial y angular basándose en los entornos químicos locales para manejar la disparidad de complejidad de diferentes elementos sin inflar uniformemente la capacidad del modelo.

El trabajo establece que, con la infraestructura actual, es factible que grupos de investigación individuales entrenen y desplieguen modelos de fundación capaces de simular ~100 millones de átomos, democratizando el acceso a simulaciones atomísticas de alta fidelidad y gran escala. Los modelos proporcionados sirven como puntos de partida robustos para el ajuste fino en espacios químicos específicos.

Más como este