🔬 applied physics

Fast and Accurate Foundation Models for Equivariant Machine-Learned Interatomic Potentials

Este artigo apresenta uma família de modelos de fundação equivariantes, rápidos, escaláveis e precisos para potenciais interatômicos que superam as compensações entre velocidade e precisão por meio de arquiteturas NequIP e Allegro otimizadas, ao mesmo tempo em que enfatiza que as melhorias futuras na descoberta de materiais dependem mais da diversidade de conjuntos de dados e de descrições consistentes de metais de transição do que apenas da complexidade do modelo.

Autores originais: Seán R. Kavanagh, Chuin Wei Tan, Menghang Wang, Marc L. Descoteaux, Gabriel de Miranda Nascimento, Ulrik Unneberg, Laura Zichi, Francesco Libbi, Norma Rivano, Austin Glover, Vivek Bharadwaj, Anders Jo

Publicado 2026-07-31

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Seán R. Kavanagh, Chuin Wei Tan, Menghang Wang, Marc L. Descoteaux, Gabriel de Miranda Nascimento, Ulrik Unneberg, Laura Zichi, Francesco Libbi, Norma Rivano, Austin Glover, Vivek Bharadwaj, Anders Johansson, William C. Witt, Albert Musaelian, Boris Kozinsky

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você esteja tentando prever como um castelo de Lego gigante e invisível se comportará. Ele desmoronará se você sacudi-lo? Ele conduzirá calor como uma panela de metal ou isolará como um suéter de lã? No mundo da ciência dos materiais, cientistas usam supercomputadores para simular esses minúsculos blocos de construção (átomos) para projetar novas baterias, remédios e metais superfortes. Mas há um problema: a maneira mais precisa de calcular como esses átomos interagem é como tentar resolver um quebra-cabeça de um milhão de peças à mão — leva uma eternidade e custa uma fortuna em tempo de computação. Para acelerar as coisas, os cientistas criaram "potenciais interatômicos aprendidos por máquina" (MLIPs). Pense neles como o motor de um videogame superinteligente que passa o tempo voando. Em vez de calcular cada regra da física do zero, o motor "aprendeu" com milhões de cálculos anteriores como os átomos costumam se comportar, permitindo que ele adivinhe o resultado num piscar de olhos. Recentemente, os cientistas começaram a treinar esses motores em conjuntos de dados massivos para criar "modelos de fundação" — uma espécie de código de trapaça universal que pode ser ajustado para trabalhos específicos. Mas aqui está a grande questão: podemos tornar esses códigos de trapaça tanto incrivelmente rápidos quanto incrivelmente precisos, ou temos que escolher um ou outro?

Este artigo é a história de uma equipe que decidiu construir o código de trapaça definitivo, provando que você não precisa escolher um lado. Eles desenvolveram uma nova família de "modelos de fundação" usando duas arquiteturas específicas chamadas NequIP e Allegro. Imagine esses modelos como dois tipos diferentes de superatletas: um é um arquiteto meticuloso que verifica cada ângulo (NequIP), e o outro é um velocista relâmpago que vê o quadro geral sem se perder nos detalhes (Allegro). Os pesquisadores treinaram esses atletas em uma biblioteca massiva de mais de 100 milhões de estruturas atômicas, um conjunto de dados tão grande que teria levado semanas para ser treinado em sistemas antigos. Ao usar alguns truques de software inteligentes — como "compilação de grafos" (que organiza os dados antes da corrida começar) e "matemática de precisão mista" (usando uma calculadora um pouco menos detalhada para as partes fáceis da corrida) — eles conseguiram treinar esses modelos de 5 a 10 vezes mais rápido do que antes, reduzindo o custo de semanas de tempo de computação para apenas algumas centenas de horas de GPU.

Os resultados são um divisor de águas. A equipe descobriu que esses novos modelos não são apenas rápidos; eles também são os mais precisos já vistos para prever como os materiais se comportam. Eles testaram em três grandes desafios: encontrar a forma mais estável para novos materiais (como encontrar a estrutura de Lego perfeita), prever quão bem um material conduz calor (crucial para eletrônicos) e calcular como os materiais esticam ou esmagam. Os modelos passaram com louvor, muitas vezes superando recordes anteriores. No entanto, o artigo também aponta um "ponto cego" específico. Embora os modelos sejam ótimos para a química geral, eles ainda têm um pouco de dificuldade com metais de transição (como ferro, cromo e manganês) porque os dados de treinamento para esses elementos complicados são um pouco inconsistentes. É como se os modelos fossem fluentes na maioria das línguas, mas ficassem confusos com alguns dialetos onde as regras gramaticais mudam inesperadamente.

Os autores também observaram como esses modelos escalam. Eles mostraram que esses modelos podem rodar em milhares de chips de computador trabalhando juntos, simulando sistemas com mais de 100 milhões de átomos. Isso é enorme porque significa que os cientistas agora podem simular grãos de areia inteiros ou gotas minúsculas de líquido com precisão atômica, algo que era anteriormente impossível. O artigo sugere que o futuro de melhores materiais não é apenas sobre fazer modelos maiores, mas sobre limpar os dados de treinamento — especialmente para aqueles metais de transição complicados — e garantir que as "regras" usadas para gerar os dados sejam consistentes. Em suma, eles construíram uma ferramenta mais rápida, afiada e confiável para descobrir os materiais do amanhã, provando que, com as atualizações de software certas, podemos ter o melhor dos dois mundos: velocidade e precisão, tudo em um único pacote.

Resumo Técnico: Modelos de Fundação Rápidos e Precisos para Potenciais Interatômicos Aprendidos por Máquina Equivariantes

Definição do Problema
Os potenciais interatômicos aprendidos por máquina (MLIPs) tornaram-se essenciais para a ciência dos materiais computacional, particularmente como "modelos de fundação" treinados em conjuntos de dados amplos e diversos (ex: MPtrj, Alexandria, OMat24) para ajuste fino (fine-tuning) subsequente. No entanto, existe um gargalo crítico: aplicações científicas como dinâmica molecular (MD) exigem tanto alta precisão quanto alta velocidade de inferência/treinamento. Embora as arquiteturas equivariantes (que codificam simetrias físicas como rotação e inversão) ofereçam precisão e eficiência de dados superiores, o treinamento delas em conjuntos de dados ultra-grandes (centenas de milhões de estruturas) tem sido historicamente proibitivo do ponto de vista computacional, muitas vezes exigindo semanas de treinamento. Além disso, permanece incerto como equilibrar as demandas conflitantes de tamanho do modelo, velocidade de inferência e precisão, particularmente ao escalar para conjuntos de dados massivos onde a eficiência de dados é menos crítica do que o desempenho bruto.

Metodologia
Os autores apresentam uma família de potenciais de fundação baseados nas arquiteturas de redes neurais de grafos equivariantes NequIP e Allegro, treinadas em conjuntos de dados de materiais inorgânicos cada vez maiores: DIRECT (~~186k), MPtrj (~~1,58M), MPA (~~10,5M) e OAM (~~113M estruturas).

Avanços metodológicos principais incluem:

Acelerações de Infraestrutura: O trabalho aproveita desenvolvimentos recentes no framework NequIP, incluindo compilação de grafos em tempo de treino (torch.compile), estratégias de paralelismo de dados distribuído (DDP) para treinamento multi-GPU e núcleos de produto tensorial otimizados (OpenEquivariance para NequIP, cuEquivariance para Allegro).
Treinamento de Precisão Mista: Os autores utilizam estratégias de precisão mista (float64 para embeddings, float32 para produtos tensoriais e precisão mista automática para computações intermediárias) para acelerar o treinamento em até 3x sem perda significativa de precisão.
Treinamento em Dois Estágios: Um protocolo de treinamento ideal envolve uma execução inicial com alta ponderação em erros de força, seguida por uma execução de continuação com aumento da ponderação do erro de energia, taxas de aprendizado reduzidas e precisão total.
Variantes de Modelo: Modelos de tamanhos variados (Pequeno, Médio, Grande, Extra-Grande) foram treinados para explorar o compromisso entre contagem de parâmetros, velocidade e precisão. O treinamento do conjunto de dados OAM envolveu um protocolo específico: pré-treinamento no OMat24 (geometrias fora do equilíbrio) seguido de ajuste fino no MPA para garantir compatibilidade com as configurações do Materials Project.

Principais Contribuições

Pipeline de Treinamento Acelerado: A integração da compilação de grafos e núcleos acelerados permite o treinamento de modelos de fundação de alta precisão em conjuntos de dados que excedem 100 milhões de estruturas com um custo computacional modesto de ~100–750 horas de GPU (usando GPUs H100/H200), uma redução significativa em relação aos requisitos anteriores de várias semanas.
Suíte de Benchmarking: Os modelos foram rigorosamente avaliados contra benchmarks da comunidade cobrindo:
- Descoberta de Materiais: Predição de geometrias de estado fundamental e energias de casco convexo (Matbench Discovery).
- Condutividade Térmica: Predição de propriedades fora do equilíbrio via constantes de força de fônon.
- Propriedades Próximas ao Equilíbrio: Avaliação de módulos de bulk/cisalhamento, capacidade calorífica e razões de magnitude de força (MatCalc).
Análise de Escalabilidade: O artigo demonstra que a arquitetura NequIP, anteriormente limitada pela passagem de mensagens iterativa, agora suporta inferência multi-GPU eficiente no LAMMPS via interface ML-IAP acelerada por Kokkos, permitindo simulações de sistemas de até 100 milhões de átomos.

Resultos

Precisão: O modelo NequIP-OAM-XL alcança desempenho de estado da arte em benchmarks, com um MAE de energia de casco convexo de 19,7 meV/átomo e uma condutividade térmica de Erro Médio Relativo Simétrico ( $\kappa_{SRME}$ ) de 0,129.
Leis de Escala (Scaling Laws):
- Tamanho do Modelo: A precisão geralmente segue uma melhoria de lei de potência com o tamanho do modelo para modelos pequenos a grandes. No entanto, o modelo XL mostra sinais de saturação, sugerindo retornos decrescentes para arquiteturas específicas em escalas extremas.
- Tamanho do Conjunto de Dados: A precisão da condutividade térmica escala idealmente com o tamanho do conjunto de dados (expoente de lei de potência $\alpha \approx 0,24$ para NequIP), confirmando o valor das geometrias fora do equilíbrio. A precisão na descoberta de materiais, no entanto, mostra melhoria limitada ao escalar de MPA para OAM.
Análise de Erro: A falta de melhoria na precisão da descoberta de materiais com conjuntos de dados maiores é atribuída à diversidade composicional e descrições inconsistentes de compostos de metais de transição. Especificamente, metais de transição da primeira fila multivalentes (V, Cr, Mn, Fe) e actinídeos (Np, Pu) exibem erros significativamente maiores. Os autores atribuem isso à aplicação inconsistente de correções de Hubbard $U$ nos dados de treinamento (aplicadas a óxidos/fluoretos, mas não a metais) e à complexidade inerente de sistemas eletrônicos correlacionados.
Velocidade vs. Precisão: Os modelos treinados definem a fronteira de Pareto para o compromisso precisão-velocidade. Por exemplo, o NequIP-OAM-XL alcança pontuações de desempenho combinadas comparáveis a outros modelos líderes (ex: eSEN-30M-OAM), mas com velocidades de inferência aproximadamente uma ordem de magnitude mais rápidas.
Sobre-suavização (Over-softening): Grandes modelos treinados em conjuntos de dados diversos (incluindo estruturas fora do equilíbrio) exibem mínima "sobre-suavização" (subestimação de forças em estados de alta energia), com razões de magnitude de força ( $f/f_{DFT}$ ) atingindo 0,98.

Significância e Alegações
O artigo alega que a principal barreira para treinar potenciais de fundação de alta precisão não é mais o custo computacional, mas sim a qualidade e diversidade dos dados. Os autores argumentam que o progresso futuro nos MLIPs de descoberta de materiais depende menos do escalonamento bruto do modelo e mais de:

Dados Consistentes: Eliminar erros sistemáticos causados por configurações computacionais inconsistentes (ex: aplicação de Hubbard $U$ ) através de diferentes conjuntos de dados.
Diversidade Química: Expandir os conjuntos de dados além da substituição iônica para incluir maior diversidade química e estrutural, particularmente para sistemas complexos de metais de transição.
Adaptabilidade Arquitetônica: Desenvolver modelos que possam ajustar dinamicamente a resolução radial e angular com base nos ambientes químicos locais para lidar com a disparidade de complexidade de diferentes elementos sem inflar uniformemente a capacidade do modelo.

O trabalho estabelece que, com a infraestrutura atual, é viável para grupos de pesquisa individuais treinarem e implantarem modelos de fundação capazes de simular ~100 milhões de átomos, democratizando o acesso a simulações atomísticas de alta fidelidade e grande escala. Os modelos fornecidos servem como pontos de partida robustos para o ajuste fino em espaços químicos direcionados.

Mais como este