Representations from Pretrained Machine-Learning Interatomic Potentials as Coarse Coordinates for Material Generation and Evaluation

=== RASCUNHO ===
Aqui está um resumo técnico detalhado do artigo "Representations from Pretrained Machine-Learning Interatomic Potentials as Coarse Coordinates for Material Generation and Evaluation."

Problema

O campo da geração de estruturas cristalinas inorgânicas está utilizando cada vez mais modelos generativos de aprendizado de máquina. No entanto, avaliar esses modelos continua sendo um desafio significativo. As métricas de avaliação existentes, como as métricas contínuas SUN (Estabilidade, Unicidade, Novidade - Stability, Uniqueness, Novelty), operam frequentemente ao nível de instância (estrutura por estrutura). Essa abordagem tem dificuldade em distinguir entre um modelo que captura genuinamente a distribuição de dados e um que apenas produz estruturas novas, porém instáveis, ou que sofre de colapso de modo (mode collapse). Além disso, métricas de distribuição tradicionais, como a Distância de Fréchet Inception (FID), são difíceis de aplicar diretamente porque tipicamente minimizam a distância quando a distribuição gerada coincide exatamente com a distribuição de treinamento, falhando em penalizar a falta de novidade.

Uma dificuldade central reside no "tradeoff cobertura-novidade". Métricas que capturam tanto a qualidade (cobertura da distribuição de treinamento) quanto a novidade (distância da distribuição de treinamento) frequentemente forçam uma escolha binária: melhorar uma métrica inerentemente degrada a outra se uma única representação de característica for utilizada. Adicionalmente, determinar se uma estrutura gerada é uma verdadeira novidade ou apenas uma amostra de treinamento memorizada (ou uma simples substituição química de uma) não é trivial.

Metodologia

Os autores propõem uma estrutura de duplo featurizer chamada Coarse-Fine Transport Distance (CFTD). Esta métrica estende a anteriormente introduzida Transport Novelty Distance (TNovD) ao desacoplar a avaliação de "qualidade" e "novidade" em dois espaços geométricos distintos usando diferentes extratores de características.

1. A Estrutura de Duplo Featurizer:

• O Featurizer "Fino" (Novidade/Memorização): Este componente utiliza uma Rede Neural de Grafos (GNN) contrastiva treinada com uma perda InfoNCE. É projetado para detectar identidade estrutural e memorização. A estratégia de aumento de treinamento inclui rotação, translação, ruído Gaussiano em coordenadas fracionárias e, crucialmente, substituição por elementos quimicamente similares (baseado na escala de Pettifor modificada). Isso garante que estruturas que diferem apenas por substituições quimicamente similares sejam tratadas como "idênticas" (ou seja, não novas), impedindo que os modelos ganhem pontuações de novidade apenas trocando elementos.
• O Featurizer "Grosso" (Qualidade/Estabilidade): Este componente utiliza características ocultas de um Potencial Interatômico de Aprendizado de Máquina (MLIP) pré-treinado, especificamente o MACE-MP-0b3. Em vez de usar as saídas finais de energia ou força, os autores extraem "características de nós" invariantes dos blocos de interação do modelo MACE. Essas características são agregadas pela média (mean-pooled) para criar um vetor de tamanho fixo representando todo o cristal, seguido por uma projeção aleatória para reduzir a dimensionalidade. Os autores argumentam que essas características codificam a "estabilidade implícita" (informação estrutural, química e física) em vez de quantidades termodinâmicas explícitas, como a energia acima do hull.

2. A Métrica CFTD:
A métrica calcula uma distância de Transporte Ótimo (OT) entre a distribuição de treinamento e a distribuição gerada.

• Uma "zona Goldilocks" é estabelecida usando dois limiares: $\tau_{mem}$ (para memorização) e $\tau_{qual}$ (para qualidade).
• A função de custo para o plano de OT é uma média ponderada das distâncias no espaço "Fino" ($C_{id}$) e no espaço "Grosso" ($C_{mace}$).
• A pontuação final penaliza amostras geradas que estão ou muito próximas dos dados de treinamento no espaço Fino (memorização) ou muito longe no espaço Grosso (baixa qualidade/instabilidade). Amostras que caem dentro da zona Goldilocks não são penalizadas.

3. Geração Condicionada por MLIP:
Para demonstrar a utilidade das características grossas além da avaliação, os autores projetaram um modelo generativo condicional. Eles tratam o material como uma tupla que inclui um vetor de característica MACE grosso ($h$). O modelo gera tipos de átomos, parâmetros de rede e coordenadas fracionárias condicionadas a um par amostrado de contagem de átomos ($n$) e características MACE ($h$). Isso testa se as características ocultas do MACE podem servir como um sinal de orientação para a geração.

Principais Contribuições

• Métrica CFTD: Introdução da Coarse-Fine Transport Distance, que resolve o tradeoff intrínseco qualidade-novidade de métricas de featurizer único ao usar uma geometria de duplo featurizer.
• Características MACE para Avaliação: Demonstração de que as características ocultas agregadas pela média de MLIPs pré-treinados (MACE) servem como coordenadas "grossas" eficazes que capturam estabilidade implícita e composição química, superando abordagens puramente contrastivas anteriores na detecção de erros de estabilidade.
• Robustez ao Colapso de Modo: Mostra que a CFTD é mais sensível a mudanças de distribuição (colapso de modo) do que métricas baseadas em instância como a continuous SUN.
• Geração Condicionada: Prova de que as características MACE podem atuar como um sinal de condicionamento para geradores de materiais, guiando o modelo para estruturas mais estáveis, embora ao custo de redução da novidade ao usar características empíricas.

Resultados

Avaliação de Modelos Generativos:
Os autores testaram conjuntos de estruturas cristalinas geradas de vários modelos (MatterGen, ADiT, Chemeleon, DiffCSP, etc.), totalizando 10.000 estruturas em todos os modelos, usando CFTD.

• Efeitos de Relaxação: A relaxação de estruturas geradas com MACE geralmente melhorou a qualidade (menor CFTD) mas aumentou a memorização, sugerindo que modelos generativos frequentemente empurram materiais existentes ligeiramente para longe dos mínimos de energia em vez de criar estruturas verdadeiramente novas e estáveis.
• Comparação com cSUN: A CFTD classificou os modelos de forma diferente da continuous SUN (cSUN). Notavelmente, o Chemeleon2, que obteve a classificação mais alta no cSUN, obteve a pontuação mais baixa na métrica CFTD. Os autores atribuem isso à estratégia de aprendizado por reforço do Chemeleon2, que sobrepondera eventos raros e desloca a distribuição para longe dos dados de treinamento (uma forma de colapso de modo ou mudança de distribuição) que a CFTD penaliza, mas as métricas de nível de instância não detectam.
• Testes de Perturbação: Experimentos envolvendo deformação de rede, ruído Gaussiano e substituições de elementos mostraram que a CFTD é altamente sensível à degradação estrutural (perda de qualidade) e semelhança química, penalizando corretamente estruturas instáveis e identificando a memorização.

Experimentos de Geração Condicionada:

• Detecção de Overfitting: Quando treinado em um subconjunto pequeno (2.000 amostras), o modelo sofreu overfitting. A CFTD detectou esse overfitting de forma mais eficaz do que a perda de validação, particularmente após a relaxação estrutural revelar que estruturas de "quase acerto" eram, na verdade, cópias memorizadas.
• Capacidade de Orientação: Um modelo treinado com condicionamento de característica MACE no conjunto de dados completo produziu materiais com maior validade e estabilidade (métricas LeMat-GenBench) em comparação com uma linha de base não condicionada, embora com menor novidade. Os materiais gerados tiveram suas características próximas às entradas de condicionamento, confirmando que o modelo obedeceu fielmente à orientação do MACE.

Significância e Alegações

O artigo afirma que a CFTD fornece uma abordagem de distribuição mais natural para avaliar modelos generativos de materiais em comparação com métricas baseadas em instância. Ao separar as preocupações de "esta estrutura é estável?" (Grosso/MACE) e "esta estrutura é uma cópia?" (Fino/Contrastivo), a métrica evita os falsos tradeoffs inerentes aos métodos anteriores.

Os autores afirmam que as características ocultas de MLIPs pré-treinados contêm informações estruturais e químicas ricas que podem ser aproveitadas não apenas para avaliação, mas como um sinal de orientação para a geração. Isso abre um caminho para modelos generativos hierárquicos onde uma representação grossa (características MACE) é gerada primeiro para garantir estabilidade e aderência a propriedades, seguida pela geração de coordenadas atômicas específicas.

O artigo conclui modestamente, observando que, embora a CFTD seja uma ferramenta poderosa, a capacidade de aprendizado e identificabilidade do espaço de características MACE para geração hierárquica requer investigação adicional. Também destaca que a implementação atual utiliza características empíricas do MACE, e que trabalhos futuros devem focar em aprender um modelo generativo para as próprias características MACE para desacoplar a estabilidade da distribuição de treinamento específica.