Self-Supervised Learning for Glass Composition Screening

Resumo Técnico: Aprendizado Autossupervisionado para Triagem de Composição de Vidros

Definição do Problema
A descoberta de novos materiais vítreos multicomponentes com propriedades específicas, particularmente uma Temperatura de Transição Vítrea ($T_g$) alvo, é atualmente dificultada pela abordagem de tentativa e erro do tipo "Edison", que é demorada e dispendiosa. A complexidade dos vidros de óxido, que podem envolver mais da metade dos elementos da tabela periódica, cria um espaço composicional vasto demais para a triagem experimental. Embora o aprendizado de máquina (ML) ofereça uma solução, os métodos supervisionados existentes enfrentam limitações significativas:

1. Escassez e Ruído de Dados: Modelos de regressão supervisionada requerem conjuntos de dados grandes e de alta qualidade para ajustar com precisão os valores de $T_g$. No entanto, as bases de dados de vidro existentes (ex: SciGlass, Interglad) contêm inconsistências, valores atípicos e erros de medição (ex: frações de massa que não somam a unidade).
2. Distribuições Desbalanceadas: Os dados de $T_g$ frequentemente seguem uma distribuição de cauda longa, com alta frequência na faixa de 300–600°C e dados esparsos em outras regiões. Modelos de regressão otimizados para o erro quadrático médio tendem a sofrer overfitting em amostras da "cabeça" e apresentam desempenho inferior nas regiões da "cauda".
3. Interações Complexas: A relação entre composição e $T_g$ envolve interações complexas de primeira ordem e de ordem superior (ex: como o $Al^{3+}$ interage com íons alcalinos) que modelos padrão têm dificuldade em capturar explicitamente.

Metodologia
Os autores propõem um novo framework que reformula a triagem de composição de vidro como um problema de classificação, em vez de uma tarefa de regressão. O objetivo é prever se a composição de um vidro cai dentro de um intervalo alvo predefinido (ex: 500–600°C) em vez de prever o valor exato da temperatura.

O framework consiste em quatro componentes principais:

1. Pré-processamento de Dados e Transformação de Rótulos:

   • Os dados foram obtidos da base de dados SciGlass (v7.12), limpos para remover entradas onde as frações de massa não somavam a unidade (dentro de uma faixa de [0,95, 1,05]) e restritos a 18 óxidos principais.
   • As amostras foram rotuladas como "alvo" (1) se sua $T_g$ caísse dentro do intervalo específico, e "não-alvo" (0) caso contrário. Essa transformação reduz a sensibilidade ao ruído de $T_g$ e simplifica a tarefa de aprendizado.

2. Aumento de Dados Baseado em Teoria Assintótica:

   • Para lidar com a escassez e o ruído de dados, os autores introduzem uma estratégia de aumento de dados fundamentada no Teorema do Limite Central. Eles assumem que os erros de medição nas proporções dos componentes são independentes e identicamente distribuídos, levando a uma distribuição normal do erro total.
   • Durante o treinamento, pequenas perturbações ($\epsilon \sim N(0, \sigma^2)$) são aplicadas às proporções dos componentes ($x'_i = x_i \times (1 + \epsilon)$). Isso força o modelo a aprender características robustas ao ruído de medição, mantendo o realismo físico (componentes zero permanecem zero).

3. Arquitetura DeepGlassNet:
   Uma rede neural dedicada, projetada para capturar complexas interações composicionais:

   • Embedding Modulado por Proporção: Ajusta os embeddings dos componentes com base em suas frações de massa para capturar efeitos de primeira ordem.
   • Camada de Convolução em Grafo: Modela os componentes como nós em um grafo. Uma fatoração de baixo posto da matriz de adjacência ($A = VV^T$) captura interações simétricas de segunda ordem entre os componentes, permitindo que o modelo aprenda como pares de elementos influenciam as propriedades.
   • Camada de Auto-atenção (Self-Attention): Captura interações de ordem superior ao computar pontuações de atenção entre todos os componentes, refinando as representações de características.
   • Projeção Não Linear: Mapeia as características refinadas em um espaço de menor dimensão para classificação.

4. Framework de Aprendizado Autossupervisionado (SSL):

   • Em vez de reconstruir rótulos, o modelo é treinado usando uma função de perda contrastiva. Para cada amostra âncora, uma amostra positiva (mesma classe) e uma amostra negativa (classe diferente) são selecionadas.
   • O modelo otimiza a similaridade entre a âncora e a amostra positiva enquanto minimiza a similaridade com a amostra negativa. Isso otimiza diretamente a Área Sob a Curva de Característica de Operação do Receptor (AUC), uma métrica robusta para desempenho de classificação, sem exigir a reconstrução precisa do rótulo de $T_g$.

Principais Contribuições

• Reformulação da Tarefa: Mudança da regressão para a classificação para a triagem de composição para mitigar a sensibilidade ao ruído e a escassez de dados.
• Nova Estratégia de Aumento: Introdução de um método de aumento de dados baseado em física e teoria assintótica para simular erros de medição e melhorar a robustez do modelo.
• DeepGlassNet: Desenvolvimento de uma arquitetura especializada que modela explicitamente interações de primeira, segunda e terceira ordem entre os componentes do vidro usando convolução em grafo e auto-atenção.
• Otimização Autossupervisionada: Utilização de aprendizado contrastivo para otimizar a AUC diretamente, reduzindo a dependência de dados rotulados de alta qualidade.

Resultos

• Benchmarking: Em um conjunto de validação, a DeepGlassNet superou significativamente os algoritmos clássicos de ML (KNN, MLP, SVM, Random Forest, Árvore de Decisão) em vários intervalos de $T_g$ (100°C, 50°C, 20°C, 10°C) em termos de AUC e Precision@100.
• Estudos de Ablação: A remoção de qualquer um dos módulos — o de aumento de dados ou o de extração de características de interação (convolução em grafo + atenção) — resultou em degradação de desempenho estatisticamente significativa, confirmando a necessidade de ambos os componentes.
• Validação Experimental: O modelo foi utilizado para triar um conjunto de teste sintético de aproximadamente 39.000 composições teoricamente válidas. Seis composições candidatas foram selecionadas para três faixas alvo (300–400°C, 400–500°C, 500–600°C).
  • A síntese experimental e caracterização (XRD e DSC) confirmaram a natureza amorfa das amostras.
  • Os valores de $T_g$ medidos para todas as seis amostras caíram dentro de seus respectivos intervalos alvo (ex: 378°C e 388°C para o alvo de 300–400°C; 543°C e 548°C para o alvo de 500–600°C).

Significância
O artigo afirma que este trabalho fornece uma metodologia eficiente para o design de vidros multicomponentes ao superar as limitações do aprendizado supervisionado que exige muitos dados. Ao reformular a tarefa como classificação e empregar aprendizado autossupervisionado com aumento robusto ao ruído, o framework demonstra forte generalização e adaptabilidade. Os autores postulam que esta abordagem estabelece uma base para aplicar o aprendizado autossupervisionado a tarefas mais amplas de descoberta de materiais, permitindo a identificação de candidatos promissores em vastos e inexplorados espaços composicionais sem a necessidade de dados experimentais exaustivos para cada propriedade específica. O código e os dados foram disponibilizados publicamente para facilitar novas pesquisas em informática de materiais.