Self-Supervised Learning for Glass Composition Screening

Resumen Técnico: Aprendizaje Autosupervisado para el Cribado de la Composición de Vidrios

Planteamiento del Problema
El descubrimiento de nuevos materiales vítreos multicomponentes con propiedades específicas, particularmente una Temperatura de Transición Vítrea ($T_g$) objetivo, se ve actualmente obstaculizado por el enfoque de "estilo Edison" de ensayo y error, el cual es costoso y consume mucho tiempo. La complejidad de los vidrios de óxido, que pueden involucrar más de la mitad de los elementos de la tabla periódica, crea un espacio composicional demasiado vasto para el cribado experimental. Si bien el aprendizaje automático (ML) ofrece una solución, los métodos supervisados existentes enfrentan limitaciones significativas:

1. Escasez y Ruido de Datos: Los modelos de regresión supervisada requieren conjuntos de datos grandes y de alta calidad para ajustar con precisión los valores de $T_g$. Sin embargo, las bases de datos de vidrio existentes (p. ej., SciGlass, Interglad) contienen inconsistencias, valores atípicos y errores de medición (p. ej., fracciones de masa que no suman la unidad).
2. Distribuciones Desequilibradas: Los datos de $T_g$ suelen seguir una distribución de cola larga, con alta frecuencia en el rango de 300–600 °C y datos escasos en otras regiones. Los modelos de regresión optimizados para el error cuadrático medio tienden a sobreajustarse a las muestras de la "cabeza" mientras rinden por debajo de lo esperado en las regiones de la "cola".
3. Interacciones Complejas: La relación entre la composición y la $T_g$ involucra interacciones intrincadas de primer orden y de orden superior (p. ej., cómo el $Al^{3+}$ interactúa con los iones alcalinos) que los modelos estándar luchan por capturar explícitamente.

Metodología
Los autores proponen un marco novedoso que reformula el cribado de la composición de vidrios como un problema de clasificación en lugar de una tarea de regresión. El objetivo es predecir si la $T_g$ de una composición cae dentro de un intervalo objetivo predefinido (p. ej., 500–600 °C) en lugar de predecir el valor exacto de la temperatura.

El marco consta de cuatro componentes principales:

1. Preprocesamiento de Datos y Transformación de Etiquetas:

   • Los datos se obtuvieron de la base de datos SciGlass (v7.12), se limpiaron para eliminar entradas donde las fracciones de masa no sumaban la unidad (dentro de un rango de [0.95, 1.05]) y se restringieron a 18 óxidos principales.
   • Las muestras se etiquetaron como "objetivo" (1) si su $T_g$ caía dentro del intervalo específico, y "no objetivo" (0) en caso contrario. Esta transformación reduce la sensibilidad al ruido de la $T_g$ y simplifica la tarea de aprendizaje.

2. Aumentación de Datos Basada en la Teoría Asintótica:

   • Para abordar la escasez y el ruido de los datos, los autores introducen una estrategia de aumentación de datos fundamentada en el Teorema del Límite Central. Asumen que los errores de medición en las proporciones de los componentes son independientes e idénticamente distribuidos, lo que conduce a una distribución normal del error total.
   • Durante el entrenamiento, se aplican pequeñas perturbaciones ($\epsilon \sim N(0, \sigma^2)$) a las proporciones de los componentes ($x'_i = x_i \times (1 + \epsilon)$). Esto obliga al modelo a aprender características robustas al ruido de medición manteniendo la realidad física (los componentes que son cero permanecen en cero).

3. Arquitectura DeepGlassNet:
   Una red neuronal dedicada diseñada para capturar complejas interacciones composicionales:

   • Incrustación Modulada por Proporción: Ajusta las incrustaciones (embeddings) de los componentes basándose en sus fracciones de masa para capturar efectos de primer orden.
   • Capa de Convolución de Grafos: Modela los componentes como nodos en un grafo. Una factorización de bajo rango de la matriz de adyacencia ($A = VV^T$) captura interacciones simétricas de segundo orden entre componentes, permitiendo que el modelo aprenda cómo los pares de elementos influyen en las propiedades.
   • Capa de Auto-atención: Captura interacciones de orden superior mediante el cálculo de puntuaciones de atención entre todos los componentes, refinando las representaciones de características.
   • Proyección No Lineal: Mapea las características refinadas en un espacio de menor dimensión para la clasificación.

4. Marco de Aprendizaje Autosupervisado (SSL):

   • En lugar de reconstruir etiquetas, el modelo se entrena utilizando una función de pérdida contrastiva. Para cada muestra ancla, se selecciona una muestra positiva (misma clase) y una muestra negativa (clase diferente).
   • El modelo optimiza la similitud entre la muestra ancla y la positiva, mientras minimiza la similitud con la negativa. Esto optimiza directamente el Área Bajo la Curva Característica Operativa del Receptor (AUC), una métrica robusta para el rendimiento de la clasificación, sin requerir la reconstrucción precisa de la etiqueta de $T_g$.

Contribuciones Clave

• Reformulación de la Tarea: Cambiar de regresión a clasificación para el cribado de composición para mitigar la sensibilidad al ruido y la escasez de datos.
• Novedosa Estrategia de Aumentación: Introducir un método de aumentación de datos informado por la física basado en la teoría asintótica para simular errores de medición y mejorar la robustez del modelo.
• DeepGlassNet: Desarrollar una arquitectura especializada que modela explícitamente las interacciones de primer orden, segundo orden y de orden superior entre los componentes del vidrio utilizando convolución de grafos y auto-atención.
• Optimización Autosupervisada: Utilizar el aprendizaje contrastivo para optimizar el AUC directamente, reduciendo la dependencia de datos etiquetados de alta calidad.

Resultos

• Benchmarking: En un conjunto de validación, DeepGlassNet superó significativamente a los algoritmos clásicos de ML (KNN, MLP, SVM, Random Forest, Árbol de Decisión) en varios intervalos de $T_g$ (100 °C, 50 °C, 20 °C, 10 °C) en términos de AUC y Precision@100.
• Estudios de Ablación: Eliminar ya sea el módulo de aumentación de datos o el módulo de extracción de características de interacción (convolución de grafos + atención) resultó en una degradación del rendimiento estadísticamente significativa, confirmando la necesidad de ambos componentes.
• Validación Experimental: El modelo se utilizó para cribar un conjunto de prueba sintético de ~39,000 composiciones teóricamente válidas. Se seleccionaron seis composiciones candidatas para tres rangos objetivo (300–400 °C, 400–500 °C, 500–600 °C).
  • La síntesis experimental y la caracterización (XRD y DSC) confirmaron la naturaleza amorfa de las muestras.
  • Los valores de $T_g$ medidos para las seis muestras cayeron dentro de sus respectivos intervalos objetivo (p. ej., 378 °C y 388 °C para el objetivo de 300–400 °C; 543 °C y 548 °C para el objetivo de 500–600 °C).

Significancia
El artículo afirma que este trabajo proporciona una metodología eficiente para diseñar vidrios multicomponentes al superar las limitaciones del aprendizaje supervisado que requiere grandes cantidades de datos. Al reformular la tarea como una clasificación y emplear el aprendizaje autosupervisado con una aumentación robusta al ruido, el marco demuestra una fuerte generalización y adaptabilidad. Los autores postulan que este enfoque establece una base para aplicar el aprendizaje autosupervisado a tareas de descubrimiento de materiales más amplias, permitiendo la identificación de candidatos prometedores en espacios composicionales vastos y inexplorados sin requerir datos experimentales exhaustivos para cada propiedad específica. El código y los datos se ponen a disposición pública para facilitar la investigación adicional en informática de materiales.