Self-Supervised Learning for Glass Composition Screening

技術要約：ガラス組成スクリーニングのための自己教師あり学習

問題提起
特定の特性、特に目標とするガラス転移温度（$T_g$）を持つ新しい多成分ガラス材料の発見は、現在、「エジソン型」の試行錯誤的なアプローチによって阻害されており、これには多大な時間とコストを要する。周期表の半分以上の元素を含む可能性のある酸化物ガラスの複雑さは、実験的なスクリーニングを行うにはあまりに広大な組成空間を生み出している。機械学習（ML）は解決策となるが、既存の教師あり学習手法には以下のような重大な限界がある：

1. データの希少性とノイズ： 教師あり回帰モデルは、$T_g$値を正確に適合させるために大規模で高品質なデータセットを必要とする。しかし、既存のガラスデータベース（SciGlass、Intergladなど）には、不整合、外れ値、および測定誤差（質量分率の合計が1にならないなど）が含まれている。
2. 不均衡な分布： $T_g$のデータはしばしばロングテール分布に従い、300–600°Cの範囲に頻度が高く、それ以外の領域では疎である。平均二乗誤差を最適化する回帰モデルは、「ヘッド（頻出部）」のサンプルに過学習し、「テール（裾部）」の領域で性能が低下する傾向がある。
3. 複雑な相互作用： 組成と$T_g$の関係には、一次効果と高次の相互作用（例：$Al^{3+}$がアルカリイオンとどのように相互作用するか）が絡み合っており、標準的なモデルではこれらを明示的に捉えることが困難である。

手法
著者らは、ガラス組成のスクリーニングを回帰タスクではなく、分類問題として再定式化する新しいフレームワークを提案している。その目的は、正確な温度値を予測することではなく、ある組成の$T_g$が定義された目標区間（例：500–600°C）内に収まるかどうかを予測することである。

このフレームワークは、以下の4つのコアコンポーネントで構成されている：

1. データ前処理とラベル変換：

   • データはSciGlassデータベース（v7.12）から取得され、質量分率の合計が1（[0.95, 1.05]の範囲内）にならないエントリーを除去し、18種類の主要な酸化物に限定してクリーニングを行った。
   • サンプルは、$T_g$が特定の区間内に収まる場合に「ターゲット」（1）、そうでない場合に「非ターゲット」（0）としてラベル付けされた。この変換により、$T_g$のノイズに対する感受性が軽減され、学習タスクが簡素化される。

2. 漸近理論に基づくデータ拡張：

   • データの希少性とノイズに対処するため、著者らは中心極限定理に基づいたデータ拡張戦略を導入している。彼らは、成分比の測定誤差が独立同一分布に従うと仮定し、全誤差が正規分布に従うと想定している。
   • 学習中、成分の割合に対して小さな摂動（$\epsilon \sim N(0, \sigma^2)$）が適用される（$x'_i = x_i \times (1 + \epsilon)$）。これにより、モデルは物理的な実在性（成分がゼロのものはゼロのまま維持される）を維持しつつ、測定ノイズに対して頑健な特徴を学習することを強制される。

3. DeepGlassNet アーキテクチャ：
   複雑な組成間の相互作用を捉えるために設計された専用のニューラルネットワーク：

   • 比率変調埋め込み（Proportion-Modulated Embedding）： 成分の質量分量に基づいて成分の埋め込みを調整し、一次効果を捉える。
   • グラフ畳み込み層（Graph Convolution Layer）： 成分をグラフのノードとしてモデル化する。隣接行列の低ランク分解（$A = VV^T$）により、成分間の対称的な二次相互作用を捉え、要素のペアがどのように特性に影響を与えるかをモデルが学習できるようにする。
   • 自己注意層（Self-Attention Layer）： 全成分間のアテンションスコアを計算することで高次相互作用を捉え、特徴表現を洗練させる。
   • 非線形投影（Nonlinear Projection）： 洗練された特徴を、分類のための低次元空間へと写像する。

4. 自己教師あり学習（SSL）フレームワーク：

   • モデルはラベルを再構成するのではなく、コントラスティブ損失関数を用いて訓練される。アンカーサンプルに対し、正例（同じクラス）と負例（異なるクラス）が選択される。
   • モデルは、アンカーと正例の類似性を高めると同時に、アンカーと負例の類似性を最小化するように最適化される。これにより、正確な$T_g$ラベルの再構成を必要とせずに、受信者動作特性曲線の下方の面積（AUC）を直接最適化する。

主な貢献

• タスクの再定式化： ノイズへの感受性とデータの希少性の問題を軽減するために、組成スクリーニングを回帰から分類へと移行させた。
• 斬新な拡張戦略： 測定誤差をシミュレートし、モデルの頑健性を向上させるために、漸近理論に基づいた物理学に基づいたデータ拡張を導入した。
• DeepGlassNet： グラフ畳み込みと自己注意を用いることで、ガラス成分間の一次、二次、および高次の相互作用を明示的にモデル化する特化したアーキテクチャを開発した。
• 自己教師あり最適化： コントラスティブ学習を利用してAUCを直接最適化し、高品質なラベル付きデータへの依存を低減した。

結果

• ベンチマーク： 検証セットにおいて、DeepGlassNetは様々な$T_g$区間（100°C、50°C、20°C、10°C）において、古典的な機械学習アルゴリズム（KNN、MLP、SVM、ランダムフォレスト、決定木）をAUCおよびPrecision@100の点で大幅に上回った。
• アブレーション研究： データ拡張モジュールまたは相互作用特徴抽出モジュール（グラフ畳み込み＋アテンション）のいずれかを取り除くと、統計的に有意な性能低下が見られた。これは、両方のコンポーネントの必要性を裏付けている。
• 実験的検証： モデルは、理論的に有効な約39,000の合成テストセットのスクリーニングに使用された。3つのターゲット範囲（300–400°C、400–500°C、500–600°C）に対して6つの候補組成が選定された。
  • 実験的な合成および特性評価（XRDおよびDSC）により、サンプルの非晶質性が確認された。
  • 測定された$T_g$値は、すべてそれぞれのターゲット区間に収まっていた（例：300–400°Cのターゲットに対して378°Cおよび388°C、500–600°Cのターゲットに対して543°Cおよび548°C）。

意義
本論文は、教師あり学習のデータ要求に関する限界を克服することにより、多成分ガラスを設計するための効率的な手法を提供すると主張している。分類としてタスクを再定式化し、ノイズに強い拡張を用いた自己教師あり学習を採用することで、このフレームワークは強力な汎用性と適応力を示している。著者らは、このアプローチが、より広範な材料探索タスクに自己教師あり学習を適用するための基礎を築き、あらゆる特定の特性に対して網羅的な実験データを必要とすることなく、広大で未探索の組成空間における有望な候補の特定を可能にすると述べている。さらなる研究を促進するため、コードとデータは公開されている。