A single design choice determines whether machine learning models of materials make physically impossible predictions

新材料の発見を目指す中で、科学者たちは長い間、強力な近道を利用してきました。それは、対称性の規則を用いて結晶がどのように振る舞うかを予測することです。結晶は原子の無秩序な集まりではなく、原子が精密なパターンで繰り返される高度に秩序化された構造体です。この秩序があるため、物理法則は特定の性質が特定の挙動を示すことを規定しています。例えば、もし結晶をその中心を通って裏返しても全く同じ形に見える場合（これは中心対称性として知られる特性です）、その結晶は押しつぶされた際に電気を発生させることができません。これは、材料が弱いとか測定が不正確であるといった問題ではなく、自然界の厳格なルールなのです。もし結晶にこの中心対称性があるならば、電気的な応答は正確にゼロでなければなりません。

数十年にわたり、研究者たちは量子力学に基づいた複雑なコンピュータ・シミュレーションを用いて、これらの特性を計算してきました。しかし今日では、より高速な手法である機械学習が主流になりつつあります。これらの人工知能モデルは、既知の結晶の膨大なデータベースから学習することで、材料特性を予測するように訓練されています。これらは、電池、太陽電池、あるいは電子機器のための新物質を発見するための主要なツールとなりつつあります。期待されているのは、これらのモデルが人間の物理学者のように、あるいは人間が見落とすかもしれないデータ内のパターンを見つけ出すことで、それ以上に優れた方法で対称性の規則を学習できることです。しかし、このスピードにはリスクが伴います。もしモデルが対称性の基本法則を厳格に遵守していなければ、自然界が禁止していること、例えば、物理的に不可能なはずなのに電気を発生させるといった予測をしてしまう可能性があるからです。

テキサスA&M大学およびその他の機関の研究者による最近の研究は、これら普及している機械学習モデルの多くがどのように構築されているかについて、驚くべき欠陥を明らかにしました。研究チームは、モデルがこれらの絶対的な物理法則を尊重するかどうかは、どれだけのデータを見聞きしたかや、どれほど長く訓練されたかによって決まるのではないことを発見しました。むしろ、それは訓練が始まる前に下される、たった一つの極めて小さな設計上の選択によって決定されるのです。その選択とは、モデルの内部的な「特徴量」（結晶の形状を理解するために使用される数学的な構成要素）が、「パリティ」と呼ばれる特定のラベルを持っているかどうかです。パリティとは、鏡に映したり、裏返したりしたときに形がどのように変化するかを追跡する方法です。研究者たちは、もしモデルにこのラベルが欠けていれば、たとえどれほど懸命に学習しようとしても、対称性が要求する正確なゼロを予測することは数学的に不可能であることを突き止めました。モデルは常に、わずかな非ゼロの値を出力してしまいます。これは、物理的に不可能な予測を意味します。

これを証明するために、研究者たちは、結晶を押しつぶした際にどれだけの電気を生成するかを測定する「圧電テンソル」と呼ばれる特性を用いた厳格なテストを実施しました。彼らは、中心対称性を持つ（つまり、中心の対称性を持つ）ことが分かっている2,000種類の異なる結晶に焦点を当てました。物理法則によれば、これらすべての結晶における圧電応答は正確にゼロでなければなりません。チームは、この分野で使用されている最も高度な機械学習モデルをいくつか選び、それぞれのモデルに対して2つのバージョンを作成しました。一方のバージョンはパリティ・ラベルを含めて構築され、もう一方は、それ以外の点はすべて同一でありながらパリティ・ラベルを含まないものでした。そして、両方のバージョンを同じデータで訓練し、2,000種類の中心対称結晶に対する圧電応答を予測させました。

結果は劇的かつ即時的でした。パリティ・ラベルを持つモデルは、コンピュータの精度限界に至るまで、すべての結晶に対してゼロの値を予測しました。彼らは、これらの材料が電気を生成できないことを正しく特定したのです。対照的に、パリティ・ラベルを持たないモデルは目覚ましい失敗をしました。彼らは、90〜96パーセントの結晶に対して非ゼロの応答を予測したのです。これらの予測は単なる微小な誤差ではありませんでした。それらは、電気を生成できる材料に見られる実際の電気的応答と同じくらいの大きさになることもありました。この2つのグループの差は、単なる小数点以下の桁数の違いではなく、6桁もの差がありました。つまり、「間違った」モデルは、「正しい」モデルよりも、物理的に不可能な事象を予測する確率が100万倍も高かったのです。

研究者たちは、訓練によってこの問題を解決できるかどうかをテストしました。彼らは「間違った」モデルに対し、中心対称の結晶の例を、正しいゼロのラベルと共に特別に多く提示し、モデルがその規則を学習することを期待しました。しかし、それは効果がありませんでした。何千もの例で答えがゼロであることを示された後でも、モデルは非ゼロの値を予測し続けました。ゼロに近づくことはできても、物理法則が要求する正確なゼロに到達することは決してできなかったのです。また、研究は、モデルの結果とその鏡像を平均化するだけでは問題は解決しないことも示しました。なぜなら、モデルの根底にある構造自体が対称性のルールに対して盲目だからです。

この発見は、材料科学の分野に深い影響を与えます。機械学習モデルの信頼性は、標準的なテストにおける正確さだけでなく、物理的現実を表現するための構造的な能力によって決まることを示唆しています。研究者たちが現在使用されている18種類の機械学習アーキテクチャを監査したところ、正確に半分が、必要なパリティ・ラベルを欠いていることが分かりました。これは、科学者が新材料を発見するために使用しているツールの大部分が、ある種の結晶に対して正しい予測を行うことが根本的に不可能であることを意味しています。問題は、これらのモデルの学習能力が低いことではなく、その設計自体がこの特定の真理を学習することを妨げていることなのです。

この研究はまた、科学の分野で見られる、原子の一般的な構造をすでに学習済みの「学習済みモデル」を取り込み、そこに特定の特性を予測するための新しい「ヘッド（出力層）」を取り付けるという、増強的な傾向についても強調しています。研究者たちは、もし元のモデルがパリティ・ラベルなしで構築されていた場合、新しい特性予測器はその欠陥を継承することを示しました。新しい部分がいかに注意深く設計されていても、もし基礎となるモデルにパリティ・ラベルが欠けていれば、その構造全体が物理法則を尊重できなくなります。つまり、このラベルを含めるか除外するかという決定は、ベースとなるモデルの作成者によって、より上流の段階で行われることが多く、それが後にそのモデルを使用するあらゆる人が行う予測の妥当性を、密かに決定してしまうのです。

最終的に、論文は、機械学習が真に信頼できるものとなるためには、データから単に学習するだけでなく、物理法則がその構造の中に組み込まれていなければならないと主張しています。研究者たちは、シンプルなチェック方法を提案しています。対称性によってゼロになるはずの特性を予測するモデルを信頼する前に、ランダムな結晶構造に鏡面反射を適用することで、数秒でテストを行うことができます。もしモデルが非ゼロの値を予測するならば、そのモデルには必要なパリティ・ラベルが欠けており、そのタスクにおいて信頼できないということです。これは改善の提案ではなく、物理的な妥当性のための要件です。研究は、このラベルの有無が、モデルを「発見のための道具」にするのか、それとも「不可能な予測の源」にするのかを決定する唯一の要素であり、新材料の探索に使用されるすべてのモデルにおいて、報告および検証されるべき詳細事項であると結論付けています。