🔬 applied physics

Fast and Accurate Foundation Models for Equivariant Machine-Learned Interatomic Potentials

本論文は、最適化されたNequIPおよびAllegroアーキテクチャを通じて速度と精度のトレードオフを克服した、高速かつスケーラブルで高精度な原子間ポテンシャル向けの等変基盤モデルのファミリーを提示しており、将来の材料探索における改善は、モデルの複雑さ単独よりも、データセットの多様性と一貫した遷移金属の記述に依存することを強調している。

原著者： Seán R. Kavanagh, Chuin Wei Tan, Menghang Wang, Marc L. Descoteaux, Gabriel de Miranda Nascimento, Ulrik Unneberg, Laura Zichi, Francesco Libbi, Norma Rivano, Austin Glover, Vivek Bharadwaj, Anders Jo

公開日 2026-07-31

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Seán R. Kavanagh, Chuin Wei Tan, Menghang Wang, Marc L. Descoteaux, Gabriel de Miranda Nascimento, Ulrik Unneberg, Laura Zichi, Francesco Libbi, Norma Rivano, Austin Glover, Vivek Bharadwaj, Anders Johansson, William C. Witt, Albert Musaelian, Boris Kozinsky

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

巨大で目に見えないレゴのお城がどのように振る舞うかを予測しようとしているところを想像してみてください。揺らしたら崩れてしまうでしょうか？熱を金属のフライパンのように伝えるのでしょうか、それともウールのセーターのように断熱するのでしょうか？材料科学の世界では、科学者たちはこれらの小さな積み木（原子）をシミュレートするためにスーパーコンピュータを使用し、新しい電池や医薬品、超強力な金属を設計しています。しかし、ここには落とし穴があります。原子がどのように相互作用するかを計算する最も正確な方法は、100万ピースのパズルを手作業で解くようなもので、膨大な時間がかかり、莫大なコンピューター費用を要します。これをスピードアップするために、科学者たちは「機械学習原子間ポテンシャル（MLIP）」を作り出しました。これは、超スマートな早送りビデオゲームエンジンだと考えてください。物理法則を一つひとつ最初から計算する代わりに、このエンジンは数百万回の過去の計算から原子が通常どのように振る舞うかを「学習」しており、瞬きする間に結果を推測することができます。最近、科学者たちはこれらのエンジンを大規模なデータセットで訓練し、「基盤モデル」を作成し始めました。これは、特定の仕事に合わせて微調整できる、一種のユニバーサルなチートコードのようなものです。しかし、ここで大きな疑問が生じます。私たちはこれらのチートコードを、驚異的な速さと驚異的な正確さの両立させることができるのでしょうか、それともどちらか一方を選ばなければならないのでしょうか？

この論文は、どちらか一方を選ぶ必要はないことを証明し、「究極のチートコード」を作ることに決めたチームの物語です。彼らは、NequIPとAllegroと呼ばれる2つの特定のアーキテクチャを用いた、新しい種類の「基盤モデル」を開発しました。これらのモデルを2種類の異なるタイプの超アスリートとして想像してみてください。一方は、あらゆる角度を細かくチェックする几帳面な建築家（Nequip）であり、もう一方は、細部にこだわらずに全体像を捉える電光石火のスプリンター（Allegro）です。研究者たちは、1億個を超える原子構造という膨大なライブラリを用いて、これらのアスリートを訓練しました。そのデータセットはあまりに巨大で、古いシステムでは訓練に数週間を要したはずのものです。「グラフコンパイル」（レースが始まる前にデータを整理すること）や「混合精度演算」（簡単な部分には少し精度の低い計算機を使用すること）といった巧妙なソフトウェアのトリックを用いることで、彼らはこれらのモデルを以前よりも5倍から10倍速く訓練することに成功し、計算コストを数週間のコンピューティング時間から、わずか数百GPU時間へと削減しました。

結果はゲームチェンジャーとなるものです。チームは、これらの新しいモデルが単に速いだけでなく、材料の振る舞いを予測する上でこれまでで最も正確であることを発見しました。彼らは3つの主要な課題でテストを行いました。それは、新しい材料の最も安定した形状を見つけること（完璧なレゴの構造を見つけるようなもの）、材料がどれほど熱を伝えるかを予測すること（電子機器にとって極めて重要）、そして材料がどのように伸びたり潰れたりするかを計算することです。モデルはこれらを見事にクリアし、しばしば過去の記録を塗り替えました。しかし、論文は特定の「盲点」についても指摘しています。これらのモデルは一般的な化学には長けていますが、遷移金属（鉄、クロム、マンガンなど）については、依然として少し苦戦しています。なぜなら、これらのトリッキーな元素に関する訓練データが少し一貫していないからです。それは、モデルがほとんどの言語には堪能であるものの、文法規則が予期せず変化するいくつかの「方言」に対して混乱してしまうようなものです。

著者たちはまた、これらのモデルがどのようにスケールアップするかについても調査しました。彼らは、これらのモデルが数千のコンピューターチップが連携して動作し、1億個以上の原子を持つシステムをシミュレートできることを示しました。これは非常に大きな意味を持ちます。なぜなら、これにより科学者が原子レベルの精度で砂粒全体や液体の小さな滴をシミュレートできるようになるからです。これは以前は不可能だったことです。論文は、より優れた材料の未来は、単にモデルを大きくすることではなく、訓練データをクリーンアップすること（特にこれらのトリッキーな遷移金属について）、そしてデータを生成するために使用される「ルール」が一貫していることを確認することにあると示唆しています。要するに、彼らはより速く、より鋭く、より信頼性の高いツールを構築しました。適切なソフトウェアのアップグレードがあれば、スピードと正確さの両方を手に入れ、「ケーキを食べて、かつ、それを保持する（両立させる）」ことができるのだと証明したのです。

技術要約：等変機械学習原子間ポテンシャルのための高速かつ高精度な基盤モデル

問題提起
機械学習原子間ポテンシャル（MLIP）は、大規模で多様なデータセット（例：MPtrj、Alexandria、OMat24）で学習され、ダウンストリームのファインチューニングに利用される「基盤モデル」として、計算材料科学において不可欠なものとなっている。しかし、重要なボトルネックが存在する。分子動力学（MD）のような科学的応用には、高い精度と推論・学習速度の両方が必要である。回転や反転といった物理的対称性を符号化する等変アーキテクチャは、優れた精度とデータ効率を提供するが、超大規模なデータセット（数億の構造）でこれらを学習させることは、歴史的に計算コストが極めて高く、数週間の学習時間を必要とすることが多かった。さらに、モデルのサイズ、推論速度、および精度の間で、特にデータ効率よりも生のパフォーマンスが重要となる大規模なデータセットへのスケーリングにおいて、いかにして相反する要求のバランスを取るべきかが依然として不明確である。

手法
著者らは、ますます大規模化する無機材料データセット（DIRECT (~~186k)、MPtrj (~~1.58M)、MPA (~~10.5M)、OAM (~~113M structures)）で学習された、NequIPおよびAllegroの等変グラフニューラルネットワークアーキテクチャに基づく一連の基盤ポテンシャルを提示している。

主な手法上の進展は以下の通りである：

インフラストラクチャの加速： 本研究では、NequIPフレームワークの最近の開発（グラフコンパイル torch.compile、マルチGPU学習のための分散データ並列（DDP）戦略、最適化されたテンソル積カーネル（NequIP用のOpenEquivariance、Allegro用のcuEquivariance））を活用している。
混合精度学習： 著者らは、精度を大きく損なうことなく学習を最大3倍加速させるために、混合精度戦略（埋め込みにはfloat64、テンソル積にはfloat32、中間計算には自動混合精度を使用）を利用している。
2段階学習： 最適な学習プロトコルは、力の誤差に対する重みを高く設定した初期実行に続き、エネルギー誤差の重みを増やし、学習率を下げ、フル精度で継続する実行を行うプロセスを含む。
モデルのバリエーション： パラメータ数、精度、および速度のトレードオフを調査するために、さまざまなサイズ（Small, Medium, Large, Extra-Large）のモデルを学習させた。OAMデータセットの学習には特定のプロトコルを用いた：非平衡幾何構造を含むOMat24で事前学習を行った後、Materials Projectの設定との互換性を確保するためにMPAでファインチューニングを行った。

主な貢献

加速された学習パイプライン： グラフコンパイルと加速されたカーネルの統合により、H100/H200 GPUを使用した場合の~100–750 GPU時間という控えめな計算コストで、1億を超える構造を持つ高精度な基盤モデルの学習が可能となった。これは、従来の数週間を要する要件からの大幅な削減である。
ベンチマークスイート： 著者らは、以下の領域をカバーするコミュニティベンチマークに対してモデルを厳格に評価した：
- 材料探索： 基底状態の幾何構造および凸包エネルギーの予測（Matbench Discovery）。
- 熱伝導率： フォノン力定数による非平衡特性の予測。
- 近平衡特性： バルク/せん断弾性率、熱容量、および力の大きさの比率の評価（MatCalc）。
スケーラビリティ分析： 本論文は、反復的なメッセージパッシングによって制限されていたNequIPアーキテクチャが、現在ではLAMMPS内のKokkos加速ML-IAPインターフェースを介した効率的なマルチGPU推論をサポートしており、最大1億個の原子を含むシステムのシミュレーションが可能であることを示している。

結果

精度： NequIP-OAM-XL モデルは、ベンチマークにおいて最先端の性能を達成している。凸包エネルギーのMAEは19.7 meV/atomであり、熱伝導率の対称相対平均誤差（ $\kappa_{SRME}$ ）は0.129である。
スケーリング則：
- モデルサイズ： 精度は一般に、小型から大型のモデルにかけてモデルサイズとともにパワーロー（冪乗則）に従って向上する。しかし、XLモデルは飽和の兆候を示しており、これは極端なスケールにおける特定のアーキテクチャの収穫逓減を示唆している。
- データセットサイズ： 熱伝導率の精度はデータセットのサイズとともに理想的にスケールし（NequIPのパワーロー指数 $\alpha \approx 0.24$ ）、非平衡幾何構造の価値を裏付けている。一方で、材料探索の精度は、MPAからOAMへのスケーリングにおいて限定的な改善しか示さなかった。
誤差解析： 材料探索の精度が大規模データセットで改善しない理由は、組成の多様性と遷移金属化合物の不整合な記述に起因する。具体的には、多価の第一遷移金属（V, Cr, Mn, Fe）およびアクチノイド（Np, Pu）において著しく高い誤差を示す。著者らはこれを、トレーニングデータにおけるHubbard $U$ 補正の一貫性のない適用（酸化物/フッ化物には適用されているが、金属には適用されていない）と、相関電子系の固有の複雑さに起因すると考えている。
速度 vs 精度： 学習されたモデルは、精度と速度のトレードオフにおけるパレートフロントを定義している。例えば、NequIP-O以外にも、NequIP-OAM-XLは他の主要なモデル（例：eSEN-30M-OAM）と同等の総合的なパフォーマンススコアを達成しながら、約1桁速い推論速度を実現している。
オーバーソフトニング（過度な軟化）： 多様なデータセット（非平衡構造を含む）で学習された大規模モデルは、最小限の「オーバーソフトニング」（高エネルギー状態における力の過小評価）を示しており、力の大きさの比（ $f/f_{DFT}$ ）は0.98に達している。

意義と主張
本論文は、高精度な基盤ポテンシャルの学習における主要な障壁は、もはや計算コストではなく、データの質と多様性であると主張している。著者らは、将来の材料探索用MLIPの進歩は、生のモデルのスケーリングよりも、以下の点に依存すると論じている：

一貫したデータ： トレーニングデータセット全体にわたる不整合な計算設定（例：Hubbard $U$ の適用）によって引き起こされる系統的な誤差を排除すること。
化学的多様性： イオン置換を超えて、より広範な化学的・構造的多様性（特に複雑な遷移金属系）を含むデータセットを拡大すること。
アーキテクチャの適応性： 異なる元素の多様な複雑さを扱うために、モデルが局所的な化学環境に基づいて動的に径方向および角度方向の解像度を調整できるようにすること。

本研究は、現在のインフラストラクチャを用いれば、個々の研究グループが約1億個の原子をシミュレートできる高忠実度な大規模原子シミュレーションへのアクセスを民主化できることを確立している。提供されたモデルは、ターゲットを絞った化学空間でのファインチューニングのための堅牢な出発点として機能する。

関連論文