あなたは探偵としてミステリーを解こうとしていると想像してください。しかし、実際の犯罪現場はありません。代わりに、あなたが「こうであったはずだ」と考える出来事を描いた、極めて詳細なコンピュータ生成の映画があります。あなたは、その映画を使って探偵としてのスキルを鍛え、手がかりを見つけ、結果を予測することを学びます。そして、その映画で訓練された探偵の目を持って現実の世界に目を向け、真実を見つけ出そうとします。これは、現代の物理学者が行っていることそのものです。彼らは、巨大なリングの中で衝突する極微の粒子から、星の誕生に至るまで、宇宙をモデル化するために膨大なコンピュータ・シミュレーションを使用しています。そして、天体望遠鏡や粒子加速器からの実際のデータを分析するために、機械学習（ML）——パターンの学習に長けた非常に賢いコンピュータ・プログラム——を活用しています。

しかし、ここに落とし穴があります。コンピュータの映画は決して完璧ではありません。それは近似値に過ぎないのです。もしかしたら、映画の中の物理学がわずかに間違っているかもしれませんし、シミュレーション内の「カメラ」が実際の望遠鏡と完全には一致していないかもしれません。モデルが間違っているとき、私たちはそれを「誤設定（ミススペシフィケーション）」と呼びます。通常、私たちはこうした小さなエラーを知っており、修正することができます。しかし、時には、私たちが存在すら知らなかった方法でモデルが間違っていることがあります。これらが「未知の未知（unknown unknowns）」です。あまりにも隠れた欠陥であるため、通常のチェックでは検知できないのです。これは重大な問題です。なぜなら、もしあなたの探偵が欠陥のある映画で訓練されていたら、実際にはプロジェクターの不具合を見つけただけなのに、新しいエイリアンの種族を発見したと思い込んでしまうかもしれないからです。あるいはもっと悪いことに、その不具合のせいで、本物のエイリアンが背景ノイズのように見えてしまい、見逃してしまうかもしれません。

「Unknown Unknowns: Model Misspecification in Machine Learning for Physics」と題されたこの論文は、これらの探偵たちのためのガイドブックとして機能します。著者である物理学者とデータサイエンティストのチームは、機械学習がこの問題を作り出しているのではなく、それをより大きく、無視できないものにしているのだと主張しています。彼らは、MLが新しい物理学を発見するための強力なツールである一方で、シミュレーション内の隠れたエラーを増幅させる可能性もあると説明しています。この論文は、すべてを一瞬で解決する魔法の杖を提示するものではありません。その代わりに、考え方とツールキットを提案しています。それは、モデルが100%完璧であると確信することはできないという教訓です。代わりに、モデルを常にストレス・テストし、どこで壊れるかを確認するために一連の異なるチェックを行い、モデルが間違ったとしても耐えられるように実験を設計する必要がある、と説いています。核心となるメッセージは、優れた科学者とは完璧なモデルを持つことではなく、自分のモデルを疑う姿勢を持ち、予期せぬ形で間違ったとしても対処できるシステムを構築することなのです。

探偵のジレンマ：地図が間違っているとき

物理学を「地図と領域」のゲームと考えてみてください。「領域」とは、現実の宇宙であり、それは複雑で、混沌としており、時には奇妙な振る舞いを見せます。「地図」とは、その領域を記述しようとする数学的モデルやコンピュータ・シミュレーションのことです。昔、物理学者は地面と照らし合わせながら手書きで地図を描いていました。今日、私たちは機械学習を使用して、電光石火の速さで地図を描いています。しかし、もし地図が間違ったルールで描かれていれば、探偵は迷子になってしまいます。

論文は、地図が「誤設定されている」とはどういう意味かを定義することから始まります。それは単なるタイポ（打ち間違い）ではなく、根本的な誤解です。天気を予測しようとしている場面を想像してください。もしあなたのモデルが「雨は常に真下に降る」と仮定しているのに、実際には風が雨を横に吹き飛ばしているとしたら、あなたのモデルは誤設定されています。物理学において、これは、隠れた力や奇妙な粒子相互作用のように、パズルのピースを一つ見落としているときに起こります。著者たちは重要な区別を行っています。時には、地図が間違っていることを見つけること自体が目的になることもあるのです！（例えば、地図が特定のやり方で失敗した場合、それは新しい自然法則、例えばダークエネルギーの発見を意味するかもしれません）。しかしまたある時は、地図が単に退屈な方法で乱れているだけであり（例えば、ぼやけたカメラのレンズのように）、単に何かを正確に測定するために画像をクリアにする必要があるだけかもしれません。課題は、「新しい発見」と「不具合（グリッチ）」をどう見分けるかです。

「未知の未知」という怪物

この物語で最も恐ろしい部分は、「未知の未知」です。「自分が何を知らないか」を知っている状態ですか？ それは「既知の未知（known unknown）」です。例えば、定規が数ミリずれているかもしれないと知っている場合、それは対処可能です。しかし「未知の未知」とは、定規が壊れていることすら気づいていない状態です。例えば、定規が熱によって伸びる性質があり、温度の影響をチェックすることすら考えていなかった場合です。

論文は、機械学習がこれらの怪物をより危険なものにすると説明しています。MLモデルはパターンを見つけるのが非常に得意であるため、現実の物理学の代わりに、シミュレーション内の「不具合」を誤って学習してしまう可能性があるからです。もしシミュレーションに、高速走行時のみ発生するような、小さくて奇妙なエラーがあった場合、MLモデルはそのエラーを一つのルールとして学習してしまうかもしれません。そうなると、現実のデータを見たときに、モデルは混乱するか、あるいはさらに悪いことに、自信満々に間違った答えを出してしまいます。著者らは、モデルがデータによく適合しているからといって、それを信頼してはいけないと警告しています。モデルは「間違った理由で正解している」可能性があるからです。それは、エラー同士が偶然打ち消し合うような、壊れた論理を用いて正しい答えを予測しているのかもしれません。

ツールキット：不具合を捕まえる方法

では、どのようにしてこれらの目に見えない怪物を捕まえるのでしょうか？ 論文は、たった一つのテストに頼ることはできないと示唆しています。それは、船の漏水を調べるようなものです。水位を見るだけでは不十分で、船体を叩いたり、滴りを聞いたり、あるいは船に水を満たしてどこから泡が出るかを確認したりする必要があります。

1. 適合度（「正しく見えるか？」テスト）： これは最初のチェックです。現実のデータとシロメーションを比較します。もし両者が全く異なって見えるなら、何かが間違っていることがわかります。論文では、いくつかの方法を挙げています。例えば「分類器（スマートな仕分け役）」を使用して、現実のデータと偽のデータを区別できるかどうかを確認します。もし仕分け役が両者を容易に区別できるなら、モデルは誤設定されています。しかし、仕分け役が区別できない場合でも、モデルが分類器の気づかない微妙な部分で間違っている可能性があります。

2. データの分割（「ストレス・テスト」）： ある学生に特定の練習問題で訓練させたと想像してください。もしその学生がテストで満点を取ったら、素晴らしいことです。しかし、もし全く異なるトピックの問題を出したらどうでしょう？ もし不合格なら、その学生は概念を本当に理解したのではなく、単に答えを暗記しただけです。物理学者はデータの分割を行うことでこれを行います。例えば、宇宙の一部のデータ（初期宇宙など）でモデルを訓練し、別の部分（後期宇宙など）でテストします。もしモデルが失敗するなら、それは普遍的な法則を学んだのではなく、最初のデータセット特有の癖を学んだに過ぎないことを意味します。

3. 閉鎖性テスト（「偽の現実」チェック）： ここでは、答えが分かっている「完璧な偽の宇宙」を作成します。研究者はこの偽のデータに対して解析を実行します。もし、解析が「そこにあると分かっている答え」を見つけられないのであれば、その手法自体が壊れていることになります。これは、シェフが自分で作った料理を試食するようなものです。もし、自分が加えた塩味を感じ取れないのであれば、料理ではなく、自分の味覚が壊れているのです。

地図を修正する：緩和戦略

不具合が見つかったとき、どうすればよいのでしょうか？ 論文は、それを修正する方法、あるいは少なくとも対処する方法を4つ挙げています。

• 不確実性による被覆： 地図が少しぼやけていることは分かっているが、どの程度ぼやけているのか正確には分からないことがあります。その場合は、結果に大きな「ぼやけラベル」を付けます。これは、「宝物はここにある。ただしプラスマイナス1マイルの誤差あり」と言うようなものです。これは地図を直すものではありませんが、実際には隣の町にいるのに、宝物を見つけたと主張してしまうことを防いでくれます。

• キャリブレーション（校正）： これはラジオのチューニングのようなものです。シミュレーションの音が現実のデータと少し違っている場合、現実と一致するように「つまみ（重み付け）」を調整できます。シミュレーションを現実により近く見えるように変更できるのです。しかし、論文は警告しています。注意してください！ ラジオをチューニングしすぎると、探そうとしていた「新しい音楽（新しい物理学）」まで消してしまう可能性があります。

• 悪い特徴の回避： もし地図の特定の場所が壊れている（存在しない橋があるなど）と分かっているなら、そこを通らないようにします。物理学においては、シミュレーションがうまく扱えない特定のデータポイントや特徴を無視することを意味します。これは、写真のぼやけた部分を無視することに似ています。

• データ駆動型モデリング： シミュレーションを一切使わずに、実際のデータを見てモデルを構築する方法もあります。これは、マニュアルを読む代わりに、他の車を見ることによって運転を学ぶようなものです。これによりシミュレーションのエラーは回避できますが、現実のデータの振る舞いに関する新たな仮定が必要になります。

未来：ロボットは探偵になれるか？

論文は未来への展望で締めくくられています。人工知能に科学的手法のすべてを行わせることができるでしょうか？ 理論を提案し、モデルを構築し、テストを行い、エラーを見つけ、自ら修正するロボットを想像してみてください。著者らは、これが可能であると示唆していますが、一つ条件があります。AIはパターンの発見には長けていますが、「センス（趣向）」を持たない可能性があります。データに完璧に適合する理論を導き出すことはできても、人間の物理学者が持つような感覚を持たないかもしれません。AIは、現実の発見を導くことの多い「美しさ」や「単純さ」を見落としてしまう可能性があります。したがって、AIは数百万通りの可能性をチェックする助けにはなりますが、どの可能性を追求すべきかを決めるのは、依然として人間の探偵なのです。

結論

この論文から得られる最も重要な教訓は、新しい公式や新しいツールではありません。それは「姿勢」です。著者らは、「すべてのモデルは間違っているが、有用なものもある」と説いています。目標は、決して失敗することのない完璧なモデルを作ることではありません。目標は、予想もしなかった形で間違ったとしても、それに耐えうるほど堅牢なモデルを構築することです。それは謙虚さを持つことです。「自分は間違っているかもしれない」と認め、その間違いによって調査全体が台無しにならないような実験を設計することなのです。

巨大なコンピュータと非常に賢いアルゴリズムの世界において、最も強力なツールは、依然として「自分の仕事を疑う人間の意志」であると、この論文は主張しています。私たちは常に、「何かを見落としているのではないか？」「モデルが私に嘘をついているのではないか？」と問い続けなければなりません。なぜなら、結局のところ、最大の発見は、私たちの地図が役に立たなくなり、新しい地図を描かなければならなくなった瞬間に訪れるものだからです。