技術要約：仮説の冗長性下における発見（Discovery under Hypothesis Redundancy）

1. 問題提起

科学的発見システムは、名目上の仮説空間が枯渇しているからではなく、生成される新候補が独立した情報を提供できなくなるという「収穫逓減」の飽和点に直面することがよくあります。著者らは、この背後にある幾何学的メカニズムとして**スペクトル圧縮（spectral compression）**を特定しています。すなわち、仮説のアーカイブが増加するにつれ、仮説相関行列の実効次元（$r_{eff}$）が名目次元（$N$）よりも著しく小さくなる現象です。

このような圧縮された空間では、構造化された局所探索（既存の基本因子やオペレーターの再結合など）は、既存の方向の張る空間（span）から脱出できないため、収穫逓減に直面します。逆に、ランダムな非局所的探索はスペクトルの被覆範囲を広げますが、ランダムな方向はターゲットとなる信号と整合しないため、予測的な収益（yield）を向上させることはできません。核心となる問題は、リソースを冗長または非予測的な新規性に浪費することなく、いつ、どのように非局所的探索（例：大規模言語モデルによる探索）を統合すべきかを決定することです。

2. 手法およびフレームワーク

探索圧縮仮説（The Search Compression Hypothesis）

本論文は、以下の3つの幾何学的条件が同時に成立する場合にのみ、非局所的探索がハイブリッドな優位性を提供すると説く探索圧縮仮説を提唱しています。

1. スペクトル圧縮（Spectral Compression）: 仮説空間が圧縮されており（$r_{eff} \ll N$）、独立した方向の不足が生じていること。
2. 直交脱出（Orthogonal Escape）: 非局所的な提案が、現在の構造化されたスパンから有意な脱出距離（$d_\perp$）を持っていること。
3. 残留信号整合性（Residual Signal Alignment, RSA）: 提案の直交成分がターゲット信号と整合していること。

理論的定式化

著者らは、線形代数とスペクトル理論を用いてこれらの概念を定式化しています。

• 実効ランク（$r_{eff}$）: 相関行列 $\Sigma_A$ の固有値を通じて定義され、アーカイブ内の独立した方向の数を測定します。
• 局所収穫のスケーリング（命題1）: 構造化された局所探索の期待収穫は、実効ランクによって制限されます。$r_{eff}/N \to 0$ となるにつれ、構造化された列挙の収穫は比例的に減少します。
• 予測的新規性（Predictive Novelty）: 残差成分（$f - \text{proj}_A(f)$）のICIR（Information Coefficient Information Ratio）として定義されます。これにより、「有用な」新規性と、単なる「直交性」を区別します。

ハイブリッド発見フレームワーク

著者らは、3つのオペレーターからなるフレームワーク HYBRIDFACTOR を定義しています。これは $A_{t+1} = T_{verify} \circ T_{local} \circ T_{jump}(A_t)$ と表されます。

1. $T_{jump}$（非局所的）: LLMを使用して、構造化されたスパンから脱出するシード式を生成します。
2. $T_{local}$（局所的）: 拡張された近傍内で、LLMのシードの周囲で構造化された列挙（再結合）を実行します。
3. $T_{verify}$（フィルタリング）: 冗長な候補（アーカイブとの相関が高いもの）や非予測的な候補（ICIRが低いもの）を除去します。

このフレームワークは、非局所的な探索を行う決定を、これら3つの幾何学的条件に基づく診断手順として扱います。

3. 主な貢献

1. スペクトル圧縮の特定: 本論文は、仮説相関行列の実効ランクを、構造化探索の収穫に直接結びつけることで、スペクトル圧縮を、発見システムの収穫逓減を説明する統一的なメカニズムとして定式化しました。
2. ハイブリッドな優位性のための幾何学的条件: 定理1は、圧縮の深刻度、脱出距離、および残留信号の整合性が、ハイブリッドな優位性のための個別に必要な条件であることを確立しています。いずれか一つを欠くと、非局所的探索の恩恵は消失します。
3. 直交性と予測的新規性の区別: ランダムな直交ジャンプは被覆範囲を広げますが、収穫を向上させないことを示しました。有用な探索には、単なる直交性ではなく、ターゲットに向けられた方向性のある非局所的ジャンプが必要です。
4. クロスドメインでの検証: 著者らは、この幾何学的ボトルネックとハイブリッドな解決策が、金融ファクター発見、記号回帰、および合成ストレス・テストを含む多様なドメインに適用可能であることを示しました。

4. 実験結果

金融ファクター発見（A株）

• 設定: 100個のファクターを持つ構造化アーカイブを用い、5,647銘柄のA株（2010–2026年）に対してテストを実施。
• 知見:
  • 高度に圧縮されたレジーム（高相関）において、ハイブリッド・アプローチ（LLM + 構造化）は、純粋な構造化探索を大幅に上回りました。
  • シグナルの植え付け（Signal Planting）: ターゲット信号が「弱い」固有空間（局所探索では表現されにくい領域）に植え付けられていた場合、ハイブリッド手法は正の収穫利得（$\Delta \approx +2.5$）を達成しました。一方で、信号が「トップ」の固有空間にあった場合、ハイブリッドの利得は負となり、ハイブリッド探索がまさに局所探索がターゲットとなる方向を過小評価している場所で効果を発揮することを裏付けました。
  • 指向性 vs ランダム: 検索ガイド付きのLLMシード（高いRSA）は、ほぼ同等の脱出距離において、シャッフルされたシードよりも53%高い収穫を達成しました。これは、距離よりも方向が重要であることを証明しています。

合成およびクロスドメインのストレス・テスト

• 圧縮スイープ: 様々な $r_{eff}/N$ を持つ合成環境において、ハイブリッドの優位性は強い圧縮下（$r_{eff}/N \approx 0.1$）で最大となり、空間がフルランクに近づくにつれて（$r_{eff}/N \to 1$）消失しました。
• 記号回帰（LLM-SRBench）: 158個の方程式において、ハイブリッド手法は合成方程式では純粋な遺伝的プログラミング（GP）と同等の性能を示しましたが、敵対的に変換された方程式に対しては、GPが壊滅的な失敗（catastrophic failure）を起こした46ケースのうち25ケースを救済しました。これは、非局所的なシードが、探索景観が極めて圧縮されている、あるいは欺瞞的である場合に最も価値があるという主張を支持しています。
• 公開テーブルデータによる検証: OpenMLデータセットを用いた運用上の妥当性チェックにおいて、幾何学的条件を用いてLLMの使用を判断する「診断的予算配分ポリシー」は、固定された50/50のハイブリッド戦略や強制的な非局所的探索よりも優れた性能を示しました。

5. 意義と主張

本論文は、普遍的な法則ではなく、診断手順を提示していると主張しています。その主要な意義は、LLMによる誘導型探索のパラダイムを、「一般的な新規性探索」から「ターゲットを絞った、幾何学的に意識されたプロセス」へと転換させたことにあります。

• いつ探索すべきか: フレームワークは停止ルールを提供します。もし仮説空間がフルランクに近く（$r_{eff}/N \approx 1$）、または脱出距離や信号の整合性がゼロに近い場合、非局所的探索はハイブリッドな優位性をもたらさないため、停止すべきです。
• 貢献の性質: 著者らは、探索圧縮原理を「候補となる幾何学的法則」および「候補となる法則」として明示しており、証明された普遍的真理としてではなく、記述的なものとして扱っています。この研究は、探索がいつ価値を持つかを説明するものです。
• 実用的な意味合い: 結果は、発見システムにおけるリソース配分は動的であるべきであることを示唆しています。スペクトル診断が、圧縮された探索空間と未探索のターゲット指向の方向を示している場合にのみ、指向性のある非局所的探索への投資を増やすべきです。

結論として、新規性だけでは不十分であり、探索が**予測的に新規（predictively novel）**であるとき、すなわち、圧縮されたスパンを脱出し、かつ残留ターゲット信号と整合しているときにのみ、発見の収穫は最大化されます。