技術要約：スペクトル共鳴分解 (SRD) および AstralModel

1. 問題提起

本論文は、表形式データにおける統計的学習の根本的な二分化、すなわち不透明で高容量なアンサンブル（例：ランダムフォレスト、勾配ブースティング）と、硬直的で過学習気味な線形表現（例：一般化線形モデル）の間のトレードオフに対処している。

決定木ベースのアンサンブルは強力な経験的性能を達成するが、著者はそれらが以下の3つの決定的な構造的欠陥を抱えていると主張している：

1. 不連続な関数近似： 木構造はデータを区分定数のステップ関数としてモデル化するため、連続的な物理的勾配や滑らかなトレンドを捉えることができない。
2. 偽相関への脆弱性： 標準的な経験的リスク最小化 (ERM) は、因果的不変性を欠いているため、分布シフト（共変量シフト）が発生した際に精度が低下するショートカット（近道）を学習してしまうことが多い。
3. 較正されていない予測： 決定木アンサンブルもディープネットワークも、個々の点予測に対して、分布に依存しない信頼性の保証をネイティブには提供しない。

逆に、一般化線形モデルは解釈性を維持するものの、複雑な非線形多様体や非加法的な相互作用に直面すると崩壊する。本論文は、現在の解決策が「ブラックボックス的な複雑さ」か「線形的な単純さ」のいずれかを選択することを強いており、滑らかな非線形性、因果的堅牢性、および厳密な不確実性定量化を併せ持つ中間領域が欠如していると断じている。

2. 手法：スペクトル共鳴分解 (SRD)

提案される解決策は、Spectral Resonance Decomposition (SRD) フレームワークを通じて具体化された AstralModel である。このアプローチは、データ駆動型の非線形基底関数を合成し、それらを因果的安定性のためにフィルタリングするものである。手法は以下の5つの厳密な数学的フェーズで進行する。

2.1 適応型スペクトル共鳴カーネル

固定されたスプラインやディープレイヤーの代わりに、AstralModel はマルチジオメトリ非線形辞書を構築する。各共変量に対して、経験的分位点に基づいた基底関数を生成する。帯域幅は分位点間の間隔によって適応的に決定される。基底ファミリーは以下の5つの関数レジームを網羅する：

• 局所的分位点ハット (Localized Quantile Hats): 三角密度パルス ($\phi_{hat}$)。
• ガウス放射共鳴 (Gaussian Radial Resonance): 滑らかな局所エネルギーモード ($\phi_{rbf}$)。
• シグモイドランプ (Sigmoidal Ramps): 位相シフト ($\phi_{sig}$)。
• 代数変換 (Algebraic Transforms): 劣線形および超線形スケーリング（例：平方根、対数、符号）。

2.2 ペアワイズ・クロス共鳴発見

組合せ爆発を避けつつ特徴量間の相互作用を捉えるため、モデルは単変量相互情報量によって特徴量をランク付けする。その後、上位ランクのペアに対して候補となる相互作用基底（乗算、比、最小値、差）を合成する。相互作用は、個々のコンポーネントに対して厳密な相乗的情報利得を示す場合にのみ採用される。

2.3 不変リスク最小化 (IRM) 安定性診断

因果関係と偽のデータセット・アーティファクトを区別するために、モデルは IRM パラダイムを採用する。観測データでは明示的な環境タグが利用できないことが多いため、AstralModel は合成ブートストラップ摂動環境を生成する。

• 候補基底は、これらの摂動環境にわたって評価される。
• 因果安定性スコアは、信号対雑音比（SNR）と環境間での相関符号の一貫性に基づいて算出される。
• 方向性のドリフトが不安定、または安定性が低い基底は厳しくペナルティを課され、不変な基底は保持される。

2.4 前向き MDL グリーディ直交追求

フィルタリングされた候補プールから、加速されたグラム・シュミット・マッチング・パースートを用いて、簡潔なサブセットが選択される。選択基準は以下をバランスさせる：

1. 残差との相関利得。
2. 因果安定性スコア。
3. 最小記述長 (MDL) 複雑性ペナルティ（複雑な相互作用ペアには高いコストを、線形恒等式には低いコストを割り当てる）。
   選択された基底は直交化され、並列ランク1行列ダウンデイトによって候補プールが更新される。

2.5 安定性重み付き正規化 IRLS

パラメータは、安定性重み付き収縮を用いた反復再重み付け最小二乗法 (IRLS) を用いて推定される。

• 回帰: Huber ロバスト推定器を使用。
• 分類: 正規化ロジスティック回帰を使用。
• 重み付け: 不変な基底（高い安定性）は最小限の収縮を受ける一方、脆弱な基底は強い収縮を受ける。

2.6 分割コンフォーマル較正および選択的棄却

分布に依存しない有限サンプル保証を提供するために、モデルは分割コンフォーマル予測を使用する。

• モデルは較正セット上で適合度スコアを計算し、予測区間（回帰）または予測集合（分類）を生成する。
• 選択的棄却 (Selective Abstention): 予測される不確実性が適応閾値（誤差の四分位範囲に基づく）を超えた場合、モデルは棄却記号 ($\perp$) を出力し、安全性が重要な設定における高信頼度の失敗を防ぐ。

3. 主要な貢献と独自機能

本論文は、従来の推定量と AstralModel を区別する6つの建築的イノベーションを強調している：

1. 純粋な NumPy ゼロ依存エンジン: PyTorch、TensorFlow、またはコンパイルツールチェーンを一切使用せず、完全に NumPy のみで実装されており、エッジデバイスや組み込みシステムへの展開を可能にする。
2. 本質的な因果不変性フィルタリング: 手動の環境タグを必要とせず、合成ブートストラップ摂動を通じて偽のショートカットを自動的にペナルティ化する。
3. 完全な入力スケール免疫: 内部の適応型分位点正規化により、MLP や SVM で一般的な乖離問題を回避し、生の未スケーリング特徴量に対しても同一の性能を保証する。
4. ネイティブなコンフォーマル較正: 数学的に検証された有限サンプル信頼区間と、自動化された棄却トリガーを生成する。
5. 簡潔な直交完備性: MDL ペナルティとグラム・シュミット追求により、設計段階で多重共線性および過剰パラメータ化を排除する。
6. 完全な Scikit-Learn API 準拠: 既存のパイプラインへのシームレスな統合のため、標準的な fit、predict、score インターフェースを実装している。

4. 実証結果

著者は、3つのデータセットにおいて、10のベースライン（GBDT、ランダムフォレスト、ElasticNet、MLPを含む）に対し AstralModel のベンチマークを行った。

• 回帰 (Ames House Prices, 1,460 サンプル):

  • AstralModel は、スケーリング後の $R^2$ 0.8596 を達成し、決定木ベースのベースライン（例：ランダムフォレスト $R^2 \approx 0.88$、勾配ブースティング $R^2 \approx 0.90$）に匹敵または上回る性能を示した。これに対し、わずか 28 個の疎で解釈可能な基底関数のみを使用している。
  • 学習時間は 1.18 秒 であり、ディープラーニングのアプローチよりも大幅に速く、決定木アンサンブルとも競合する速度であった。

• 大規模分類 (EV Adoption, 15,000 サンプル):

  • AstralModel は、ROC-AUC 0.9394 および 精度 89.33% を達成した。
  • 勾配ブースティング（ROC-AUC 0.9376）およびランダムフォレスト（ROC-AUC 0.9336）と同等の性能であり、学習時間は 1.79 秒 であった。

• 臨床診断 (Cleveland Heart Disease, 303 サンプル):

  • AstralModel は、精度 83.61% および ROC-AUC 0.8896 を達成した。
  • これはランダムフォレスト（精度 78.69%）やロジスティック回帰（精度 78.69%）を上回り、AdaBoost と同等の性能を示しながら、完全な機能的透明性を提供した。

5. 意義と主張

本論文は、AstralModel が、複雑な表形式の予測モデリングに不透明なディープネットワークや不連続な決定木のステップ関数を必ずしも必要としないことを証明していると主張している。滑らかな局所的非線形基底共鳴を合成し、不変リスク最小化を通じて検証することで、モデルは以下を実現する：

• 競争力のある予測能力: 主要な決定木ベースのベースラインに匹敵または上回る。
• 完全な機能的透明性: モデルはブラックボックス的な重みではなく、解釈可能な数学的項で構成されている。
• 厳密な信頼境界: 分布に依存しない有限サンプルの予測区間を提供する。
• 計算効率: 軽量で依存関係のない実装により、大規模データセットに対してもサブ秒から2秒程度の実行レイテンシを実現する。

著者は、SRD が「ブラックボックス」アンサンブルと「硬直的」な線形モデルという現在の二分法に対する、数学的に透明で堅牢かつ効率的な代替案を提供すると結論づけている。