技術的概要：自動 AI 研究のための MARS（Reflective Search を備えたモジュラーエージェント）

1. 問題提起

AI 研究の自動化は、複雑な機械学習エンジニアリング（MLE）タスクの実行において、重大なボトルネックに直面している。一般のソフトウェア工学では、正しさがしばしば二元的であり、検証が計算コスト的に安価であるのに対し、MLE は確率的でリソース集約的な営みである。それは以下によって定義される風景を navigated することを必要とする：

• 計算的に高価な評価: モデルのトレーニングとデータ処理は膨大なリソースを消費するため、「試行錯誤」は高コストである。
• 不透明な性能帰属: 実験がより良い結果をもたらした際、特定の因果要因（クレジット割り当て）を特定することは困難である。
• アーキテクチャの複雑性: 研究リポジトリは、データ読み込み、モデルアーキテクチャ、トレーニングループ間のシームレスな相互作用を必要とする。

現在の大規模言語モデル（LLM）エージェントはこの領域で苦戦している。これらは通常、実行コストを無視した単一のモノリシックなスクリプトを生成し、厳密な工学に必要なモジュラリティを欠き、クレジット割り当て問題を解決できないため、過去の試行から効果的に学習できない。

2. 手法：MARS フレームワーク

MARS（Reflective Search を備えたモジュラーエージェント）は、研究プロセスを最適なソフトウェアリポジトリの探索として再定義する。これは、自律的な科学的発見の特定の制約に対処するように設計された 3 つの中核的な柱に基づいている：

A. 予算意識的計画（リソース意識的 MCTS）

評価の高コストに対処するため、MARS はコスト制約付きモンテカルロ木探索（MCTS）を採用する。タスク性能のみを最適化する標準的な探索アルゴリズムとは異なり、MARS は探索木に直接効率誘導型報酬関数を統合する。

• メカニズム: 報酬関数 $R(v)$ は、性能向上 ($G(v)$) と実行遅延 ($t(v)$) のバランスを取り、時間予算を超えた解や計算的に非効率的な解にペナルティを課す。
• 行動空間: 探索木は 3 つの演算子を利用する：
  1. ドラフティング: 最初から新しい解を生成する。
  2. 改善: 目的を最大化するために有効なノードを修正する。
  3. デバッグ: 失敗したノードのランタイムエラーを解決する。
• 結果: これにより、エージェントは効率的な解（例えば、同等の性能を持つ 4 時間の実行よりも 1 時間のトレーニング実行）を優先し、固定された予算内で発見率を最適化できる。

B. モジュラー構築

MARS は、脆弱でモノリシックなスクリプトを、構造化されたリポジトリレベルのソフトウェアアーキテクチャに置き換える。

• パイプライン: 専門のエージェントが関与する「設計 - 分解 - 実装」ワークフローを採用する：
  1. アイデア生成: 包括的な自然言語計画を明確化する。
  2. モジュール分解: 計画を論理的で独立した機能モジュールに解析する。
  3. コンポーネント実装: モジュールを順次実装し、検証する。
• 差分ベースの洗練: コード変更は標準化された差分形式で構造化され、アトミックなマルチファイル更新を可能にする。このアプローチはトークン制限を回避し、コンテキストノイズを削減し、コードのキャッシング/再利用を可能にし、デバッグを特定ファイルに局所化することでテスト性を大幅に向上させる。

C. 比較反射的メモリ

クレジット割り当て問題を解決するため、MARS は探索プロセスから高シグナルな因果洞察を抽出する比較反射的メモリメカニズムを導入する。

• 教訓の蒸留: ログを単に要約するのではなく、システムは現在の解と既知の最良の解との間で比較分析を行う。性能変化を駆動する特定のアルゴリズム的変更を特定する。
• 教訓の種類:
  • 解改善教訓: 有効な解から導出され、因果的な変更と一般化された規則を特定する。
  • デバッグ教訓: 失敗した実行から導出され、失敗の論理を説明し、同様のエラーを未然に防ぐためのガイドラインを提供する。
• 利用: エージェントは最新の教訓をメモリに保持し、それらを新しい解に適用する際に明示的に引用することで、異なるブランチ間での洞察の転送を促進する。

3. 主な貢献

1. フレームワークの導入: 予算意識的 MCTS、モジュラー実装パイプライン、比較反射的メモリを組み合わせることで、自律的 AI 研究に明示的に最適化されたフレームワーク、MARS の提案。
2. 最先端の性能: MLE-Benchベンチマークにおける広範な評価により、MARS が同様の設定下でオープンソースフレームワークの中で最先端の性能を達成し、グローバルなリーダーボードのリーダーと競争力を維持していることが示された。
3. 質的「アハ！」の瞬間: システムは質的な突破口を示し、利用された教訓の 63% がブランチ間転送に由来することが示された。これは、エージェントが異なる探索経路間で洞察を効果的に一般化できる能力を示している。
4. オープンリリース: 将来の研究を促進するため、プロンプト、生成されたコード、軌跡が公開された。

4. 実験結果

評価は、NLP、コンピュータビジョン、表形式データにわたる 75 の困難な Kaggle コンペティションで構成されるMLE-Benchで行われた。

• 性能指標: 統制された評価において、MARS は報告されたすべてのエージェントの中で最高の**金メダル獲得率（31.1%）**を達成した。
• 競争力:
  • Gemini-3-Pro-Previewを使用した場合、MARS はメダル獲得率（Any Medal rate）56.0%、**中央値以上率（Above Median rate）65.8%**を達成した。
  • スケールされた変種であるMARS+（2x H100 GPU を利用）は、メダル獲得率 62.7%、**金メダル獲得率 33.8%**を達成し、ML-Master 2.0 などの強力な競合他社を上回った。
• アブレーション研究:
  • モジュラー分解: このコンポーネントを除去すると成功が著しく低下し、コンテキストノイズの削減とテスト性の向上におけるその役割が検証された。
  • メモリメカニズム: メモリの完全な除去は性能の劇的な低下を引き起こした。単純な経験的分析と比較して、因果要因を特定するには比較蒸留が不可欠であることが示された。
  • 予算意識的 MCTS: 提案された探索戦略は、Vanilla MCTS や Greedy Search を一貫して上回り、実行時間のペナルティが最適解の発見を改善することを確認した。
• コスト効率: 4 時間版の MARS は、24 時間のベースラインよりもはるかに少ない費用（9.6 ドル）で、より高いメダル獲得率（28.4%）を達成し、性能向上が単なるリソース配分の増加ではなく、アーキテクチャの効率性に由来することを示した。

5. 意義と主張

本論文は、MARS が研究を厳密なリポジトリレベルの工学課題として扱うことで、長期的な AI 研究における現在の自律エージェントの限界に対処すると主張している。リソース意識的計画、モジュラー構築、比較反射的メモリを統合することで、MARS は探索と計算効率のバランスを取りながら、クレジット割り当て問題を効果的に解決する。

著者は、人間のエンジニアの戦略的先見性を模倣するこの構造化されたアプローチが、複雑な機械学習エンジニアリングタスクにおいて最先端の性能を可能にすると主張している。ブランチ間教訓転送を通じて「アハ！」の瞬間を経験するシステムの能力は、コードを実行するだけでなく、科学的洞察を自律的に学習し一般化できるエージェントへの移行を示唆している。

本論文は限界を認め、評価が現在 MLE-Bench に限定されていること、および反復的な探索と蒸留の計算コストが依然として障壁であることを指摘している。将来の作業として、フレームワークをより広範な科学的ドメインに拡張し、高度なコンテキストキャッシングと早期停止を通じて経済的妥当性を最適化することが提案されている。