技術要約：長期間（Long-Horizon）LLMエージェントにおけるホライゾン・ギャップ

問題の定義

本論文は、現在のAI能力における決定的な断絶、すなわち「ホライゾン・ギャップ」を特定している。これは、フロンティア・モデルが単一のフォワードパス内で複雑な推論問題を解決する能力と、エージェント・ループに組み込まれた際に、数時間に及ぶ、あるいは数百の連続ステップを必要とするタスクを確実に完了させる能力との間の距離を指す。シングルステップのベンチマークは急速な進歩を見せている一方で、展開されたエージェントは、以前の決定を見失う、作業が半分完了した状態で完了と宣言する、あるいは元の目標から逸脱するといった、デプロイメント特有の失敗を頻繁に起こしている。

著者らは、この分野の語彙が、以下の3つの論理的に独立した特性を混同しており、それが失敗の性質を不明瞭にしていると主張している。

1. ロング・ホライゾン（Long-horizon）: タスクの特性（必要な逐次決定の数）。
2. ロング・コンテキスト（Long-context）: モデルの特性（一度のパスで注意を払えるトークン数）。
3. 長期記憶（Long-term memory）: システムの特性（情報がステップやセッションを越えて持続するかどうか）。

本調査は、ホライゾン・ギャップこそが、エージェント・システムの耐久性のある実世界へのデプロイメントを阻む主要なボトルネックであると断じている。

メソドロジー

本論文は、2024年から2026年までに発表された1,547件のarXiv論文を対象とした体系的な調査を提示している。コーパスの構築には、「エージェント」という用語の過剰な使用に対処するため、厳格な2段階のフィルタリング・プロセスを用いた。

1. シード・ハーベスト（Seed Harvest）: 8つのテーマ的スレッド（プランニング、メモリ、実行、トレーニング、評価、オーケストレーション、エラー蓄積、自己修正）にわたる体系的なクエリにより、1,939件のユニークな論文を抽出した。
2. ブリード・フィルター（Bleed Filter）: 文献における「エージェント」という用語のオーバーロードに対処するため、2段階のフィルターを用い、LLM駆動型エージェントに焦点を当てていない古典的なマルチエージェント強化学習、ロボット操作、時系列予測などの論文（520件）を除外した。
3. ターゲット・サプリメント（Targeted Supplement）: 理論、安全性、および監視の領域における不足を補うため、128件の論文を補完的に追加した。

コーパスは、長期間のタスクのライフサイクルを追跡する6つのカテゴリのタクソノミー（表1）に分類され、さらにホライゾンがどこに保持されるかを定義する第2の軸と交差させている。

• コンテキスト内（Within-context）: 全履歴が1回のフォワードパスに収まる。
• コンテキストを超えたタスク内（Within-task-beyond-context）: タスクがコンテキスト・ウィンドウを超えるが、要約や外部メモリを介して継続的なエピソードとして維持される。
• タスクを跨いで持続する（Cross-task-persistent）: 情報やスキルが、異なるエピソードやセッションを越えて蓄積される。

著者らは、批判的かつ診断的な文献（ベンチマークや手法が主張通りの動作を行わないことを示す論文）を、調査の中で別個の批判章として分離するのではなく、調査全体を通じた第一級のスレッドとして明示的に扱っている。

主要な貢献と技術的知見

1. プランニングと分解 (§3)

分野は、「プランニングしてから実行する（タスクを完全に分解してから行動する）」から、環境の不確実性が高まるにつれてインターリーブされたプランニング（interleaved planning）や探索ベースのアプローチへと移行している。

• 知見: 不確実な環境において、完全な計画への早期コミットメントは脆弱である。PIVOT（フィードバックによる計画の洗練）やTree of Thoughts（候補となる継続先を探索する）のような手法は、堅牢性がしばしば計算量の代償によって得られることを示している。
• 限界: プランニングにおける「タスクを跨いで持続する」スレッドは未発達であり、プランニングの経験を保存することは、しばしばメモリの問題へと混同される。

2. メモリとコンテキスト管理 (§4)

メモリは持続性と忠実度のトレードオフに沿って整理されている。

• イン・コンテキスト（In-context）: 高い忠実度を持つが、ウィンドウサイズに制限される。「コンテキストの腐敗（context rot）」、すなわち長いプロンプトの中ほどで情報が劣化したり消失したりする現象に苦しむ。
• 外部ストレージ（External Store）: 無制限であるが、検索コストと干渉（例：古くなった、あるいは無関係な情報）を導入する。コーパスは、コンテキスト管理（103件）よりも外部ストレージ（294件）への決定的なシフトを示している。
• 重み（Weights）: モデルの重みに焼き付けられた情報は耐久性があるが、更新にはトレーニングが必要であり、監査が困難である。
• セキュリティ: メモリは新たな攻撃対象領域として特定されており、セッションを跨いで持続する敵対的な入力による「メモリ・ポイズニング」に対して脆弱である。

3. 実行制御とリカバリ (§5)

これは最大のカテゴリ（584件）である。中心的な知見は、ハーネス・エンジニアリング（harness engineering）（オーケストレーション、リカバリ・ロジック）が、基礎となるモデルのステップごとの品質ではなく、タスクの長さを制約する要因となっていることが多いという点である。

• オーケストレーション: 主要なスケーリング戦略は、単一のエージェントのループを深化させる（垂直的）ことではなく、複数のエージェントにタスクを分割する（水平的）ことである。
• リカバリ: 外部検証なしの固有の自己修正は信頼性が低いことが示されており、性能を低下させる可能性がある。効果的なリカバリには、多くの場合、外部のグラウンディングや構造化された例外処理が必要となる。
• 属性（Attribution）: オーケストレーションに関する論文とリカバリに関する論文の比率（約1.4:1）は、後者の方がより困難で未解決の問題であるという証拠があるにもかかわらず、分野がエラー修正の強化よりも拡張（スケーリング・アウト）に投資していることを示唆している。

4. 長期間のためのトレーニング (§6)

ホライゾンが長くなるにつれ、結果のみの教師あり学習（outcome-only supervision）（最後に一度だけ与えられる報酬）は希薄でノイズが多くなる。

• クレジット割り当て（Credit Assignment）: 分野は、より密な信号を提供するために、**プロセス報酬モデル（PRM）**やセグメントレベルのクレジット割り当てへと移行している。
• 暗黙的な信号: 通常は結果ベースであると説明されるGRPOのようなアルゴリズムは、暗黙的にプロセスレベルのクレジット割り当てを行っていることが判明している。
• 区別: 本論文は、その範囲を「再帰的自己改善（recursive self-improvement）」の文献とは明確に区別している。ここでの焦点は、モデル自身がトレーニング・ループを書き換えるシステムではなく、より多くのステップにわたって行動するためのポリシーを訓練することにある。

5. 評価と測定 (§7)

エージェントのベンチマークは、それを検証するための方法論よりも速いスピードで進化している。

• 妥当性の危機: 文献の大部分は、ベンチマーク（例：SWE-bench）が真の能力を測定しているのか、それともテストスイートの弱点、データのリーク、あるいは記憶といったアーティファクトを測定しているのかを問い直している。
• 新しい指標: 分野は、パス/フェイルの結果だけでなく、経路自体を分析する**軌跡レベルの診断（trajectory-level diagnostics）や、エージェントが実際に担えるホライゾンを測定するための人間による完了時間（human-time-to-complete）**といった指標へと移行している。
• クロスタスク評価: セッションを跨いだ学習を測定するベンチマーク（例：SWE-Bench-CL）は稀であるが、出現しつつある。

6. 基盤、限界、および安全性 (§8)

このセクションでは、長期間の劣化に関する統一されたモデルの欠如について述べている。

• 累積誤差: 真の劣化は、単純な指数関数的減衰モデルに従うわけではない。失敗はしばしば**バイモーダル（二峰性）**であり（エージェントは成功するか、破滅的に脱線するかのどちらか）、また「歪んだ一貫性（strained coherence）」（失敗の前兆）を示す。
• 目標の漂流（Goal Drift）: 安全性制約は、コンテキストの圧縮を通じて静かに消去される可能性があり、それが目標の漂流を招く。
• 監視（Oversight）: 長期間のホライゾンに対して人間による介入（Human-in-the-loop）を行うことは不可能である。文献では、代替案として階層型、アンサンブル型、または動的な自律性フレームワークを提案している。

結果と意義

本論文は単一の新しいアルゴリズムを提案するのではなく、ホライゾン・ギャップに対するこの分野の応答を示す構造的なマップを提供するものである。その主な意義は、以下の3点にある。

1. 曖昧さの解消: 「ロング・ホライゾン」、「ロング・コンテキスト」、「長期記憶」は異なる軸であることを明確にし、これらを混同することが誤った診断（例：コンテキスト・ウィンドウに関する論文を、メモリ持続性の問題の解決策として引用すること）につながると主張している。
2. ハーネス vs モデルの属性問題: 本調査は、重要な未解決の測定問題、すなわち、長期間の能力が基礎となるモデルにどれだけ備わっており、どれだけが「ハーネス」（足場、オーケストレーション、リカバリ・ロジック）に依存しているのかが、現時点では不明確であることを浮き彫りにしている。コーパスは、分野が現在ハーネス・エンジニアリングを優先していることを示唆しているが、その境界はまだ経験的に解決されていない。
3. 相関的な測定バイアス: 著者らは、長期間のエージェントを訓練するために使用されるプロセスレベルの信号と、それらを評価するために使用される信号が、何が「進捗」であるかについての共有された未検証の仮定に基づいているという、構造的なリスクを指摘している。もしこれらの仮定に欠陥があれば、分野全体が誤った信号に対して最適化されている可能性がある。

結論:
本調査は、分野が、結果ベースの評価から軌跡レベルの分析へと、共通の分析単位を移行させていると結論づけている。エンジニアリング的な解決策（優れたメモリ、オーケストレーション、プロセス報酬）は進展しているが、長期間の劣化に関する一般的な予測理論はまだ存在しない。最も重大な未解決問題は、モデルの能力とハーネス・エンジニアリングを切り離すこと、そして、システム的なバイアスを避けるために、訓練と評価のための独立した非相関的な信号を確立することである。