技術要約: BAGEN: LLMエージェントは予算を意識しているか？

1. 問題提起

現在の大規模言語モデル（LLM）エージェントは、トークン使用量（内部予算）やAPIコール、金銭的コスト、あるいは時間（外部予算）といった、多大なリソース消費を伴う長期的かつ高リスクなタスクへの導入が進んでいます。しかし、既存の評価パラダイムは、予算を主に**事後的な指標（post-hoc metric）**として扱っており、実行が完了した後にのみコストを測定しています。

本論文は、決定的なギャップを特定しています。それは、エージェントに予算意識（budget awareness）が欠如していることです。予算意識とは、実行の途中で、どれだけの予算が残り、タスクがまだ完了可能であるかどうかを推定する能力と定義されます。この能力がなければ、エージェントは「絶望的なタスクの中断」「追加リソースの要求」「サブゴール間での予算の再配分」といった重要な制御決定を下すことができません。さらに、既存の研究の多くは単一点推定（single-point estimation）（タスク開始時の単一の予測）に依存しており、これは長期的タスクにおける実現可能性の進化を捉えることができず、観察された進捗に基づいた漸進的な洗練も不可能です。

2. 手法

2.1. 予算のモダリティ

著者らは、2つの異なる予算タイプを定式化しています：

• 内部予算（Internal Budget）: モデル自身の推論によって生成される計算量（例：トークン数）。
• 外部予算（External Budget）: 環境にコミットされるコスト（例：お金、時間、在庫）。これらは多次元であり、相互に関連している場合があります（例：在庫を保持することは収益を増やす一方で、倉庫容量を消費する）。

2.2. 漸進的区間推定プロトコル（Progressive Interval Estimation Protocol）

単一点推定の限界に対処するため、本論文では漸進的区間推定を提案しています。単一の点予測ではなく、軌跡 $\tau$ の各ステップ $k$ において、エージェントに対して以下を予測するよう求めます：

1. タスクが実行可能と判断された場合の、残りの予算を表す区間 $[\hat{R}^{lo}_k, \hat{R}^{hi}_k]$。
2. 残りの予算を考慮してタスクが実行不可能と判断された場合の、**不可能（impossible）**という宣言。

このプロトコルは、以下の3つの主要な特性を導入します：

• 不確実性（Uncertainty）: 区間の幅によって表現される。
• 漸進性（Progressiveness）: 部分的な進捗を観察することで、推定値が更新される。
• 実行不能性の認識（Infeasibility Awareness）: 明示的な「不可能」という選択肢により、早期停止が可能になる。

2.3. ロールアウト・リプレイ評価（Rollout-Replay Evaluation）

予算推定能力とタスク完了能力を切り離すために、著者らはロールアウト・リプレイ・プロトコルを採用しています：

1. ロールアウト生成: エージェントは予算制約なしでタスクを実行し、完全な軌跡と正解のコストを生成する。
2. プレフィックス・リプレイ: ステップ $k$ までのログされたプレフィックスをエージェントにリプレイし、残りの予算と実行可能性を推定させる。
3. スコアリング: 予測値は、実現された残りのコストおよび実際の結末に対してスコア化される。

2.4. サブ能力指標

予算意識は、以下の3つの測定可能なサブ能力に分解されます：

1. 実現可能性予測（Feasibility Prediction）: マクロF1スコアで測定される、二値分類（実行可能 vs 不可能）。
2. 早期失敗検知（Early Failure Detection）: 失敗する軌跡を早期に認識する能力。Fail-F1（「不可能」クラスに対する適合率/再現率）で測定される。
3. 残り予算推定（Remaining Budget Estimation）: 成功した軌跡における区間予測の正確さ。カバレッジ（Coverage）（真のコストが区間内に含まれているか）およびタイトネス（Tightness）（過度に広い区間にペナルティを与える）によって測定される。

2.5. 実験設定

本研究は、4つの環境において5つの最先端モデル（GPT-5.2, Claude Opus 4.7, Claude Sonnet 4.6, Gemini 3.1 Pro, Qwen3-235B）を評価しています：

• 内部予算: Sokoban（プランニング）、Search-R1（マルチホップ検索）、SWE-bench（GitHubイシュー解決）。
• 外部予算: Warehouse（コスト、時間、在庫の次元が結合したサプライチェーン環境）。

3. 主な結果

3.1. タスク性能と予算意識のデカップリング

• 弱い相関: タスクの成功率は、予算推定の質と弱い相関しかありません（$r \approx 0.35$）。強力なタスク遂行能力を持つモデルが、必ずしも強力な推定能力を持つわけではありません。例えば、Search-R1において、Opusは最高のタスク成功率（75.8%）を達成しましたが、Sonnetの方が優れた区間推定を行いました（ヒット率 36.5% 対 23.1%）。
• 支配的なモデルの不在: すべてのサブ能力（実現可能性、早期検知、区間キャリブレーション）において卓越した単一のモデルは存在しませんでした。

3.2. 系統的な失敗

• 楽観的バイアス: すべてのモデルが一貫して、残りの予算を過小評価する傾向（楽観的バイアス）があります。このバイアスは、より弱いモデルで顕著であり、すべての環境を通じて持続しています。
• 遅すぎる失敗認識: エージェントは、行動を起こすには遅すぎるタイミングで失敗を認識します。失敗する軌跡において、モデルは予算の60%が消費された後でも、70%以上の確率で「実行可能」と予測し続けています。「アラーム」は通常、実行の最後の20%に入ってから初めて作動します。
• 不安定性: 初回の推定値と後のステップの推定値が一致しないことがあり、その不一致の方向はモデルやタスクによって異なります。

3.3. 学習と実行可能性

• 二値の実現可能性はキャリブレーションの問題: 教師あり微調整（SFT）のみによって、Qwen-7Bの実現可能性精度は25.5%から約90%に上昇しました。これは、能力自体は潜在的に存在していたものの、フォーマットのキャリブレーションが必要であったことを示唆しています。
• 区間推定は推論の問題: SFTは区間のカバレッジを改善しましたが、カバレッジを47%まで押し上げるには強化学習（SFT+RL）が必要でした。ただし、SFTによるウォームスタートなしでのRLは、学習の崩壊を引き起こしました。
• 実行可能なシグナル: 単純な早期停止ポリシー（モデルが「不可能」と予測した時に終了する）の実装により、全体の成功率への影響を最小限（1.6〜4.2パーセントポイントの低下）に抑えつつ、失敗する軌跡におけるトークンを28〜64%削減できました。

4. 貢献

1. 予算意識の定義: 予算意識を、漸進的区間推定を通じて定義される、タスク実行とは異なる独自の能力として定式化した。
2. 評価プロトコル: 推定能力を実行能力から分離するための、ロールアウト・リプレイ・プロトコルを導入した。
3. 実証的分析: 最先端モデルが系統的な楽観主義と遅すぎる失敗認識に苦しんでいること、そしてこれらの失敗がタスクのパフォーマンスとは別物であることを体系的に示した。
4. 学習に関する洞察: 二値の実現可能性はSFTで解決可能なキャリブレーションの問題であるが、精密な区間推定はSFT+RLを必要とする推論のボトルネックであることを示し、そのシグナルがリソース節約のために即座に活用可能であることを示した。

5. 意義と主張

本論文は、予算は受動的な会計指標ではなく、能動的な制御信号として扱うべきであると主張しています。著者らは、現在のエージェントには、長期的なタスクにおいてリソースを効果的に管理するために必要なメタ認知的なモニタリング能力が欠けていると述べています。

その意義は、以下の点にあります：

• 予算意識は、たとえ現在のモデルが不完全であっても、学習可能で実行可能な能力であること。
• 単純な介入（モデルの自己予測に基づく早期停止など）によって、大幅なリソース節約が可能であること。
• タスクのパフォーマンスと予算推定の間のギャップは、将来のエージェント開発において、推論やタスク成功から自然に創発することを期待するのではなく、自己モニタリングとキャリブレーションを明示的にターゲットにする必要があることを示唆していること。

結論として、精密な区間キャリブレーションは依然として課題（学習後でもカバレッジは47%に留まる）ではあるものの、実行不能性を検知しコストを推定する能力は、リソース制限のあるエージェントが現実世界の高リスクな環境で効果的に動作するために不可欠な、明確に区別された能力であると述べています。