RetailBench: Evaluating Long-Horizon Autonomous Decision-Making and Strategy Stability of LLM Agents in Realistic Retail Environments

本論文は、現実的な小売環境における長期にわたる自律的意思決定を評価する高忠実度ベンチマーク「RetailBench」と、戦略と実行を分離する「Evolving Strategy & Execution」フレームワークを提案し、現在の LLM が複雑な長期タスクにおいて根本的な限界を抱えていることを示しています。

要約

この論文は、**「AI がスーパーの店長になって、何ヶ月もずっと一人で店を切り盛りできるか？」**という実験について書かれています。

タイトルは『RetailBench（リテールベンチ）』。これは、AI の「長期的な判断力」と「戦略の安定性」を測るための新しいテストです。

以下に、専門用語を排し、身近な例え話を使ってわかりやすく解説します。

---

1. 何をしたの？（実験の概要）

これまでの AI（大規模言語モデル）は、「数学の問題を解く」や「コードを書く」といった、短時間で終わるタスクは得意でした。しかし、**「毎日毎日、状況が変わる中で、長期間にわたって正しい判断をし続ける」**というタスクは苦手でした。

そこで著者たちは、**「AI 店長」**を育てるシミュレーションゲームを作りました。

• 舞台： 現実的なスーパーマーケット。
• 課題： 1000 日以上、毎日「商品の価格を決める」「発注する」「在庫を管理する」「ニュースを分析する」などの作業を繰り返す。
• ルール： 毎日家賃を払わないと倒産。売れ残って賞味期限が切れたら損。

このゲームで、最新の AI 8 種類に店長をやらせて、どれくらい長く、うまく経営できるかをテストしました。

2. 発見された「AI の弱点」

実験の結果、AI にはいくつかの大きな弱点があることがわかりました。

• 記憶力が悪い（長期戦に弱い）：
  最初は元気でも、数週間経つと「昨日の売上」や「在庫の状況」を忘れ、**「昨日も売れたから今日も大量に発注しよう！」**と、在庫が溢れるような間違った判断を繰り返してしまいます。
• 幻覚（ハルシネーション）：
  「存在しない商品」を売ろうとしたり、「ありえない金額」で値下げを指示したりします。まるで**「夢の中で店を回している」**ような状態です。
• 戦略がコロコロ変わる：
  朝は「高価格で高品質な商品に集中しよう」と決めたのに、昼には「安売りしよう」と方針を急変させます。これでは店員も客も混乱します。

3. 解決策：「戦略家」と「実務家」を分ける

そこで著者たちは、AI に新しい働き方を提案しました。
**「Evolution Strategy & Execution（進化する戦略と実行）」**という仕組みです。

これを**「レストラン経営」**に例えてみましょう。

• 従来の AI（失敗するパターン）：
  店長が一人で、朝から晩まで「メニューを考える」「注文を取る」「料理を出す」「皿を洗う」まで全部やります。
  → 結果： 疲れて頭が回らなくなり、料理の味が変わったり、注文を間違えたりします。

• 新しい仕組み（成功するパターン）：
  役割を 2 つに分けます。

  1. 戦略家（頭脳）： 朝だけ働きます。「今日は雨だから、温かいスープの発注を増やそう」「来週は値上げしよう」という大きな方針を決めます。一度決めたら、その日は変えません。
  2. 実務家（手足）： 戦略家の指示に従って、1 日中ひたすら作業します。「スープを 10 個発注」「価格を変更」など、指示されたことを淡々と実行します。方針を変えるのは、次の日の「戦略家」の仕事です。

このように**「考える時間」と「動く時間」を分ける**ことで、AI は混乱せず、安定して店を回せるようになりました。

4. 実験結果：どうなった？

• 改善点： 新しい仕組みを使えば、AI 店長は以前より長く店を維持でき、利益も増えました。
• 限界： しかし、**「手作業で完璧に管理された店長（人間が作ったルール）」**と比較すると、AI はまだ遠く及びません。
  • 難易度が上がると（商品が増えたり、ニュースの影響が出たりすると）、AI の成績は急激に落ちます。
  • 複雑な状況になると、AI は「何を優先すればいいか」を見失い、破綻してしまいます。

5. まとめ：この研究が教えてくれること

この論文は、**「今の AI は、短いタスクは得意だが、長期的な複雑な計画を立てて実行するのはまだ未熟だ」**と示しています。

AI が本当に「自律的に」経済活動に参加できるようになるには、単に頭を良くするだけでなく、**「戦略と実行を分ける仕組み」や「長期的な記憶の維持」**といった、より高度な設計が必要だということです。

一言で言うと：

「今の AI は、天才的な『瞬間の閃き』は持っているけど、長期的な『人生設計』や『経営計画』はまだ下手くそ。でも、役割を分けてあげれば、少しはまともな店長になれるよ！」

という発見です。

技術概要

RetailBench: 現実的な小売環境における LLM エージェントの長期自律的意思決定と戦略安定性の評価

この論文は、大規模言語モデル（LLM）ベースのエージェントが、現実的な商業環境において長期的かつ自律的に意思決定を行う能力を評価するための新しいベンチマーク「RetailBench」と、その性能を向上させるための新しいエージェントフレームワーク「Evolving Strategy & Execution」を提案しています。

以下に、問題定義、手法、主要な貢献、実験結果、および意義について詳細にまとめます。

1. 問題定義 (Problem)

近年の LLM は、コード編集や数学的問題解決などの構造化されたタスクにおいて顕著な成果を上げていますが、**現実的で動的な環境における「長期（Long-Horizon）の自律的意思決定」**においては依然として課題を抱えています。

• 既存の限界: 現在のエージェントベンチマークの多くは、Web 操作や短時間のタスクに焦点を当てており、複雑で変化する環境との持続的な相互作用を評価する能力が不足しています。
• 具体的な課題: 現実の経済システム（例：小売店運営）では、確率的な需要、外部環境の変化、エラーの蓄積、そして一貫した戦略の維持が求められます。しかし、現在の LLM エージェントは、長期にわたって一貫した戦略を維持できず、幻覚（Hallucination）や経済的に非合理的な行動により、環境の崩壊（店舗の破綻）を招く傾向があります。

2. 提案手法 (Methodology)

2.1 RetailBench: 高忠実度ベンチマーク

著者らは、現実のスーパーマーケット運営をシミュレートした高忠実度の環境「RetailBench」を構築しました。

• 環境モデル: マーケット・ドメイン（MDP）として定義され、エージェントは有限の日数にわたり店舗を運営します。
• 状態空間 (State Space): 商品属性、在庫、サプライチェーン、需要シグナル（顧客動向、レビュー）、外部情報（ニュース）、財務状態など、多様な要素で構成されます。需要は実世界の小売データ（Dominick's dataset）に基づいています。
• 行動空間 (Action Space): 価格設定、在庫補充、情報収集、メモ操作、日の終了などを含む。
• シナリオ: 1000 日以上をシミュレーション可能で、5 日連続で家賃支払い inability となった場合にエピソードが終了します。
• 難易度レベル:
  • Easy: 動的なニュースなし、5 商品カテゴリ。
  • Middle: 20 商品カテゴリ、動的なニュースなし。
  • Hard: 20 商品カテゴリ、動的なニュース、時間変化するサプライヤー価格・品質関係を含む最も複雑な環境。

2.2 進化戦略と実行フレームワーク (Evolving Strategy & Execution Framework)

従来の ReAct や Reflection などのフレームワークは、長期タスクにおいて戦略の一貫性を欠いたり、実行中に戦略が頻繁に変更されて不安定になったりする問題がありました。これを解決するため、著者らは**「戦略的推論」と「実行」を明確に分離する 2 段階のフレームワーク**を提案しました。

1. Evolving Strategy 段階 (戦略段階):
   • 環境のフィードバックや履歴を分析し、高レベルの「マクロ戦略」と「実行戦略」を策定・更新します。
   • この段階では環境を直接変更するアクションは実行せず、戦略の更新（追加、修正、削除）に専念します。
   • 戦略は「日次」単位で更新され、短期的な変動に振り回されないようにします。
2. Execution 段階 (実行段階):
   • 策定された戦略を不変のものとして扱い、具体的なアクション（注文、価格変更など）を生成します。
   • 実行中に戦略そのものを変更することは禁止されており、戦略と行動の帰属を明確にします。

この設計により、非定常な環境下でも戦略のドリフトを防ぎ、解釈可能性と安定性を向上させています。

3. 主要な貢献 (Key Contributions)

1. RetailBench の提案: 現実的な小売環境における長期自律的意思決定を評価するための、高忠実度で再現性のあるベンチマークの構築。
2. 新しいエージェントフレームワークの提案: 「Evolving Strategy & Execution」フレームワークにより、戦略と実行を分離し、長期タスクにおける運用の安定性と効率性を向上させた。
3. 失敗モードの体系的な特定: 8 つの最先端 LLM による大規模実験を通じて、長期・多因子意思決定における LLM の構造的な失敗パターン（スケーラビリティの欠如、情報収集の不完全さ、時間的安定性の欠如、幻覚など）を明らかにした。

4. 実験結果 (Results)

8 つの最先端 LLM（GPT-5.2, Kimi-K2, GLM-4.6 など）を用いて、3 つの難易度レベルで評価を行いました。

• フレームワークの比較:
  • 提案した「Evolving Strategy & Execution」フレームワークは、従来の「Reflection（日次/ステップ単位）」や「Plan-and-Act」などのベースラインと比較して、平均稼働日数、1 日あたりの売上・収入、廃棄率の低減において一貫して優れた性能を示しました。
  • 特に、戦略の更新頻度を制御することで、実行の安定性が大幅に向上しました。
• 難易度による性能低下:
  • 環境が複雑になる（Middle, Hard）につれて、すべてのモデルの性能が顕著に低下しました。
  • 商品カテゴリが増加しても、モデルが考慮できる SKU 数やカテゴリ数は限定的であり、意思決定のスケールが環境の複雑さに追いついていませんでした。
• モデル容量の影響:
  • 閉鎖ソースの大型モデル（GPT-5.2 など）は、小型モデルやオープンソースモデルに比べて、より安定した運営を維持する傾向が見られました。
• 失敗モードの分析:
  • スケーラビリティの欠如: 環境が拡大しても、モデルが考慮する意思決定範囲が広がらない。
  • 情報収集の不完全さ: 重要な信号（顧客レビュー、返品率など）を見落とし、限られた情報源（価格、在庫）のみに依存する傾向。
  • 時間的不安定性: 実行レベルの戦略が日ごとに大きく変動し、一貫性を欠く。
  • 幻覚と無効な行動: 存在しない SKU の参照、非現実的な注文数量（例：1 万個）、不合理な価格設定（0 円や 999 円など）が頻発し、システムを不安定化させる。

5. 意義と結論 (Significance & Conclusion)

• 現状の限界の明確化: 構造化されたフレームワークを導入しても、現在の LLM エージェントは、複雑で動的な環境における「ロバストな戦略意識を持った自律性」には程遠いことが示されました。特に、長期にわたる多因子意思決定におけるスケーラビリティと実行安定性がボトルネックとなっています。
• 研究の指針: RetailBench は、長期意思決定とエージェント推論の研究を推進するための原理的なテストベッドを提供します。
• 将来の展望: 単なるプロンプトエンジニアリングを超え、強化学習、微調整、ハイブリッドな神経記号アプローチ、あるいは制約-aware なアクション制御などの手法が必要であることが示唆されました。

この論文は、LLM エージェントが現実世界の経済システムに参画するための課題を浮き彫りにし、より堅牢な自律エージェント開発への道筋を示す重要な研究です。