技術要約：階層型強化学習ポリシーによる人間とエージェントの協調におけるXAIサポートの評価

問題提起

AIシステムが単なるツールから協力的なパートナーへと移行するには、効果的であるだけでなく、人間のチームメイトにとって理解可能である必要があります。説明可能なAI（XAI）は潜在的な解決策を提供しますが、協調的な文脈における体系的な評価は依然として限られています。既存の研究は、カスタム環境（例：Minecraft）における手作りのポリシーに依存することが多く、これにより、Overcooked-AIのような確立されたベンチマークを利用する最先端のティーミング研究への知見の汎用性が制限されています。さらに、現在の文献では、高性能なベンチマークにおいて、本質的に説明可能な学習済みポリシー（ポストホックな説明や手作りのルールではなく）から生成されるXAIサポートの体系的な評価が欠けています。また、視覚的に負荷が高く、ペースの速いタスクにおいて、説明のモダリティ（テキスト vs 音声）がどのように協調に影響を与えるかについての理解も不足しています。

手法

著者らは、Overcooked-AIベンチマーク環境（具体的にはCounter-Circuitレイアウト）を用いて、被験者間実験（$n=38$）を実施しました。

• エージェント・アーキテクチャ: 本研究では、Hierarchical Ad Hoc Agents (HA2) アーキテクチャを利用しました。このシステムは、ハイレベルなマネージャー・ポリシー（$\pi_H$）が、ドメイン固有の12個の目標からなる事前定義されたセットから意味のあるサブタスク（例：「玉ねぎを拾う」、「玉ねぎを鍋に入れる」）を選択し、ローレベルのワーカー・ポリシー（$\pi_W$）が選択されたサブタスクを完了するためにプリミティブなアクションを実行するという、マネージャー・ワーカー構造を採用しています。この階層構造は、ハイレベルの決定が人間にとって解釈可能であるため、本質的な説明可能性を提供します。
• 説明生成: マネージャーによるサブタスクの選択から直接、リアルタイムの説明が生成されました。情報のオーバーロードを防ぐため、調整に関連する瞬間にのみ説明を届ける新しいトリガーベースのシステムが実装されました。トリガーには以下が含まれます：
  • ブロッキング: 人間がエージェントの経路を妨害したとき。
  • クリティカルパス: エージェスがタスク進行に不可欠なサブタスクを選択したとき。
  • 距離閾値: 長時間の移動中における定期的な更新。
  • サブタスクの変化: マネージャーが目標を切り替えた際のアナウンス。
• 実験条件: 参加者は以下の3つの条件のいずれかにランダムに割り当てられました：
  1. コントロール: 説明なし。
  2. テキスト: 画面下部の半透明バーに表示される説明。
  3. オーディオ: 同一の内容をブラウザ標準のテキスト読み上げ機能を通じて提供。
• 手順: 参加者は4回の80秒間のゲームプレイ・セッションを完了しました。指標には、ゲームスコア、学習率（セッション間の線形傾斜）、NASA-TLXワークロード評価、およびGodspeed Questionnaireと修正されたHuman-Robot Fluency Assessmentを用いた主観的評価が含まれました。サンプルは、ゲーミング経験のある成人（平均親密度スコア 8.1/10）で構成されました。

主な貢献

1. ベンチマークにおける初の体系的評価: 本研究は、最先端の学習済みポリシー（HA2）から生成されるXAIサポートを、確立された人間・エージェント・ティーミングのベンチマーク（Overcooked-AI）内で体系的に評価した初の事例であり、本質的に説明可能な強化学習アーキテクチャが、パフォーマンスを損なうことなく真正なリアルタイム説明を生成できることを示しました。
2. モダリティの比較: リアルタイムの人間・エージェント協調タスクにおいて、説明のモダリティ（テキスト vs 音声）を初めて比較し、配信モードがパフォーマンスと主観的体験に与える影響を分離して提示しました。
3. ベースライン手法: 階層型ポリシーの説明のためのベースラインとなるトリガーベースの配信システムを確立し、ベンチマーク環境における本質的に説明可能なRLアーキテクチャを評価するための手法を提示しました。

結果

• パフォーマンス (H1): コントロール群と統合された説明条件群との間で、即時のゲームスコアに有意な差は見られませんでした（$p=0.136$）。しかし、説明を受け取った参加者（特に音声）は、コントロール群と比較して学習率が速い（セッションを通じた改善）という傾向が見られました（$d=0.59$）。ただし、これは統計的有意には達しませんでした（$p=0.087$）。
• 認知負荷 (H2): テキストと音声のモダリティ間で、認知ワークロード（NASA-TLX）に有意な差は見られませんでした。
• 主観的体験 (H3): **ワーキング・アライアンス・ボンド（作業同盟関係）**に関して、顕著かつ強力な発見が得られました。オーディオ条件の参加者は、テキストまたはコントロール条件と比較して、エージェントに対する絆を有意に低く評価しました（$p=0.003$）。テキストによる説明は、コントロール群と比較して絆を悪化させることはありませんでした。
  • 擬人化: 音声条件の参加者はエージェントをより擬人化していないという傾向が見られましたが、これはボンフェローニ補正を通過しませんでした。
  • メカニズム: 著者らは、オーディオ条件における絆の低下を「主張と現実の乖離」と解釈しています。音声による説明は、エージェントを「コミットメントを行うコミュニケーション・パートナー」として位置づけますが、基礎となるモデルフリーで反応的なポリシーは、これらのコミットメントを維持することができません（例：発話直後にサブタスクを即座に変更する可能性がある）。この乖離は、無視できるテキストや沈黙の場合には目立ちません。

意義と主張

本論文は、高速な協調環境においていつ、どのようにXAIが機能するかの理解を深めることを目的としています。主要な洞察は、説明のモダリティを基礎となるポリシーの能力に一致させることが極めて重要であるということです。

• アーキテクチャの不一致: 本研究は、音声による説明がパートナーシップの期待を活性化させる一方で、反応的なモデルフリー・ポリシーはその期待に応えられないため、それが関係の破綻を招くことを示唆しています。「絆のコスト」は音声配信そのものへの非難ではなく、発言された意図を裏付けるための計画期間や人間モデルを欠いたポリシーの問題です。
• 適応 vs 実行: 結果は、XAIサポートが即時のタスク実行よりも、むしろエージェントの行動パターンへの人間の適応（学習の加速）を促進する可能性があることを示唆しています。これは、すでに効率的な調整戦略を持っているエキスパートユーザーにおいて特に顕著です。
• 今後の方向性: 著者らは、効果的な協調的XAIへの道筋はアーキテクチャ的なものであると主張しています。音声による説明が示唆するパートナーシップを維持するためには、将来のシステムは、単に反応的な出力をナレーションするだけでなく、より長いコミットメント期間（拘束力のある計画）を持ち、双方向の、心の理論に基づいたコミュニケーションを可能にするための、人間チームメイトの明示的なモデルを組み込む必要があります。

結論として、階層型RLは本質的に説明可能なAIの有望な基盤を提供しますが、XAIの有効性は、その配信方法（特に音声）が作り出す関係的期待に対して、ポリシーが実際の行動を一致させる能力に制約されるということが示されました。