Exploring Plan Space through Conversation: An Agentic Framework for LLM-Mediated Explanations in Planning

这是一篇关于**通过对话探索规划空间（Exploring Plan Space through Conversation）**的学术论文，提出了一种基于多智能体大语言模型（LLM）的框架，用于在自动规划系统中生成交互式解释。

以下是对该论文的详细技术总结：

1. 研究背景与问题 (Problem)

• 背景：在现实世界的序列决策问题中，自动规划的目标往往不是完全取代人类规划者，而是辅助人类进行迭代式的推理和需求 elicitation（需求引出）。人类需要根据偏好和专业知识引导 AI 规划器。
• 核心挑战：
  • 交互性缺失：现有的规划系统通常提供静态解释，缺乏自然语言对话能力，难以处理用户的追问、澄清或概念修正。
  • LLM 的局限性：虽然 LLM 在自然语言处理上表现优异，但研究表明它们无法独立可靠地处理复杂的规划任务（如计算最优解或处理大规模状态空间）。
  • 用户认知负荷：普通用户难以用形式化语言（如 LTLf）表达目标或提出具体的规划问题，导致他们难以有效利用解释系统。
• 目标：构建一个混合系统，利用 LLM 作为“翻译”和“交互接口”，将用户的自然语言转化为形式化查询，并将形式化的规划解释（如冲突分析）转化为自然语言，从而支持迭代式的规划过程。

2. 方法论 (Methodology)

2.1 整体架构

论文提出了一种多智能体 LLM 架构（如图 1 所示），将 LLM 作为辅助角色嵌入到传统的规划系统中：

• 计算智能体 (Computation Agents)：负责核心的规划任务（如使用 Fast Downward 求解器）和解释生成（如计算最小不可解子集 MUS 和最小修正集 MCS）。
• LLM 智能体 (Translator Agents)：负责自然语言与形式语言之间的双向转换及交互管理。

2.2 核心组件与流程

系统通过以下智能体协同工作（如图 2 所示）：

1. 问题建议器 (Question Suggester, $S_Q$)：根据当前规划状态（已强制目标、满足/未满足目标），自动生成 1-3 个相关的自然语言问题建议，帮助用户探索规划空间，降低认知负荷。
2. 问题翻译器 (Question Translator, $T_Q$)：
   • 将用户的自然语言问题分类为预定义的类型（如“为什么不可解？”、“如果强制某目标会怎样？”）。
   • 识别问题中的目标参数（Arguments）。
   • 判断是否需要调用解释框架（EFCC）或直接回答。
3. 目标翻译器 (Goal Translator, $T_G$)：将用户描述的新目标（自然语言）转换为规划器理解的形式化语言（LTLf 公式）。
4. 解释框架 (EFCC)：基于**超订阅规划 (Oversubscription Planning)理论，利用最小不可解子集 (MUS)和最小修正集 (MCS)**来生成形式化解释。
   • MUS：导致任务不可解的最小目标冲突集合。
   • MCS：为了使任务可解，必须移除的最小目标集合。
5. 解释翻译器 (Explanation Translator, $T_E$)：将形式化的解释（MUS/MCS 结果）转化为自然语言回答，支持摘要、上下文依赖的追问和个性化表达。

2.3 支持的交互类型

论文扩展了之前的解释框架，支持多种问题类型（见表 1）：

• 不可解状态 (Unsolvable)：
  • US-why: 为什么任务不可解？
  • US-how: 如何让任务变得可解？
• 可解状态 (Solvable)：
  • S-why-not: 为什么某些目标未被满足？
  • S-what-if: 如果强制执行某目标会发生什么？
  • S-can: 能否强制执行某目标？
  • S-how: 如何实现某目标？

3. 主要贡献 (Key Contributions)

1. 形式化框架：提出了一个支持自然语言问答和解释的迭代规划通用框架（Section 3）。
2. 丰富的解释类型：基于 MUS/MCS 理论，扩展了目标冲突解释的多样性，支持从“为什么不可解”到“如何实现”的多种查询（Section 4）。
3. LLM 实现：构建了基于多智能体 LLM 的具体实现，实现了从自然语言输入到形式化查询，再到自然语言输出的完整闭环（Section 5）。
4. 用户研究验证：通过用户研究对比了 LLM 驱动界面与基于模板的基线界面，验证了其在辅助用户达成规划目标方面的有效性（Section 6）。

4. 实验结果 (Results)

研究在“父母下午安排”（Parents' Afternoon）的规划场景下进行了用户研究，对比了 LLM 组 ($G_{LLM}$) 和 模板组 ($G_{TPL}$)：

• 任务表现：
  • 效用值 (Utility)：LLM 组在达到最大效用值方面表现出略高的趋势（平均效用 20.8 vs 20.5），尽管在统计上未显著差异（p=0.33），但在迭代初期收敛更快。
  • 迭代步数：LLM 组在达到相同效用水平时，所需的迭代步数更少（虽然方差较大）。
• 交互行为：
  • 提问数量：LLM 组用户平均提问次数显著少于模板组（11.4 vs 22.8），但通过 LLM 翻译器，这些提问被转化为对解释框架的更多次查询（41.7 次），说明 LLM 能更高效地处理复杂意图。
  • 问题类型：LLM 组更倾向于使用 S-can（能否强制某目标）类问题，这得益于问题建议器的引导。
• 主观反馈：
  • 显著优势：在 Likert 量表评分中，LLM 组在“降低任务难度”（p=0.02）和“帮助改进计划”（p=0.01）方面显著优于模板组。
  • 用户体验：用户普遍认为 LLM 界面更有趣、更有帮助，且能更好地理解哪些计划是可行的。
• 对话分析：
  • 平均对话轮次为 4.3 轮，表明用户不仅接受静态解释，还愿意进行多轮对话以澄清概念。
  • 问题翻译器的分类准确率达到 91%。

5. 意义与未来工作 (Significance & Future Work)

• 意义：
  • 证明了**混合智能（Hybrid AI）**架构的可行性：利用 LLM 处理自然语言交互，利用传统算法处理核心计算，既保证了可靠性又提升了可用性。
  • 提升了**可解释性 AI (XAI)**的交互性：将解释从单向的“独白”转变为双向的“对话”，显著降低了非专家用户的使用门槛。
  • 为规划系统提供了新的交互范式，特别是在目标冲突和超订阅规划场景下。
• 局限性：
  • 实验仅在中等难度的单一任务实例上进行。
  • 参与者为普通大众（lay users），未来需验证领域专家的表现。
  • 目标翻译器（$T_G$）在用户研究中未启用，其性能尚待评估。
• 未来方向：
  • 在更广泛的规划任务和真实场景中评估该系统。
  • 深入研究 LLM 在解释摘要和个性化方面的能力。
  • 将框架扩展到其他解释范式（如约束规划中的解释）。

总结：该论文成功地将大语言模型作为“翻译层”引入到传统的自动规划系统中，通过多智能体协作实现了自然语言驱动的交互式规划解释。实验结果表明，这种基于对话的 LLM 界面不仅能显著降低用户的认知负担，还能有效辅助用户找到更优的规划方案，为未来的人机协同规划系统提供了重要的设计参考。