Hybrid AI for Explainable and Accurate Conversational Agents in eGovernment
本文介绍了一种对话式混合人工智能（CHAI）架构，该架构将大语言模型与使用动态条件响应（DCR）图的基于规则的控制器相结合，旨在为电子政务创建具有可解释性和准确性的对话代理，并通过新冠肺炎聊天机器人和学生残疾补助管理原型进行了演示。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正在试图在一座巨大的、古老的图书馆中穿行，而借书的规则每当你打一个喷嚏时就会发生变化。这就是**电子政务（eGovernment）**的世界：公民需要理解复杂的法律、申请拨款或遵循健康指南，但这些“规则手册”往往是用令人困惑的法律术语编写的。长期以来，科学家们一直试图构建数字助手来引导我们穿过这座迷宫。
首先是基于规则的系统（Rule-Based Systems）。把它们想象成一个刻板、陈旧的导游，只会说“如果你说 A，那么我就说 B”。它们极其准确，因为遵循严格的剧本，但它们完全不擅长交谈。如果你问了一个它们没有预设剧本的问题，它们就会直接卡死。然后，我们有了大语言模型（LLMs）。这些是新型的、超级聪明且健谈的导游，可以谈论任何话题，甚至能理解你的俚语。它们擅长交谈，但有一个坏习惯——“幻觉”：编造事实或给出看似自信实则完全错误的答案。在像政府法律这样高风险的情况下，一个错误的答案不仅仅是令人恼火，它可能会让某人损失金钱或权利。
核心问题在于：我们能否构建一个既健谈又绝对准确的助手？ 我们想要一个既能理解自然语言，又绝不会违反法律的向导。这篇论文探讨了一种将这两种技术结合起来的新方法，旨在创造一种“对话式混合人工智能”（Conversational Hybrid AI, CHAI），它或许正是数字时代的完美向导。
大脑与保镖：一种新型聊天机器人
本文的作者——来自丹麦大学的研究团队——提出了一个聪明的解决方案：他们并不让那个健谈的 AI 做决定，而是让它成为运营的“门面”，而由一个严格、逻辑性的“大脑”来制定实际规则。他们将这种架构称为对话式混合人工智能（CHAI）。
要理解它是如何运作的，请想象一个高级俱乐部的保镖。保镖（符号化 AI）脑子里有一套严格的规则：“没鞋、没衬衫，不准入内。”他非常清楚什么是允许的，什么是不允许的。然而，保镖并不擅长与人交流；他只会用机械的声音喊出“拒绝”或“进入”。
现在，想象一位富有魅力的主持人（LLM）站在保镖旁边。主持人很擅长交谈。如果一位客人说：“我穿着酷炫的长靴，但没穿衬衫，”主持人会将这句话翻译成保镖能听懂的语言：“访客有鞋类，但缺少上衣。”保镖检查名单，看到“没穿衬衫”是一项违规行为，于是说“拒绝”。随后，主持人会对客人说：“抱歉，您需要穿上衬衫才能进来。”
在本文中，“保镖”是一个被称为 DCR 图（动态条件响应图） 的系统。这是一种特殊的逻辑地图，看起来像流程图，但比流程图更聪明。它不仅仅是说“做这个，然后做那个”，它还理解时间、义务和例外情况。例如，它知道“你必须在截止日期到期之前申请延期”，或者“如果你在 3 天内没有回复，申请将被拒绝”。DCR 图保持着一个完美、不可更改的过程记录，确保法律得到严格执行。
“主持人”则是大语言模型（LLM）。它的职责是倾听公民混乱的自然语言——比如“我不确定我是和感染的邻居住在一起，还是只是路过看到了他”——并将这些语言转化为 DCR 图所需的清晰、结构化的数据。
实验：测试混合体
研究人员不仅是空想，他们还构建了一个工作原型，并用两个现实世界的案例进行了测试。
1. 新冠肺炎（Covid-19）指南
在疫情期间，公民对于在接触感染者后该做什么感到困惑。政府有一份 11 页的指南，本质上是一个巨大的决策树。团队将其转化为了一个 DCR 图。当他们测试聊天机器人时，用户可以输入：“没关系，那是我的邻居！”LLM 理解这意味着“不，我并不与感染者同住”。它将这个“否”传递给 DCR 图，随后 DCR 图根据法律计算出下一步。结果如何？聊天机器人给出了正确的、具有法律约束力的建议，并且它能精确解释为什么得出这个结论，因为 DCR 图拥有清晰的逻辑轨迹。
2. 学生残疾补助金
他们还测试了一个更复杂的场景：残疾学生申请额外资金。这涉及到一个反复的过程，政府可能会要求更多的医疗信息，设定一个截止日期，而学生可能会请求延期。DCR 图管理着所有这些变动的部分。它知道，如果学生没有在截止日期前回复，申请将被拒绝。如果学生请求延期，图表会更新规则以允许更多时间。聊天机器人引导学生完成这一过程，将他们的自由文本请求转化为政府要求的严格步骤。
为什么这很重要（以及它做不到什么）
论文指出，这种混合方法解决了当前 AI 最大的问题：信任。如果你使用纯 LLM（仅仅是那个健谈的主持人），它可能会自信地告诉一名学生其符合补助金资格，即使实际上并不符合，因为它根据训练数据“猜”出了答案。如果你使用纯基于规则的系统（仅仅是那个保镖），公民会感到沮丧，因为他们无法进行自然交谈。
通过将两者结合，作者展示了你可以拥有一种感觉自然的对话，同时背后还有一个确保最终决策遵循正确逻辑路径的法律引擎。DCR 图确保了过程的准确性和可解释性。如果做出了一项决定，系统可以指向导致该决定的图中确切的规则。
然而，论文也谨慎地指出，这并不是解决一切问题的魔杖。
- 它是一个原型： 研究人员构建了一个工作模型，但它仍在测试中。他们尚未将其推向数百万用户。
- “人工介入（Human-in-the-Loop）”至关重要： 系统并不完美，无法理解人类可能输入的每一个奇怪句子。论文明确承认，如果 LLM 误解了用户的意图，系统可能会基于错误的值继续运行，即便逻辑本身是正确的。为了解决这个问题，系统被设计为允许用户纠正聊天机器人的理解（通过点击答案旁边的铅笔图标）。作者强调，人类（公民）必须能够编辑这些理解，以确保最终决定是基于事实，而非误解。
- 复杂性是一个挑战： 作者承认，随着法律变得更加复杂，DCR 图可能会变得庞大且难以管理。他们正在开发相关工具，使这些图表更容易构建和理解。
总结
这篇论文提出了一种构建政府聊天机器人的新方法，使其不仅能“聊天”，还能正确地“执行”法律。通过使用一个严格的逻辑大脑（DCR 图）来控制对话，以及一个健谈的面孔（LLM）来与人沟通，他们创造了一个既友好又具备法律稳健性的系统。这是迈向未来的一步：届时你可以用平实的英语询问政府问题，并获得不仅友好、而且基于可验证逻辑过程的答案。研究人员表示，这是一个充满前景的方向，但他们仍处于测试阶段，正在完善工具，以确保“保镖”和“主持人”在投入公众使用前能完美协作。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。