Grounded Normative Rule Generation with Structured Search
本文介绍了 GNRS-Search，这是一个利用在“与-或图”（And-Or Graph）上进行马尔可夫链蒙特卡洛采样来合成具身规范性规则的框架，通过将可执行逻辑与表层文本生成解耦，显著提高了受监管环境中的操作可行性与可验证性。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一个这样的世界：那里治理我们日常生活的规则——从工作场所的安全协议到社区章程——其编写目的不仅是为了听起来悦耳，而是为了真正发挥作用。几十年来，计算机科学家一直在教机器编写流畅的文本，模仿人类语言的节奏和词汇。但这种能力存在一个关键的差距：机器可以写出一个听起来逻辑严密且专业的句子，却在描述一个无法执行的过程。它可能会虚构一种并不存在的记录类型，或者要求一位无法找到的证人。在现实世界中，一条无法根据实际数据进行核查的规则根本称不上是规则；它仅仅是一个建议，一旦有人试图执行就会宣告失败。这个问题对于人工智能而言尤为严重，因为人工智能经常生成听起来合理的政策，但由于这些政策依赖于系统根本不具备的信息，它们会在现实面前崩溃。
一组研究人员通过将规则的创建视为寻找一份可行的蓝图，而非一项写作练习，从而解决了这一特定的脆弱性。他们引入了一个名为 GNRS-Search 的新框架，该框架从根本上改变了人工智能起草政策的方式。系统不再是立即要求计算机写出最终段落，而是首先构建一个骨架结构。这个结构是一个由五部分组成的框架，定义了规则的范围、触发规则的事件、要求的特定行为、证明合规所需的证据，以及处理违规行为的程序。研究人员随后使用一种数学方法，类似于徒步旅行者通过迈出小步并检查地形来探索山脉，来测试该骨架的数千种变体。计算机会更换该结构的各个部分，不断检查新的组合是否能由环境中现有的实际数据日志所支持。只有在系统找到一个完全基于真实、可用记录的结构后，它才会将那个坚实的框架转化为自然、可读的语言。
该方法的成果在两组不同的挑战中进行了测试。第一组是在一个受控环境中，包含 8 个不同场景下的 116 个特定目标，涵盖了从餐厅班次协调到管理公共空间等领域。在这些测试中，这种新方法将规则的平均质量从 68.8% 提升到了 81.0%。更重要的是，它确保了规则是可执行的，这意味着它们可以根据真实数据进行验证。研究人员还在源自现实世界政策（如公司手册和开源治理指南）的 53 项任务上测试了该系统，在这些任务中，原始文本对计算机是隐藏的，以防止简单的复制。在这里，该系统再次表现优于标准方法，在保持高可读性的同时实现了完美的执行可行率。研究表明，这种改进并非来自于人工智能仅仅使用了更好的词汇或听起来更专业，而是来自于系统正确识别了规则的哪些部分可以由证据支持，而哪些不能。
至关重要的是，这项研究还揭示了系统最容易失效的地方。通过刻意替换规则结构中的特定部分，研究人员发现，关于规则核心含义的错误——例如规则适用于谁、何时开始或要求什么行为——会导致性能最显著的下降。相比之下，只要核心逻辑保持稳健，当收集证据的具体细节或执行的具体步骤发生轻微变化时，系统表现出了惊人的韧性。这表明，编写功能性规则最重要的部分是在纠结于措辞之前，先将基本逻辑理顺。研究结论指出，通过将结构逻辑与最终文本分离，我们可以创造出能够起草既易于阅读、又严格可验证且随时准备好进行现实世界执行的 AI 代理。这种从生成文本向搜索有效结构的转变，为在信任和准确性不容商榷的受监管环境中部署人工智能提供了一条新路径。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。