Selective Credibility-Limited Belief Update
本文引入了“选择性信度限制信念更新”框架，该框架通过将认识性输入转化为较弱的、依赖于来源的代理，从而增强了标准的信念更新模型，以实现对复合信息中仅有信度的部分的选择性接受，进而统一并严格泛化了现有的信度限制方法和 Katsuno-Mendelzon 方法。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下你是一位正在一个物理规则随时可能变化的星系中航行的飞船舰长。在人工智能的世界里，这就是“信念更新”（belief update）的工作。不同于“信念修正”（belief revision）——后者就像是在修正一张静态城市的错误地图——信念更新是关于当城市本身突然重新排列街道时，如何调整你的心理地图。几十年来，处理这项任务的标准规则手册，即卡茨诺-门德尔松（Katsuno–Mendelzon, KM）框架，一直遵循着一个简单的“全或无”原则：如果收到一条新指令（比如“街道现在变成了河流”），人工智能必须完全接受它，即使这意味着世界突然违背了逻辑。但在现实世界中，事情并非如此非黑即白。有时，一条新信息的真实性只是部分成立的，或者仅在某些起始点下才是可能的。这就是“可信度”（credibility）概念介入的地方——承认并非每一个可能的未来都是可信的未来。
由 Theofanis Aravanis 和 Costas D. Koutras 提出的一项新研究，为人工智能如何处理这些混乱的更新提出了一种更聪明、更灵活的方法。他们引入了一种被称为“选择性可信度限制信念更新”（Selective Credibility-Limited Belief Update, SCL）的方法。把它想象成一个复杂的过滤器，它不仅仅是说“是”或“否”来对待一条新指令，而是会询问：“考虑到我们现在的处境，这条指令的哪部分是我们真正可以相信的？”如果机器人被告知要“把一个破碎的杯子移到桌子上并把它装满”，标准的 AI 可能会尝试同时完成这两件事，从而创造出一个物理上不可能的场景：一个破碎的杯子盛满了水。旧有的“可信度限制”方法会直接从机器人的脑海中删除整个场景，假装那个破碎的杯子从未存在过。但 Aravavis 和 Koutras 表明，机器人可以更聪明：它可以接受指令中可行的一部分（移动杯子），同时拒绝不行的那一部分（装满水），而无需删除“杯子是破碎的”这一现实。
他们发现的核心是一个针对机器人可能处于的每一个可能世界版本所进行的两步过程。首先，机器人获取新指令，并将其“转换”为一个更弱、更符合其当前情况的现实版本。如果杯子是破损的，那么“装满杯子”这条指令就会被转换为“不对杯中物做任何操作”。第二，机器人检查这个新的、更弱的指令是否会导致一个可信的未来。如果可以，机器人就继续前进；如果不行，则原地不动。这种方法证明了人工智能可以以一种此前无法实现的细致程度，来处理复杂的复合指令。它不会强迫机器人接受一切、拒绝一切或忽略问题的根源。相反，它允许实现“部分接受”，即智能体可以说：“根据我目前的状态，我可以执行你请求的第一部分，但第二部分是不可能的。”
作者严谨地证明了这一新框架在数学上的完备性，表明它涵盖了所有旧方法作为特例，同时提供了更强的能力。他们通过使用这些“转换函数”证明，人工智能可以保持一致性（不相信不可能的事物），同时仍能对新信息做出响应。他们还确定了该系统的特定“表现良好”的版本：其中一个版本保证机器人永远不会陷入没有可能未来的境地，而另一个版本则确保机器人始终能选择可用部分指令中最具信息量、最实用的版本。最终，这项研究表明，人工智能信念系统的未来在于这种中间地带——即智能体既要足够灵活，能够只接受它们能接受的部分，又要足够聪明，能够准确知道那部分究竟是什么。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。