Verifiable abstention makes AI leak diagnosis accountable in water distribution networks
本文介绍了一种用于水网中人工智能驱动漏水定位的可验证弃权框架，其中由基于物理学的执行器与经大语言模型审计的监督器协同工作，仅在证据符合严格合同标准时才认证调度指令，从而即使在嘈杂的现场条件下也能实现高决策精度与问责性。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
水务部门面临着一个持续存在且成本高昂的问题：处理过的水在到达用户的龙头之前，就通过隐藏的裂缝和破损的管道流失了。这种“无收益水”代表了巨大的资源和资金损失，估计每年高达数十亿美元。几十年来，解决方案似乎在于提高检测能力。工程师们开发了日益复杂的计算机模型，利用来自压力传感器的压力数据来推测漏水可能发生的位置。然而，在计算机的猜测与人类的行动之间，仍然存在着一个关键的鸿沟。挖掘街道寻找漏水点既昂贵、具有破坏性，又受到严格监管；如果计算机仅仅基于一个猜测就向施工队发送指令，会导致公用事业部门浪费数千美元并损害公众信任。核心挑战不仅在于找到漏水点，更在于明确知道何时“不应该”挖掘。
研究人员现在提出了一种处理这种不确定性的新方法，将目标从单纯地预测位置转向做出负责任的决策。该系统不再强迫计算机对检测到的每一个异常情况都给出一个位置，而是旨在承认自己在证据不足时无法采取行动。这种方法将诊断过程比作医学上的鉴别诊断：系统不会假设每一次咳嗽都是肺炎，而是会考虑其他可能性，例如传感器故障或用水量的突然激增，并且只有在证据极其充分时才会建议进行手术。通过构建一个能够自信地说出“我不知道”并证明原因的系统，研究人员旨在弥合人工智能与基础设施管理中现实世界安全要求之间的差距。
由来自多个中国机构的研究人员领导的团队构建了一个两部分的数字系统，用于在水网中测试这一想法。第一部分被称为“执行器”（executor），它扮演着严谨调查员的角色。它利用数字孪生系统（即模拟水流和压力变化的虚拟网络副本）来测试相互竞争的理论。当传感器检测到异常压力下降时，执行器并不会直接假设这是漏水。它会模拟如果该压力下降是由漏水、需求突增、传感器损坏或阀门误关引起的场景。它运行这些模拟，以观察哪种理论能够真正还原现实世界的观测数据。如果某种理论无法匹配观测到的数值，则会被剔除。这一过程在信息传递给决策者之前，就过滤掉了虚假警报。
系统的第二部分是“监督员”（supervisor），它充当独立的审计员。它本身从不进行位置猜测，而是审查执行器生成的证据包。这个证据包仅包含源自物理模拟的硬性数据，例如漏水理论与数据的拟合程度，以及该理论比其他理论优越多少。监督员根据一套严格的规则或“契约”来检查这些数据，只有满足这些规则，才能授权采取行动。如果证据充足，系统会发布一份带有数字证书的调度指令，证明该决策是合理的。如果证据薄弱或存在歧义，系统则拒绝行动，从而避免派遣施工队。这种弃权并非失败，而是一种经过验证的刻意结果，旨在防止代价高昂的错误。
为了测试这种方法，研究人员将其应用于多种不同场景，范围从计算机生成的模型到中国的一个真实区域网络。在包含381个节点的标准计算机网络模拟中，一个被迫对每个事件进行猜测的传统系统，其正确率仅为32%左右。然而，新系统选择仅对约40%的事件采取行动，但在采取行动时，其正确率达到了96%。它成功识别出许多异常现象并非漏水，而是准确区分了它们与传感器误差或需求激增。当系统遇到证据不足以支撑挖掘工作的状况时，它会选择弃权，从而避免了困扰强制猜测方法的68%的错误率。
该系统还通过一个第三方基准数据集进行了测试，该数据集由另一个模型生成，模拟了计算机内部地图与现实不完全匹配的真实场景。在这种极具挑战性的测试中，系统在88%的事件中选择了弃权，因为它意识到数据噪声太大，无法确定。对于那四个证据充分的事件，它采取了行动，并实现了100%的精确度，准确识别了漏水位置且未出现任何虚假警报。这证明了该系统可以将逻辑迁移到新环境而无需重新训练，这是实际部署中的关键要求。
最严格的测试是在中国的一个真实水区进行的，使用的是2025年的194份实际漏水维修记录。在这样的现实环境中，漏水往往非常细微，产生的压力信号极其微弱，几乎被淹没在系统的自然噪声中。一个被迫进行猜测的传统系统会对这194次事件全部派发施工队，但很可能仅有12%的概率能找到正确位置。新系统遵循其严格的规则，判定压力证据不足以支持挖掘几乎所有的此类案例。它仅针对五个事件下达了指令，且其中三个是正确的。虽然这看起来是一个较低的数字，但研究人员指出，系统如实反映了数据的局限性。
为了找回那些由于压力传感器无法检测到的微小漏水，系统增加了第二层调查手段。它观察进入不同区域网络的总水量。即使漏水微小到无法引起传感器的明显压力变化，它仍然会增加进入该区域的总水量。通过对比进入区域的水量与离开区域的水量，系统可以识别出漏水所在的区域。通过这种质量平衡法，系统成功识别出了194个真实漏水案例中85个所属的正确区域，在区域层面实现了100%的精确度。这种两层级的处理方式让公用事业部门能够有效地分配资源：仅在压力数据清晰时派遣挖掘小组，而在压力数据过弱时，则派遣探测小组前往正确的区域进行听漏作业。
研究人员强调，该系统的优势在于其证明“何时不应行动”的能力。在这样一个人工智能常被期望对每个问题都给出答案的世界里，这项工作表明，最有价值的贡献或许是能够说出“我不确定”。通过将每一项决策都建立在物理模拟之上，并辅以独立检查进行验证，该系统为每一次行动都创建了可辩护的记录。这种问责制对于受监管的基础设施至关重要，因为错误的决策可能会造成数百万美元的损失并损害公众信任。研究表明，通过结合物理驱动的调查员和严格遵守规则的审计员，我们可以构建出一种不仅聪明，而且足够安全可靠、足以被信任用于现实世界决策的AI系统。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。