Trust-Aware Sequential Decision Making and Rollout Planning for Resilient Multi-Robot Systems
本文通过引入一种结合了距离约束对手模型与概率监测器的信任感知框架，来解决 GPS 欺骗下的弹性多机器人路由问题，该框架旨在检测并移除受损智能体，从而恢复规划器与执行器的一致性，并实现有效的基于展开的决策制定。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一个城市，数百辆自动驾驶汽车和送货无人机协同工作，运送乘客和包裹。它们依赖一台中央计算机来决定谁去哪里，这个过程要求每辆车都要如实报告自己的位置，并实际前往分配的任务目的地。当每个人都配合时，这个系统运行得非常完美；但它面临着一个独特的脆弱性：如果一辆车撒谎说自己在哪里，或者干脆拒绝执行被告知的任务，会发生什么？在现实世界中，这不仅仅是一个小故障，而是一种战略性攻击。恶意行为者可以欺骗系统，将司机引导至虚假位置，从而浪费时间并让真正的客户等待。危险之处在于，相信了谎言的中央计算机可能会不断向同一个虚假地点发送更多司机，从而创造出一个失控的、徒劳无功的交通拥堵。
哈佛大学和约翰斯·霍普金斯大学的研究人员开发出一种保护这些系统的新方法，其核心不在于试图阻止每一个谎言，而在于改变计算机看待其信任的驾驶员的方式。他们的研究重点是针对一种被称为“定位欺骗”（localization spoofing）的特定类型欺骗，即攻击者伪造其 GPS 信号。研究团队发现，聪明的攻击者不需要通过大肆撒谎来制造混乱，他们只需要进行适度的欺骗，在保持接近真实位置以避免立即被检测到的同时，影响系统的决策。为了解决这个问题，研究人员创建了一个“具备信任感知能力”的规划系统。该系统并不假设每辆车都是诚实的，而是不断评估两种类型的证据：位置信号本身的可靠性，以及车辆在道路上的实际行为。如果一辆车声称在接送点，却从未出现，或者其位置信号看起来很可疑，系统就会将其标记出来。至关重要的是，一旦一辆车被标记为不可信，中央计算机就会完全停止为其规划路线，从而有效地将其从团队的心理地图中移除，使其不再能够干扰交通流。
研究人员使用基于旧金山真实出租车需求数据的海量模拟实验测试了这一想法。他们构建了一个拥有超过一千个交叉口的数字城市，并模拟了一支自动驾驶车队尝试接送乘客的过程。在实验中，他们引入了少量“对抗性”车辆，这些车辆被程序设定为对位置撒谎并忽略分配的任务。他们发现，即使只有一辆不诚实的车辆也能使整个系统失稳，导致未完成请求的积压不断增加并导致订单取消。系统的失败并非因为它无法计算路径，而是因为它基于一个错误的现实在进行计算。当研究人员加入这种具备信任感知的监控功能后，系统开始识别出这些撒谎者。它结合了检查 GPS 信号质量和观察接送失败情况的方法来识别不良行为者。一旦被识别，这些车辆就会被排除在未来的规划之外。
最显著的发现出现在他们测试一种名为“展开”（rollout）的高级规划方法时。这种方法通过模拟未来来运作：计算机在脑海中尝试不同的路线选择，以观察哪种选择在数小时后能产生最好的结果。然而，研究人员表明，如果模拟过程中包含了现实世界中并不存在的车辆，这种方法就会失效。如果计算机模拟了一个未来，其中一个撒谎者应该去接乘客，但该撒谎者实际上并未移动，那么模拟就会变得毫无意义，导致计算机做出错误的决策。研究表明，通过将不可信车辆从规划过程中移除，系统可以恢复其模拟的准确性。这使得这种先进的规划方法能够重新发挥作用，恢复其寻找更佳路线和清理积压任务的能力。
实验表明，系统需要的不仅仅是对位置信号的快速检查。研究人员发现，攻击者可以通过进行细微且隐蔽的谎言来隐藏自己，使位置数据看起来几乎正常。在这种情况下，系统依赖于“行为信任”，即观察车辆实际做了什么。它是否接载了乘客？它是否准时到达？通过将信号检查与行动检查相结合，系统可以捕捉到那些通过简单位置检查就能逃脱的撒谎者。研究还表明，恢复速度取决于计算机规划未来的深度。一个目光短浅的计划在处理撒谎者留下的烂摊子时会显得力不从心，而一个能看更远未来的计划则可以成功绕过损失并恢复秩序。
这项工作并不声称已经解决了对自动驾驶系统所有的可能攻击，也不意味着问题已经消失。研究人员指出，他们的测试是使用真实世界数据进行的模拟，并且他们承认现实世界的传感器可能会有不同的表现，或者攻击者可能会找到新的隐藏方式。他们还指出，永久移除一辆车辆是一种保守的选择；在现实城市中，暂时暂停或减少其职责可能比永久禁令更好。然而，核心见解是明确的：为了让机器人团队在受到攻击时仍能正常运作，领导者不仅要观察谎言，还必须根据所见内容积极重塑其对团队的理解。通过在决策前过滤掉不可靠的成员，系统即使在部分组件受损的情况下，也能保持稳定且高效的运行。这项研究表明，面向韧性机器人的未来在于信任与规划之间的这种动态关系，即世界的地图需要不断更新，不仅要反映事物的存在，还要反映谁是可以被依靠来完成工作的。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。