PrivateAgent: Mobility-Aware AI Agents for Safe Private Networks

在现代工业世界中，一种新型的神经系统正在扎根。它并非由神经组成，而是由运行在工厂、仓库和大型园区内部的私有蜂窝网络构成的，这些网络与公共互联网相隔离。这些网络连接着从固定监控摄像头到佩戴智能眼镜的工人，再到在地面上自由移动的自主机器人的所有设备。对于工程师而言，挑战在于这些设备的行为方式并不一致。安装在墙上的摄像头连接稳定，可以稍作等待接收指令；然而，在通道中行驶的机器人必须在瞬间做出决策以避免碰撞，哪怕仅仅是极其微小的延迟，也可能导致物理碰撞或生产线停工。多年来，人们一直假设一个强大的单一人工智能可以从中心位置管理所有这些不同的任务。本文认为，这种“一刀切”的方法不仅效率低下，而且具有潜在的危险性。

这项研究背后的研究人员与来自意大利、美国和中国的机构合作，提出了一种组织这些智能系统的新方法。他们将其称为 PrivateAgent。他们建议不要依赖一个中央大脑，而是根据设备的移动速度和反应速度快慢来划分工作。其核心思想是：安全至关重要的任务（例如在机器人撞到人之前使其停止）必须在设备本身即时完成。而需要更多思考的任务（例如为整个机器人集群规划路线）可以在附近的本地计算机（即“边缘”）进行。只有最缓慢的任务（如长期学习或软件更新）才需要发送到遥远的云端。这种分离确保了即使在失去与云端的连接时，系统依然能够保持安全。

为了测试这一想法，团队利用来自四个不同私有网络的真实世界数据创建了一套严谨的测试。他们并没有仅仅模拟一个完美的世界，而是使用了实际记录的数据，展示了当工人走过货架或机器人穿过门口时信号是如何表现的。他们将这些数据输入到一个人工智能模型中，并要求它决定采取什么网络行动。该模型必须在三个选项中做出选择：立即行动、因情况不明而请求更多信息，或者因不安全而拒绝行动。结果令人瞩目。在全部五十个测试场景中，该模型都正确识别了它应该行动、澄清还是拒绝请求。当它选择行动时，在 90% 的情况下选择了安全且可接受的动作，并且在 86% 的情况下选择了单一的最佳动作。

至关重要的是，论文还强调了在人工智能之外运行的第二层安全机制。即使人工智能做出了正确的决策，系统也必须在执行前验证该决策是否有效。研究人员构建了一个严格的数字“守门员”，用于检查每一个提议的变更。这个守门员会检查是否存在信息缺失、请求是否不可能实现，或者是否存在人工智能在凭空捏造内容的迹象。在测试中，他们故意向系统注入了 400 个错误，以观察守门员是否能捕捉到它们。传统的检查方式仅关注请求的基本格式，只能捕捉到 150 个错误；而这种更彻底的新型守门员则捕捉到了全部 400 个错误。这证明了拥有一个独立且分离的检查机制，对于防止系统犯下危险错误至关重要。

研究还将这些私有网络中的不同类型设备分为三类。第一组是静态设备，例如监控周边的固定摄像头。这些设备不会移动，因此其连接很稳定。对于这类设备，系统可以承受较慢的速度，并可以依赖云端进行重度分析。第二组是低移动性设备，例如携带手持扫描仪的工人或以步行速度移动的叉车。这些设备移动程度足以引起信号的短暂中断，因此系统需要具备智能化的连接切换能力并准备好指令。第三组是高移动性设备，包括自主机器人和无人机，它们移动速度快且具有不可预测性。对于这些设备，系统必须极其迅速。研究人员发现，对于高移动性设备，最关键的安全决策必须留在设备本身。如果网络连接失败，机器人仍必须能够在不等待远程服务器信号的情况下安全停止。

最重要的发现之一是，所使用的人工智能类型应当与任务相匹配。论文反对使用单一的大型语言模型来控制一切。语言模型擅长理解复杂指令或总结情况，但对于控制机器人的刹车来说，它太慢且具有不可预测性。相反，系统采用的是一种层级结构：小型、快速的程序处理设备上的即时安全循环；更复杂的推理发生在本地边缘；而大型语言模型则保留用于高层规划或对发生事件进行事后解释。这种分工防止了系统在需要速度时被缓慢的处理过程所拖累。

研究人员还解决了信任问题。在人工智能对网络流量做出决策的系统中，存在一种风险，即 AI 可能会提出一个看起来正确但实际上有害的建议。例如，AI 可能会建议将视频流重新路由到另一条路径，却没意识到新路径已被封锁，或者违反了安全规则。PrivateAgent 框架将 AI 的每一个建议都视为必须经过独立验证程序签署确认的“草案”。这个验证器会检查证据、请求的范围，以及是否存在出错时的回滚计划。在测试中，这种独立的检查能够检测出细微的错误，例如伪造的数据或超出 AI 权限的请求，而简单的格式检查则无法做到。

研究结论指出，私有网络的未来在于这种“感知移动性”的方法。通过认识到固定摄像头、行走中的工人和高速行驶的机器人有着本质不同的需求，工程师可以构建出既更智能又更安全的系统。该框架并不要求每个设备都时刻连接到云端。相反，它允许系统实现“优雅降级”。如果与边缘端的连接丢失，固定摄像头会继续进行本地记录；如果与云端的连接丢失，机器人仍会利用其车载传感器进行导航。目标不是创建一个完美、不可破坏的系统，而是创建一个了解自身局限并拥有明确应对方案（当情况出错时）的系统。

这项工作代表了迈向使工业自动化更加可靠的重要一步。它将讨论的重点从单纯询问人工智能能有多强大，转向了询问这种智能应该存在于何处，以及应该如何对其进行检查。结果表明，通过正确的结构，人工智能可以在不牺牲安全性的前提下管理复杂的网络。研究人员已将其测试数据和方法公开，邀请业界在此基础上进行开发。未来的路径包括将这些测试扩展到更复杂的机器人运动和更长时间的运行，但核心原则始终清晰：安全性取决于将决策速度与机器速度相匹配。