Law as Code in Autonomous Drone Perception: Active Inference for Context-Dependent Legal Compliance
本文提出了一种法律执行层（Legal Actuator Layer, LAL），该层通过整合主动推理（Active Inference）使自主无人机能够实时动态地平衡并执行相互冲突的法律义务，在复杂场景中表现优于僵化的基于规则的系统，同时保持了计算效率并解决了学习合规相关数据方面的根本限制。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一架无人机正飞越城市，其摄像头正监视着下方的街道。它必须遵循一套严格的规则：不得飞越私人领地，不得记录未同意被拍摄的人脸，并且必须在指定的飞行路径内活动。对于人类操作员来说，这些指令很清晰。但对于在几分之一秒内做出决策的机器来说，情况要复杂得多。如果发生医疗紧急情况，需要无人机进入限制区以提供援助，同时又违反了隐私法，该怎么办？一个仅仅遵循死板的“如果……那么……”命令的简单计算机程序，很可能会陷入停滞或出错，无法权衡救人与遵守禁飞区规则之间的轻重缓急。这就是监管自主机器的核心挑战：法律不仅仅是静态的规则列表，它们是根据语境而变化的灵活原则。
魁北克大学蒙特利尔分校和马克斯·普朗克人类认知与脑科学研究所的研究人员提出了一种解决这一问题的新方法。他们没有通过硬编码规则列表来为无人机编程，而是构建了一个将法律视为“偏好”的系统。在这种方法中，无人机不仅仅是检查某个动作是否被允许，它还会根据价值等级不断计算它“想要”做什么。在正常情况下，它强烈倾向于避开限制区并保护人们的隐私。但如果它检测到医疗紧急情况，这些偏好就会发生转移。到达目标的欲望变得如此强烈，以至于盖过了远离限制区的偏好，从而允许无人机以一种刚性计算机程序无法实现的合法方式采取行动。研究人员通过一系列计算机模拟测试了这个想法，在无人机的“眼睛”和电机之间创建了一个数字层，充当其“法律良知”。
由 Mahault Albarracin 和 Nicolás Hinrichs 领导的团队将该系统称为“法律执行器层”（Legal Actuator Layer）。他们将其设计为位于无人机的感知系统与物理运动之间的中间层。在标准设置中，无人机可能只是简单地跟随目标，而不顾及是否正在飞越人群或进入禁飞区。法律执行器层会拦截这些指令。在无人机移动之前，该层会根据它所看到的情况提出一系列问题：是否存在紧急情况？附近是否有旁观者？该空域是否受限？然后，它会将这些答案与一组法律目标进行权衡。这些目标不是写成严格的命令，而是作为偏好。例如，无人机有一个强烈的偏好是不捕捉陌生人的脸，但它有一个更强的偏好是避免碰撞或接触需要帮助的人。
为了测试该系统是否有效，研究人员运行了九组不同的模拟实验。在一种场景中，他们要求无人机在追踪一个人的同时，避免捕捉旁观者的脸。一个标准的基于规则的系统要么为了安全始终模糊视频（这会导致难以追踪目标），要么从不模糊视频（从而面临侵犯隐私的风险）。然而，新系统会观察情况。如果摄像头只看到目标，它就保持视频清晰；如果看到了人群，它就会模糊脸部。当系统无法确定看到了什么时，它会选择更安全的选项，即模糊视频以保护隐私。这种行为符合人类编写的规则的表现，但它是通过一种更灵活、能适应不确定性的过程实现的。
最关键的测试发生在规则发生冲突时。研究人员创造了一个场景：无人机需要进入限制区以帮助一名处于医疗紧急情况中的人员。一个严格禁止进入限制区的刚性规则系统将会导致无法救助该人员。而一个拥有简单“紧急情况例外”机制的系统虽然会让无人机飞入，但也会在听到虚假警报时飞入，在正常情况下违反规则的概率高达 56%。然而，新系统的表现不同。它听到了紧急信号，但并没有立即飞入。相反，它停下来收集更多证据，通过检查传感器来确认紧急情况是否真实。一旦它确信了，它就会进入限制区完成任务。在所有紧急情况真实的试验中，它都成功了；在所有没有紧急情况的试验中，它都留在外面。它在速度需求与谨慎需求之间取得了平衡，这是其他系统无法做到的。
研究人员还发现了一个关于这些系统学习能力的惊人局限性。他们尝试通过让无人机从自身经验中学习（类似于儿童通过试错学习）来教导它规则，但这种方法失败了。无人机无法学习关于隐私和限制区的规则，因为要学习这些规则，它必须先打破规则。一个遵守法律的无人机永远不会经历打破规则的后果，因此它永远无法了解那些后果是什么样的。研究人员发现，只有当最关键的传感器（即告知无人机位置以及是否存在紧急情况的传感器）由人类预先校准时，该系统才能发挥作用。无人机可以学习识别环境，但它无法从零开始学习法律本身。
尽管存在这一局限性，该系统仍被证明足以应对现实世界的使用。研究人员测量了无人机做出法律决策所需的时间。从观察世界到决定动作，整个过程仅耗时 0.31 毫秒。这足以在实际无人机上的小型计算机上运行，使“法律良知”能够实时运作而不影响飞行。该系统还展现出一种自然的安全性机制：当传感器噪声很大、无人机无法确定发生了什么时，它会直接停止动作。它宁愿原地悬停，也不愿冒着猜测并可能违反法律的风险。
研究结论指出，将法律编码为灵活的偏好而非僵化的规则，可以让自主机器处理复杂的现实世界情况。通过将法律义务视为随语境变化的竞争性欲望，无人机可以做出既高效又合规的决策。该系统不需要成为完美的律师，它只需要理解某些规则比其他规则更重要，并且有时，正确的做法取决于当前正在发生什么。这种方法为构建能够应对人类社会复杂且冲突的需求、而无需人类为每一个决策都按下按钮的机器提供了一条路径。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。