Direct Causation in International Humanitarian Law and the Challenge of AI-Mediated Civilian Cyber Operations
本文认为，人工智能介导的平民网络行动因其自主系统决策发生在人类脱离之后，从而在结构上削弱了国际人道法中关于直接参与敌对行动的“直接因果关系”测试，因此有必要建立一个基于目标规范粒度的全新框架，以解决由此产生的法律空白。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
这是一篇关于该论文的通俗易懂的解释，通过类比将复杂的法律和技术概念清晰地呈现出来。
大局观：破碎的战争规则手册
想象一下，国际人道法（战争规则）就像是一个交通系统。它最重要的规则是：“不要撞到平民。”
然而，这里有一个特定的例外情况：如果一名平民为了帮助敌人作战而踏入车道（比如驾驶坦克或开枪射击），他们在那个时刻就会失去他们的“平民护盾”，从而成为被攻击的目标。这被称为直接参与敌对行动。
本文认为，一种新型的“司机”正出现在道路上：利用人工智能（AI）进行自主网络攻击的平民。 作者声称，现有的交通规则（法律）还不知道如何处理这种新型司机，整个系统即将崩溃。
三条交通规则（法律测试）
为了判断一名平民是在“战斗”（可以被攻击）还是仅仅在“帮忙”（必须受到保护），国际红十字委员会（ICRC）使用了一个三部分组成的测试。本文只关注其中一部分：直接因果关系（Direct Causation）。
把这条规则想象成一条事件链。要让一名平民被视为战斗人员，其行为必须是造成损害的直接环节。
- 旧规则： 如果你扣动扳机，你就是战斗人员。如果你埋下一枚稍后才会爆炸的炸弹，你仍然是战斗人员（因为你精确决定了它在何时何地爆炸）。
- “一步”理念： 法律倾向于看到在你所做的行为与造成的损害之间有一条简短、清晰的线。
三种场景：从“助手”到“幽灵司机”
作者通过三种不同的平民使用 AI 进行攻击的方式来测试这一规则。
场景 1：AI 作为打字机（安全区）
- 行为： 一名平民使用 AI 聊天机器人协助编写一个计算机病毒，对其进行编辑，然后按下“回车键”将其发布。
- 类比： 这就像是用拼写检查器写一封信，然后由你自己寄出。AI 提供了帮助，但你做出了最终决定并扣动了扳机。
- 结论： 法律在这里运作良好。你是一名战斗人员。
를 场景 2：AI 作为副驾驶（灰色地带）
- 行为： 一名平民设置了一个 AI 代理来寻找计算机漏洞。AI 找到了一个目标并说：“嘿，我觉得我可以黑进这个系统。你想让我试试吗？”人类回答：“好的，开始吧。”
- 类比： 这就像是 GPS 建议了一条路线，但你必须为每一次转向按下“出发”按钮。人类仍然坐在驾驶位上，做出最终决定。
- 结论： 法律在这里基本仍然有效。你是一名战斗人员。
场景 3：AI 作为自动驾驶仪（崩溃点）
- 行为： 一名平民告诉 AI：“去破坏敌人的燃料供应。”随后人类便离开了。AI 在接下来的 24 小时内自行决定了要攻击哪些油罐车、如何黑入它们以及何时发动袭击。
- 类比： 这就像是给一辆自动驾驶汽车设定了一个目的地（“去敌方基地”），然后你便下了车。汽车自行行驶，完成所有转向，避开障碍物，最后撞向目标。人类不再驾驶，他们只是设定了目的地。
- 结论： 法律失效了。
为什么法律会失效（“幽灵司机”问题）
作者认为，在场景 3 中，由于以下两个主要原因，法律系统会感到困惑：
- “一步”的间隙： 法律规定伤害必须与人类的行为处于“一个因果步骤”之内。但在场景 3 中，人类设定了目标，而 AI 在中间做了数百个决策。人类并没有决定要攻击哪辆卡车，而是由 AI 决定的。这个链条太长且断裂了。
- “组成部分”的失效： 法律允许一群人如果属于一个协调一致的团队（如无人机打击小组）时被视为战斗人员。但在场景 3 中，并不存在团队。这里只有一个人类和一个机器人。机器人不是法律可以分类的“人”。因此，这个人类看起来只是在“制造武器”（就像科学家或工厂工人一样），而不是在“战斗”。
结果： 根据现行规则，场景 3 中的平民在技术上是受到保护的，因为法律认为他们只是“支持者”（比如在工厂里造炸弹的人），而不是“战斗人员”（比如驾驶坦克的人）。这是一个巨大的问题，因为他们确实蓄意发动了战争罪行，但规则却无法捕捉到他们。
解决方案：衡量“你在多大程度上进行了规划？”
作者提出了一种衡量这些情况的新方法，称为目标规范粒度（Goal-Specification Granularity）。可以将其想象为一个拥有五个档位的“控制旋钮”：
- 第 1 级（完全控制）： “在下午 5:00 开车前往这栋特定的房子，打破这扇特定的窗户。”（人类规划了一切）。
- 第 5 级（仅限目标）： “去闯入敌人的房子。”（人类没有规划任何内容；AI 决定一切）。
论文指出，目前的法律之所以失效，是因为它没有一种方法来衡量第 5 级的情况。它将一个“第 5 级”的战斗人员与一个“第 1 级”的工厂工人等同对待。
缺失的工具
最后，论文指出我们现有的技术工具（如软件日志）并没有记录这个“控制旋钮”。
- 问题： 当黑客发起 AI 攻击时，系统会记录 AI 做了什么，但它不会记录人类在多大程度上指挥了它。
- 后果： 由于没有一种方法来记录人类是给出了具体指令还是仅仅给出了一个模糊目标，律师和法官无法区分“战斗人员”与“支持者”。
总结
论文得出结论，随着 AI 变得越来越聪明，平民将能够释放出在战场上游荡的“数字野狼”然后转身离去。现有的战争法假设，如果你开始了一场战斗，你仍然牵着绳子。但随着先进 AI 的出现，绳子被切断了。法律需要一种新的方法，来精确测量有多少计划是由人类编写的，有多少是由机器编写的，否则法律将无法保护平民，也无法惩罚正确的人。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。