Constitutive vs. Corrective: A Causal Taxonomy of Human Runtime Involvement in AI Systems
该论文提出了一种基于因果结构的分类框架，通过区分“构成性”（HITL）与“纠正性”（HOTL）介入模式、细化 HOTL 的时间维度及认知整合形式，并厘清描述性角色与规范性“人类监督”要求之间的差异，旨在解决 AI 系统中人类参与术语的模糊性并指导系统设计。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
这篇论文就像是在给混乱的"AI 人类参与”概念整理房间。目前，大家谈论 AI 时，经常混用“人在回路中（HITL）”、“人在回路上（HOTL）”和“人类监督”这些词，就像把“司机”、“乘客”和“交警”都叫作“开车的人”，导致法律制定者、程序员和哲学家经常鸡同鸭讲。
作者提出了一套基于“因果关系”的新分类法，把人类在 AI 运行时的角色分得更清楚。我们可以用几个生动的比喻来理解：
1. 核心区别：是“必经之路”还是“紧急刹车”？
作者认为，区分人类角色的关键不在于人离机器有多近（空间上），而在于人的作用在因果链条里是什么。
HITL（人在回路中）：人类是“必经关卡” (The Gate)
- 比喻：想象你在玩一个闯关游戏，每一关都必须有一个真人按下一个特定的按钮，游戏才能继续。如果没有这个人的操作，机器就“死机”了，什么都做不了。
- 含义：人类的参与是构成性的。没有他，决策就出不来。比如：医生必须亲自点击“确认”按钮，AI 才能给病人开药。
- 关键点：人是决策链条里不可或缺的一环。
HOTL（人在回路上）：人类是“紧急开关” (The Switch)
- 比喻：想象一辆自动驾驶汽车在高速公路上自己跑（这是默认状态）。人类坐在旁边看着，手里握着一个红色的“紧急刹车”或“接管”按钮。如果车要撞墙了，人类可以按下去改变方向；但如果一切正常，人类按不按，车都会自己跑完。
- 含义：人类的参与是纠正性的。机器默认能自己搞定，人类只在出问题时介入（否决、修改或覆盖）。
- 关键点：人是外部的监督者，机器没有他也能转，但他能随时叫停。
2. HOTL 的三种“时间模式”：什么时候按开关？
既然人类是“紧急开关”，那什么时候按呢？作者把 HOTL 分成了三种时间状态：
- 同步 HOTL（实时盯着）：
- 比喻：就像看直播的导演。屏幕上正在发生什么，他立刻就能喊“切镜头”或“停”。
- 特点：实时干预。一旦他介入，他就变成了那个具体结果的“必经关卡”（因为是他改变了结果）。
- 异步 HOTL（事后复盘）：
- 比喻：就像足球教练看比赛录像。比赛已经结束了，他看回放发现战术有问题，于是决定“下一场训练时我们要改战术”。他不能改变刚才那个进球，但能改变未来的比赛。
- 特点：有延迟。干预的是未来的系统行为，而不是当下的那个决定。
- 预期 HOTL（提前画红线）：
- 比喻：就像制定交通规则的人。在车还没上路前，他就规定了“这里限速 60"、“这里禁止左转”。他不在现场，但他划定了机器能做什么的“活动范围”。
- 特点：在系统运行前就设定好约束条件。这是一种更高级的控制，防止机器在错误的方向上跑得太快。
3. 认知维度：是“搭档”还是“合体”？
除了“什么时候介入”，作者还问了另一个问题：人类和机器是怎么思考的？
- 互补智能（Complementary）：像“厨师和切菜机”
- 比喻：厨师负责决定做什么菜（判断），切菜机负责把菜切得飞快（执行）。厨师看着切菜机，心里清楚自己在做什么，机器只是工具。
- 特点：人和机器各干各的，最后凑在一起。人依然保持独立的思考。
- 混合智能（Hybrid）：像“钢铁侠和贾维斯”
- 比喻：托尼·斯塔克戴上头盔后，他的视野里直接叠加了数据、敌人位置和飞行路线。他“看”到的世界已经是机器处理过的了。如果没有这个系统，他根本“看”不到那些信息，也就无法做出同样的判断。
- 特点：人和机器的大脑“纠缠”在一起了。人的思考过程被机器重塑了，他们变成了一个整体。
4. 真正的“人类监督”（Human Oversight）：不仅仅是“在场”
这是论文最精彩的结论之一。很多法律（比如欧盟的 AI 法案）要求“人类监督”，但很多人误以为只要有个活人在旁边按个“确认”按钮（HITL）就算监督了。
- 作者的警告：
- 如果一个人只是机械地点击“同意”，就像盖章机器一样，那这不是真正的监督。
- 真正的监督（Human Oversight） 必须是 HOTL（人在回路上） 的一种高级形式。
- 比喻：真正的监督者不是那个按按钮的“傀儡”，而是那个随时准备拉下紧急刹车、并且有能力、有知识去判断什么时候该刹车的人。
- 结论：法律要求的“有效监督”，往往意味着人类要处于 HOTL 的位置（有否决权），而不仅仅是 HITL 的位置（只是流程的一部分）。
5. 一个棘手的矛盾：既是演员又是裁判？
现实中，同一个人可能既要是“必经关卡”（HITL），又要是“监督者”（HOTL）。
- 比喻：就像让一个正在开车的司机，同时负责盯着仪表盘防止超速。
- 问题：这很难。因为当你忙着操作（开车）时，你很难保持客观的距离去监督（防止自己开太快）。这就像“既是运动员又是裁判”，容易产生盲点。
- 解决方案：作者建议，如果必须这样设计，就要在架构上做补救。比如，让前线操作员负责操作，但让后台的另一个团队负责定期审查和宏观监督，以此来弥补“既当裁判又当运动员”带来的风险。
总结
这篇论文告诉我们：
- 别光看人有没有在机器旁边，要看人是不是决策的“必经之路”（HITL）还是**“紧急刹车”**（HOTL）。
- 真正的“人类监督” 不是走形式，而是要有能力、有准备去纠正错误（通常是 HOTL 角色）。
- 如果让同一个人既操作又监督，就像让猫看鱼，需要额外的制度设计来防止他们“监守自盗”或“盲目自信”。
这套分类法就像给 AI 治理提供了一张清晰的“地图”，让法律制定者、工程师和伦理学家能用同一种语言对话，确保 AI 既聪明又安全。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。