想象一下你正在玩一款高风险的电子游戏,你可以选择亲自控制角色,也可以让一台超级聪明的计算机接管。在过去,如果角色坠毁了,那总是你的错,因为是你拿着手柄。但现在,游戏已经进化了。有时计算机能完美地自主运行;有时它会要求你在瞬间重新拿起手柄;有时即使你已经放下了手柄,它仍会尝试保存游戏。这正是新一代自动驾驶汽车、船舶和飞机的现状。这些机器利用人工智能进行观察、思考和移动,但并不总是有一名人类飞行员在时刻盯着。一个大问题是:如果出了差错并导致有人受伤,谁来买单?是购买了这台机器的人,是制造了其内部“大脑”的公司,还是机器人本身?法律目前仍停留在过去,试图去责备一个可能正在睡觉或看书的人类驾驶员,而当时实际上是由计算机在驾驶。这造成了一个混乱局面,没人知道谁该负责,这让人们对这些神奇的新技术感到畏惧。
这篇由大连海事大学研究团队撰写的论文,试图通过为陆地、海洋和航空建立一套统一的规则手册来解决这个混乱。作者们认为不应该将自动驾驶汽车、机器人船舶和无人机视为完全不同的问题,而是建议通过同一个视角来看待它们:在事故发生的精确时刻,究竟是谁在控制? 他们提出了一个“分级”系统,有点像带有不同难度等级的视频游戏。核心思想是,责任会在人类和机器之间根据一个被称为“接管请求”(Take-over Request, TOR)的特定信号进行转移。把 TOR 想象成计算机在喊:“嘿,我需要帮助!”或者“我能搞定!”
研究人员建议,我们不应仅仅看谁坐在驾驶座上,而是应该将事故分解为三个不同的阶段。首先是**接管前(Pre-Takeover)阶段,即计算机独自驾驶。在这里,如果出了问题,责任将直接落在机器制造者(生产者)身上,因为人类当时本不该做任何事。第二是操作员主导(Operator-Led)阶段,发生在计算机请求帮助之后且人类成功夺回控制权的瞬间。在这一瞬间,人类重新掌控局面,因此如果他们失误了,就像普通驾驶员一样承担责任。但作者增加了一个转折:如果计算机给人的反应时间太短,机器制造者仍需分担责任。第三是系统主导(System-Led)**阶段,即计算机请求帮助,但人类忽略了请求或无法做出反应(例如睡着了或生病了)。在这种情况下,计算机会尝试自行挽救局面。如果失败了,制造者需承担责任,除非人类是故意忽略警告,那么人类则属于过错方。
论文指出,我们需要对不同程度的自动化采取不同的对待方式,就像带辅助轮的自行车与专业赛车是不一样的。对于第3级(人类与机器共同驾驶),论文建议采用“复合型”责任制,这意味着双方可能都要根据事故发生时各自的行为承担责任。对于第4级(机器在特定区域内自动驾驶,如无人驾驶出租车),重点转向机器制造者,因为人类不再进行实际驾驶。最后,对于第5级(机器在任何地方都实现完全自主驾驶,且没有方向盘),论文提出了一个两层安全网:车辆所有者先向受害者赔付(无需多言),然后如果事故是由设计缺陷引起的,所有者可以回头起诉机器制造者。
作者们谨慎地指出,这并不是一个能立即解决所有问题的魔杖。他们承认,他们的想法是一个基于“应当如何运作”的理论框架,而不是已经通过的法律。他们还注意到,虽然他们试图涵盖汽车、船舶和飞机,但船舶和飞机的独特规则可能需要额外的调整。然而,他们的主要发现是,通过将法律责任与实际控制权相匹配——利用数据日志和“黑匣子”来证明谁在掌控——我们可以建立一个既能公平保护受害者,又能让企业有信心继续研发酷炫交通科技的系统。其核心在于确保风险的受益者承担损失,并确保如果“大脑”出现故障,构建这个“大脑”的人负责。
技术摘要:面向陆海空跨模态自动驾驶运输系统的统一侵权责任框架
1. 问题陈述
随着陆、海、空领域自动驾驶运输系统(ATS)的兴起,出现了操作控制权与操作获益权之间的根本性脱节。传统的侵权责任框架依赖于操作员过错以及控制与获益的双重标准,在算法系统执行驾驶任务而人类操作员(或企业)保留收益的情况下,难以应对此类场景。这种分离导致责任主体模糊,尤其是在涉及以下复杂场景时:
- 控制权转移: 通过接管请求(TOR)实现人类操作员与算法系统之间权威的动态转换。
- 跨模态同构性: 尽管运行在不同的物理环境中(陆地、海洋、天空),自动驾驶车辆共享相似的感知、决策和控制机制,但监管方法仍然碎片化。
- 证据不透明性: 自动驾驶系统的“算法黑箱”性质为证明缺陷和分配过错带来了显著挑战,从而导致了阻碍公众采用的“信任赤字”。
- 监管空白: 现有法规(如 UN R155/R156、SAE 标准)侧重于技术规范和安全认证,但在民事侵权责任分配、举证责任以及责任主体定义方面缺乏整体性框架。
2. 研究方法
本文采用跨模态法律教义学分析来构建统一的责任框架。研究方法包括:
- 概念映射: 将 SAE J3016 自动化等级(陆地)与国际海事组织(IMO)自主等级(海洋)以及无人驾驶航空器系统(UAS)类别(空中)进行对齐,以识别共同的“控制概念原型”。
- 阶段划分: 利用**接管请求(TOR)**作为时间边界,根据控制归属将事故过程划分为三个截然不同的、可验证的阶段。
- 技术证据集成: 提出使用可验证的技术数据(事件数据记录器、算法日志、操作员监控系统)来客观验证控制状态和响应时间。
- 责任类型学: 根据主体与风险源的关系,将责任主体分为三类:生产/研发、操作控制、以及利益相关/过程参与。
- 分级归责: 针对 L3、L4 和 L5 级自动化开发特定的责任规则,随着人类干预程度的降低,从过错责任制转向严格责任/无过错责任制。
3. 核心贡献
A. 统一的跨模态框架
本文提出了一个适用于陆、海、空自动驾驶系统的单一法律架构。文章认为,这些系统的技术同构性要求采取统一的监管方式,即从特定领域的治理转向集成化治理。
B. 三阶段控制转移模型
核心分析工具是将事故根据 TOR 分为三个阶段:
- Pre-TOR(系统控制): 系统自主运行,操作员无需干预。
- 操作员主导风险规避(Post-TOR,成功接管): 操作员响应 TOR 并重新获得控制权。
- 责任: 适用针对操作控制群体的过错责任。本文引入了“接管过渡衰减期”以解释认知滞后,若事故发生在成功接管尝试后的极短时间内,则减轻操作员的过错。
- 系统主导风险规避(Post-TOR,接管失败): 操作员未能响应(由于客观能力不足、主观放弃或疏忽),且系统执行了最小风险策略(MRS)。
- 责任: 基于因果强度进行比例责任判定。若 MRS 存在缺陷,则由生产者承担责任;若操作员因疏忽未能响应,则需承担共同责任。
C. 按自动化等级划分的梯度责任链
该框架根据自动化程度定制责任原则:
- Level 3(人机共驾): 采用阶段性复合责任。责任根据事故发生瞬间谁持有控制权而动态转移。举证责任在生产者(证明无缺陷)与操作员(证明尽到注意义务)之间转移。
- Level 4(高度自动化): 确立产品责任为主、操作员责任为辅。在设计运行范围(ODD)内,系统拥有完全控制权。责任主要针对生产者承担严格责任(无过错责任)。操作员责任仅适用于特定场景(例如人类切换模式的双用途车辆)。本文建议将软件更新视为“重新投入流通”,以防止生产者利用“技术发展水平”抗辩来规避对流通后已知缺陷的责任。
- Level 5(完全自动化): 实现双层结构:
- 第一层: 无过错操作员责任(由所有者/管理者/企业承担),以确保受害者能获得即时救济,无需证明算法过错。
- 第二层: 生产者追偿。若根源在于设计或制造缺陷,操作员可向生产者寻求追偿。
D. 证据与伦理机制
- 举证责任转移: 由于技术不对称,受害者只需证明事故发生在系统运行期间。随后,举证责任转移至制造商/操作员,由其证明不存在缺陷或已尽到注意义务。
- 数据保存: 强制要求保留关键数据(如事故前 30 秒),并使用中立的第三方数据托管机制以确保证据不可篡改。
- 伦理治理: 该框架落实了“救济责任”原则,确保创造风险并获取利益的主体承担风险成本,从而平衡受害者救济与创新激励。
4. 结果与发现
- 动态匹配: 研究结论指出,将责任规则与控制分配进行动态匹配至关重要。当控制权由算法行使时,静态的过错模型会失效。
- 风险-收益一致性: 拟议的框架符合“风险-收益一致性”原则。即控制风险的一方(L4/L5 中的生产者,L3 中的操作员)承担主要责任。
- 信任校准: 通过引入“接管过渡衰减期”和定义“合理信任”,该框架旨在防止自动化过度依赖(过度信任)或弃用(信任不足),从而建立稳定的机人交互动态。
- 保险集成: 该模型建议采用分层保险模式(强制交通保险、商业第三者责任险及产品责任险),以在责任链条中有效分配损失。
5. 研究意义
本文将该框架定位为应对自动驾驶时代侵权挑战的具有理论基础且具备实际操作性的解决方案。其意义在于:
- 弥合监管鸿沟: 它提供了一个缺失的“整体伦理治理框架”,将跨模态的技术同构性转化为连贯的问责原则,解决了当前特定领域监管的局限性。
- 重建公众信任: 通过明确责任分配并将举证责任转移给掌握数据的方,旨在解决阻碍自动驾驶系统普及的“信任赤字”。
- 平衡创新与保护: 框架力求在不抑制创新的前提下实现受害者救济。它通过为生产者保留特定抗辩权(如发展风险抗辩、技术水平抗辩),同时确保生产者对已知缺陷和设计失效负责来实现这一目标。
- 面向未来: 它提供了一个可扩展的模型,可以适应从 L3 到 L5 的过渡,并可能在未来的研究中扩展到“车-路-云”基础设施责任。
注:作者承认研究局限性,指出该框架主要为民事侵权分析,并未完全涵盖刑事责任以及海事和航空领域独特的监管细微差别,这些领域可能需要进一步完善。
每周获取最佳 social_science 论文。
受到斯坦福、剑桥和法国科学院研究人员的信赖。
请查收邮箱确认订阅。
出了点问题,再试一次?
无垃圾邮件,随时退订。