Ethics Shaped by Contestation: The Trolley Problem and the Formation of Ethical Problems in Autonomous Vehicle Ethics
本文认为，电车难题在自动驾驶汽车伦理学中的真正意义不在于提供确定的碰撞解决方案，而在于作为一个动态的争辩框架，不断地将伦理探究从极端情境重塑、重构并扩展到更广泛的风险治理与机构责任问题上。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一个汽车能够自动驾驶的世界，它们正在做出曾经完全属于人类驾驶员的瞬时决策。随着我们迈向这个未来，一个熟悉的道德难题成为了辩论的核心：电车难题。在其经典形式中，这个思想实验要求一个人在两个糟糕的结果之间做出选择，例如，通过拉动杠杆将失控的火车转向，从而导致一人死亡以换取五人的生还。多年来，这一场景一直被用来询问自动驾驶汽车是否应该被程序设定为牺牲乘客以拯救一群行人，或反之亦然。公众和媒体一直将这一困境视为衡量自动驾驶汽车伦理的终极测试，认为真正的挑战仅仅在于决定在碰撞中撞向谁。然而，一种新的观点表明，仅仅关注这些极端的碰撞时刻，忽略了我们究竟如何将道德规则植入机器的大局。
研究人员凌鹏（Ling Peng）和万丹（Dan Wan）来自湖南师范大学，他们认为，在自动驾驶汽车时代，电车难题的真正价值并不在于它为自动驾驶汽车在灾难中该如何表现提供了一个现成的答案。相反，他们提出，这个问题是一个强大的工具，用于塑造我们最初提出的问题。通过研究这个著名的道德谜题是如何被工程师和伦xt专家使用、批评和改编的，作者们展示了这场辩论实际上扩大了研究领域。这场争论并没有将对话缩小到仅仅是碰撞场景，而是迫使专家们去审视汽车所做的日常、常规决策，如何随时间管理风险，以及当事情出错时谁该承担责任。在这种观点下，电车难题不是一个死胡同，而是一个让对话持续推进的起点。
要理解这种转变，必须首先了解电车难题在哲学中是如何运作的。它不仅仅是一个关于艰难抉择的故事；它是一种比较两种看似非常相似但会让人们感觉不同的情况的方法。例如，在故事的一个版本中，一个人可以通过拉动杠杆切换轨道来救五个人，从而导致另一侧的一人死亡。大多数人觉得这是可以接受的。但在另一个版本中，救五人的唯一方法是将一个体型硕大的人推下桥以阻挡火车。在这里，大多数人觉得这是错误的，尽管结果是一样的：一人死亡以救五人。哲学家利用这种感受上的差异，来弄清楚哪些具体的细节在道德上是重要的。研究人员解释说，当这种方法进入自动驾驶汽车的世界时，它就不再仅仅是一个关于危机时刻的故事，而成为了一个组织我们如何思考技术的框架。
在设计自动驾驶汽车时，它们并不会等到碰撞发生才做决定。它们的规则在驶上道路之前很久就已经写好了。作者描述了电车难题在这种背景下是如何转化的。它不再是一个关于人类在紧急情况下应该做什么的问题，而变成了一个关于工程师应该在软件中编写什么样的规则的问题。这完全改变了问题的性质。与其问“汽车应该撞谁？”，不如问“我们如何构建一个能做出这些选择的系统？”电车难题帮助研究人员识别出哪些价值观被植入了汽车的代码中，例如汽车是优先考虑乘客的安全，还是路人的安全。它像是一个透镜，将某些伦理问题聚焦，特别是关于伤害分配和价值排序的问题。
然而，作者指出这种透镜是有局限性的。如果我们只看电车难题，我们可能会错过自动驾驶汽车实际完成的大部分工作。批评者认为，经典的场景过于极端且不切实际。现实中的汽车并不会面临在杀死一个人或五个人之间进行完美、明确抉择的情况。它们每一秒都在面对混乱、不确定的局面。研究人员发现，随着人们争论电车难题是否适合自动驾驶汽车，这场辩论实际上推动了该领域去审视碰撞之外的领域。那种认为该问题过于狭隘的批评，迫使专家们去考虑驾驶中的“平凡情境”。这些是普通的时刻，比如汽车决定在人行横道处离行人多近，或者在繁忙的交叉路口开多快。这些日常决策每天发生数百万次，它们以一种单一碰撞场景无法捕捉的方式在全社会分配着风险。
论文指出，电理难题之所以有价值，恰恰是因为它是有争议的。那些反对它的观点——说它太简单、太戏剧化或太罕见——并不是说应该丢弃这个想法的迹象。相反，这些批评起到了一种扩展伦理对话的机制作用。当专家们说电车难题忽略了驾驶中的日常风险时，他们被迫创造新的方式来思考风险管理和责任。辩论从“汽车在碰撞时应该做什么？”转向了“汽车应该如何表现以预防碰撞？”以及“汽车在正常行驶过程中创造的风险由谁负责？”电车难题作为一个参考点，帮助构建了这些新问题，即使它正受到质疑。它迫使该领域定义其边界，并决定什么才算是一个伦理问题。
最终，研究人员得出结论，电车难题并不能解决自动驾驶汽车的伦理挑战。它没有告诉我们如何编写车辆程序的正确答案。相反，它塑造了我们需要解决的问题的形式。通过将某些问题带入光亮之下，同时隐藏其他问题，并因这样做而受到批评，电车难题让伦理探究保持活跃并不断演进。它提醒我们，技术伦理中最重要的部分不仅是找到正确的答案，而是理解我们是如何决定什么是问题本身的。这场辩论本身，连同其中的所有分歧和完善，正是让我们能够看清自动驾驶汽车正在进入的复杂道德图景的过程。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。