Sector-Specific Ethics in Artificial Intelligence: Clinical Applications, Military Automation, AutonomousVehicles, and Educational Technology

想象一个计算机不仅仅是计算器或游戏机，而是决策者的世界。这就是人工智能（AI）的领域。把 AI 想象成一个超级聪明的学徒，它通过阅读数百万本书籍和观看无数视频来学习。但问题在于：仅仅因为一个学徒动作快、知识广，并不意味着它总是知道什么是“正确”的。有时，它可能会从阅读的书籍中习得坏习惯，或者做出一个虽然救了一个人却伤害了另一个人的选择。这就是“伦理”发挥作用的地方。伦理简单来说就是做正确事情的规则手册。当我们把这些超级聪明的学徒交给严肃的工作——比如治疗病人、驾驶汽车，甚至参与战争——我们不能只使用一本通用的规则手册。适用于电子游戏的规则在医院里可能会演变成一场灾难。这就是为什么科学家和思想家们在追问：我们如何确保我们的 AI 学徒在访问每一个特定的“社区”时都能表现良好？

这篇文章由 Connor Nitchals 撰写，深入探讨了四个 AI 已经在其中工作的截然不同的“社区”：医院、战场、道路和学校。作者指出，我们不能对所有 AI 一视同仁。相反，我们需要为每项工作量身定制一套“盔甲”。本文并不声称已经解决了所有问题，也没有找到修复一切的魔术按钮。相反，它更像是一张地图，指出了每个领域独特的陷阱和危险，同时也强调了一些适用于所有领域的共同安全规则。它建议，为了保持安全和公平，我们需要非常谨慎地设计这些系统，确保它们具有透明性（我们知道它们是如何思考的）、安全性（它们不会崩溃或伤害人类）以及防止被误用。

让我们先从医院，即临床 AI 开始。想象一个读过历史上所有医学期刊的医生助手。它可以极其快速地帮助识别疾病或制定治疗方案。但论文警告说，如果这个助手是从对某些群体不公平的旧医疗记录中学习的，它可能会延续这种不公平。这就像一个只从 20 世纪 50 年代编写的教科书中学习的学生；他们可能会认为世界还没有发生变化，即使现实早已不同。论文建议，为了让 AI 在医院发挥作用，我们需要不断检查它的“作业”，以确保它没有偏见。我们还需要知道它是如何得出结论的。如果 AI 是一个给出答案却不解释原因的“黑箱”，医生就无法将其托付于病人的生命。作者强调，我们需要让真人医生参与其中进行双重检查，并确保病人的隐私永远不会被侵犯。

接下来，我们将视角转向战场，即军事自动化。这是最严肃的社区。在这里，AI 可能被用于驾驶坦克、监视敌人，甚至决定何时开火。论文强调了一个巨大的伦理担忧：机器是否应该被允许做出关于生死的最终决定？作者建议，我们必须对这些决策保持“有意义的人类控制”。这就像是在说，机器人可以驾驶坦克，但按下按钮的必须是人类。论文认为，如果机器人犯错并造成伤害，很难确定谁该负责——是程序员、士兵还是机器本身？因此，论文建议我们需要严格的规则来防止这些系统被黑客攻击或以违反国际法的方式被使用。虽然为了国家安全需要一定的保密性，但作者指出，过度的秘密会导致公众失去信任，因此需要一种平衡。

然后，我们跳进驾驶座，看看自动驾驶汽车（AVs）。这些是利用摄像头和传感器在世界上导航的自动驾驶车。其前景是减少交通事故并让出行更轻松。然而，论文指出，这些汽车面临着棘手的局面，例如在碰撞不可避免时该怎么办。是应该为了救行人而转向从而伤害乘客吗？论文建议，虽然我们无法完美解决每一个“如果……会怎样”的情景，但工程师必须设计出优先考虑人类生命并尽量减少伤害的汽车。它还提到，我们需要新的法律来确定如果自动驾驶汽车发生车祸，责任归谁。是车主、软件制造商，还是制造汽车的公司？作者强调，为了让人们信任这些汽车，公司需要公开其工作原理及其局限性。

最后，我们走进教室，即教育技术。在这里，AI 帮助教师批改作业、个性化教学并追踪学生的学习情况。论文警告说，这是一把双刃剑。一方面，它可以帮助每个学生按自己的节奏学习。另一方面，它收集了大量关于学生习惯和大脑发育的私人数据。作者建议，我们必须非常小心，不要利用这些数据来监视孩子或不公平地惩罚他们。如果 AI 是基于有利于富裕学生的数据进行训练的，它可能会给贫困学生提供错误的建议，从而拉大两者之间的差距。论文认为，学校需要对如何使用这些数据保持透明，并确保 AI 是支持学习，而不是像一个严厉的走廊管理员一样盯着学生。

那么，这一切的核心启示是什么？论文总结道，尽管医院、战场、道路和学校非常不同，但它们都共享一些共同的安全规则。无论是机器人医生还是自动驾驶巴士，我们都需要透明性（了解其运作方式）、安全性（确保其不会损坏）、防止误用（阻止坏人黑入系统）以及隐私保护（保护个人数据安全）。作者建议，我们不能只有一本涵盖所有 AI 的巨大规则手册。相反，我们需要一个灵活的框架，既尊重每个领域的独特规则，又坚持这些核心价值观。本文并未声称找到了最终答案，但它为政府和科学家构建更好、更安全、更公平的未来 AI 系统提供了一个坚实的起点。