Beyond Abstract Compliance: Operationalising trust in AI as a moral relationship

想象一下你正在盖一座房子。目前大多数关于构建“值得信赖”AI 的规则，就像是一个严格的建筑检查员，只检查房子是否有稳固的地基、是否有足够数量的窗户以及是否持有有效的许可证。如果房子通过了清单检查，检查员就会说：“这座房子是值得信赖的。”

但本文的作者认为，信任不仅仅是完成一份清单。 信任更像是与邻居的关系。你信任一个邻居，并不只是因为他们有一道漂亮的篱笆（技术合规性），而是因为你们一起吃过饭，互相帮着搬过家具，并建立了一段长期的诚实历史。

本文建议，我们不应再将 AI 信任视为一种我们可以安装的“产品功能”，而应将其视为一种我们需要去悉心培育的活生生的关系。

以下是他们利用简单类比对这些想法进行的拆解：

1. 问题所在：“清单”陷阱

目前，大型组织（如欧盟）试图通过制定规则来让 AI 变得值得信赖：“要透明”、“要公平”、“要安全”。他们使用清单和审计等工具来证明 AI 遵守了这些规则。

• 类比： 这就像一家餐厅在橱窗里贴上“卫生检查合格”的贴纸。它告诉你厨房是干净的，但它无法告诉你厨师是否真的关心你的用餐体验，或者食物是否符合你家人的口味。
• 问题： 这种方法假设信任是一种你可以通过工程手段实现的静态事物。作者说，信任实际上是人与技术之间的一场动态舞蹈。如果你只是遵循规则却忽略了使用系统的人，你可能会拥有一个“合规”的 AI，但没有人会真正信任它。

2. 解决方案： “Ubuntu”哲学

为了解决这个问题，作者借鉴了一种名为 Ubuntu 的非洲哲学。Ubuntu 有句名言：“因为有我们，所以有我。” 这意味着你不是一个孤立的个体，你的存在是由你与社区的关系所定义的。

• 类比： 不要像为住在一个人的孤立堡垒中建造房子（西方个人主义）那样去建造 AI，而是想象建造一个社区花园。每个人都共同照料它。花园的成功取决于邻居们如何交流、分享工具以及如何互相照看。
• 目标： 本文建议我们像建设社区花园一样，而不是建设孤立的堡垒来构建 AI。我们需要从一开始就让将要使用 AI 的人参与进来，而不是仅仅在最后阶段才考虑他们。

3. “设计即信任” (Trust-by-Design) 的四大支柱

作者提出了四条主要规则，将这一哲学转化为行动。可以将它们想象成一张结实桌子的四条腿：

• 社群主义（“我们”的方法）：

  • 含义： 不要只问，“这是否对用户有帮助？”而要问，“这是否对整个社区有帮助？”
  • 类比： 在规划道路时，不要只询问司机这条路是否快速。要询问行人、当地店主和校车司机，这条路对于所有人来说是否安全。
  • 在 AI 中： 开发人员应该与社区合作，共同决定 AI 应该做什么，确保它能造福整个群体，而不仅仅是造福个人。

• 尊重他人（“人类尊严”的方法）：

  • 含义： 将每一个人视为一个完整的、拥有历史和社区的人，而不仅仅是一个数据点。
  • 类比： 想象一位了解你的名字、你喜爱的书籍以及你的家庭背景的图书管理员，而不是一个只会扫描你的条形码并递给你一本书的机器人。
  • 在 AI 中： 不要仅仅向用户获取一个“勾选式”的同意。要询问社区，“使用这些数据可以吗？”并在用户可能无法完全理解复杂技术的情况下，依然尊重他们的尊严。

• 正直（“言行一致”的方法）：

  • 含义： 即使在无人注视时，也能保持诚实和一致。
  • 类比： 这就像是一个承诺帮你搬家并真的带着卡车出现的真朋友，与一个口头答应帮忙却随后消失的朋友之间的区别。
  • 在 AI 中： 如果 AI 犯了错误，开发人员不应该隐瞒。他们应该承认错误、修复错误，并解释为什么会发生这种情况。当你展示出如何修正错误时，信任才会增长。

• 设计公开性（“开放式厨房”的方法）：

  • 含义： 不要只在 AI 构建完成后才解释它是如何工作的。要解释为什么你最初要那样设计它。
  • 类比： 与其说一位厨师躲在厨房里只在最后呈现成品，不如想象一位厨师邀请你进入厨房，让你看看食材，解释为什么选择这种香料，并在上菜前让你尝尝酱汁。
  • 在 AI 中： 开发人员应该在 AI 发布之前，公开分享他们的目标、价值观和数据选择，以便社区可以说：“是的，这对我们很合理，”或者“不，这不符合我们的价值观。”

4. 付诸实践：两个现实世界的案例

A. 医疗保健（抗生素案例）

• 场景： 一个帮助医生决定给患者使用哪种抗生素的 AI。
• 旧方法： AI 由技术专家构建，经过准确性测试，然后交给医生使用。
• 新方法（设计即信任）：
  • 社群主义： 医生、患者和药剂师坐在一起，共同决定 AI 应该优先考虑什么（例如：是遏制耐药性，还是快速治愈患者）。
  • 尊重： AI 不仅仅查看患者的数据；它尊重患者的历史和医生的判断。
  • 正直： 如果 AI 建议使用错误的抗生素，系统会承认这一点并进行学习，而不是假装自己是完美的。
  • 公开性： 医生和患者完全了解为什么 AI 会做出某些建议，因此可以将 AI 视为合作伙伴而非黑箱。

B. 教育（AI 导师案例）

• 场景： 一个帮助学生学习的 AI 导师。
• 旧方法： AI 取代老师或仅仅是传递知识。
• 新方法（设计即信任）：
  • 社群主义： 目标不是取代老师（即抚育孩子的“村庄”），而是支持他们。AI 的设计旨在促进社区的凝聚，而不是孤立学生。
  • 尊重： AI 使用学生的本地语言，并理解他们的文化背景。它不会因为学生的错误而羞辱他们，而是鼓励成长。
  • 正直： 如果 AI 答错了问题，它会告诉学生和老师，“我犯了一个错误”，并进行修正。
  • 公开性： 社区协助决定 AI 教什么内容，确保它不仅教授西方思想，同时也尊重当地的知识。

核心总结

本文认为，我们无法像编写代码功能那样将信任“编码”进机器中。信任是一种道德关系。为了构建人们真正信任的 AI，我们需要停止将社区视为被动的用户，而开始将他们视为共同创造者。我们需要构建能够体现透明、诚实并深度尊重其服务的人及社区的 AI，就像一位优秀的邻居那样。