Implementing Causal Perception: Competing SCMs and Situated Fairness

想象一下你正在试图解开一个谜题，比如弄清楚为什么你房间里的一株植物正在枯萎。你可能会观察阳光、水分或土壤。在人工智能（AI）的世界里，科学家们使用被称为“结构因果模型”的特殊地图来进行同样的工作。这些地图就像是展示事物如何导致其他事物发生的流程图。例如，一张地图可能会显示“低收入”会导致“信用评分低”。但这里有一个转折：两个不同的人（或 AI 程序）可能会观察同一株植物，却画出两张完全不同的地图。一个人可能认为问题出在土壤，而另一个人则认为问题出在阳光。这不仅仅是一个错误；这是他们看待世界方式的不同。这个想法至关重要，因为当我们要求 AI 做出公平决策时——比如决定谁能获得贷款或工作——这些决策完全取决于该 AI 使用哪张地图。如果地图不一致，那么“公平”的概念就会随着观察者的不同而改变。

由 José M. Álvarez 撰写的这篇论文通过构建第一个能够实际测量这些“冲突地图”的计算机程序，实现了从理论到现实的巨大跨越。作者将这种现象称为“因果感知”。把它想象成两个朋友在看电影。即使他们看到了相同的场景，他们也可能根据各自的人生经历对角色的动机产生不同的理解。在 AI 世界中，这意味着两个智能体（或“接收者”）可能会观察同一组贷款申请人，并对为什么有些人被拒绝看到两种不同的故事。该论文使用来自德国的 1,000 名贷款申请人的真实数据集进行了测试。研究人员创建了两个数字“信贷官员”，他们对大多数事情都达成共识，但在一个特定的规则上存在分歧：即一个人的性别是否直接影响其信用风险。

结果令人大开眼界。尽管这两位官员仅在一个连接关系上存在分歧，但他们最终看到的景象却大相径庭。当研究人员测量他们的观点有多远时，他们发现两位官员在约 21.7% 的个人贷款决策上存在分歧。论文还强调，这种分歧会导致截然不同的公平性评估；例如，在引言中描述的一个假设情景中，两个在单个因果边上存在差异的接收者，所得到的人口统计学平价差距分别为 -0.594 对比 -0.170。论文还发现，答案是“他们是否看待事物的方式不同？”完全取决于你使用哪种测量工具。如果你使用一种类型的尺子（一种名为 Wasserstein-2 的距离度量），他们看起来几乎一样。但如果你使用另一种尺子（如 Kullback-Leibler 散度或全变差），差距看起来就会非常巨大。

最终，这篇论文表明，偏见不仅仅是一个悬浮在空中的固定事实；它是“情境化的”，这意味着它取决于进行判断的人或 AI 的特定世界观。作者认为，我们不能仅仅忽略这些相互竞争的世界观，或者强迫每个人都同意一个单一的“正确”地图。相反，我们需要承认，在一个拥有多个专家的世界里，不同的人确实会对公平产生不同的感知，而我们的工具需要准备好处理这种分歧，而不是假装它不存在。