论文技术总结：跨领域公平性——软件工程与人文科学视角的比较

论文标题：Fairness Across Fields: Comparing Software Engineering and Human Sciences Perspectives
作者：Lucas Valença, Ronnie de Souza Santos (卡尔加里大学)
发表会议：FSE '26 (2026 年 7 月，蒙特利尔)

---

1. 研究背景与问题 (Problem)

随着人工智能（AI）和机器学习（ML）系统在医疗、公共安全、教育、金融等社会关键领域的广泛应用，软件系统的输出直接影响了个人的机会、资源获取及生活结果。因此，**公平性（Fairness）**已成为软件工程中的核心非功能性需求。

然而，当前软件工程领域对公平性的处理存在明显的局限性：

• 工程视角：倾向于将公平性定义为可测量、可测试的统计属性（如群体公平、个体公平），侧重于算法偏差的缓解和结果分布的均衡。这种方法往往将公平性抽象为技术属性，忽略了其背后的社会关系、制度背景和权力动态。
• 人文视角：社会科学、法学、哲学等人文学科将公平性视为一种情境化（Situated）、历史性的社会政治概念，强调结构性不平等、权力关系和正义。

核心研究问题 (RQ)：软件工程中的公平性概念与人文学科及社会科学中的公平性解释有何不同？这种差异如何影响伦理技术开发的实践？

2. 方法论 (Methodology)

本研究采用了混合文献综述方法，通过对比两个互补的二次研究（Secondary Studies）来整合跨学科见解：

1. 软件工程领域的系统性三级综述 (Systematic Tertiary Review)：

   • 目标：映射软件工程中公平性的定义、操作化和评估方式。
   • 数据源：Google Scholar, ACM, IEEE Xplore, Scopus 等数据库。
   • 筛选标准：仅纳入关于公平性、AI 偏差的系统性综述或文献综述（2017-2025 年）。
   • 样本量：45 篇论文。

2. 人文学科领域的快速综述 (Rapid Review)：

   • 目标：综合人文学科和社会科学中关于算法公平性的理论及实证讨论。
   • 数据源：Google Scholar。
   • 筛选标准：关注算法的社会影响、不平等、正义等概念（2016-2025 年）。
   • 样本量：25 篇论文。

分析过程：

• 针对两个领域分别制定了五个研究问题（RQ1-RQ5），涵盖定义、评估指标、社会收益、促进方法以及局限性。
• 采用定量统计（描述性统计）和定性主题分析（Thematic Synthesis）相结合的方法，提取核心概念、定义、指标、实践及挑战，并进行跨领域对比。

3. 关键发现 (Key Results)

研究揭示了软件工程与人文科学在公平性认知上的根本性差异：

3.1 公平性的定义与概念化 (Definition & Conceptualization)

• 软件工程：
  • 定义：主要定义为结果的无歧视分布（Absence of discrimination through distribution of results）。
  • 视角：将公平性视为系统的形式化、数学和统计属性。强调通过分类（如性别、种族）来消除偏差，认为算法公平性可以通过数学定义来“具体化”。
  • 核心逻辑：公平 = 可验证的统计均衡。
• 人文科学：
  • 定义：定义为受权力和结构性不平等塑造的社会政治及历史情境构建（Socio-political and historically situated construct）。
  • 视角：不公平并非孤立的技术问题，而是深植于制度、治理、文化和历史过程（如殖民主义）中。
  • 核心逻辑：公平 = 对权力动态的反思与正义的实现。

3.2 评估指标与标准 (Metrics & Criteria)

• 软件工程：
  • 依赖二元分类器评估指标（如真阳性率、假阳性率）。
  • 主要指标包括：群体公平（Group Fairness）、个体公平（Individual Fairness）、人口统计 parity（Demographic Parity）、机会均等（Equal Opportunity）、反事实公平（Counterfactual Fairness）等。
  • 局限：这些指标关注结果分布，往往无法触及歧视的根源（如历史遗留问题）。
• 人文科学：
  • 不适用传统的量化指标。
  • 关注点在于：法律反歧视指南、制度治理、基于价值的框架、道德推理以及算法决策的社会后果。

3.3 社会收益 (Social Benefits)

• 软件工程：侧重于偏差缓解、信任与可靠性（通过透明度和可审计性）、法律合规。
• 人文科学：侧重于减少结构性不公、民主参与和集体能动性（恢复被自动化剥夺的控制权）、公平获取与认可（承认少数群体的知识）、打破既得权力动态。

3.4 促进公平的方法 (Approaches & Practices)

• 软件工程：
  • 技术干预：预处理（数据重加权）、处理中（修改模型边界）、后处理（调整输出）。
  • 工具：公平性工具包（Fairness Toolkits）、人机回环（Human-in-the-loop）、多样性团队、设计过程中的公平性需求提取。
• 人文科学：
  • 社会与政治干预：在设计中嵌入多元视角（女权主义、去殖民化视角）、调查交叉的不平等结构、法律框架、促进透明度与问责制、参与式实践（让受影响者参与设计）、伦理拒绝（Ethical Refusal，即拒绝开发某些本质上无法公平的有害技术，如监控系统）。

3.5 局限性与挑战 (Limitations & Challenges)

• 软件工程：
  • 缺乏对公平性定义的共识；
  • 数据隐私与敏感属性处理的困难；
  • 公平性与性能（Accuracy）的权衡；
  • 黑盒模型的可解释性差；
  • 将复杂的社会问题简化为技术问题。
• 人文科学：
  • 工程界未能认识到社会生活的复杂性（将社会问题技术化）；
  • 技术公平实践往往复制了现有的等级制度和权力结构；
  • 缺乏全面的监管，现有法律框架不足以应对社会技术复杂性。

4. 主要贡献 (Key Contributions)

1. 跨学科对比框架：首次系统性地对比了软件工程（技术/形式化）与人文学科（社会/情境化）对公平性的不同理解，揭示了两者之间的“学科鸿沟”。
2. 概念澄清：明确指出软件工程将公平性简化为“可测量的质量属性”，而人文学科将其视为“情境化的社会价值”。这种简化可能导致忽视技术背后的权力关系和历史不平等。
3. 实践指导：提出了超越纯技术视角的公平性实现路径。指出仅靠算法调整（如去偏差）不足以解决根本问题，必须结合参与式设计、制度问责和对技术本身存在合理性的伦理反思。
4. 方法论整合：展示了如何通过结合系统性综述（SE）和快速综述（Humanities）来捕捉快速演变的跨学科议题。

5. 研究意义与启示 (Significance)

• 对软件工程的启示：
  • 工程师不能仅将公平性视为一个可以通过数学公式解决的优化问题。
  • 需要引入情境化理解（Situated Understanding），认识到算法是在特定的社会、政治和历史背景下运行和解释的。
  • 必须关注“公平性债务”（Fairness Debt），即由于忽视社会背景而累积的伦理后果。
• 对 AI 治理的启示：
  • 公平性的评估不能仅依赖自动化指标，需要结合定性分析、利益相关者参与和伦理审查。
  • 在某些情况下（如监控技术），最公平的“解决方案”可能是拒绝开发该技术（Ethical Refusal）。
• 未来方向：
  • 未来的研究应致力于弥合技术严谨性与社会伦理理解之间的差距，建立一种**社会技术（Socio-technical）**的公平性视角，将可测量的标准与情境化的伦理认知相结合。
  • 建议未来的工作不仅对比文献，还要纳入软件从业者的实际经验，形成“文献 - 实践 - 社会科学”的三方对比。

总结：该论文有力地论证了，若要在 AI 时代实现真正的公平，软件工程必须走出纯粹的技术视角，主动吸纳人文学科关于权力、正义和历史的深刻见解，将公平性从“系统属性”重构为“社会过程”。