All Eyes on the Ranker: Participatory Auditing to Surface Blind Spots in Ranked Search Results

这是一份关于论文《All Eyes on the Ranker: Participatory Auditing to Surface Blind Spots in Ranked Search Results》（全员关注排名者：参与式审计以揭示排名搜索结果中的盲点）的详细技术总结。

1. 研究背景与问题 (Problem)

• 核心问题：现有的搜索引擎评估主要依赖领域专家、基于模型中心的指标（如相关性判断、NDCG 等）或输出导向的分析。这些方法往往忽略了用户如何体验问责制（accountability）、伤害（harm）和信任（trust）。
• 现有局限：
  • 传统的审计通常由外部专家主导，侧重于技术合规性，忽视了终端用户的实际体验和情境化理解。
  • 随着基于机器学习和神经语义模型（如 MonoT5）的排序系统变得越来越具有说服力（convincing）和复杂，仅靠输出分析难以发现潜在的偏见、操纵或累积性伤害。
  • 用户常被视为被动的结果接收者，而非主动的审计参与者，导致许多由用户感知到的因果联系和背景性伤害在常规审计中不可见。
• 研究目标：探讨参与式审计（Participatory Auditing）作为一种补充方法，如何揭示用户对排名搜索结果的因果和情境化理解，特别是识别那些在常规审计中未被发现的盲点、问责差距以及用户感知的伤害。

2. 方法论 (Methodology)

研究团队组织了三次参与式审计研讨会（共 21 名参与者），采用定性的主题分析方法。

• 参与者：21 名来自不同年龄、职业和教育背景的参与者（非 AI 专家），通过大学校园招募。
• 实验系统：基于开源 PyTerrier 框架构建的自定义搜索系统，查询 TREC 公平排序轨道（Fair Ranking Track）的维基百科快照。
• 核心组件：
  • 两种排序模型：
    1. BM25：作为词汇基线（Lexical Baseline），预期产生浅层、关键词驱动的排名。
    2. MonoT5：作为神经语义重排序模型（Neural Semantic Reranker），预期产生更连贯、语义相关的结果。
  • 四种任务设计：
    1. 任务 1（基线）：使用 BM25 处理查询"famous doctor"，展示关键词匹配的局限性。
    2. 任务 2（语义模型）：使用 MonoT5 处理相同查询，展示语义理解的优越性。
    3. 任务 3（透明度与控制）：引入增强界面，允许模型切换、查看元数据（来源国家、浏览量等）以及“自动公平性”功能，测试用户对透明度和控制的需求。
    4. 任务 4（对抗性操纵）：使用 MonoT5 处理查询"Tylenol"。人为通过关键词注入（在"Helen Keaney"的传记中注入"Tylenol"、"relevant"、"true"等词）将原本排名第 17 的文章提升至前 5 名，测试用户是否能识别这种针对神经模型的操纵。
• 活动流程：
  • 引入审计概念（参考欧盟《数字服务法案》DSA）。
  • 交互式搜索任务。
  • 反思性活动：参与者通过便签、管道图（Pipeline Diagram）和影响力矩阵（Impact Matrix）进行标注， articulate（阐明）他们对排名系统的因果叙事、期望及感知到的伤害。
• 数据分析：采用 Braun 和 Clarke 的反思性主题分析法（Reflexive Thematic Analysis），对研讨会录音转录稿和便签 artefacts 进行编码。

3. 关键贡献 (Key Contributions)

1. 概念贡献：论证参与式审计应被视为传统专家主导审计的补充，而非替代。它通过扎根于用户的“情境化体验”（situated experiences），揭示了技术指标无法捕捉的问责问题。
2. 实证贡献：
   • 展示了参与者如何识别、误认或未能检测到排名结果中的伤害。
   • 揭示了感知到的系统能力（Perceived System Competence）如何影响用户的批判性审查：当模型表现良好（如 MonoT5）时，用户倾向于产生信任，从而降低了对潜在操纵的警惕性。
3. 方法论贡献：提出了一种结构化的参与式审计 IR（信息检索）方法，包括对比不同排序模型、变化界面功能（透明度/控制）以及引入对抗性操纵，为研究搜索系统的影响和可审计性提供了新范式。

4. 主要发现与结果 (Results)

研究结果围绕两个研究问题（RQ）展开：

RQ1: 当邀请用户审计排名搜索结果时，哪些伤害和问责问题变得清晰可见？

参与者通过参与式审计揭示了一个用户感知伤害的分类法（Taxonomy of User-Perceived Impacts），涵盖四个维度：

• **认识论影响 **(Epistemic)：包括错误信息、确认偏误、批判性审查的减少、对易错排名的错误信任，以及用户意图与系统解释之间的错位。
• **表征影响 **(Representational)：包括可见性的系统性模式、少数群体或替代视角的缺失、排名结果的同质化（如性别、地理、职业背景）。
• **基础设施影响 **(Infrastructural)：包括语料库来源的不透明、缺乏申诉机制（Recourse mechanisms）、整个管道组件对操纵的易感性，以及排名提供商的权力集中。
• **下游社会影响 **(Downstream Social)：包括政治极化、刻板印象的强化、边缘化视角的排斥、议程设置效应，以及通过 AI 优化内容获得的不公平优势。

关键洞察：用户不仅仅评估结果的质量，更关注排名背后的权力结构、数据来源和潜在的社会后果。

RQ2: 参与式审计过程中会出现哪些挑战和局限性？

• “令人信服的错误” (Convincing Wrongness)：当神经模型（MonoT5）表现出高度的语义连贯性时，用户会赋予其认识论权威（Epistemic Authority）。这种信任导致用户在面对明显的对抗性操纵（如任务 4 中的关键词注入）时，未能及时识别，除非被明确提示。
• 信任抑制批判：先前的成功交互积累了信任，降低了用户在后续任务中的批判性审查力度。
• 透明度与申诉的脱节：虽然用户渴望透明度（如查看数据来源），但仅仅提供信息而不提供有效的申诉机制（Recourse，即纠正或报告错误的能力），只会产生“问责的幻觉”。用户希望不仅能“看到”问题，还能“解决”问题。
• 审计能力的局限：参与式审计本身并非万能，它暴露了用户在面对高度复杂的黑盒系统时，由于缺乏技术背景或过度信任，可能会产生盲点。

5. 意义与影响 (Significance)

• 对监管的启示：在欧盟《人工智能法案》（EU AI Act）和《数字服务法案》（DSA）强调持续风险评估和用户问责的背景下，该研究证明参与式审计是将这些法规要求落地到真实世界使用场景的关键手段。
• 超越技术指标：传统的 IR 指标（如 NDCG）只能衡量单点查询的性能，无法捕捉累积性的偏见或用户感知的社会伤害。参与式审计填补了这一空白，揭示了“相关性”和“公平性”在用户眼中的真实含义。
• 系统设计的反思：研究指出，仅仅提高模型的语义理解能力（如使用 MonoT5）可能会因为增加系统的“说服力”而掩盖操纵风险。未来的搜索系统设计必须考虑如何在保持高性能的同时，维持用户的批判性警惕，并提供有效的申诉和干预渠道。
• 审计范式的转变：从单纯的“合规性检查”转向“共同发现伤害”，强调将受影响的利益相关者（用户）纳入审计过程，以构建更具包容性和韧性的信息检索系统。

总结：该论文通过实证研究证明，参与式审计是揭示排名搜索系统中隐性伤害和问责差距的有力工具，但也警示我们，系统的“智能”和“可信度”本身可能成为审计的障碍，需要更精细的方法来平衡信任与批判。