✨ 要点🔬 技术摘要
想象一下，人工智能（AI）研究的世界就像一座繁忙的大都市，成千上万的建筑师正在建造各种各样的机器人。这座城市正面临一个问题：这些机器人有时会做出不公平或“有偏见”（biased）的决策。这篇论文的研究人员决定在城市中走走，看看这些建筑师们究竟是如何讨论这个问题的。
他们不仅仅是读了几本书；他们使用了一个强大的计算机工具（就像一位超级聪明的图书管理员）扫描了 6,520 篇不同的研究论文 ，以理解对于构建这些系统的人来说，“偏见”究竟意味着什么。
以下是他们发现的内容，用简单的语言进行了说明：
1. 这座城市说着不同的方言
最大的发现是，AI 研究界对于什么是“偏见”并没有达成共识。这就像一群人试图修理一只漏水的船，但有些人认为漏水是因为船体有个洞，有些人认为是因为桨坏了，还有一些人甚至认为水其实是一种有助于船只漂浮的特性！
研究人员发现了 18 种不同的方式 来定义偏见，并将它们归纳为 四个主要的社区（街区） ：
社区 A：机械师（算法偏见）
观点： 在这里，工程师将偏见视为一种统计上的小故障 。类比： 想象一个稍微失衡的秤。如果你在其中一侧放一块重石，它就会倾斜。对于这些研究人员来说，“偏见”只是需要调整的重量，以便让秤显示为零。转折： 在这个社区，偏见并不总是被视为“坏事”。有时，他们把偏见当作收音机的旋钮 。你可以转动旋钮（调整偏见）来让音乐（AI 的性能）听起来更好。他们将其视为一种需要调校的工具，而不是需要惩罚的罪行。
社区 B：专家（特定应用偏见）
观点： 这个社区关注特定工作中的偏见，例如医疗诊断 、网络安全 或图像识别 。类比： 想象一下医生的 X 光机。有时机器会有“静电噪音”（偏见），导致图像模糊。这里的研究人员试图修复这种静电，以便医生能看清骨骼。转折： 在某些情况下，比如网络安全，他们实际上会故意加入一点偏见，以提高系统识别黑客的能力。这就像一名保安，如果看起来可疑，就会对背包检查得更仔细。
社区 C：原材料（数据偏见）
观点： 这组人担心的是 AI 食用的食材 。类比： 想象你正在教一个孩子做饭，但你只给他们提供辣味食物的食谱。这个孩子就会认为所有的食物都应该是辣的。这就是数据偏见。如果训练数据是混乱、不完整或有偏差的，AI 就会学到错误的教训。重点： 这些研究人员是“质量控制”团队，试图在烹饪开始之前清理好食材。
社区 D：社会观察者（社会与伦理偏见）
观点： 这组人关注的是对现实世界的影响 。类比： 想象一个法庭上的机器人法官。如果这个机器人是基于旧的法院记录训练的，而那些记录中对某些群体是不公平的，那么机器人可能会延续这种不公平。这个社区关心的是歧视、公平性，以及机器人是否正在伤害特定的人群。重点： 他们认为，你不能仅仅通过“调一下旋钮”来解决这个问题。这是一个深刻的社会问题，需要观察社会是如何运作的，而不仅仅是代码是如何运作的。
2. 两种主要的哲学观
论文指出，整个城市都分裂为两种思维方式：
“技术性”观点： 偏见是一个数学问题。它是一个过高或过低的数字。如果我们编写更好的代码或清理数据，我们就可以解决它。“社会技术性”观点： 偏见是一个包裹在代码中的人类问题。它源于历史、文化和不平等。你不能仅靠数学来解决它；你需要了解机器人所生活的那些人和社会。
3. 大问题：缺乏共同语言
论文得出结论，由于每个人都在使用不同的定义，很难进行真正的对话。
一位研究人员可能会说：“我修复了偏见！”（意思是他们调整了一个数字，使机器人运行得更快）。
而另一位研究人员可能会说：“但机器人对女性仍然不公平！”（意思是社会结果仍然很糟糕）。
他们是在鸡同讲讲，无法沟通。论文建议，AI 社区需要停止假装存在一个单一的定义。相反，他们需要承认偏见是数学、数据和人类社会的复杂结合体 。
总结
作者并不是说我们要停止制造 AI。他们是说，如果我们想要制造公平的 AI，我们就不能仅仅把代码看作一台坏掉的机器。我们必须意识到，偏见有时是一种工具 （为了让事物运行得更好），有时也是一道伤口 （会伤害人类），我们需要同时用扳手和一颗心去对待它。
技术摘要：在人工智能研究中应对偏见的浑水
1. 问题陈述
尽管人们对人工智能偏见的社会和伦理后果的认识日益增强，但对于人工智能研究界本身如何理解、定义和操作化“偏见”这一概念，仍缺乏清晰的认识。现有的关于算法偏见的文献综述通常范围有限（例如，仅分析不到 60 篇文章），或侧重于特定领域（如性别偏见或聊天机器人），或者依赖于无法全面映射偏见在庞大 AI 研究体系中复杂且多样含义的手动合成方法。因此，目前尚无统一的理解来确定偏见被主要视为统计误差、可调参数，还是涉及歧视和伦理伤害的社会技术问题。本研究旨在通过系统地剖析 AI 研究界对偏见的观点，以弥合技术、社会和伦理利益相关者之间的概念差距。
2. 研究方法
作者采用了利用**主题模型（Topic Modeling）进行 计算文献综述（CLR）**的方法，对大规模学术文献进行了分析。
数据收集： 研究从主要数据库（ACM、IEEE、Springer、Web of Science、EBSCO）以及顶级计算机科学会议（AAAI、ACL、CVPR、ICML、NeurIPS 等）中汇总了 16,464 篇论文。筛选与资格： 在剔除重复项并将范围限制在 2000 年后发表的英文论文后，通过三步关键词扩展策略（涉及核心 AI 概念、后向引用分析和前向引用分析）来识别与偏见直接相关的论文。这最终得到了一个包含 6,520 篇文章 的最终数据集（53.2% 为期刊文章，46.8% 为会议论文集）。主题模型： 作者对这 6,520 篇论文的摘要应用了潜在狄利克雷分配（LDA） 。
模型选择： 选择 LDA 而非较新的神经方法（如 BERTopic），是因为其稳定性更高、资源需求较低，且在该特定数据集上的表现更优（LDA 的主题连贯性为 0.36，主题多样性为 0.95；而 BERTopic 分别为 0.02 和 0.72）。参数调优： 模型运行参数为 39 个主题、4,000 次迭代、β = 0.01 \beta=0.01 β = 0.01 α = 0.13 \alpha=0.13 α = 0.13 稳定性检查： 为确保主题稳定性，作者运行了三次模型，并使用余弦相似度识别出 24 个稳定主题，最终通过人工编码将其精炼为 18 个连贯且相关的主题 。
人工编码与分析： 两名作者独立对 18 个主题进行了意义和相关性的编码，并在标签和定义上达成共识。随后将这些主题归纳为四个主要主题，并对照现有的偏见分类法（如 Suresh & Guttag, 2021; Mehrabi et al., 2022）进行了分析。
3. 关键结果
分析表明，人工智能研究界对偏见的定义是分散且复杂的，往往表现出迥异的概念。识别出的 18 个主题被归纳为四个主要主题：
A. 算法偏见（技术概念）
主题： 分类算法、神经网络参数、预测建模、强化学习、无监督聚类。概念： 偏见主要被视为一种技术低效 或可调的统计参数 。
在神经网络参数 和系统性偏好 中，偏见不被视为需要消除的缺陷，而被视为可以优化的参数（例如，通过遗传算法）以提升模型性能。
在分类算法 中，偏见被框架化为由不平衡数据集引起的挑战，通过过采样或合成数据生成等技术手段来解决。
B. 应用特定偏见（技术/上下文概念）
主题： 网络安全应用、AI 医学应用、信息检索、图像分割、自然语言处理（NLP）、计算机视觉。概念： 偏见通过特定领域的视角来理解。
在网络安全 和信息检索 中，偏见有时被设计为一种特征，用以增强检测准确性或检索效能（例如，模拟人类注视点的“中心偏见”）。
在医学应用 中，偏见被严格视为一种威胁临床有效性的负面系统性偏差，必须在部署前予以缓解。
在 NLP 中，偏见被识别为训练数据中社会不平等的反映（表征偏见）。
C. 数据偏见（社会技术概念）
主题： 领域自适应、偏见偏移、系统性偏好、训练数据分布。概念： 偏见根源于训练数据的质量、分布和代表性。
诸如标签噪声、类别分布倾斜和领域偏移等问题被认为是贯穿整个 AI 流程的基础性缺陷。
该主题将技术层面的数据问题与数据质量对模型泛化能力的广泛影响联系起来。
D. 社会与伦理偏见（社会技术概念）
主题： 用户行为分析、AI 公平性与歧视、AI 伦理问题。概念： 偏见被定义为影响社会群体的歧视 和不公平结果 。
该主题关注敏感属性（种族、性别）、机构问责制以及 AI 系统带来的现实世界危害。
它明确将偏见框架化为一个社会和伦理问题，需要监管、透明度和审计，而非仅仅是一个统计误差。
交叉概念：
技术性： 偏见作为一种统计偏差或性能参数，旨在被最小化或调节。社会技术性： 偏见作为算法设计的社会后果，涉及歧视、权力动态和伦理影响。
4. 核心贡献
规模与范围： 这是首个采用计算方法全面调查 AI 偏见文献的研究，分析了 6,520 篇文章，而以往的综述分析的文章不足 60 篇。偏见分类法： 研究提供了一个细粒度的 18 个研究主题映射，揭示了 AI 社区对偏见并不持有统一的观点。识别分歧： 研究强调了一个关键的张力：一些子领域将偏见视为一种可以用来增强性能的“可调参数”（例如在优化和计算机视觉领域），而另一些领域则严格将其视为必须消除的伦理缺陷。差距分析： 研究表明，现有的偏见分类法（如历史偏见、表征偏见、测量偏见）不足以捕捉当前研究中偏见的完整光谱，特别是关于“偏见作为设计特征”以及领域特定表现形式的内容。
5. 重要性与主张
作者认为，人工智能研究界必须更有效地参与到偏见这一概念的讨论中，以建立统一的理解。本文的意义在于证明了偏见不仅仅是一个技术问题 ，无法仅靠计算或统计方法来解决。
重构话语： 本文主张，虽然技术缓解是必要的，但仅靠技术是不够的。需要一种社会技术视角 来应对塑造偏见 AI 系统的上下文、社会和伦理因素。呼吁对话： 研究结果表明，需要开展跨社区对话，以弥合那些将偏见视为统计参数的研究者与那些将其视为社会危害来源的研究者之间的鸿沟。伦理能动性： 研究将 AI 研究界定位为“伦理代理人”，其对偏见的定义和处理方式直接影响着 AI 系统在高度敏感环境下的开发与实施。局限性说明： 作者承认，由于依赖摘要（而非全文）以及英文出版物，可能会限制对某些细微差别的深度把握（特别是在临床背景下），并且主题模型本质上反映的是语料库的逻辑，而非对偏见概念的完美聚焦。
总之，本文断言，将偏见简化为单纯的统计定义忽略了该问题的复杂性、动态性及领域特定性。有效的缓解需要一种多学科的方法，将技术解决方案与更广泛的社会技术视角相结合。
每周获取最佳 computer science 论文。
受到斯坦福、剑桥和法国科学院研究人员的信赖。
请查收邮箱确认订阅。
出了点问题，再试一次？
无垃圾邮件，随时退订。