On Defining Erasure Harms for NLP
本文通过提出一个关于“抹除”（erasure）的结构化定义，旨在解决自然语言处理（NLP）领域在识别和衡量表征伤害时缺乏统一概念基础的问题，从而为从业者在不同场景下明确阐述并使该现象具象化提供指导。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正在看一张繁忙街道的照片。如果有人拿起一把剪刀，从照片中剪掉了特定人群的面孔，你就有了“抹除”（erasure）。你能看到街道，但其中一个群体消失了，或者他们的存在变得如此微弱，以至于你几乎察觉不到。
这篇论文是关于我们——作为人工智能语言系统（如聊天机器人或新闻摘要工具）的构建者和使用者——如何停止仅仅靠猜测何时发生这种“剪切”行为，并开始建立一套清晰、共享的规则手册。
以下是作者观点的简单拆解：
问题所在：我们都在使用不同的尺子
目前，当研究人员谈论人工智能中的“抹除”时，他们都在使用不同的定义。
- “太宽泛”的尺子： 有人说，“如果一个群体没有被足够多地提及，那就是抹除。”这太模糊了。这就像是在没有定义什么是“乱”的情况下说“房间很乱”。你无法测量它。
- “太具体”的尺子： 另一些人说，“抹除是指人工智能未能正确标记原住民的图像。”这对于那项特定的工作很好，但它无法帮助我们理解新闻摘要或聊天机器人中的抹除现象。
因为我们没有统一的标准定义，所以很难构建工具来衡量人工智能是否真的通过“抹除”在伤害人类。
解决方案：一个六部分的配方
作者提出了一个结构化的“配方”来定义抹除。他们认为，在你说一个 AI 抹除了某些内容之前，必须明确填补六个特定的空白。这就像是在布置一场法庭案件；在做出判决之前，你需要所有的证据到位。
以下是定义抹除所需的六种成分：
- 目标（谁缺失了？）： 我们担心失去的是谁或什么？是一个特定的人的身份？一种完整的文化？还是某个特定事件的历史？
- 对象（我们在观察什么？）： 我们正在检查什么？是 AI 写的摘要？是一组搜索结果？还是一个生成的故事？
- 背景条件（为什么这很重要？）： 这是最重要的部分。你需要识别出我们试图避免的“不公平模式”。
- 类比： 想象一条新闻报道说：“发生了一起枪击案，”而不是“警察射杀了一名男子。”这里的“背景条件”是媒体隐藏警察暴力角色的历史模式。如果 AI 重复了这种模式，那就是糟糕的。如果 AI 只是省略了一个与有害模式无关的随机事实，那可能只是一个错误，而不是抹除。
- 基础知识（原本应该有什么？）： 输出中应该包含哪些信息？如果你要求 AI 总结一段文本，那么“基础知识”就是原文。如果 AI 遗漏了原文中没有的内容，那不是抹除；那只是摘要。
- 替代方案（一个“好”的版本看起来是什么样的？）： 你需要想象一个更好的输出版本。如果 AI 写了一个隐藏了警察角色的摘要，那么“替代方案”就是一个清楚说明警察开枪的摘要。
- 弱化方式（它是如何被隐藏的？）： AI 是如何让目标变得不如“好”版本那样明显的？是使用了被动语态？是省略了一个名字？还是把信息放在了列表的最底部？
论文中的现实案例
作者使用了一个新闻摘要器来展示这是如何运作的。
- 情境： 一篇文章写道：“警察射杀并导致一名男子死亡。”
- AI 输出： AI 将其总结为：“他在一起警务人员参与的枪击事件中死亡。”
- 应用配方：
- 目标： 警察的角色。
- 背景条件： 我们知道媒体经常试图淡化警察暴力行为（一种有害模式）。
- 基础知识： 原文清楚地说明了是警察进行的射击。
- 替代方案： 一个说明警察射杀了他的摘要。
- 弱化方式： AI 使用了被动语态（“警务人员参与”）来隐藏是谁扣动了扳机。
- 结论： 这是抹除。AI 拿取了一个明确的事实，并利用语言使警察的角色变得不那么明显，从而重现了一种有害的历史模式。
为什么这很重要
论文认为，你不能仅仅说“人工智能存在偏见”然后就结束了。你必须具体化。通过填补这六个空白，从业者可以：
- 对正在发生的事情达成共识： 不再争论某事“是否”是抹除，而是开始测量它发生的“程度”。
- 构建更好的工具： 一旦你知道了确切在寻找什么（例如，“用被动语态隐藏警察角色”），你就可以构建特定的测试来捕捉它。
- 避免假警报： 如果某个事实的缺失并非源于有害模式，你不会误称其为“抹除”。
论文并未说明的内容
- 它并不声称修复抹除很容易。
- 它并未表示人工智能是这些问题的唯一原因（人类编写新闻，人类训练 AI）。
- 它没有提供神奇的修复方法或具体的软件工具来解决今天的问题。它只提供了一个定义和一个框架，以帮助人们更清晰地思考这个问题。
简而言之，这篇论文是在呼吁停止松散地使用“抹除”这个词。它要求我们戴上侦探帽，找出六个线索，然后才宣布人工智能真正抹除了某人或某物。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。