Abstracted Away: Resisting Alienation and Ungrounded Abstraction in AI Research Communities

想象一下，你正在学校的车间里学习如何建造一个巨大的、神奇的机器人。老师们告诉你说，要让机器人变得聪明，你必须首先学习“抽象”（abstraction）的艺术。在计算机的世界里，抽象就像是把一堆乱七八糟的零件装进一个盒子里，然后仅仅给它贴上“发动机”的标签。你不需要知道每一个螺丝钉是如何工作的就能让机器人移动；你只需要知道什么东西进入了盒子，以及什么东西从盒子中出来。这是一个非常实用的技巧，它能帮助工程师在不被复杂细节淹没的情况下构建复杂的物体。但问题在于：有时当我们把事物装进盒子时，我们会不小心丢掉了故事中最重要的部分。我们可能会忽略掉“发动机”在下雨天会发出怪声，或者如果你用某种语言对它说话它会生气这些事实。如果我们只看那个盒子，就会错过内部正在发生的一切真相。

这篇论文讨论的是在人工智能（AI）研究领域，这种“装盒”技巧做得过头时会发生什么。作者是三位年轻的科学家，他们觉得自己并不属于自己的学校。他们注意到，AI 研究人员谈论工作的方式往往忽略了真实的人类情感、历史和挣扎。他们将这种感觉称为“疏离感”（alienation），这就像是在一场派对上，你是唯一一个说着不同语言的人，而其他人都在不停地对你说话却完全无视你。论文探讨了为什么会发生这种情况，并指出，研究人员“清理”数据以及忽视自身情感的方式，实际上正在伤害那些机器人本应帮助的人。

三位局外人的故事

这篇论文由三位早期职业研究人员——Vyoma、Isabel 和 Neha 撰写，她们正在美国顶尖大学研究 AI。她们决定不以枯燥的事实列表形式，而是通过三个短小的场景（或称“小插曲”）来讲述她们的故事，以此展示她们是如何被排挤出自己的研究群体的。

场景 1：关于“干净”数据的难题
在第一个故事中，作者描述了一堂课，他们在学习如何利用医疗记录来预测保险风险。老师告诉他们要“清理”数据。这意味着要找出任何医疗史看起来很奇怪或不符合平均模式的人，并将他们删除。老师称这些人为“噪声”。但作者意识到了一些可怕的事情：被删除的人往往是那些已经处于困境中的人——患有罕见疾病、残疾或有着不同背景的人。通过扔掉他们来让数学模型看起来更“干净”，这门课实际上在教导他们去忽视那些最需要帮助的人。作者觉得，她们仿佛被要求删除自己的一部分，以便让机器人运行得更好。

场景 2：双刃剑
在第二个场景中，作者谈到了她们开始读研时的兴奋之情。她们想用 AI 做些好事。但随后，她们看到新闻报道显示，她们正在研究的同样一套 AI 工具正被军队用于在战争地带伤害人类。她们尝试向教授和同行提出这个问题，询问：“我们是否应该制造可以被用于暴力的工具？”然而，她们并没有得到深入的讨论，而是被告知只需专注于让技术“更符合伦理”或“更安全”即可，仿佛这只是一个需要修复的小漏洞。作者感到被噤声了。她们被告知，询问这项技术是否应该存在这样的宏大问题是“过于简单化”的。她们觉得被迫假装那些糟糕的事情并未发生，以便能够保住工作和成绩。

场景 3：寻找安全空间
第三个场景是充满希望的部分。在感到孤独和困惑之后，作者们找到了另一群人——由计算机科学家、教师和社会学家组成的混合群体——他们愿意讨论那些沉重的话题。在这个群体中，没有人急于求成。他们花时间倾听。他们不会试图“清理”对话中混乱的部分；相反，他们利用这些混乱的部分来更好地理解问题。作者第一次感受到了安全。她们意识到，自己之所以感到像个局外人，并不是因为她们自己有问题，而是因为常规的 AI 研究方式出了问题。

她们的发现：“脱节”的盒子

作者意识到，她们感到如此疏离的原因在于她们所称的**“脱节的抽象”（ungrounded abstraction）**。

把“有根的”（grounded）研究想象成一棵有着深根的树。这些根是现实世界：人们、历史、痛苦和快乐。而“脱节的”（ungrounded）研究则像是一棵被切断了根部的树，悬浮在空中。它看起来像一棵树，但无法吸收水分，也感受不到风。

论文指出，AI 研究经常通过以下四种特定方式切断这些根基：

1. 证言抽象（Testimony Abstraction）： 当研究人员说，“嘿，这伤害了人们，”而社区回应“你不是真正的专家，你只是太感性了，”并因此忽视他们。
2. 目的抽象（Purpose Abstraction）： 当项目的目标发生变化时。你最初的目标是“让我们帮助人们”，但衡量成功的方式变成了“让我们在测试中获得最高分”，于是你完全忘记了人。
3. 地位抽象（Position Abstraction）： 当数据将所有人视为完全一样时，忽略了有些人拥有更多权力而有些人权力较少。这就像假装富人和穷人面临着完全相同的困难。
4. 情感抽象（Affect Abstraction）： 这是最个人的部分。研究人员被教导要麻木自己的情感。如果你看到坏事发生，你应该毫无感觉，以便继续工作。作者说这是危险的，因为你的感觉实际上是一个警告系统，在提醒你有些事情不对劲。

解决方案：倾听你的直觉并站在一起

论文并不只是在抱怨；它提出了解决办法。作者提出了两个主要建议：

首先是集体行动（Collective Action）。你不必独自对抗系统。如果你觉得有些不对劲，去找那些有同样感受的人。当你站在一起时，系统就很难忽视你或让你觉得自己在发疯。作者们在那些能公开谈论恐惧的朋友群体中找到了力量。

其次是情感调谐（Affective Attunement）。这是一个高级说法，意思就是：“倾听你的感受。”如果你对某个项目感到不适、愤怒或悲伤，不要压抑这些情绪。不要把它们“抽象化”掉。相反，要把这些感觉视为重要的数据。你的直觉可能是提醒你研究正在造成伤害的第一个信号。通过关注你的情绪，你可以在“脱节”的研究造成实际伤害之前阻止它。

为什么这很重要

作者们谨慎地表示，她们并不是在说“停止做 AI”。她们热爱技术。但她们是在说，如果我们继续在不观察现实世界、不倾听受害者、不关注自身情感的情况下构建 AI，我们将制造出破碎且危险的东西。

她们建议，我们教学和研究的方式需要改变。我们需要停止假装可以把生活的混乱部分“装进盒子”。我们需要让我们的根留在现实世界中。通过这样做，我们可以制造出真正帮助每个人的 AI，而不仅仅是帮助那些能整齐地挤进盒子里的那部分人。论文最后将她们的想法作为一种工具提供给任何在科技界感到像个局外人的人，希望通过分享她们的故事，他人也能找到自己的路，从而产生影响。