Humanwashing -- It Should Leave You Feeling Dirty
本文认为，不加区分地使用“人在回路”这一隐喻，通过遮蔽人工智能决策的实际情况并营造虚假的安全感，从而助长了“人类洗白”现象，致使偏见、问责和透明度等关键问题未能得到解决。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下你正在买车。销售员告诉你：“别担心，这辆车很安全，因为副驾驶座上坐着一位人类司机。”你感到如释重负。你想：“太好了，如果电脑试图撞车，人类会抓住方向盘。”
但如果人类只是坐在那里，盯着仪表盘，无法触碰方向盘，而车子实际上是在自动驾驶呢？如果人类的存在只是为了让你感觉安全，尽管他们实际上什么都没做呢？
这就是论文《人类清洗——它应让你感到肮脏》的核心论点。
以下是作者观点的简明拆解，使用了日常类比。
1. “人在回路”是一个错误的隐喻
在人工智能领域，人们喜欢说自己拥有"人在回路"。他们使用这个短语来显得负责任且安全。它暗示人类是决策过程的一部分，正在检查人工智能的工作。
作者认为，这个短语就像用 19 世纪的地图来导航现代城市。这是错误的工具。
- 旧观念：在机器人领域（例如机械臂焊接汽车），“回路”是有意义的。机器人移动，传感器看到它的位置，然后向机器人发送信号进行调整。这是一个行动与反应的循环。
- 新现实：在人工智能决策中（例如批准贷款或诊断疾病），没有循环。信息输入，决策输出，它不会流回源头。
- 问题所在：通过称之为“回路”，公司假装人类正在积极掌舵。实际上，人类往往只是看着窗外的乘客。
2. “人类清洗”骗局
作者创造了"人类清洗"这个词。把它想象成"绿色清洗"。
- 绿色清洗：一家公司把工厂漆成绿色，在标志上放一片叶子，以此看起来环保，即使它仍在污染河流。
- 人类清洗：一家公司在组织架构图上放一个人，以此看起来负责任且安全，即使这个人没有真正的权力去阻止人工智能。
他们使用这种伎俩来：
- 让投资者和监管机构感到安心。
- 避免法律麻烦（因为法律通常要求有人类参与）。
- 掩盖人工智能可能存在偏见、错误或危险的事实。
论文认为，这种做法是“肮脏”的，因为它欺骗社会，让我们以为拥有安全措施，而实际上并没有。
3. “超级团队”的神话
人们普遍相信，如果你将人类和人工智能结合起来，就能获得两者的最佳优势：机器的速度和人类的智慧。作者说，这往往是一个谎言。
他们引用的研究表明：
- 有时，人工智能比人类更好。
- 有时，人类比人工智能更好。
- 但当你强迫他们一起工作时呢？结果往往比他们单独工作更差。
这就像你的朋友在你开车时大声喊叫指令。结果你不是成为了“超级团队”，而是变得困惑且速度更慢。论文建议，仅仅在过程中加入人类并不会自动让决策变得更好；事实上，它可能会让情况变得更糟。
4. 真正的解决方案：审视“组合空间”
与其使用懒惰的“回路”隐喻，作者说我们需要审视人类和机器实际如何协作的混乱、复杂的现实。他们称之为"组合空间"。
想象一个三维棋盘，而不是一个扁平的圆圈。要理解一个系统是否安全，我们需要提出具体的问题：
- 谁真正参与了？
- 何时他们可以干预？（他们能阻止人工智能，还是只能旁观？）
- 他们能看到什么？（他们拥有完整的画面吗？）
- 他们的行动真的能改变结果吗？
如果一个人“在回路中”，但看不到数据，无法停止流程，或者不理解人工智能的逻辑，他们实际上并没有控制权。他们只是一个道具。
5. 底线
论文最后向所有人发出警告：要对“人在回路”这个短语保持怀疑。
- 如果你听到它，请问：“这个人真的在做决定，还是只是在观看？”
- 如果人类只是在最终决策（推理）阶段观看，那很可能就是人类清洗。
- 作者敦促研究人员和公司停止使用这种模糊的语言。相反，我们需要研究人类和机器在现实生活中如何互动，而不是假装他们是一个完美、安全的循环的一部分。
简而言之：不要让一个花哨的标签让你感到安全。如果人类实际上没有掌舵，他们就无法把你从冰山前救下。而这应该让你因为被愚弄而感到一点“肮脏”。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。