What is Human in Judgment? Comparing Automation Bias and Algorithm Aversion Between the United States Military Academy and the General Public
本研究比较了美国军事学院学员与公众在自动化偏见和算法厌恶方面的差异，发现军事教育有助于培养对人工智能决策支持系统更为校准的信任，从而可能降低未来冲突中出错和误判的风险。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你是一名驾驶飞机的飞行员。你身旁坐着一位副驾驶，他实际上是一个超级智能的计算机程序。这台计算机能看见你看不到的东西，也能比你更快地计算出结果。但关键在于：有时计算机是错的，有时它是对的。
这篇论文提出的核心问题是：当计算机给你建议时，即使它错了，你会盲目跟随吗？或者即使它对了，你会无视它吗？
研究人员希望了解未来的军事领袖（具体指西点军校的学员）在处理这种情况时，是否与普通人有所不同。为此，他们设计了一个游戏来探究。
游戏：识别敌机
研究人员让两组人玩一个快速游戏：
- 参与者：一组是 236 名未来的军事军官（西点军校学员），另一组是 702 名来自普通公众的普通人，两组在年龄和教育水平上进行了匹配。
- 任务：他们必须观察一张模糊的飞机图片，并决定：“这是友军还是敌军？”
- 转折：在他们做出猜测后，一位“助手”会给出建议。有时这位助手是人类分析师，有时是人工智能算法。有时助手听起来非常自信（“我百分之百确定！”），有时则显得不确定（“我还在测试这个……"）。
- 选择：参与者可以坚持最初的猜测，也可以根据建议改变主意。
两大问题
该论文聚焦于人们在处理计算机时容易犯错的两种主要方式：
- 自动化偏见（“机器人即上帝”陷阱）：这是指你过度信任计算机，以至于忽略了自己的判断。即使计算机错了，你也会跟随它。这就像车上的乘客盲目跟随导航系统，即使导航指示他们把车开进湖里，他们也会照做，因为他们认为导航比自己更懂。
- 算法厌恶（“我讨厌机器人”陷阱）：这是指你完全不信任计算机，即使它是对的。你坚持自己的直觉，因为你会想：“我是人，我比机器强。”这就像拒绝使用地图应用，因为你认为自己更了解这个街区，即使应用正向你展示一条你错过的捷径。
研究结果
结果令人惊讶，并显示出两组人之间的明显差异：
1. 西点军校学员表现得“校准得当”（恰到好处）
未来的军官更擅长知道何时该信任计算机，何时该信任自己。
- 他们没有盲目跟随机器人：当人工智能给出错误建议时，学员改变答案以迎合机器人的可能性要低得多。他们犯这种错误的概率仅为4%，而普通人为9%。
- 他们关注“置信度”：学员会注意建议是以何种方式给出的。如果人工智能说“我还在测试这个”，学员就会忽略它；如果人工智能说“我已经经过数千次测试”，学员就会听取建议。他们将人工智能视为工具，而非老板。
- 他们不讨厌机器人：有趣的是，他们并没有仅仅因为它是机器就忽略人工智能。如果人工智能是对的，他们愿意使用它。
2. 普通公众更容易“失真”
普通人更容易陷入“机器人即上帝”的陷阱。
- 他们更倾向于仅仅因为计算机告诉他们这样做就改变答案，即使计算机是错的。
- 他们似乎不太在意建议是来自人类还是计算机，也不太在意来源听起来有多自信。他们往往更倾向于跟随机器。
3. 每个人都有一点“讨厌机器人”（但程度相同）
这里有一个转折：两组人在人工智能实际上正确时，忽略它的概率是相同的。这被称为“算法厌恶”。学员所接受的训练并没有阻止他们对机器产生怀疑；它只是阻止了他们在机器出错时盲目服从。
核心结论
该论文表明，训练是有效的。
西点军校学员并非天生在数学或逻辑上更胜一筹的“超人”。他们只是被教导了如何与技术协作。他们的教育教会他们去问：“这个工具此刻可靠吗？”而不是仅仅问：“这是机器人吗？”
作者得出结论，虽然我们无法阻止战争或危机中的所有错误，但教导人们如何与人工智能互动，可以防止他们犯下盲目信任一个正在欺骗他们的计算机这一特定错误。学员学会了保持“人在回路”的大脑处于开启状态，而普通公众则更有可能让计算机接管方向盘。
简而言之：未来的士兵学会了将人工智能用作得力的副驾驶，而普通公众则更有可能让人工智能把车开下悬崖。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。