The Embodiment Gap: What Mandatory, Regulatory and Media-Based Incident Regimes Reveal About Robotic AI Failures, 2021–2026
本文通过分析2021年至2026年间跨越强制性监管和媒体驱动体制的事故数据，旨在证明每种系统都仅捕捉到了机器人人工智能故障中一个独特且不完整的子集，从而揭示了在非碰撞运行错误以及新兴人形技术技术领域存在的显著可见性差距。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
当一台拥有人工智能的机器在现实世界中犯错时，关于那个错误的叙述完全取决于听众是谁。如果一辆自动驾驶汽车发生碰撞，拥有数据收集法律授权的政府机构会将其记录在案。如果一台手术机器人对患者造成故障，医疗监管机构会提交一份报告。但如果一个机器人在博物馆里踉跄绊倒，或者一台人形机器在贸易展览会上表现异常，唯一的记录可能只是旁观者发布的一段视频或一篇新闻报道。这些不同的信息收集方式被称为“事件体制”（incident regimes）。它们充当着社会的眼睛和耳朵，决定了哪些失败会成为我们集体记忆的一部分，而哪些又会消失在沉默之中。问题在于，每个体制看到的都是现实的一个不同切片。一个只看到碰撞，另一个只看到医疗错误，而第三个只看到那些登上新闻的故事。由于这些系统互不沟通，我们往往误以为自己了解机器人的安全性，而事实上，我们看到的只是一个碎片化的图景——其中最危险的失败可能被隐藏起来，而最常见的失败则可能变得隐形。
研究人员阿尔弗雷多·梅雷特（Alfredo Merlet）试图通过对比 2021 年至 2026 年间追踪机器人故障的三种不同方式，来绘制这些盲点图谱。他研究了向美国国家公路交通安全管理局提交的强制性碰撞报告、向美国食品药品监督管理局提交的医疗器械报告，以及一个收集新闻媒体故事的自愿性数据库。通过将这些来源联系起来，他发现我们了解机器人故障的方式存在严重缺陷。用于自动驾驶汽车的强制性系统记录了超过 8,000 起事件，然而作为 AI 问题综合列表的媒体数据库，却仅包含了这些碰撞中的极小部分。事实上，向政府报告的碰撞中，只有不到 1% 进入了媒体数据库。这表明公众看到的机器人安全性是一个高度扭曲的视图，他们错过了绝大多数常规性的故障，却过度关注了少数特定的案例。
研究还显示，媒体并非仅仅忽略严重的事故。与“新闻媒体偏好无害、古怪的机器人故事而非悲剧性故事”这一观点相反，数据表明，严重的碰撞实际上更有可能被报道。当自动驾驶汽车碰撞导致死亡或重伤时，它出现在媒体数据库中的概率几乎是轻微擦碰的九倍。然而，媒体数据库捕捉到了另一种政府系统完全遗漏的失败类型：不发生碰撞的操作性故障。这些事件是指机器人表现出危险行为但并未发生碰撞，例如机器人出租车阻挡救护车、由于停电导致车队在交通中瘫痪，或机器人被困在洪水中。由于政府的报告规则仅由物理碰撞触发，这些危险情况对监管机构而言依然是隐形的，尽管它们对公共安全构成了真实的威胁。
该研究延伸到了手术机器人领域，在那里发现了另一种形式的扭曲。医疗器械报告数据库显示，2025 年的故障报告出现了大幅度的四倍跳增。乍看之下，这似乎是危险失效突然激增的表现。然而，通过对数据的深入观察发现，这种激增并非由更多的伤害或死亡引起的。相反，是制造商开始为一种特定类型的工具磨损提交报告，这是一种此前未被记录的常规维护问题。实际发生的患者受伤人数几乎没有变化。这一发现强调了报告提交者的行为如何制造出“危机”的假象，即便物理层面的伤害程度保持稳定。
或许最令人震惊的发现涉及最新一代的机器人：人形机器人。这些是能够在公园、街道等公共场所行走的两足机器。研究发现，这些机器人掉进了所有报告系统的缝隙之中。对于它们的故障，既没有强制性的报告规则，也没有医疗器械类别，也没有一致的媒体追踪方式。研究人员整理了 2026 年涉及人形机器人的五个特定事件，包括一个在比赛中起火的机器人，以及另一个因涉嫌不当接触而被警方带走的机器人。在这些事件中，只有一个出现在了媒体数据库中，且没有任何一个被任何官方政府或卫生监管机构捕捉到。这创造了一个危险的缺口：这种最可见且正在快速部署的人工智能形式，正处于缺乏系统性失败记录的状态下运行。
结论是，没有任何单一的信息源能够告诉我们关于机器人安全的真相。政府看到了碰撞，却错过了“险些发生”的情况；媒体看到了戏剧性的失败，却错过了常规性的失败；医疗监管机构看到了制造商提交的报告，却未必能看到实际造成的伤害。直到这些系统得到连接并扩大覆盖范围，以涵盖进入我们世界的各类新机器人之前，我们对风险的理解将始终是不完整的。研究建议，监管机构需要更新其规则，以捕捉操作性故障而非仅仅是碰撞，并为已经在我们身边行走的类人机器人建立新的报告渠道。否则，我们将继续只能在事后、且仅在故事足够具有戏剧性时，才能了解到人工智能带来的危险。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。