The Doctor Will (Still) See You Now: On the Structural Limits of Agentic AI in Healthcare
本文基于对 20 位利益相关者的定性访谈，揭示了医疗领域代理型人工智能在概念定义碎片化、商业承诺与运营现实矛盾以及评估盲区等方面的结构性局限，指出其作为技术愿景、商业激励与临床约束交汇的争议场域，对患者安全与责任分配具有实质性影响。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
这篇文章就像是在给医疗 AI 泼一盆“清醒水”。虽然科技圈和资本界都在疯狂吹捧“代理型 AI"（Agentic AI）——想象一下那种能像真人医生一样，自己思考、自己规划、甚至自己开药治病的全自动机器人——但作者们通过采访 20 位医疗和 AI 领域的专家发现：现实情况完全不是那么回事。
为了让你更容易理解，我们可以把这篇论文的核心观点比作一场"超级英雄电影"与"现实纪录片"的错位。
1. 核心冲突：电影里的“超级英雄”vs. 现实中的“实习生”
电影里的宣传（商业吹捧）：
现在的广告和新闻都在说，未来的医疗 AI 是“超级英雄”。它们被描述为能独立行动、自己处理复杂任务（比如诊断病情、安排治疗）的“代理”。就像电影里那个无所不能的钢铁侠，不需要任何人帮忙，自己就能拯救世界。- 比喻： 就像一家餐厅打广告说：“我们的机器人厨师能独立掌勺，从切菜到炒菜一气呵成，甚至能自己决定放多少盐！”
现实中的纪录片（实际运作）：
作者们发现，在真实的医院里，这些 AI 根本不敢“独立行动”。它们更像是一个极度谨慎的实习生，手里拿着笔，但每一步都要等真正的医生（人类）点头确认后才能动。- 比喻： 那个“机器人厨师”其实连火都不敢开。它只能切切菜，或者把菜谱念给厨师听。一旦它想自己炒菜，医院的安全规定、法律责任和怕出事的心理就会立刻把它按在椅子上。
- 结论： 所谓的“代理型 AI"，在医疗领域目前几乎全是“被人类紧紧牵着的狗”，根本不可能像广告里那样“撒欢乱跑”。
2. 三大“混乱”导致的问题
论文指出了三个让这种错位变得很危险的原因：
A. 名字太乱，大家各说各话（概念碎片化）
- 比喻： 想象大家在讨论“什么是汽车”。
- 搞技术的说：“汽车就是能自己规划路线、自动换挡的机器。”
- 医生们说：“不，汽车就是能帮我把病人从 A 点送到 B 点的工具，但方向盘必须在我手里。”
- 卖产品的说：“我们的车能自动驾驶，虽然目前只能开在自家后院，但未来肯定能上高速！”
- 后果： 因为大家对“代理型 AI"的定义完全不同，一旦出了医疗事故，大家就开始互相踢皮球。技术方说“我只是个工具”，医院说“是产品承诺了能自动驾驶”，最后没人负责。
B. 考试满分，实战挂科（评估盲区）
- 比喻： 现在的 AI 评估就像是在考“理论驾照”。
- AI 在模拟软件里做选择题，能拿 99 分，甚至能背出所有交通规则。
- 但是，真正的医疗环境是“在暴雨夜、路面结冰、还要一边看病人一边开车”的复杂路况。
- 目前的测试只关心“题目答对没”，不关心“在真实世界里会不会撞死人”、“医生敢不敢信它”、“它能不能和护士配合好”。
- 后果： 很多 AI 在实验室里是天才，一上临床就“水土不服”，甚至因为幻觉（胡说八道）而带来危险。
C. 信任危机：医生不敢放手
- 比喻： 医生就像老练的飞行员。他们知道 AI 是个很棒的副驾驶，能帮他们查数据、写病历。但是，如果 AI 突然说“我觉得这药该加量”，医生会想：“万一你算错了怎么办？出了事坐牢的是我，不是你的代码。”
- 现状： 因为法律还没规定清楚，医生必须对病人负责。所以，无论 AI 多聪明，医生都必须时刻盯着它，把它当个“高级助手”而不是“独立医生”。
3. 这篇文章想告诉我们什么？
作者们并不是要否定 AI，而是想踩一脚刹车，让大家清醒一点：
- 别被“代理”这个词忽悠了： 在医疗这种高风险领域，目前不存在真正能“独立行动”的 AI。所有的“代理”其实都是“人类在环”（Human-in-the-loop），也就是人必须时刻盯着。
- 重新定义“成功”： 我们不应该只测试 AI 做题对不对，而要测试它在真实医院里能不能和医生配合好、会不会胡编乱造、出了事谁负责。
- 责任要清晰： 如果厂商吹嘘 AI 能“自动驾驶”，那他们就得为自动驾驶的后果负责，不能出了事就说“我只是个工具”。
总结
这就好比我们在造无人驾驶汽车。
现在的宣传说：“我们的车马上就能完全无人驾驶了！”
但现实是：因为法律、安全和信任问题，这些车目前必须有人坐在驾驶座上随时准备接管。
这篇论文就是告诉我们要诚实：承认目前的 AI 还是“辅助工具”，不要为了卖个好价钱就吹成“全自动机器人”。只有把期望值拉回现实，建立清晰的规则，未来的医疗 AI 才能真正安全地帮到病人，而不是制造混乱。
一句话总结： 医生依然会（而且必须）亲自见你，AI 目前还只是个拿着笔记本、随时等待医生签字的“超级实习生”，别指望它现在就能独当一面。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。