Mastery Without a Master: Clinical Deskilling and the Post-Hegelian Paradox of Artificial Intelligence

在现代医院中，医生的工作始终是人类判断力与积累的知识之间的对话。几个世纪以来，这种判断力是通过实践建立起来的：医生通过诊治大量患者、权衡不确定的线索，并练习构建问题、考虑替代方案以及解释选择的思维步骤，来学习如何进行诊断。这个过程不仅仅是为了在今天得到正确的答案，更是为了保持思维敏锐，以便在明天也能得到正确的答案。我们从经验中得知，无论是手术还是推理，技能都需要定期的锻炼才能保持强健。如果一个人停止练习一项复杂的任务，即使他们仍持有专家的头衔，其执行该任务而不借助帮助的能力也会悄然退化。正是在这样的背景下，一个新问题出现了：当那些旨在帮助医生思考的工具本身也在改变他们的思考方式时，会发生什么？

安德里亚·曼贾梅利（Andrea Mangiameli）最近的一篇论文探讨了这个问题，研究了人工智能如何重塑临床医学。作者认为，虽然人工智能可以高效地处理许多任务，但过度依赖它来进行核心推理工作会产生一种隐蔽的危险。这种危险不在于机器会犯错，而在于人类医生会逐渐失去独立思考问题的能力。论文指出，当一名医生反复让人工智能系统来构建病例、生成可能性列表或起草解释时，医生就不再练习这些特定的思维肌肉。随着时间的推移，这会导致作者所称的“被剥夺的精通”（abdicated mastery）状态。在这种状态下，医生仍持有正式头衔并对患者护理承担最终责任，但其独立行使判断的实际能力已经萎缩。系统在名义上仍处于人类控制之下，但真正实现这种控制所需的人类能力已经减弱。

该论文通过考察技能是如何形成和维持的来构建其论点。它借鉴了这样一个观点：专业知识并非你拥有的静态事物，而是一种依赖于持续实践的生命能力。当医生使用人工智能来总结病史或建议诊断时，他们往往是在参与一个“评估”而非“创造”的过程。他们是在勾选一个选项，而不是在构建一个盒子。作者指出，这种转变在当下看起来似乎是无害的，因为辅助下的护理往往表现良好。人工智能提供了一个听起来正确的答案，文书工作完整，患者得到了治疗。然而，论文指出，这种平滑的表现掩盖了长期的代价。医生不再练习那些困难的工作——即从零开始、与不确定性搏斗，或者从头开始构建一个全新的解释。

这一过程被描述为“后黑格尔悖论”（post-Hegelian paradox），这是对一个关于主人与仆人古老哲学思想的引用，但在此被应用于医生与机器之间。在最初的思想中，一个完全依赖仆人与世界互动的“主人”，最终会失去自己与世界的联系。在医学版的悖论中，医生是主人，人工智能是仆人。悖论在于，医生可以保持正式权威，而人工智能承担了推理的重任，然而医生独立推理的能力却在缓慢消失。论文表明，这并非突然的失败，而是一个渐进的漂移过程。医生可能会用人工智能列出问题清单，然后用于鉴别诊断，接着用于制定治疗计划。每一步看起来都是一个小巧、合理的捷径。但在经历了数月或数年的这些小捷径之后，医生可能会发现，如果没有机器，他们无法生成问题清单或治疗计划。权威依然存在，但技能的实质已被掏空。

研究强调，这个问题对于资深医生和尚在培训中的医生而言是不一样的。对于资深医生，风险是“技能退化”（deskilling），即由于不再使用某项能力而导致其丧失；对于受训者，风险是“预设式精通”（foreclosed mastery），即他们从未有机会建立这项技能。如果一名实习医生总是以人工智能生成的摘要作为起点，他们可能永远学不会如何将一个模糊的患者叙述转化为结构化的医学问题。他们可能达到了正确的结论，但他们跳过了构建深度理解所需的心理挣扎过程，而这种挣扎是应对异常或复杂病例所必需的。论文认为，这造成了一个危险的缺口：医生可以遵循人工智能的路径，但如果这条路径消失了或走向死胡同，医生可能没有足够的资源去寻找新的路径。

作者强调，这并不是在责备医生使用技术。论文承认，医生使用人工智能往往是因为他们很忙，或者因为医院有此预期，亦或是因为这有助于他们专注于护理的其他部分。问题是系统性的。医院的组织方式、电子记录的设计方式以及培训开展的方式，都在鼓励这种形式的委派。论文指出，目前的医学成功衡量标准往往只看眼前结果：患者是否康复了？人工智能是否有帮助？这些指标忽略了医生能力的长期变化。一名医生在人工智能的协助下可能表现多年出色，但一旦面临人工智能失效或案例过于独特的情况，他们可能会发现自己缺乏介入所需的独立技能。

“有意义的人类控制”（meaningful human control）的概念是该论文结论的核心。作者认为，要让医生真正处于控制之下，他们必须具备质疑、修改或拒绝人工智能建议的实际能力。这种能力不仅仅是签署一份表格的法律权利，更是一种必须通过实践来保持的实际技能。如果一名医生只能重复人工智能所说的话，那么他们就没有在行使有意义的控制。他们仅仅是在传递信息。真正的控制需要理解为什么一项建议适合特定的患者，识别它何时不适用，并在标准方案失效时构建不同的计划。论文指出，这种能力是脆弱的。它可以被保留，但前提是医疗系统必须有意识地为医生创造空间，让他们去练习这些困难的、无需辅助的任务。

该论文并不声称人工智能是坏的，也不主张禁止使用它。相反，它警告说，完全依赖是一条陷阱。它建议，医学判断的未来取决于我们今天如何管理辅助与独立之间的平衡。如果我们让人工智能承担所有的思考工作，我们就有可能创造出一代在形式上掌权、但在实质上无法独立思考的医生。提出的解决方案不是停止使用工具，而是确保这些工具不会取代那些保持人类思维敏锐的实践。医生必须继续构建病例、生成替代方案并证明其选择的合理性，即使人工智能已经提供了这些内容。这是确保当机器沉默时，医生仍能以权威之声发言的唯一途径。

最终，这篇论文对人工智能时代专业知识的本质提出了一个冷静而紧迫的警告。它指出，医生最宝贵的财富不是获取信息的能力，而是将这些信息综合成符合独特人类生命的判断的能力。这种能力是通过缓慢且往往艰辛的实践建立起来的。如果这项工作被委派出去，这种能力就会消退。论文总结道，保护人类的判断能力不仅是一个技术细节，更是一种伦理上的必要。一个系统可以看起来处于人类控制之下——医生对每一项决策都签字确认——但如果医生已经失去了独立做出这些决策的能力，那么这种控制便只是一种幻象。作者暗示，医学的未来取决于我们能否认识到：我们今天使用工具的方式，将塑造我们明天拥有什么样的医生。