Artificial Intelligence Implementation and Governance in Healthcare: A Qualitative Study of Cybersecurity Professionals

医院和诊所正越来越多地转向人工智能，以协助医生进行决策、管理患者记录并预测健康结果。这些工具功能强大，但它们运行在持有敏感个人信息的复杂数字系统之中。正如一座新建筑在人们入住前需要坚实的基石一样，这些数字系统在被完全信任用于患者护理之前，也需要强大的规则和保护措施。挑战不仅在于技术本身，更在于使用这些技术的组织。一家医院安全使用这些工具的能力，取决于其领导层、员工以及资源。如果一家医院在引入新系统时没有制定如何监控或由谁负责的计划，那么这项技术可能会从助力变为风险。这正是数字安全守护者发挥作用的地方。他们是理解如何保护数据免受窃取或损坏的专家，他们的视角对于理解如何在不破坏患者对医护人员信任的前提下引入人工智能至关重要。

一组研究人员致力于深入了解这些安全专家如何看待将人工智能引入医疗保健的过程。他们采访了二十位在医疗系统内部或周边从事网络安全、数据基础设施或数字安全工作的专业人士。采访发生在2025年5月至8月之间，每场对话持续45至60分钟。研究人员询问了这些专家关于他们的角色、他们在医疗技术方面的经验，以及他们如何看待组织处理人工智能风险的方式。目标不是测试技术本身，而是倾听那些负责保障其安全的人员，并了解让这项工作变得更容易或更难的现实条件。

采访显示，人工智能在医疗保健领域的成功取决于五个相互关联的领域：组织的准备程度、员工培训的完善程度、系统监控的有效性、拥有的资源以及所采用的具体安全策略。专家们的故事中反复出现一个主题：新技术到来的速度与组织建立安全管理能力的速度之间存在着紧张关系。通常情况下，医院会先引入技术，然后在系统已经运行之后才开始考虑安全和规则。一位专家指出，这种做法是本末倒置的，将其比作在房子已经建成之后才试图建造地基。当安全成为事后才考虑的事情时，就会产生可以避免的弱点，从而可能危及患者数据。

“准备就绪”被描述为不仅仅是拥有合适的计算机。它涉及领导层清晰的计划、管理分散在不同部门的数据的方式，以及一种让员工理解这些规则为何重要的文化。如果领导层不将网络安全视为运营的核心部分，人工智能就仅仅是一个短期项目，而不是需要长期维护的对象。同样，如果员工不理解这些新工具的重要性，无论这些流程多么完善，他们可能都不会遵守安全程序。

培训被视为连接技术规则与日常工作的关键桥梁。专家们强调，安全感无法通过单次的课程来传授。由于技术和威胁始终在变化，员工需要定期接受重新培训。最有效的培训被描述为持续且具有适应性的，通常通过非正式的对话或短期研讨会进行，而非仅仅通过冗长的讲座。安全专家经常需要将复杂的专业概念转化为医生和护士在忙碌日程中可以使用的简单术语。如果指导过于复杂，员工就会忽略它，从而导致系统变得不安全。

一旦系统投入运行，持续监控便至关重要。安全不是一项设置好就可以遗忘的工作。专家们描述了一种定期检查、测试以及在出现问题时进行回顾的常规流程。这一过程使组织能够从错误中学习，并在问题影响患者护理之前予以解决。它还需要明确规定谁在发生故障时会被通知，以及必须多快做出响应。这种监督机制在安全团队、IT人员和临床领导者共同协作、分担维护系统安全责任时效果最佳。

然而，完成这一切的能力在很大程度上取决于资源。采访强调了大型医院与小型诊所之间的显著差异。大型医院可以负担得起专门的安全团队和先进工具，而小型诊所往往依赖于一名已经精疲力竭的IT人员。这种差距意味着患者所获得的保护水平可能会因就医地点而异。一些组织不得不依靠外部供应商来管理其安全，这可能会限制他们对自己系统的控制。专家指出，这些财务和人员配置方面的差异造成了整个医疗系统中安全水平的不平等。

为了应对这些风险，专家们描述了一些在现实世界中行之有效的实用策略。他们建议在添加任何人工智能之前，先建立强大的数据保护措施，例如加密和严格的访问控制。他们还强调，要从项目的最初阶段就让安全团队参与进来，而不是等到系统上线后再行动。另一个关键策略是设计一种“预期其最终会失效”的系统，提前规划停机或数据泄露的情况，以确保患者护理不会中断。这些方法依赖于跨部门的协作，确保从行政管理到临床人员的每一个人在维护安全方面都各司其职。

该研究表明，安全的智能化不仅仅是一个技术问题，更是一个组织问题。它需要领导层、培训、监控和资源之间的协调配合。如果没有这种协调，同样的安全性规则也会根据医院的承载能力而产生截然不同的结果。研究人员总结道，为了使人工智能既安全又公平，医疗机构必须尽早引入安全专家，建立能够检测并响应风险的流程，并承认并非所有医院都拥有相同的资源。通过关注这些组织层面的条件，医疗系统可以更好地保护患者信息，并确保新技术在改善护理的同时不会引入新的危险。