Governance-Bound Artificial Intelligence for Evidence-Linked Medicines Reliance Review: A Design Science Research Study

每年，国家卫生机构都面临着堆积如山的文书工作。当一家公司想要销售一种新药时，必须提交一份包含数千页数据的庞大卷宗，内容涵盖药物的制造方式、其在体内的作用机制以及是否安全。在许多国家，特别是在人员有限的国家，审查这些文件需要很长时间，从而延迟了救命药物的使用。为了在不牺牲标准的前提下加快速度，监管机构采用了被称为“依赖”（reliance）的策略。与其从零开始，当地机构可以参考其他国家权威机构已经完成的工作。如果该权威机构已经批准了该药物，当地团队就可以将该评估作为基础。然而，这个过程仍然极其困难。当地团队仍需阅读原始文件，检查产品是否完全一致，找出任何细微差异，并撰写一份新的报告来解释他们的决定。这需要应对复杂的结构，发现隐藏在文本中的微小错误，并确保每一项结论都有具体的证据支持。如果出现错误，或者推理无法追溯到源文件，整个决定可能会受到质疑，从而使公共卫生面临风险。

南非西开普大学的研究人员通过设计一种新型计算机工具解决了这个问题，该工具的目的不是取代人类专家，而是充当一名高度组织化的助手。他们将这个工具称为 RAiA。研究团队并非简单地构建一个用于文本摘要的程序，因为摘要可能会遗漏对医药领域至关重要的微小细节。相反，他们使用了一种称为“设计科学研究”（design science research）的方法，这种方法侧重于构建针对特定现实问题的解决方案，并在实际测试数据之前明确定义其运作方式。他们的目标是创建一个能够处理阅读和组织文档等繁重任务的系统，同时让位于人类专家掌控最终决策。其结果是一个原型系统，它充当了混乱的文件堆与监管人员需要撰写的清晰、可辩护的报告之间的桥梁。

该设计的核心是一套规范计算机行为的严格规则。研究人员意识到，对于像医药这样高风险的环境，工具必须是“受治理约束的”（governance-bound）。这意味着系统在构建时就设有安全护栏，防止其自行做出决策或隐瞒其工作过程。例如，该系统的设计使其无法自行批准或拒绝某种药物；它只能指出潜在问题并建议不同部分之间的联系。每当计算机指出一个事实时，它必须同时显示该事实的具体来源，将发现的内容链接到原始文件中的特定句子。这确保了如果人类审查员质疑计算机的工作，他们可以立即看到来源并进行验证。系统还会记录每一步操作的详细日志，形成一条证明工作正确且安全完成的审计追踪线索。

为了实现这一点，团队将审查药品卷宗这一庞大任务分解为更小、更易管理的单元。他们设计系统对不同类型的信息进行分类处理。系统的一部分仅查看化学和制造细节，另一部分专注于临床试验结果，第三部分则检查标签和说明书。这类似于专家团队的工作方式，即一个人检查汽车引擎，而另一个人检查刹车，而不是让一个人试图处理所有事情。系统从这些不同领域收集信息并将它们汇集在一起，寻找矛盾或缺失的部分。如果制造报告称药物是在某工厂生产的，但临床试验报告暗示其是在另一处生产，系统会标记此类差异供人类调查。至关重要的是，该系统的编程逻辑是保守的；标记一个最终证明并无大碍的潜在问题，比漏掉一个真实的危险要好。

研究人员还密切关注人类专家如何与机器互动。界面设计使得人类可以轻松接受、编辑或拒绝计算机的建议。如果计算机犯错，人类可以进行纠正，并且系统会记录纠正的原因。这种反馈不会被用于立即改变计算机的“大脑”（以免导致不可预测的行为），而是被保存下来，供团队后续进行仔细审查。这种分离确保了工具的稳定性和可靠性。系统还通过加密技术保护敏感信息（如商业机密或私人数据），确保只有授权人员可以查看。计算机不允许利用这些私密数据进行自我学习，从而防止了信息在日后泄露的风险。

团队构建了一个名为“原型”的系统版本，以展示整个流程将如何运行。他们使用看起来像真实药品申请文件的模拟文档进行了测试，但并未使用任何来自真实公司的机密数据。演示表明，该系统可以接收一个大型文件，将其分类到正确的章节，寻找相关证据，并起草一份人类专家可以随后进行审查并签字确认的报告。人类专家在每一步都是最终权威，决定证据的含义以及药物是否安全。原型证明了这种设计是可行的，且工作流符合逻辑，但研究人员谨慎地指出，这还不是一个可以投入实际使用的成品。他们尚未测量该工具能提高多少速度，也尚未衡量它在真实文档中发现错误的能力。

这项工作的核心贡献不在于一种新的计算机算法，而在于一套关于如何构建值得信赖的医药监管工具的蓝图。研究人员已经证明，设计一个尊重治理规则、保护隐私数据并保持人类控制的人工智能系统是可能的。他们提供了一套十项指导原则，其他开发者如果想要构建类似的工具，可以遵循这些原则。这些原则强调工具必须始终将发现与证据挂钩，绝不能擅自做出决策，并且必须设计成其工作过程可以被审计和检查。通过从一开始就关注这些规则，该团队创建了一个模型，可以帮助非洲及世界各地的监管机构在不损害安全性的情况下，管理日益复杂的药品审批工作。

这项研究代表了关于技术如何支持关键领域人类专家思考的一个重要进步。它不再将人工智能视为人类判断的替代品，而是专注于如何让人类判断变得更加明智和高效。研究人员已经证明，通过正确的设计，计算机可以处理分类和检查文档等琐碎工作，从而释放人类专家，让他们专注于保护公众健康的复杂推理和最终决策。虽然该工具仍处于原型阶段且需要进一步测试，但其设计本身为创建安全、可靠且负责任的未来医药监管系统提供了一条清晰的路径。