From Ethical Principles to Lifecycle Oversight: A Library-Based Analysis of AI-Enabled Health Research in Canada

在现代健康研究领域，科学家们经常依赖能够从海量信息中学习模式、预测疾病或建议治疗方案的计算机程序。这些被称为人工智能（AI）的程序是强大的工具，但它们的运作方式与研究人员使用了数十年的传统实验不同。在标准的研究中，科学家可能会请求一组人许可使用其医疗记录以针对特定问题进行分析，运行分析，然后发表结果。一旦研究完成，这项工作通常就被视为结束了。然而，人工智能改变了这一时间线。这些系统可以基于数据进行训练，然后在完成初始研究批准后，被用于全新的任务进行更新、改进和重新部署。它们还可以利用旧记录创造新信息，或者被研究团队之外的公司使用，这引发了关于如果出现问题谁该负责的问题。加拿大拥有一套受人尊敬的规则，称为《三方委员会政策声明》（Tri-Council Policy Statement），用于指导研究人员如何对待人类参与者。这些规则建立在三个坚实的理念之上：尊重个人、关怀福祉以及确保公平。虽然这些原则很强大，但它们是在人工智能成为健康研究常见组成部分之前制定的。加拿大研究界面临的重大问题是，这些旧规则是否足以应对人工智能这种具有移动性和变化性的智能系统的本质。

一位名叫 Abdolreza Babamahmoodi 的研究人员着手回答这个问题，通过仔细观察加拿大的现有规则如何适用于健康领域的人工智能。这并不是一项测试新药或调查患者的研究；相反，它是对加拿大及世界各地现有政策、法律和指南的细致审查。该研究人员收集了二十八份不同的文件，包括加拿大的主要研究伦理政策、世界卫生组织的国际指导意见，以及来自澳大利亚和欧盟的规则。目标是观察现有的加拿大规则是否为涉及人工智能的研究人员和伦理委员会提供了清晰的指示。分析重点关注六个关键领域：决定什么算作研究、数据的来源、计算机模型的公平性、人类如何保持控制权、如何处理系统后期的变更，以及如何尊重原住民社区的权利。

研究发现，虽然加拿大的现有规则擅长设定道德基调，但在引导研究人员和伦理委员会做出日常决策方面，细节还不够充分。目前的政策规定研究人员必须尊重个人并确保公平，但它并未明确规定研究人员需要提供什么样的证据来证明一个计算机模型是公平的。它也没有说明当模型在获得批准六个月后进行更新时会发生什么，或者如果第三方公司以研究人员未预料到的方式使用数据时，谁该承担责任。研究人员指出，由于缺乏这些具体指令，伦理委员会只能靠猜测。有些委员会可能会要求过多的信息，从而减慢重要的工作进度，而另一些委员会则可能因为不知道该寻找什么而忽略了关键风险。论文认为，这些原则足以判断对错，但在告诉人们具体该怎么做方面，在操作层面并不充分。

为了解决这个问题，研究人员提出了一种看待流程的新方式，称为“生命周期审查”（lifecycle review）。这种方法不再将研究视为一个在发表时即告结束的单一事件，而是将其视为一段包含六个不同检查点的持续旅程。第一个检查点是目的：明确定义人工智能将做什么以及它将帮助谁。第二个是数据：绘制信息的来源图谱以及谁拥有使用权。第三个是开发：检查计算机模型是如何构建和测试的。第四个是验证：确保模型对不同群体都有效，而不仅仅是对平均水平的群体有效。第五个是部署：确保人类能够理解计算机的建议，并在其出错时能够阻止它。最后一个检查点是变更与退役：规划当模型被更新、移动到新地点或关闭时该如何处理。

这一新框架建议研究人员在这些六个阶段中的每一个阶段都提交一套特定的信息。例如，当一个模型最初被提议时，研究人员必须解释其预期用途。随后，如果模型被更新或数据源发生变化，研究人员必须向伦理委员会报告此类情况，以查看该变化是否显著到需要重新进行审查。论文强调，这并不是要创造堆积如山的文书工作，而是要确保正确的人在正确的时间做出正确的决策。它建议，低风险的研究可能只需要提供少量细节，而影响患者护理的高风险研究则需要更详尽的计划。

论文的一个关键部分讨论了加拿大原住民的权利。目前的规则已经承认原住民社区对数据拥有集体权利，而不只是个人权利。研究人员发现，虽然现有政策承认了这一点，但并未解释这些权利如何应用于人工智能。例如，如果一个计算机模型是基于来自某个原住民社区的数据进行训练的，那么如果该模型后来被卖给一家公司或用于不同的用途，该社区是否有发言权？论文认为，这些具体治理问题不能由由外部人员编写的通用政策来回答。相反，研究人员明确指出，这些具体的治理问题必须由原住民社区本身来主导。所提出的框架为这些社区留出了空间，让他们定义自己的规则，以规定如何处理他们的数据及由此产生的计算机模型，从而确保他们的权威得到尊重，而不是被一种“一刀切”的方案所覆盖。

研究人员还研究了其他国家如何处理这些问题。世界卫生组织和澳大利亚已经开始制定专门的人工智能指南，而欧盟则拥有要求对高风险系统进行严格监控的法律。论文建议，加拿大不需要完全照搬这些法律，但可以借鉴它们的结构。通过采用类似的“活的”指南（可以随着技术变化而更新），加拿大可以在保持其核心伦理原则稳定的同时，增加处理新挑战所需的细节。研究结论是，目前的系统并非坏掉了，而是不完整。它需要在强大的道德原则与人工智能运作的实际现实之间搭建一座桥梁。

提出的解决方案是一个可以被测试和改进的工作模型。研究人员并不是声称这个框架是完美的，或者它能立即解决所有问题。相反，它是作为讨论和未来验证的一种工具呈现出来的。论文建议，在这一模型成为标准规则之前，应该用真实的科研人员和伦理委员会进行测试，以观察它是否真的能帮助他们做出更好的决策，同时又不会造成不必要的延迟。最终目标是创建一个既能利用人工智能改善健康，又能保护相关人员、负责任地使用数据，并让受影响的社区在技术治理中拥有真实话语权的系统。通过将过程分解为清晰、可管理的步骤，该框架旨在使复杂的人工智能研究领域对所有相关人员来说都更加透明且负责。