Governance, Accountability and Post-Deployment Monitoring Preferences for AI Integration in West African Clinical Practice: A Mixed-Methods Study
这项针对西非临床医生和技术专家的混合方法研究表明，他们强烈倾向于通过独立的监管审查、透明的问责机制以及实时监测，来确保人工智能在临床实践中的集成是安全且公平的，同时也强调了对供应商控制和临床医生责任风险的重大担忧。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，医学世界就像一个繁忙、拥挤的大型厨房，厨师们（医生）正试图喂饱一座饥饿的城市。多年来，他们一直靠着双手烹饪，依赖经验和直觉。但现在，一种新型的副厨师来到了这里：人工智能，或者说 AI。不要把 AI 仅仅看作是一个拥有自主意识的机器人，而要把它看作一本超级快速、超级智能的食谱书，它可以在一秒钟内扫描数百万道菜肴，告诉你一道菜的味道会很棒，还是会烧焦。在富裕国家，这些数字副厨师已经在帮助厨师发现食谱中的微小错误（比如早期发现疾病），而这些错误是人类可能会错过的。但在西非，那里的厨房往往非常拥挤，食材各不相同，而且厨师们也捉襟见肘，仅仅把一本华丽的新食谱书丢在柜台上是不够的。你需要一个系统来确保这本书确实适合你的厨房，确保它在天气变化时不会给出错误的建议，并且如果一顿饭搞砸了，每个人都知道该由谁负责。这就是关于如何为未来构建一个安全、公平且值得信赖的厨房的故事。
这篇论文就像一场大型的社区大会，西非的厨师们与那些制作食谱书的人（技术专家）坐在一起，讨论了一个非常重要的问题：“我们想如何经营这个新厨房？”研究人员并没有凭空猜测；他们询问了 136 名医生并采访了 72 位专家，以了解他们需要什么样的情况才能在安全使用 AI 时感到安心。他们发现，厨师们最恐惧的一件事是：因为食谱书犯错而被追责。他们也非常怀疑那些出售食谱书的公司，担心这些公司会试图过度控制厨房。相反，医生们想要一位严格的、独立的裁判——这个人既不是厨师，也不是医院老板，更不是食谱书的卖家——来监督一切。他们希望能在实时屏幕上看到食谱书的表现，就像看体育赛事的计分板一样，这样他们就能在问题发生的一瞬间就察觉到，而不是等到年底看报告。
研究发现，在关于谁应该担任裁判的问题上，医生们压倒性地选择了独立机构。约 40.4% 的医生认为这是最佳选择，其信任度评分为 4.3 分（满分 5 分）。相比之下，他们几乎不信任那些制造 AI 工具的公司来进行自我监管；只有 3.7% 的医生希望由“供应商”掌管，并给这些公司仅为 2.4 分 的低信任分。医生们还投票表示，94.1% 的人认为，当事情出错时，建立一条明确的责任路径是绝对必要的。他们担心如果没有这一点，自己会被不公平地归咎于 AI 的错误，这一担忧在 76.5% 的受访者中得到了印证。
在关于他们希望如何检查 AI 是否正常工作方面，医生们不想等待缓慢的年度成绩单。他们想要一个实时仪表盘，41.1% 的人将其选为监控工具的首选方式。这就像是拥有一个实时的厨房温度和每道菜质量的直播画面，而不是在几周后才去品尝食物。接受采访的专家也同意这一点，他们表示 AI 就像一辆汽车，随着时间的推移可能会慢慢失去转向控制；如果你不持续检查，它可能会偏离道路。他们强调，监测必须是持续性的，要检查 AI 是否仍然对每个人（包括来自不同城镇或不同年龄的人）保持准确、公平和安全。
论文还强调了当 AI 犯错时会发生什么。专家们建议了一个清晰的“停止并修复”计划：如果 AI 开始表现异常，立即暂停它，找出原因（是数据不好？还是出现了新疾病？），修复模型，并告知所有人发生了什么。研究人员建议，为了让 AI 在西非发挥作用，我们需要一个多层级的系统：一个独立的裁判、一个性能实时计分板，以及关于出错后谁该负责的明确规则。研究指出，如果没有这些保护措施，医生可能会因为害怕使用这些强大的工具，从而导致 AI 帮助患者的愿景化为泡影。作者们谨慎地指出，虽然这些发现很有力，但它们是基于所询问人群的偏好，在西非其他医生代表性稍有不同的地区，结果可能会略有差异。但信息很明确：要让 AI 成为一名得力的副厨师，它需要一个可以信任的裁判，并且需要每天受到密切的监督。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。