PROACTIVE-AI: An Intelligent Dashboard for Assessing and Predicting of FDA-approved AI Software Performance in Real-World Clinical Scenarios
本文介绍了 PROACTIVE-AI，这是一个交互式 Web 端仪表板，它利用 FDA 数据和 AI 驱动的风险评估来可视化性能趋势，并预测经 FDA 批准的医疗 AI 器械在现实世界中的安全风险，从而解决监管空白并增强临床问责制。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，医疗世界就像一座巨大且繁忙的城市，每天都有新的工具被发明出来，以帮助医生治愈患者。长期以来，这些工具大多是物理实体，比如支架或泵——一旦建成并获得批准，它们就会保持不变，就像一座坚固的砖房。但最近，一种新型工具突然爆发式地出现在舞台上：人工智能（AI）。不要把这些 AI 工具看作砖房，而要将它们视为会学习、会随成长而改变的、有生命、有呼吸的生物。它们可以通过阅读新数据变得更聪明，但也意味着如果周围的世界发生了意想不到的变化，它们可能会感到困惑或犯错。
这座城市的每个人都在担心：我们如何知道这些不断变化的 AI 生物在真实的人身上使用时是安全的？负责给予它们工作许可的政府机构——FDA（美国食品药品监督管理局）——已经批准了 1,300 多种此类 AI 工具。但要在它们开始工作后进行检查，就像试图同时观察一千只隐形的鸟一样；很难在其中一只生病或坠毁之前发现问题，否则可能就太晚了。医生和医院需要一种方法来窥见未来，并预测哪些 AI 工具可能会引发麻烦，以便他们能在问题发生前采取行动，保障患者安全。
这就是名为 PROACTIVE-AI 的新型数字工具发挥作用的地方。它由莫菲特癌症中心（Moffitt Cancer Center）的研究人员创建，这不仅仅是一个枯燥的规则列表；它是一个交互式的、基于 Web 的仪表盘，既像水晶球，又像侦探的地图。研究团队利用超过 1,300 台经 FDA 批准的 AI 设备的大量数据，构建了一个系统，用于可视化它们是如何相互连接的，并预测哪些设备可能需要从市场上撤回。
该仪表盘拥有两个主要“超能力”。首先是它的知识图谱（Knowledge Graph），看起来像一张巨大的、发光的蜘蛛网。在这个网络中，每个 AI 设备都是一个点，而连接它们的线条展示了它们与旧设备之间的关系。如果你将鼠标悬停在一个点上，就可以看到它的“家族树”：谁制造了它，以及它的用途。这有助于人们观察一个新的 AI 是否只是旧产品的复制品，还是正在尝试某种全新的、具有风险的技术。
其次，它的**时间分析（Time Analysis）**面板就像一台时光机。它允许用户浏览从 1995 年到 2025 年的历史，观察 AI 工具的类型和获批数量随年份的变化。它会高亮显示出错的时间点，展示在何时以及为何某些设备被召回，从而让医院能够识别模式并避免重蹈覆辙。
但最酷的部分是它的风险评估计算器（Risk Assessment Calculator）。这是内置在仪表盘中的一个 AI 工具，扮演着“预言家”的角色，预测安全性。研究人员将有关哪些设备被召回（收回）以及哪些没有被召回的历史数据喂给了它。他们教会了它在设备进入市场之前，去寻找其申报文件中特定的“警告信号”。当他们测试这个计算器时，它表现得非常出色，能以极高的准确率正确识别出被召回的设备。
研究发现，有三个主要因素会让一个 AI 设备在日后更容易被召回：
- 缺乏临床试验： 如果一个设备在没有经过足够数量真实患者测试的情况下就获得了批准，它在日后失败的可能性就会大大增加。计算器将此视为一个巨大的危险信号。
- 过于新颖： 如果一个设备没有许多“前体”（即较旧的、类似的设备）可以作为参照，这表明该技术是非常新颖且未经测试的。研究表明，一个设备的“祖先”越多，它往往就越安全。
- 制造商： 制造设备的厂商也很重要，某些公司的风险水平比其他公司更高。
研究人员谨慎地指出，虽然他们的工具非常有前景且数据表现优异，但它是一个预测系统，而非保证。它暗示了那些缺乏深度临床测试或过于新颖的设备风险较高，但并不承诺能捕捉到每一个问题。然而，通过将复杂的数据转化为色彩鲜明、易于阅读的仪表盘，PROACTIVE-AI 为医生、监管机构甚至患者提供了一个更清晰的视角，去观察他们正在使用的 AI 工具。它有助于将原本令人恐惧、未知的“黑箱”AI 转化为我们可以观察、理解并时刻监控的对象，从而有望让这座医疗城市对每个人都更加安全。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。