Distilling CT Foundation Models into Editable Concept Bottlenecks for Lung Nodule Malignancy Prediction
本文引入了可编辑的概念瓶颈模型，该模型将冻结的 CT 基础模型表示蒸馏为放射科医生定义的属性，以提供具有与仅基于结节大小相当的判别性能且透明的肺结节恶性程度预测，同时证明了概念恢复的保真度取决于底层基础模型的架构。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正试图教一个超级聪明的机器人如何在拥挤的城市中识别危险的小偷。你给了机器人一副神奇的眼镜，这副眼镜可以同时看到城市中的一切，但机器人看到的只是一个由颜色和形状组成的巨大、混乱的模糊影像。它能告诉你：“那个人很可疑！”但它无法告诉你为什么。是因为他戴着面具？因为他在奔跑？还是因为他看起来很紧张？在医学科学的世界里，特别是观察肺部 CT 扫描图像时，医生们正面临着完全相同的问题。他们拥有强大的 AI“基础模型”（foundation models）可以观察肺部图像并猜测一个小肿块（结节）是否是癌症，但这些模型就像一个“黑匣子”：它们给出答案，却不展示其推导过程。这是有风险的，因为医生需要理解其中的推理逻辑才能信任诊断结果。为了解决这个问题，科学家们尝试构建“概念瓶颈”（Concept Bottleneck）模型。把这想象成强迫机器人停下来，用人类通俗易懂的语言来描述小偷的特征——比如“戴着帽子”、“拿着包”或“走路一瘸一床”。如果机器人能够使用这些人类友好的线索来解释它的推理过程，医生就能更加信任它，他们甚至可以调整这些线索，观察答案会如何变化。
这篇论文采用了这个想法，并将其应用于肺癌筛查。研究人员想要看看，他们能否利用两种已经过训练、专门用于观察 CT 扫描图像的不同类型的“神奇眼镜”（AI 基础模型），并强迫它们使用放射科医生使用的八个特定特征来描述肺结节，例如边缘有多“尖锐”（spiky）或肿块有多“圆”（round）。然后，他们利用这些描述以及结节的大小，来预测该结节是否为恶性（癌症）。
以下是他们的发现：
首先，他们尝试教 AI 描述肺结节。他们使用了两种不同的 AI 模型：一种观察整个胸部扫描图（CT-FM），另一种则紧紧缩放并聚焦于仅有的结节部分（FMCIB）。他们要求 AI 预测八个特征，例如“毛刺征”（spiculation，即尖锐边缘）和“隐蔽性”（subtlety，即观察难度）。结果有些复杂。聚焦型的模型（FMCIB）在描述特征方面比全胸部模型表现得更好。例如，在猜测结节有多“尖锐”时，聚焦型模型的得分是 0.17，而全胸部模型仅为 0.08。然而，即使是表现较好的模型也不完美；它在准确描述诸如“钙化”（calcification，硬块）或“球形度”（sphericity，圆润程度）等特征时仍然感到吃力。这表明，虽然 AI 可以学习描述某些特征，但这在很大程度上取决于 AI 最初是如何被训练的。
接下来，他们测试了这些“描述”是否真的有助于预测癌症。他们构建了一个系统，该系统通过结合 AI 的描述和结节的实际大小来进行预测。结果令人惊讶。使用 AI 描述的系统，其表现与仅观察结节大小的系统一样出色。在他们的内部测试中，两个系统的得分都是 0.86（衡量预测好坏的指标）。在针对不同患者的外部测试中，两者都在 0.72 到 0.73 左右。有趣的是，那些试图在不使用描述的情况下（仅观察原始数据）直接预测癌症的 AI 模型表现较差，得分仅为 0.60 到 0.67。
那么，这意味着什么呢？主要的结论是，AI 的“描述”并没有使预测比仅仅测量肿块大小时更准确。事实上，结节的大小才是最有力的预测因子。然而，“描述”做了一件非常有价值的事：它们让 AI 变得透明。因为模型被迫使用人类定义的概念，医生可以清楚地看到哪些特征导致了癌症风险。他们甚至可以玩一个“如果……会怎样”的游戏：他们可以告诉模型，“假设这个结节没那么尖锐了”，然后观察预测的风险如何下降。这证明了虽然 AI 并没有通过使用这些概念变成一个更好的“预测者”，但它变成了一个更好的“解释者”。这项研究表明，虽然我们可以将复杂的 AI 提炼为可理解的概念，但这些概念的质量取决于底层的 AI，而且就目前而言，肿块的大小仍然是发现肺癌最重要的线索。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。