Detecting Potential False-Normal Predictions in AI Analysis of Celiac-Related Duodenal Endoscopy Images
这项研究发现，在针对麸质相关十二指肠内窥镜图像时，将模型置信度与技术不稳定指标及图像质量测量相结合，并不能比仅使用置信度更好地提高对假阴性预测（false-normal predictions）的检测能力。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在现代诊所中，医生经常依靠照相机窥视人体内部，捕捉小肠黏膜的静态图像，以寻找疾病的征兆。其中一种情况——乳糜泻，会导致肠道内微小的指状突起变得扁平并萎缩，这种变化有时可以在这些照片中被观察到。虽然医生通常可以通过采集组织样本进行实验室检测来确认诊断，但图像中的视觉线索对于指导这一决策具有重要价值。近来，计算机程序已被训练用来观察这些图像，并判断它们显示的是健康的肠道还是受乳糜泻影响的肠道。人们希望这些程序能充当“第二双眼睛”，捕捉人类可能会忽略的细微迹象，或者标记出需要仔细查看的图像。然而，计算机并不完美。有时，它会自信地宣布一张图像为正常，而标签却显示其患有疾病。对于任何使用这项技术的人来说，关键问题不仅在于计算机正确识别的频率，还在于如何找到那些特定的、会在缝隙中溜掉的错误图像。
一位研究人员着手测试一个解决该问题的实际方案，使用的是一组由188张十二指肠（小肠的第一部分）数字照片组成的集合。这些图像来自一个公共档案库，并且已经被专家标记为显示正常肠道或显示乳糜泻。在运行任何测试之前，研究人员仔细清理了数据，删除了五张与其他图像完全相同的数字副本，并留出了24张因情况不明而被标记为“可疑”的图像。这最终剩下了159张独特的图像用于研究。目标是观察计算机程序是否可以学会识别自己的错误。具体而言，研究人员想知道，通过增加对图像质量和稳定性的简单检查，是否能帮助人类审核员优先处理哪些“假阴性”（即本应是疾病却被判定为正常）的图像，相比于仅仅观察计算机对其自身答案的信心水平。
为了实现这一目标，研究人员训练了一个标准的计算机视觉模型——一种被称为ResNet-18的软件——来区分这两类图像。训练过程确保了模型从未见过稍后用于测试的具体图像，从而防止它仅仅是死记硬背答案。模型准备就绪后，被要求对测试集中的每张图像进行分类。模型正确识别了大多数图像，但也犯了一种特定类型的错误：它将13张图像标记为“正常”，而根据原始专家标签，这些图像实际上是“乳糜泻”。这13张图像成为了实验的目标。研究人员随后创建了两个不同的列表，以观察如果人类只能审查一小部分图像，哪种方法能捕捉到更多的这13个隐藏错误。
第一种方法是最简单的做法：研究人员仅仅观察计算机在判定图像为“正常”时的自信程度。如果计算机仅表现出轻微的确定感，该图像就会被标记以供审查。第二种方法试图通过增加额外的信号来变得更聪明。它观察如果将图像调亮或调暗一点，或者如果文件以略低的质量保存，计算机的答案是否会发生变化。它还测量了图像本身的各种技术缺陷，如模糊、过度明亮或中心区域存在眩光。这三个因素——弱信心、不稳定的答案以及较差的图像质量——被结合成一个单一的分数，用于对待审查的图像进行排名。研究人员模拟了一个人类只能审查固定数量图像（例如总数的20%）的情景，以观察哪种方法能发现更多的这13个漏诊案例。
结果清晰且出人意料地直接。当研究人员审查由“仅靠信心”法标记出的前15张图像时，他们在13个漏诊案例中找到了3个。当他们审查由更复杂的“综合评分”法标记出的前15张图像时，也同样在13个漏诊案例中找到了恰好3个。增加图像质量和稳定性检查并没有帮助系统比单纯观察计算机的信心水平发现更多的错误。事实上，在审查比例较低（即只能检查少量图像）的情况下，简单的信心法发现的错误反而比复杂的方法更多。研究人员还尝试了一个变体，即在分析前对图像进行裁剪以去除边缘和边界，希望观察计算机是否依赖于文本或设备叠加层等视觉捷径，但这一改变同样没有提高复杂评分系统的性能。
研究结论指出，对于这组特定的图像，增加技术质量检查和稳定性测试并未提高捕捉计算机错误的能力。额外的复杂性并没有体现出其价值。这并不意味着图像质量或稳定性在普遍意义上不重要，也不意味着计算机是完美的。它仅仅意味着，在这次特定的测试中，计算机自身的信心水平与一个试图测量图像技术缺陷的更复杂的系统一样，在指出风险图像方面同样有效。研究人员指出，该数据集规模较小，仅包含159张图像，且标签是基于图像类别而非确认的患者活检，因此研究结果仅限于这个特定的档案库。这项工作是一次细致、透明的测试，表明在没有直接证据的情况下，不应假设一个更复杂的安全性评分系统会优于一个简单的信心检查。最后，在这种情况下，寻找计算机错误最有效的方法是信任其自身的确定性，而不是试图去测量图像本身。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。