The pretraining domain outweighs the training objective in setting the privacy-utility trade-off of differentially private medical image analysis
本研究表明，在差分隐私医学图像分析中，预训练语料库的领域（特别是领域内的胸部 X 光片）是决定隐私-效用权衡的一个比预训练目标更关键的因素，因为即使在严格的隐私约束下，使用私有领域内数据初始化的模型也显著优于使用公开或通用预训练的模型。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正在试图教一个机器人阅读人类肺部的 X 光片。这个机器人需要学习两件事：如何识别骨骼和器官的形状，以及如何发现疾病的微小迹象。但问题在于，这个机器人只能根据一套被称为“差分隐私”的极其严格的规则进行学习。你可以把它想象成一位超级严厉的图书管理员，他允许机器人研究一堆患者记录组成的图书馆，但他坚持要求机器人绝不能记住任何单个患者的故事。为了确保机器人不会作弊，图书管理员在机器人学习的每一课中都加入了一点“静态噪声”。这些噪声保护了患者的秘密，但也让课程变得难以理解，往往导致机器人犯更多的错误。
科学家们一直试图解决这个问题，方法是在机器人打开图书馆之前，先给它一个“起跑优势”。这被称为“预训练”。这就像是让机器人在看到 X 光片之前，先观看一百万小时的自然纪录片，或者研究一大堆普通的照片。大问题在于：机器人在这个起跑阶段学习的内容是否重要？如果它学习的是通用图片（比如猫和汽车）并使用一种聪明的自学方法，还是如果它学习的是真实的胸部 X 光片，即使是用更传统的方式，会对它更有帮助？而且，至关重要的是，如果机器人在学习这些胸部 X 光片时也采用了保护患者隐私的方式，这是否会有影响？
这篇论文旨在通过进行一项大规模实验来回答这个问题。研究人员构建了一个由五种不同“学生机器人”组成的团队，每个机器人都有不同的起跑优势。然后，他们让所有五台机器人接受同样的严格隐私训练，使用的是来自全球五家医院的胸部 X 光片。他们测试了每台机器人诊断五种常见肺部问题（从肺炎到液体积聚）的能力，同时保持了严格的隐私规则。
结果出人意料地清晰，并为这场辩论给出了一个决定性的答案。起跑最好的机器人是那台在开始隐私训练之前就已经学习过大量胸部 X 光片的机器人。这个“领域内”的机器人彻底碾压了竞争对手。当隐私规则变得极其严格时（这通常会导致 AI 性能崩溃），这台机器人仍然表现得非常出色，而其他机器人则显得力不从心。事实上，随着隐私规则变得越来越严，胸部 X 光片训练机器人与其他机器人之间的差距也变得越来越大。当隐私规则达到最严格的时候，这台经过胸部 X 光片训练的机器人比使用通用照片训练的机器人表现要好得多——在他们的评分系统中高出了多达 14.6 分。
研究还发现，机器人在起跑阶段学习的“方式”并不如学习的“内容”那么重要。一个使用传统监督学习方法（即老师告诉它答案的方法）学习胸部 X 光片的机器人，比一个使用高级自学方法学习通用照片的机器人表现更好，尽管自学方法通常被认为更“酷”且更先进。研究人员还测试了一个在起跑阶段也受到隐私规则约束的胸部 X 光片机器人版本。尽管这使得机器人在开始时准确度略有下降，但在最终的隐私训练开始后，它仍然击败了其他所有机器人。
或许最令人兴奋的发现是，这个受隐私保护、经过胸部 X 光片训练的机器人不仅是最准确的，也是最公平的。当研究人员观察机器人在不同人群中的表现时，即使对于那些在隐私规则严格时往往受害最深的年长患者，这台胸部 X 光片训练的机器人依然保持了极高的性能。而其他机器人，尤其是那些从零开始训练或在通用照片上训练的机器人，其针对老年患者的准确率显著下降。
简而言之，这篇论文证明了，如果你想构建一个尊重患者隐私的医疗 AI，你能做的最重要的事情就是给它一个与它即将从事的工作完全一致的数据起跑优势。无论通用数据有多庞大或多么高级，如果机器人以前从未见过胸部 X 光片，那么在隐私规则变严时它就会陷入挣扎。未来的最佳路径并不一定是构建更大、更通用的模型，而是创建并共享那些已经学会了医学语言的专业化模型，同时保护好那些帮助它们学习的患者的隐私。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。