想象一下，你是一名正试图利用一个超级智能 AI 助手来破解谜团的侦探。在医学科学的世界里，这个 AI 是一个“基础模型”——一个已经阅读了数百万份人类头部 MRI 扫描图像的庞大预训练大脑。科学家们热爱这些模型，因为它们就像拥有了一位见过各种类型大脑的医学天才学生，随时准备在无需从头开始重新训练的情况下，协助诊断疾病或研究解剖结构。人们寄予厚望，希望当你要求这个 AI 查看一个新的扫描图像时，它看到的仅仅是生物学本身：大脑的形状、脑室的大小以及组织的健康状况。它应该是一个纯粹的人体窗口，忽略其他一切。
但问题在于，医学扫描并不是在真空中进行的。它们是在医院中拍摄的，使用的是特定的机器（扫描仪），这些机器可能由不同的公司制造，或者被设定在不同的速度、不同的参数下。就像即使拍的是同一个人，用 iPhone 拍摄的照片和用三星拍摄的照片看起来也会有所不同一样，MRI 扫描也带有拍摄它的机器的“指纹”。多年来，科学家们一直担心这些机器差异可能会误导 AI，让它误以为来自 A 医院的一个健康大脑是有病的，仅仅是因为那张照片看起来稍微有点不同。大问题在于：AI 到底是在观察大脑，还是在偷偷记忆相机的风格？
这篇论文正是对这一点进行了调查。研究人员拿出了几个这样的“冻结”AI 模型——这意味着他们锁定了 AI 的大脑，使其无法学习任何新知识——并测试了它究竟在看什么。他们把这个 AI 当作一名嫌疑人，问道：“如果我给你看一张大脑扫描图，你能分辨出它来自哪家医院吗？”答案令人震惊。AI 不仅看到了大脑，还以极其清晰的视野看到了医院。事实上，该 AI 识别医院（即“站点”）的准确率约为 90%，这远高于它识别患者年龄、性别甚至是否患有自闭症的能力。
最令人意外的转折点是什么？这并不是因为 AI 被“训练”成了一个间谍。研究人员通过使用一个从未在任何数据上进行过训练的版本来测试这一点——它仅仅是一堆随机数字。即使是这个“愚笨”的、随机的 AI，也能以接近 90% 的准确率识别出医院。这意味着，“指纹”并不是 AI 学会的一种秘密代码，而是深深植根于原始图像本身之中。机器捕捉光线和大脑纹理的方式是如此独特，以至于任何观察图像的系统，无论聪明还是愚笨，都能分辨出它来自哪里。
论文还探讨了我们是否可以解决这个问题。他们尝试使用数学技巧来从 AI 的大脑中“洗掉”医院信息。他们发现，对于简单的任务，比如仅仅观察整个大脑并回答“是”或“否”，他们可以在不损害结果的情况下移除医院的指纹。然而，对于像绘制大脑每个微小部分地图这样精细的任务，移除指纹却是灾难性的。事实证明，“医院风格”和“大脑解剖结构”在 AI 的大脑中是纠缠在一起的。当他们切除医院部分时，他们也意外地切除了大脑中微小且深层的结构，比如丘脑和海马体，导致 AI 根本无法看到它们。
因此，本文给科学家的主要启示是一个警告：不要假设这些强大的 AI 工具纯粹是在观察解剖结构。它们也在观察扫描仪。由于这种“指纹”深深扎根于图像本身，你不能仅仅通过更好地训练 AI 来让它忽略它；你必须非常小心地使用 AI 给出的答案，尤其是当你试图绘制人类大脑微小而复杂的细节图谱时。