Foundational values for foundation models

伟大的 AI 厨房：为什么我们在“大师级厨师”与“从零开始烹饪”之间做抉择

想象一下，你正试图制造一个机器人，它能通过观察 X 光片来判断病人是否骨折。在医学科学领域，这是一场高风险的游戏，机器人的“大脑”（即其算法）需要极其聪明，同时还要具备安全性且易于理解。长期以来，科学家们都是从零开始构建这些大脑，从底层开始教它们每一条解剖学和物理学规则。但最近，一种新的趋势爆发了：“基础模型”（Foundation Models）。可以将它们想象成巨大的、经过预训练的“超级大脑”，它们已经阅读了整个人类知识库。它们就像是已经烹饪过世界上所有菜肴的大师级厨师；你只需要要求他们做一道特定的汤，他们只需稍微调整一下配方，而不需要从原始食材开始。

但棘手之处在于：仅仅因为一位大师级厨师能够做出你的汤，并不意味着他是你这场特定晚宴的最佳选择。也许你需要一道耗水量极少的菜（因为你的水井干涸了），或者也许你需要确切知道厨师为什么加入了盐，这样你才能信任这种味道。这正是问题深刻之处。科学家们现在正在争论：是应该使用这些庞大的、预制的脑力，还是构建属于自己的、更小型的定制化大脑。这不仅仅是关于哪个更快或更聪明的问题；这关乎哪些价值观更为重要。我们更在意节省能源吗？我们更在意能否向医生解释我们的决策吗？或者我们更在意确保贫困国家的科学家也能参与这场游戏吗？本文深入探讨了这一辩论，绘制出了驱动这些技术选择背后的隐藏价值观。图。

---

价值观地图：我们为何选择我们的 AI 工具

本文的作者约翰·巴克斯特（John Baxter）和埃洛迪·热马尼（Elodie Germani）决定在科学界玩一场“为什么”的游戏。他们问道：“为什么研究人员选择使用这些庞大的基础模型，而其他人为什么选择从头开始训练自己的模型？”为了回答这个问题，他们使用了一种被称为“苏格拉底式方法”的方法。想象一位侦探询问嫌疑人：“你为什么要那样做？”然后接着问：“为什么那个理由很重要？”如此循环往复，直到触及最核心的信念。他们以此构建了一张巨大的地图（图表），展示了不同的价值观是如何与技术决策相联系的。

他们的调查表明，这种选择并不是一个简单的“好与坏”的开关。相反，它是光谱两端之间的一场拉锯战。在光谱的一端，你拥有使用基础模型并进行极小改动（就像雇佣一位大师级厨师）。在另一端，你拥有从头开始训练模型或进行巨大改动（就像从零开始烹饪）。

支持大师级厨师的理由（基础模型）

许多研究人员倾向于使用这些预训练的巨头，原因非常实际。

首先是数据效率。想象一下，你正试图学习诊断一种罕见疾病，但你只有五份病历。一个从头开始训练的模型会感到困惑并失败。但基础模型已经见过数百万张图像和模式。它就像是一位品尝过世界各地每一种香料的厨师；即使在帮助极少的情况下，他们也能猜出新菜肴的味道。对于那些无法获得海量数据的研究人员来说，这是一个巨大的优势。

其次是模型复用。为什么要重新发明轮子？如果已经存在一个擅长理解医学图像的模型，你直接使用即可。这节省了时间和精力，从而带来了研究速度与便利性。医学研究是艰辛的；它需要严格的规则、伦理审批和复杂的数据收集。使用预制工具让科学家可以跳过构建引擎的繁重工作，专注于驾驶汽车。

第三是模型认可度。如果你使用一个家喻户晓的模型，你的工作会被更频繁地引用。这就像使用一个知名的品牌；人们信任它，而且更容易向他人解释你的工作。

支持从零开始烹饪的理由（训练你自己的模型）

然而，论文发现许多科学家在反对使用这些巨头，并且理由充分。

最大的问题是可解释性。如果一位大师级厨师做了一碗汤并说“味道很好”，但你无法询问他为什么加入那种特定的香料，你可能就不会信任它。在医学领域，信任高于一切。医生需要知道 AI 为什么认为病人患病。基础模型过于庞大且复杂，以至于即使是其创造者也往往无法准确解释它们是如何做出决策的。如果你构建自己的模型，你可以将其设计得透明化，从而更容易赢得临床信任并符合监管规则。

其次是速度与内存问题。基础模型就像巨大的重型卡车。它们动力强劲，但会消耗大量燃料（能量），并且需要一个巨大的车库（计算机内存）。如果你只需要递送一个小包裹，一辆小型、高效的汽车（定制模型）会更好。论文指出，基础模型通常拥有“无效重量”——即那些对你的特定任务并无用处、却依然占据空间的脑部区域。如果你在意环保主义（节省能源和水）或者你的计算机算力有限，那么训练一个更小的定制模型通常是更好的选择。

还有一个价值观叫做研究主权。这关乎公平。如果只有少数富裕国家或大公司拥有这些巨大的大师级厨师，那么除非被允许使用这些特定工具，否则贫困国家的科学家无法真正参与其中。论文指出，虽然基础模型可以通过为每个人提供强大的工具来拉平竞争环境，但也存在“基础设施锁定”的风险，即所有人都会依赖于单一的供应商。构建自己的模型可以实现更多的独立性。

复杂的中间地带：公平性与新颖性

论文强调，有些价值观是混乱的，无法整齐地归入任何一方。

以公平性为例。你可能认为一个在数百万人身上训练过的庞大模型更公平，因为它看到了更多的多样性。但作者指出，大多数此类模型实际上是由单一中心在单一数据集上训练的，这可能仍然存在偏差。因此，使用庞大模型并不自动解决不公平问题；它甚至可能掩盖不公平。论文建议，确保公平性可能实际上需要对模型进行更多控制，这更倾向于构建你自己的模型。

还有模型新颖性。在科学领域，人们热爱发现新事物。使用预制模型感觉像是使用别人的发明。如果你想因一项新发现而闻名，你可能想从头开始构建一个新的架构。然而，论文指出，“新颖性”往往意味着让事物变得更复杂，这与追求简单、节能模型的愿望相冲突。

最终结论：取决于你重视什么

论文得出结论，并没有唯一的“最佳”答案。选择完全取决于研究人员最看重什么。

• 如果你重视速度、数据效率和易用性，你可能会选择基础模型。
• 如果你重视可解释性、环境影响和完全控制权，你可能会训练自己的模型。

作者建议，科学界需要诚实面对这些权衡。我们不能只说“AI 是好的”或“基础模型是未来”。我们必须追问：“对什么而言是好的？代价是什么？”通过理解这些潜在的价值观，科学家可以做出更好的决策，这些决策不仅关乎技术上的可行性，更关乎对社会、环境以及医学未来的意义。本文并未声称解决了问题，但它提供了一张清晰的地图，帮助所有人在这场辩论中寻找方向。