Features have life history. And we should care
本文揭示，语言模型拥有一种由约 50 个稀疏特征构成的持久“载体支架”，这些特征在训练的前 1% 内迅速组装，形成一个承载性的基础，决定了模型后续的表征结构与演化。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是一篇未经同行评审的预印本的AI生成解释。这不是医疗建议。请勿根据此内容做出健康决定。 阅读完整免责声明
想象一下，训练一个大语言模型（就像那些写文章或与你聊天的模型）就像从零开始建造一座庞大而繁忙的城市。通常，当我们审视这座完工的城市时，我们看到的是道路和建筑构成的稳定地图。我们假设所有部分都是同步、以相同的速度发展起来的。
但这篇论文认为，这座城市拥有一段隐藏的生命故事。城市的某些部分在最初的一小时内建成，且从未改变；它们成为了不可动摇的基石。而其他部分则稍后出现，建立在这些基石之上，因此更加脆弱。
以下是基于论文发现，关于这一基石的故事：
1. “载体支架”：城市的骨架
研究人员发现，在这些 AI 模型内部，存在一个由大约**50 个特殊“特征”**组成的小群体（可以将它们想象成城市的主要公用设施线路：水、电、互联网）。
- 它们出现得很早：这 50 个特征几乎立即出现，在训练时间的头 1% 内就已显现。
- 它们持久存在：与其他像临时施工队一样忽隐忽现的特征不同，这 50 个特征一直存活到最后。
- 它们支撑着一切：作者将这一群体称为**“载体支架”**。它是模型的骨架。如果你移除这特定的 50 个特征，模型的性能崩溃程度要远大于移除任何其他 50 个随机特征。
2. 两阶段建设工程
论文表明，训练过程分为两个截然不同的阶段，就像有着严格时间表的建设工程：
- 第一阶段：“选择”（前 1%）
想象一个混乱的施工现场，成千上万的工人试图建造墙壁。在前几分钟，“好”工人（未来的支架）被识别出来。它们是那些最早出现、从事最重要任务且未被解雇的工人。当完成前 1% 的工作时，骨架已经确立。模型本质上已经“决定”了哪 50 个特征将成为领导者。 - 第二阶段：“校准”（剩余的 99%）
在训练剩余的时间里，模型并不是在建造新的骨架。相反，它只是在精细调整固定骨架周围的油漆和布线。它是在打磨几何结构，让现有的领导者工作得更好，但它并没有改变谁是领导者。
3. “水晶球”效应
最惊人的发现之一是，你可以在模型甚至尚未擅长其工作之前，就预测出谁将成为领导者。
- 研究人员在模型的最初阶段（第 1k 步）观察模型。此时，模型在预测文本方面表现极差。
- 然而，他们可以观察哪些特征最广泛且最一致地被触发（激活）。
- 仅利用这些早期数据，他们构建了一个“水晶球”（一个简单的预测器），能够在模型学会任何有用知识之前，就正确识别出80% 的未来领导者。
- 启示：模型的“功能”（它做什么）首先被决定。它的“方向”（它如何连接到最终答案）只是后来被精细打磨的。
4. 特征的家谱
支架并非静止不动；它像模型的父母一样发挥作用。
- 随着训练的继续，新的特征诞生了。
- 论文发现，最终模型中约**64%**的特征都是那最初 50 个领导者的“后代”。它们像家谱一样被组织成层级结构，早期的领导者是祖父母，而更新的、更具体的特征是子女和孙辈。
- 最初的 50 个特征是支撑整个结构的“根”。
5. 为什么这很重要（“我们为什么要关心？”部分）
作者表示，我们应该关心这一点，因为我们目前研究 AI 的方式，就像是拍摄完工城市的照片，然后试图弄清楚它是如何建造的。
- 问题：如果你只看最终的模型，你无法区分一个从第一天起就是领导者的特征和一个后来才出现的特征。在照片中，它们看起来是一样的。
- 解决方案：通过追踪“生命历史”（谁在何时诞生，谁存活了下来），我们可以看到真实的承重结构。
- 惊喜：承载最大重量的特征（支架）通常看起来像是枯燥的技术“基础设施”（如处理字节码或文件格式），而不是我们预期的“智能”特征（如理解情感或语法）。那些“智能”特征实际上只是建立在这个枯燥、不可动摇的基石之上的装饰。
总结类比
将训练 AI 想象成培育一棵巨大的橡树。
- 支架：深扎的主根和主干。这些在幼苗生命的最初几天就确立了。它们难以改变，并承载着整棵树的重量。
- 树的其余部分：树枝、树叶和细枝。这些稍后生长，从主干分叉而出。它们数量众多且具体，但完全依赖主干提供支撑。
- 论文的洞见：如果你想了解这棵树，不要只看树叶（最终的快照）。你需要看树根（生命历史）。树根很早就被选定，而树的其余部分只是围绕它们生长。
简而言之：AI 的“大脑”并非均匀构建。它在训练的最初几分钟内就选定了最重要的部分，并将接下来的 99% 的时间用于学习如何更好地利用它们。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。