Feature Evolution and Migration during Vision Transformer Training
本文引入了一种利用稀疏自编码器（Sparse Autoencoders）来可视化视觉 Transformer 中特征随网络深度和训练时间演变过程的新型框架，揭示了特征迁移集中在训练早期、倾向于向浅层移动，且深层比浅层更早趋于稳定的现象。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在现代人工智能的世界中，计算机通过处理由数字神经元组成的庞大分层网络来学习如何看图。这些被称为视觉 Transformer（Vision Transformers）的系统已成为各种任务的标准，从识别照片中的动物到引导自动驾驶汽车。多年来，科学家们一直了解这些网络是如何以层次结构组织信息的：最早的层检测简单的形状，如边缘和纹理，而更深的层则将这些形状组合成复杂的概念，如脸部或整个物体。然而，关于这种内部组织究竟是如何形成的，一个关键的谜团仍然存在。我们知道最终的结果看起来像一个井然有序的图书馆，但我们并不知道在计算机仍在学习时，书是如何被分类、移动或上架的。目前尚不清楚网络发现的特征是在训练的第一刻到最后是否都停留在同一个位置，还是随着系统的成熟而迁移到不同的层中。
为了解决这个谜题，塔尔图大学（University of Tartu）的研究人员开发了一种新方法，可以实时观察学习过程的展开。他们没有将网络视为一个单一、静态的整体，而是通过两个维度绘制了其内部活动图谱：网络的深度（从第一层到最后一层）以及时间的流逝（以模型经历的数百个训练周期来衡量）。他们将网络视为一个活生生的生态系统，追踪特定信息模式的出现、消失或位置偏移。通过使用一种将复杂数据分解为简单、清晰组件的数学工具，该团队能够分离出单个“特征”——即计算机学会识别的特定事物，例如某种特定的纹理或物体的某个部分——并追踪它们在各层之间的旅程。这种方法使他们能够观察到标准方法（仅测量整体相似度的方法）所无法捕捉到的隐藏学习动态。
研究人员在一个包含一百万张图像的海量数据集上训练了一个具有代表性的小型视觉 Transformer 版本，教它识别数千个不同的类别。随着模型在 300 个周期内进行训练，团队记录了其每一个步骤的内部状态。他们发现，特征的组织并不是固定的；它表现出惊人的流动性，尤其是在学习过程的初期阶段。在早期阶段，特征经常出现在网络的深层，即系统最初试图理解整幅图像的地方。随着训练的进行，许多这些特征会向后迁移，向较早的、较浅的层移动。这就像系统首先通过高层摘要发现了一个概念，然后随着时间的推移，弄清楚了这个概念在处理流水线中的确切位置，并将其安置在一个更永久的家园。
这种迁移并非随机的，它遵循着清晰的模式。研究发现，特征向较早层移动的频率远高于向更深层移动的频率。一旦一个特征找到了它的位置，它往往会停留在那里，并随着训练的持续而变得越来越稳定。网络的深层首先稳定下来，较早地锁定其组织结构，而较浅的层则会在更长的时间内继续调整和优化其内容。到训练结束时，系统已进入一个稳定的配置，特征不再在层之间游走。研究人员还观察到，无论使用多大的数据集，这种行为都是一致的，这表明这种迁移是这些网络学习过程中的一个基本组成部分，而非特定训练集的特质。
或许最令人惊讶的是，团队发现那些在训练初期出现的特征并不一定是那些持续时间最长的特征。一些快速出现的特征寿命非常短暂，在几个训练周期内就会出现又消失。另一些特征，特别是那些定居在深层的特征，则在整个训练过程中持续存在。研究还检查了这些移动的特征是否对应于特定的、人类可理解的类别，例如“狗”或“汽车”。他们发现，虽然有些特征显然与特定类别相关，但另一些则更为通用，或在相关的物体组之间共享。然而，一个特征如何移动或稳定，似乎并不取决于它代表的是特定物体还是更广泛的概念；这种迁移模式是学习过程本身的结构性属性。
这些发现为人工智能如何学习提供了新的视角。网络并非从下往上构建一个僵化的结构，而是似乎在探索不同的组织策略，通过移动信息来寻找最有效的排列方式。训练的早期阶段是一个高度活跃和重组的时期，系统在此期间测试不同位置对于其学习到的特征是否合适。随着训练的结束，这种活动逐渐平息，网络进入了一个稳定的状态。这项研究为那段旅程绘制了详细的地图，表明这些机器通往智能的路径是一个发现与重新定位的动态过程，而不仅仅是知识的静态积累。通过理解特征如何迁移和稳定，科学家可以更深入地了解这些强大工具的内部运作机制，从而可能在未来开发出更高效、更具解释性的系统。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。