💬 NLP

ACL: Aligned Contrastive Learning Improves BERT and Multi-exit BERT Fine-tuning

本文提出了对齐对比学习（ACL）框架，通过引入 ACL-Embed、ACL-Grad 和跨层 ACL（ACL-CL）机制，有效解决了监督学习中对比学习与交叉熵损失的冲突问题，从而显著提升了 BERT 及多出口 BERT 微调在 GLUE 基准任务上的性能与效率。

原作者： Liz Li, Wei Zhu

发布于 2026-02-13

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Liz Li, Wei Zhu

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇论文主要讲了一个关于如何让 AI 模型（特别是 BERT 这种大语言模型）学得更聪明、跑得更快的问题。

我们可以把这篇论文的核心思想想象成**“教一个学生如何既考高分，又能在考试中途就自信地交卷”**。

以下是用通俗语言和比喻对这篇论文的解读：

1. 背景：现在的“老师”有点矛盾

在 AI 领域，有一种很流行的学习方法叫**“对比学习”**（Contrastive Learning）。

比喻：想象你在教学生认水果。传统的对比学习会让学生看两个苹果，说“这两个很像”；看一个苹果和一个香蕉，说“这两个很不像”。这能帮学生建立很好的“水果概念”。
问题：但是，当我们要让学生做具体的考试题（比如“这是苹果还是梨？”）时，传统的对比学习方法和做考试题的标准答案法（交叉熵损失，CE）有时候会“打架”。
论文发现：作者发现，如果强行把这两种方法混在一起用，就像是一个教练一边喊“你要把苹果和梨分清楚”，另一边又喊“你要把苹果和香蕉分清楚”，结果学生晕头转向，梯度（学习的方向）甚至可能相反，导致模型学不好，或者成绩不稳定。

2. 核心方案：ACL（对齐对比学习）

为了解决这个“打架”的问题，作者提出了一个叫 ACL（Aligned Contrastive Learning，对齐对比学习）的新框架。它由三个聪明的“助手”组成：

助手一：ACL-Embed（给标签找个“锚点”）

传统做法：只让学生看图片（样本）之间的区别。
ACL 做法：作者引入了**“标签嵌入”**（Label Embeddings）。
比喻：以前老师只让学生看苹果和梨的区别。现在，老师在黑板上画了两个大大的**“苹果标签”和“梨标签”**（就像两个固定的锚点）。
- 老师告诉学生：“你的任务不仅是把苹果和梨分开，还要努力让你的‘苹果图片’紧紧贴在黑板上的‘苹果标签’旁边，把‘梨图片’贴在‘梨标签’旁边。”
- 这样，标签本身就变成了学习的目标，让模型学得更准，不再迷茫。

助手二：ACL-Grad（聪明的“刹车”系统）

问题：即使有了锚点，有时候“看标签”和“做题”的方向还是可能冲突（比如梯度夹角超过 90 度，意味着往左走和往右走）。
ACL 做法：作者设计了一个**“智能刹车”**。
比喻：在训练过程中，系统会实时监测教练的指令。如果发现“对比学习”的指令和“做题”的指令方向完全相反（夹角太大），系统就会暂时关掉对比学习的指令，只听从做题的指令。
- 这就好比开车时，如果导航让你左转，但前方是悬崖，你就先别管导航，先直行避开危险。等方向一致了，再重新开启导航。这保证了学习过程不会“翻车”。

助手三：ACL-CL（跨层“师徒”传授）

背景：为了加快 AI 的运行速度，现在的模型允许**“中途退出”**（Early Exiting）。也就是说，如果模型在中间某一层已经很有把握了，它就可以直接输出答案，不用跑完所有层，这样速度就快了。
问题：但是，中间层的“小模型”（浅层出口）通常比较笨，不如最后一层的“大模型”（深层出口）聪明。
ACL 做法：作者提出了跨层对比学习。
比喻：
- 把最后一层（最深层）看作**“大师傅”，把中间层看作“小徒弟”**。
- 以前，小徒弟只知道自己做题，不知道大师傅是怎么思考的。
- 现在，ACL-CL 让大师傅把**“标签锚点”和“样本特征”**直接传给小徒弟。小徒弟不仅要看自己的标签，还要看大师傅是怎么把样本和标签对齐的。
- 这就像大师傅手把手教小徒弟：“你看，这个苹果应该这样贴标签，那个梨应该那样贴。”小徒弟通过模仿大师傅的“对齐方式”，自己也能变得很聪明，从而在更浅的层就能做出准确判断。

3. 实验结果：又快又好

作者在著名的 GLUE 基准测试（相当于 AI 界的“高考”）上做了大量实验：

全量模型：使用 ACL 方法微调后的 BERT 模型，在大多数任务上比传统的“做题 + 对比学习”方法考得更好，或者至少一样好。
中途退出模型：这是最大的亮点。使用 ACL（特别是跨层版本）训练的模型，在第 6 层（还没跑完所有层）就能达到甚至超过那些经过专门压缩、重新预训练的小模型（如 TinyBERT）的性能。
意义：这意味着我们可以用更少的计算资源（跑更少的层），得到同样甚至更好的结果。对于手机、服务器等需要低延迟（反应快）的应用场景，这非常有用。

总结

这篇论文就像给 AI 模型设计了一套**“防冲突、有锚点、师徒制”**的全新训练法：

防冲突：如果两种学习方法打架，就暂时关掉那个捣乱的（ACL-Grad）。
有锚点：让标签变成固定的目标，帮助学生更好地聚类（ACL-Embed）。
师徒制：让聪明的深层模型教笨拙的浅层模型如何对齐标签，让浅层模型也能快速做出准确判断（ACL-CL）。

最终结果是：AI 学得更稳，跑得更快，而且不需要额外的昂贵预训练成本。

1. 研究背景与核心问题 (Problem)

尽管对比学习（Contrastive Learning, CL）在无监督学习中取得了巨大成功，但在**监督学习（Supervised Learning）**设置下的应用仍面临挑战。

核心矛盾：现有的监督对比学习（Supervised Contrastive Learning, SCL）通常与标准的交叉熵损失（Cross-Entropy, CE）目标存在冲突。
- 作者通过初步实验发现，SCL 和 CE 的梯度方向往往不一致，甚至在联合优化时，两者的梯度夹角经常大于 90 度（即方向相反）。
- 这种冲突导致模型优化困难，使得 SCL 在监督微调中的性能提升不稳定，甚至不如单纯的 CE 微调。
多出口 BERT 的瓶颈：多出口 BERT（Multi-exit BERT）通过在每一层安装分类器来实现“早退”（Early Exiting），从而降低推理延迟。然而，浅层出口（Shallow Exits）由于缺乏足够的语义表示能力，其性能通常较差，现有的知识蒸馏方法（如特征蒸馏）未能有效利用深层出口对浅层出口的语义对比关系进行指导。

2. 方法论 (Methodology)

为了解决上述问题，作者提出了**对齐对比学习（Aligned Contrastive Learning, ACL）**框架。该框架包含三个核心组件：

(1) ACL-Embed：基于标签嵌入的对齐

核心思想：将分类器中的**标签嵌入（Label Embeddings）**视为额外的增强样本，并将其纳入对比学习目标中。
具体做法：
- 在 SCL 中，通常只计算样本表示之间的对比。
- 在 ACL-Embed 中，将标签向量 $l_k$ （即分类器权重矩阵的列向量）视为 $K$ 个额外的样本。
- 构建一个包含 $N$ 个样本和 $K$ 个标签嵌入的增强批次，计算对比损失。
- 作用：标签嵌入作为“锚点（Anchors）”，强制样本表示向对应标签的嵌入靠拢，同时远离其他标签的嵌入。这不仅分离了不同类别的样本，还使对比学习目标与分类任务（CE 目标）在语义上更加对齐。

(2) ACL-Grad：基于梯度的自适应调整

核心思想：解决 ACL-Embed 损失项与 CE 损失项在特定批次中梯度方向冲突的问题。
具体做法：
- 实时计算 ACL 损失梯度 $g_{ACL}$ 和 CE 损失梯度 $g_{CE}$ 之间的夹角 $\gamma$ 。
- 设定一个阈值 $\gamma_{thres}$ （如 90°）。
- 自适应策略：如果 $\gamma \le \gamma_{thres}$ ，则保留 ACL 损失项；如果 $\gamma > \gamma_{thres}$ （即梯度方向冲突严重），则将该批次中的 ACL 损失权重设为 0，仅使用 CE 损失进行优化。
- 作用：确保优化方向的一致性，避免对比学习项干扰主分类任务的收敛。

(3) ACL-CL：跨层对比学习（用于多出口 BERT）

核心思想：将深层出口（Teacher）的知识蒸馏到浅层出口（Student），但不仅仅是传统的特征蒸馏，而是利用对比学习来传递“样本间的关系”。
具体做法：
- 在微调中间层出口时，利用最后一层出口（已训练好的 Teacher）提供的样本表示 $h^{M}_i$ 和标签嵌入 $l^{M}_k$ 。
- 构建一个包含浅层表示、浅层标签、深层表示、深层标签的增强批次（共 $2N + 2K$ 个样本）。
- 计算跨层对比损失，让浅层出口学习深层出口如何区分样本和构建标签嵌入。
- 作用：这是一种新型的知识蒸馏方法，不仅传递了样本特征，还传递了“如何对比样本”和“如何形成更好的标签嵌入”的语义关系，显著提升了浅层出口的性能。

3. 主要贡献 (Key Contributions)

提出了 ACL 框架：一种新颖的有监督对比学习框架，包含 ACL-Embed（利用标签嵌入作为锚点）和 ACL-Grad（基于梯度方向的自适应损失裁剪），有效解决了 SCL 与 CE 目标冲突的问题。
提出了跨层 ACL 目标 (ACL-CL)：针对多出口 BERT 微调，提出了一种利用深层出口指导浅层出口的跨层对比学习策略，实现了更有效的知识蒸馏。
广泛的实验验证：在 GLUE 基准测试上，证明了 ACL 在 BERT/RoBERTa 全量微调及多出口 BERT 微调中的有效性，特别是在低延迟应用场景下提供了更优的质量 - 速度权衡。

4. 实验结果 (Results)

作者在 GLUE 基准数据集上进行了大量实验，使用 BERT 和 RoBERTa 作为骨干网络：

全量微调性能：
- 在 7 个 GLUE 分类任务中的 5 个任务上，ACL 的表现优于或等同于传统的 CE 微调以及 CE+SCL 方法（Gunel et al., 2021）。
- 例如，在 RTE 任务上，ACL 将准确率从 65.3 (CE) 和 65.8 (CE+SCL) 提升至 66.2。
多出口 BERT 性能（效率与精度）：
- ACL-CL 显著提升了中间层出口的性能。
- 使用 RoBERTa 骨干网络时，ACL-RoBERTa-6L（仅使用前 6 层）在第 6 层的性能超越了 TinyBERT 和 DistilBERT（这些模型通常需要额外的预训练或蒸馏步骤）。
- 消融实验表明，ACL 框架中的每个组件（ACL-Embed, ACL-Grad, ACL-CL）都对最终性能有正向贡献。
- 可视化（t-SNE）显示，ACL 方法学习到的语义表示具有更好的类间分离度，且标签嵌入与样本表示对齐更紧密。
鲁棒性：ACL 框架对超参数 $\lambda$ （对比损失权重）不敏感，而传统的 CE+SCL 方法对 $\lambda$ 非常敏感。

5. 意义与影响 (Significance)

理论突破：揭示了监督对比学习与交叉熵损失在梯度层面的潜在冲突，并提出了基于梯度方向对齐的解决方案，为监督对比学习在 NLP 微调中的应用提供了新的视角。
实际应用价值：
- 低延迟推理：通过显著提升多出口 BERT 浅层出口的性能，使得“早退”策略在实际应用中更加可行，能够在不牺牲太多精度的情况下大幅降低推理延迟和计算成本。
- 模型压缩：ACL-CL 提供了一种无需额外预训练即可提升浅层模型性能的方法，优于现有的静态模型压缩技术（如 TinyBERT）。
生态友好：通过提高推理效率，有助于减少大模型部署的碳足迹。

总结：该论文通过引入“标签嵌入对齐”和“梯度方向自适应”机制，成功解决了监督对比学习在微调中的优化难题，并进一步将其扩展为一种高效的跨层知识蒸馏方法，显著提升了多出口 BERT 在低延迟场景下的性能表现。