💬 NLP

Learning is Forgetting: LLM Training As Lossy Compression

该论文提出将大语言模型（LLM）的训练视为一种有损压缩过程，通过信息瓶颈理论证明模型在预训练中会保留与目标最相关的信息，且这种压缩的最优程度能够有效预测模型在各类基准测试中的下游性能。

原作者： Henry C. Conklin, Tom Hosking, Tan Yi-Chern, Julian Gold, Jonathan D. Cohen, Thomas L. Griffiths, Max Bartolo, Seraphina Goldfarb-Tarrant

发布于 2026-04-10

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Henry C. Conklin, Tom Hosking, Tan Yi-Chern, Julian Gold, Jonathan D. Cohen, Thomas L. Griffiths, Max Bartolo, Seraphina Goldfarb-Tarrant

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇论文提出了一個非常有趣且深刻的觀點：大型語言模型（LLM）的學習過程，本質上就是一個「有損壓縮」的過程。

想像一下，學習不是把大腦塞滿所有讀過的書，而是學會如何「忘記」那些不重要的細節，只保留最核心的邏輯。

以下是用通俗的語言和生動的比喻來解釋這篇論文的核心內容：

1. 核心比喻：大腦裡的 MP3 播放器

傳統觀點：我們通常認為 AI 學習就是死記硬背，讀了多少數據就記住多少。
論文觀點：AI 更像是一個MP3 播放器。
- 原始數據（訓練數據）就像是一首巨大的、未壓縮的 WAV 音頻文件，佔用幾十 GB 空間，裡面包含了人類聽不見的超聲波和次聲波（無用的噪音和細微差異）。
- MP3 壓縮：為了節省空間，MP3 會丟棄那些人類耳朵聽不見的頻率，只保留我們能聽到的旋律。
- AI 的學習：AI 在訓練時，面對的是比人類幾輩子聽到的語言還多的數據。它無法記住所有東西，所以它必須學會「丟棄」那些對預測下一個詞沒用的信息，只保留對完成任務（預測下一個字）最有用的信息。

結論：學習 = 有選擇地忘記。

2. 學習的兩個階段：先「貪吃」，再「減肥」

論文發現，AI 的訓練過程像是一個清晰的兩步舞：

第一階段：填鴨式學習（Fit）
- 剛開始訓練時，AI 像個貪吃的孩子，拼命吸收數據。它把輸入的信息（複雜度）和想要的輸出（表達力）都記在腦子裡。這時，它什麼都想學，信息量爆炸式增長。
第二階段：有損壓縮（Compress）
- 當它發現自己已經能預測得不錯了，它開始「減肥」。它開始丟棄那些多餘的、不重要的細節（比如某個詞在特定語境下的微小變異），只保留最核心的邏輯。
- 關鍵發現：當 AI 的錯誤率（Loss）不再大幅下降，開始進入平台期時，它就開始進入這個「壓縮」階段。這時，它變得越來越聰明，因為它學會了提煉精華。

3. 什麼是「最佳壓縮」？（信息瓶頸）

論文用了一個數學概念叫「信息瓶頸」（Information Bottleneck）。你可以把它想像成一個漏斗：

漏斗口：海量的原始數據。
漏斗頸：AI 的內部記憶（參數）。
漏斗底：最終的預測結果。

最佳壓縮意味著：漏斗頸的大小剛剛好，既沒有漏掉任何對預測有用的信息，也沒有塞進任何無用的垃圾信息。

發現：研究發現，那些表現最好的 AI 模型，它們的內部結構都緊緊貼著這個「最佳壓縮線」。也就是說，它們學會了用最少的記憶，存儲最有用的信息。

4. 為什麼有的模型強，有的模型弱？

論文比較了不同大小的模型（從 10 億參數到 300 多億參數）：

大模型（如 7B, 32B）：它們能順利完成「減肥」，學會了如何丟棄垃圾信息，最終達到了「最佳壓縮」狀態。它們的記憶裡全是精華。
小模型（如 1B）：它們在「填鴨」階段表現不錯，但在「減肥」階段卻卡住了。它們試圖丟棄信息，但因為容量太小或數據太複雜，它們無法有效壓縮，導致腦子裡既有垃圾又有精華，甚至因為過度混亂而表現不佳。
- 比喻：大模型像是一個經驗豐富的老廚師，能把一噸食材做成一道精緻的料理；小模型像是一個新手，試圖把同樣多的食材塞進一個小鍋裡，結果糊了。

5. 如何判斷一個 AI 有多強？

這是一個非常實用的發現。以前我們想測試 AI 強不強，得讓它做各種難題（數學、邏輯、常識），這很費時間。

現在，根據這篇論文，我們只需要看它壓縮得有多好：

如果一個模型的內部結構顯示它已經達到了「最佳壓縮線」，那麼它在各種任務上的表現通常都很強。
額外發現：如果一個模型不僅壓縮得好，而且它保留的信息中包含了**「人類喜歡什麼」**（比如它知道哪種回答更友善、更準確），那麼它的表現會更好。這解釋了為什麼經過「人類反饋強化學習（RLHF）」後，模型會變得更聰明、更討喜。

6. 總結：學習就是「遺忘」的藝術

這篇論文告訴我們：

AI 不是靠死記硬背變聰明的，而是靠學會「忘記」無關緊要的細節。
越強的模型，越懂得如何壓縮信息。它們把互聯網上浩如烟海的數據，壓縮成了最精煉的邏輯規則。
未來的方向：我們可以通過監測 AI 是否達到了「最佳壓縮狀態」，來判斷它是否訓練完畢，或者挑選出最好的模型，而不需要每次都去跑一遍昂貴的測試題。

一句話概括：
大語言模型之所以強大，不是因為它們記住了整個互聯網，而是因為它們學會了像人類一樣，只記住那些真正重要的東西，並大膽地遺忘其餘的雜訊。這就是「學習即遺忘」的奧秘。

这是一篇发表于 ICLR 2026 的会议论文，题为 《学习即遗忘：LLM 训练作为有损压缩》 (Learning is Forgetting: LLM Training as Lossy Compression)。

以下是对该论文的详细技术总结：

1. 研究背景与问题 (Problem)

尽管大型语言模型（LLM）在各项任务中表现卓越，但我们对它们表征空间（Representational Spaces）的结构仍缺乏深入理解。现有的解释性方法（如行为实验、探针、因果干预）往往难以在大规模模型上揭示其内部学习机制，且缺乏统一的理论框架将 LLM 的学习过程与人类学习联系起来。

核心问题：

LLM 在训练过程中是如何组织和压缩信息的？
模型是否以最优的方式压缩了训练数据？
表征结构的特性（如压缩的最优性）如何预测模型在下游任务中的性能？

2. 核心观点与方法论 (Methodology)

2.1 理论框架：信息瓶颈 (Information Bottleneck, IB)

作者提出将 LLM 视为有损压缩（Lossy Compression）的实例。基于信息瓶颈理论，训练过程被建模为在“输入信息的保留（复杂度）”与“目标信息的预测（表达力）”之间寻找平衡。

输入 ( $X$ )：训练数据中的上下文。
输出 ( $Y$ )：预测的下一个 token 或目标。
表征 ( $Z$ )：模型内部隐藏层的表示。
目标：最小化 $I(X; Z)$ （输入与表征的互信息，即复杂度），同时最大化 $I(Y; Z)$ （表征与输出的互信息，即表达力），从而逼近信息瓶颈边界（IB Bound）。

2.2 关键技术：软熵估计 (Soft Entropy Estimation)

传统的互信息估计方法（如离散化分箱）在 LLM 的高维空间（如 32B 参数模型）中面临内存和计算不可行的问题。

创新点：作者使用了 Conklin (2025) 提出的软熵估计器。
原理：
1. 将模型表征归一化到单位超球面上。
2. 从球面上均匀采样 $n$ 个锚点（Anchors）。
3. 计算表征与锚点的余弦相似度，并通过 Softmax 进行“软分配”，将连续向量映射为概率分布。
4. 基于该概率分布计算香农熵，进而估算互信息 $I(X; Z)$ 和 $I(Y; Z)$ 。
优势：该方法可微、内存高效，且只需单次前向传播即可应用于大规模模型。

2.3 实验设置

模型：主要分析 OLMo2 系列（1B, 7B, 32B 参数），并扩展至 6 个不同家族的 75 个开源权重模型（如 Llama, Gemma, Qwen 等）。
数据：使用 C4 数据集（互联网爬取数据）进行预训练分析，使用 Tulu 数据集评估偏好信息。
上下文回溯 (Back-off)：为了分析不同层级的上下文信息，作者使用了 Token、Bigram、Trigram 和 Quadgram 级别的回溯策略来估算条件互信息。

3. 主要发现与结果 (Key Results)

3.1 训练动态遵循两阶段轨迹

预训练过程严格符合信息瓶颈理论的预测：

拟合阶段 (Fitting Phase)：模型首先增加与输出目标 $Y$ 的互信息（ $I(Y; Z)$ 上升），快速学习数据特征。
压缩阶段 (Compression Phase)：随着训练进行，模型开始压缩输入 $X$ 中的无关信息（ $I(X; Z)$ 下降），表征逐渐逼近最优压缩边界。

观察：当模型的 Next-Token 预测损失（Loss）开始饱和时，模型开始进入压缩阶段并逼近边界。

3.2 规模效应 (Scale Effects)

大模型（如 7B, 32B）：能够成功完成两阶段过程，最终收敛到接近最优压缩边界。
小模型（如 1B）：虽然能完成拟合阶段，但在压缩阶段表现不佳，无法有效逼近边界，甚至在后期出现震荡。这表明达到最优压缩可能需要一定的参数阈值。

3.3 上下文信息的编码

模型主要编码局部上下文（Token 到 Quadgram）。
随着模型规模增大，表征空间分配给上下文信息（Contextual Information）的比例增加，而单纯 Token 级别的信息比例相对减少。
在更高层级的语境（如 Trigram/Quadgram）下，模型同时压缩了源分布和目标分布，因为语言建模中源和目标的分布高度重叠。

3.4 压缩最优性与下游性能的相关性

这是论文最核心的贡献之一：模型压缩的最优性直接预测下游性能。

最优性指标：定义为 $Optimality = \frac{I(Y; Z)}{I(X; Z)}$ （表达力/复杂度）。
结果：
- 在 47 个开源模型中，压缩越接近最优边界（Optimality 越高），在 6 个基准测试（MMLU-Pro, BBH, Math 等）上的表现越好（相关系数 $r = 0.52, p < 0.001$ ）。
- 单纯的复杂度（ $I(X; Z)$ ）与性能呈负相关，而单纯的表达力（ $I(Y; Z)$ ）与性能无显著相关。
- 偏好信息：模型中保留的“人类偏好信息”（通过 Tulu 数据计算）也是下游性能（特别是对齐能力）的强预测因子（ $r = 0.76$ ）。

3.5 不同模型的收敛性

尽管不同模型家族的数据和训练配方不同，但它们在训练结束时都收敛到了相似的信息结构，即都聚集在信息瓶颈边界附近。

4. 核心贡献 (Key Contributions)

统一的理论框架：将 LLM 的预训练过程统一解释为有损压缩过程，利用信息论（Rate Distortion Theory）为理解 LLM 的表征学习提供了可规模化的理论视角。
可扩展的分析方法：首次将软熵估计器应用于大规模 LLM 的信息瓶颈分析，克服了以往方法无法处理高维连续表征的局限。
性能预测的新指标：证明了压缩的最优性（Optimality）和偏好信息的保留量是预测 LLM 下游性能的关键指标，且这些指标可以在不使用测试集数据的情况下，仅通过训练数据的表征分析得出。
规模与压缩的洞察：揭示了模型规模对能否实现“最优压缩”的决定性作用，小模型难以完成有效的压缩阶段。

5. 意义与影响 (Significance)

可解释性 (Interpretability)：提供了一种从整体模型层面（而非单个神经元或电路）理解 LLM 学习机制的方法，将复杂的分布式系统行为与经典的信息论理论联系起来。
训练指导：
- 早停策略：可以将“距离信息瓶颈边界的距离”作为预训练停止的标准（当距离不再减小时停止）。
- 模型选择：在多个检查点中，选择压缩最优性最高的模型，可能比单纯看 Loss 更能预测最终性能。
对齐理解：区分了预训练（学习通用压缩）和微调/RLHF（注入偏好信息）在信息层面的不同作用。预训练负责构建基础压缩，后训练负责编辑信息以符合人类偏好。

总结：
这篇论文通过引入信息瓶颈理论，有力地论证了 LLM 的学习过程本质上是一个有损压缩过程。它证明了成功的 LLM 能够学会“遗忘”训练数据中与预测目标无关的信息，只保留最关键的表征。这种压缩的最优性不仅是理论上的优雅，更是实际预测模型性能的强大指标，为理解、评估和优化大语言模型提供了新的量化维度。