💬 NLP

Learning is Forgetting: LLM Training As Lossy Compression

この論文は、大規模言語モデル（LLM）を目的に最適な情報を保持する「損失のある圧縮」として捉え、その情報理論的な圧縮の最適性がモデルの構造と下流タスクの性能を直接的に予測可能にする新たな学習の枠組みを提示しています。

原著者： Henry C. Conklin, Tom Hosking, Tan Yi-Chern, Julian Gold, Jonathan D. Cohen, Thomas L. Griffiths, Max Bartolo, Seraphina Goldfarb-Tarrant

公開日 2026-04-10

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Henry C. Conklin, Tom Hosking, Tan Yi-Chern, Julian Gold, Jonathan D. Cohen, Thomas L. Griffiths, Max Bartolo, Seraphina Goldfarb-Tarrant

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

🎒 結論：AI の学習は「思い出のアルバム」を作るようなもの

この論文の核心は、**「AI の学習とは、膨大な情報から『必要なもの』だけを残し、不要なものを捨てていく『圧縮』のプロセスである」**という考え方です。

1. 圧縮とは何か？（MP3 と JPEG の例え）

皆さんは MP3 音楽ファイルや JPEG 画像をご存知でしょうか？

MP3: 人間の耳には聞こえない高い音や低い音を捨てて、ファイルサイズを小さくします。
JPEG: 人間の目にはわからない微妙な色の違いを捨てて、画像を軽くします。

これらは**「劣化圧縮（ロシィ・コンプレッション）」**と呼ばれます。完全な元のデータをそのまま残すのではなく、「目的（音楽を聴く、画像を見る）」にとって重要な情報だけを残し、それ以外は捨ててしまうのです。

この論文は、「巨大な AI もこれと同じことをしている」と言っています。
AI はインターネット上の膨大なテキスト（何兆もの言葉）を学習しますが、すべてを丸ごと記憶しているわけではありません。人間が「次に何と言葉が来るか」を予測するために**「本当に必要なパターン」だけ**を脳（モデル）の中に圧縮して保存しているのです。

2. AI の脳内では何が起こっている？（2 つのフェーズ）

AI が学習する過程は、2 つの段階に分かれます。

第 1 段階：「詰め込み」フェーズ
最初は、新しい情報をどんどん詰め込みます。就像一个学生が教科書をパラパラめくりながら、新しい単語や文法を一生懸命覚えている状態です。この間、AI の記憶容量（複雑さ）は増え続けます。
第 2 段階：「整理・圧縮」フェーズ
学習が進むと、AI は「あれ？この情報は本当に必要かな？」と考えるようになります。不要な詳細を捨て、必要なパターンだけをシンプルに整理し始めます。
この「整理」が上手にできた AI ほど、賢く、性能が良いことがこの研究で証明されました。

3. 小さな AI と大きな AI の違い（リュックサックの容量）

研究では、モデルのサイズ（パラメータ数）によって結果が異なることもわかりました。

大きな AI（70 億パラメータ以上）：
大きなリュックサックを持っているので、情報を「詰め込み」た後、上手に「整理・圧縮」して、必要なものだけを効率的に保存できます。結果として、非常に賢くなります。
小さな AI（10 億パラメータ以下）：
リュックサックが小さすぎます。情報を詰め込むことはできても、後で上手に整理・圧縮することができません。結果として、必要な情報と不要な情報がごちゃごちゃになり、性能が頭打ちになってしまいます。

4. 「圧縮の上手さ」が成績を左右する

この研究で最も面白い発見は、「AI がデータをどれだけ上手に圧縮できているか」を測るだけで、その AI がテストでどれくらい良い成績を取るか予測できるということです。

圧縮が上手な AI： 複雑な問題も解けます。
圧縮が下手な AI： 単純なミスが多くなります。

つまり、AI の「頭の良さ」は、どれだけ多くの情報を持っているかではなく、**「いかに無駄を捨てて、本質をシンプルに捉えているか」**で決まるのです。

5. 人間の好みを学ぶ（「好き・嫌い」の圧縮）

さらに、AI が「人間の好みに合う回答」をする能力も、この圧縮の仕組みで説明できます。
AI は学習の最後で、「人間が好む回答」と「嫌う回答」の違いを圧縮して学びます。この**「好みの情報」をどれだけ上手に保存できているか**が、AI が人間と会話する際の上手さを決めます。

💡 まとめ：この研究が教えてくれること

この論文は、AI を「巨大な辞書」や「記憶装置」として見るのではなく、**「情報を圧縮して本質を掴む学習者」**として捉え直しました。

学習＝忘却： 学ぶことは、不要な情報を忘れることでもあります。
圧縮＝知性： 情報をシンプルに整理できるほど、その AI は賢くなります。
未来への応用： これまで「どれくらいテストの点数が良いか」で AI を選んでいましたが、今後は「どれくらい上手に情報を圧縮できているか」を見るだけで、良い AI を見分けることができるかもしれません。

AI のブラックボックス（中身がわからない箱）を、**「情報の圧縮」**というシンプルなレンズを通して見ることで、私たちが AI の仕組みをより深く理解できるようになったのです。

論文「LEARNING IS FORGETTING: LLM TRAINING AS LOSSY COMPRESSION」の技術的サマリー

この論文は、大規模言語モデル（LLM）の学習プロセスを「損失のある圧縮（Lossy Compression）」として再解釈し、情報理論の枠組み、特に情報ボトルネック（Information Bottleneck: IB）理論を用いて、LLM の表現空間の構造とその性能との関係を解明することを目的としています。

以下に、問題設定、手法、主要な貢献、結果、および意義について詳細をまとめます。

1. 問題設定 (Problem)

大規模言語モデル（LLM）は多様なタスクで卓越した性能を示していますが、その内部の「表現空間（Representational Space）」がどのように構造化されているか、またモデルが「何を学び、何を忘れているのか」についての理解は依然として限られています。
従来の解釈手法（行動実験、プロービング、因果介入など）はスケーラビリティに課題があり、モデルの個々の回路やニューロンに焦点を当てる傾向があります。しかし、複雑な分散システムである LLM をその構成要素だけで理解することは困難です。
本研究は、LLM が学習する過程を、入力データから目的（次のトークン予測や人間の好みに合う出力）に関連する情報のみを保持し、それ以外を捨てる「損失のある圧縮」として捉え直すことで、モデルの学習ダイナミクスと性能を統一的に理解できる枠組みを提案します。

2. 手法 (Methodology)

2.1 情報ボトルネック理論の適用

本研究では、Tishby らが提唱した情報ボトルネック理論を深層学習の文脈で適用します。

情報平面（Information Plane）: 横軸に表現 $Z$ と入力 $X$ の相互情報量 $I(X; Z)$ （複雑性/Complexity）、縦軸に表現 $Z$ と目標出力 $Y$ の相互情報量 $I(Y; Z)$ （表現力/Expressivity）をプロットします。
最適圧縮の境界（IB Bound）: 入力から出力を予測するために必要な情報のみを保持する最適な圧縮状態は、この平面における特定の曲線（境界線）上に位置します。モデルがこの境界に近づくほど、効率的な圧縮が行われているとみなされます。

2.2 軟エントロピー推定（Soft Entropy Estimation）

LLM の大規模な埋め込み空間におけるエントロピーや相互情報量を直接計算することは、メモリ制約と計算コストの観点から困難です（従来の離散化手法はスケーラビリティに欠けます）。
そこで、Conklin (2025) が提案した**軟エントロピー推定器（Soft-Entropy Estimator）**を採用しました。

仕組み: 単位球面上からランダムにサンプリングしたアンカー点（ $n$ 個）に対して、モデルの埋め込みベクトルを正規化し、コサイン類似度に基づいてソフトマックス関数で「ソフトに割り当て（Soft Assignment）」ます。
利点: この手法は微分可能であり、バッチ処理や大規模モデル（数十億パラメータ規模）に対して単一のフォワードパスで効率的に相互情報量 $I(X; Z)$ と $I(Y; Z)$ を推定できます。

2.3 実験設定

モデル: OLMo2 ファミリー（1B, 7B, 32B パラメータ）の学習中のチェックポイント、および 6 つの異なるファミリーに属する 47 種類のオープンウェイトモデル（Llama, Gemma, Qwen など）。
データ: 学習データとして C4（インターネットの広範なクロール）、評価データとして Tulu（人間の好みに基づくデータ）、ベンチマークとして MMLU Pro, BBH, Math LVL5 等を使用。
コンテキストの扱い: トークンレベルだけでなく、バイグラム、トライグラム、クワッドグラムレベルのコンテキスト情報を条件付き相互情報量として分析し、どの程度の文脈情報が保持されているかを調査しました。

3. 主要な貢献と結果 (Key Contributions & Results)

3.1 学習ダイナミクスの 2 段階モデルの検証

OLMo2 モデルの事前学習プロセスを分析した結果、情報ボトルネック理論が予測する2 段階の軌跡が確認されました。

フィッティング段階: 学習初期に、表現と目標出力の相互情報量 $I(Y; Z)$ が増加し、モデルがデータに適合します。
圧縮段階: 学習が進み、損失が飽和し始めると、入力と表現の相互情報量 $I(X; Z)$ が減少し始め、モデルは境界線（IB Bound）に近づきます。これは、タスクに不要な情報を「忘れ（圧縮）」、必要な情報のみを保持していることを示唆します。

3.2 スケールの影響

大規模モデル: 7B や 32B のような大規模モデルは、明確な圧縮段階を経て、最適圧縮の境界線に収束します。
小規模モデル: 1B パラメータ以下の小規模モデルは、初期のフィッティング段階は成功しますが、学習後半において最適圧縮の境界に近づくことが難しく、振動しながら境界から離れる傾向が見られました。これは、ある程度のデータ複雑性を圧縮するには、一定のモデル容量（パラメータ数）が必要であることを示しています。

3.3 表現構造と性能の相関

異なる 6 ファミリーのオープンウェイトモデル 47 種を対象に、表現の圧縮性とベンチマーク性能の関係を分析しました。

圧縮の最適性: 表現が IB 境界にどれだけ近いか（最適圧縮度）は、下流タスクの性能と有意な正の相関（ $r=0.52, p<0.001$ ）を示しました。
複雑性 vs 表現力: トークンレベルの複雑性（ $I(X; Z)$ ）が低いほど性能が良い傾向があり、単純な表現ほど汎化性能が高いことを示唆しています。
文脈情報の重要性: トークン単位の情報よりも、バイグラムやトライグラムなどの局所的な文脈情報を多く保持しているモデルほど、下流タスクでの性能が高いことが分かりました。

3.4 好み（Preference）情報の役割

事前学習では「次のシーケンス予測」に対する最適圧縮が行われますが、事後学習（Post-training）を経て、モデルは人間の好みの情報（Preferred vs Rejected）を保持するようになります。
モデル内に保持されている「好み情報」の量は、下流タスクの性能（特に指示追従タスク）を強く予測する因子となりました（ $r=0.76, p<0.001$ ）。
事前学習は広範な知識の圧縮を担い、事後学習は特定のタスクや好みに合わせた情報を付加・編集する役割を果たしていると考えられます。

3.5 普遍的な収束

異なるアーキテクチャ、データセット、トレーニングレシピを持つ多様なモデル群が、最終的にすべて最適圧縮の境界線の近くに収束することが観察されました。これは、LLM の学習が特定のモデル固有の現象ではなく、深層学習モデル全体の普遍的な特性であることを示しています。

4. 意義と結論 (Significance & Conclusion)

本研究は、LLM の学習を「損失のある圧縮」として定式化し、情報理論的な枠組みで解釈可能にしました。

理論的統一: 人間の学習理論（圧縮と学習の関係）と深層学習の表現学習を統合する枠組みを提供しました。
解釈可能性: 個々のニューロンや回路に依存せず、モデル全体としての表現構造を定量的に評価する新しい解釈手法を提示しました。
実用的インサイト:
- 学習の停止基準として「境界への距離」を利用できる可能性。
- モデル選択において、単なるベンチマークスコアだけでなく、「圧縮の最適性」や「保持されている情報の質（好み情報など）」を指標として活用できる可能性。
- 小規模モデルが圧縮に失敗する理由の解明と、スケーリング則の理解深化。

結論として、LLM は膨大なデータから「何を忘れるか（何を圧縮するか）」を通じて学習しており、その圧縮の最適性と保持される情報の質が、モデルの汎用性と性能を決定づける重要な要因であることが示されました。このアプローチは、大規模モデルの理解と制御に向けた、スケーラブルで理論的に裏付けられた新しい視点を提供します。