🤖 machine learning

A mathematical theory of balancing relational generalization and memorization

本論文は、学習システムが関係性の一般化と記憶化のバランスをどのように取るかを研究するための新たな「例外付き推移的推論」タスクを導入し、特定の表現の感度と体系的な誤りを予測するカーネルリッジ回帰の解析的理論を提供し、これらは微調整された言語モデルにおいて検証される。

原著者： Luke Cheng, Samuel Lippl

公開日 2026-05-25

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Luke Cheng, Samuel Lippl

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

以下は、論文「関係性の一般化と記憶のバランスに関する数学的理論」を、平易な言葉と創造的な比喩を用いて解説したものです。

大きな問題：規則と例外

ロボットにゲームの遊び方を教える場面を想像してください。あなたはシンプルな規則を教えます。「クイーンを持っていれば、ナイトを持っている場合よりも通常は強くなる」と。

ロボットはこの規則を素早く学びます。次に、新しい状況を示します。「私はクイーン、あなたはナイト」。ロボットは正しく「あなたの勝ち！」と予測します。これが一般化です。ロボットはパターンを学び、以前見たことのない新しい事柄にも適用できます。

しかし、ここが落とし穴です：現実は厄介です。時には規則に例外が存在します。例えば、チェス盤の特定の角では、クイーンを犠牲にすることで実際にゲームに勝つことがあるかもしれません。あるいは、ドイツ語では「Gift」という単語が「贈り物」ではなく「毒」を意味するかもしれません。

この論文が問う大きな問題はこれです：学習システム（人間の脳や AI など）は、一般的な規則を学びつつ、特定の例外も記憶するバランスをどのように取っているのでしょうか？

規則にこだわりすぎれば例外を見逃します。例外にこだわりすぎれば規則を忘れ、新しい状況に対処できなくなります。

新しいゲーム：「例外付き推移的推論」

これを研究するために、著者たちは**「例外付き推移的推論」**と呼ばれる新しいテストを考案しました。

9 チーム（A から I）によるスポーツリーグを想像してください。

規則： 通常、チーム A はチーム B に勝ち、B は C に勝ち、C は D に勝ち、というように続きます。これにより明確な順位表（ラダー）が作られます。
例外： しかし、ここで不具合を導入します。例えば、通常は弱いチーム D が、通常は強いチーム G に突然勝つとします。これが順位表を壊します。

このテストは AI に以下を問います。

記憶： D が G に勝つ（という例外）を覚えていますか？
一般化： A > B > C かつ E > F > G を知っている場合、A > F と推測できますか？（これは順位表に従うことです）
難しい部分： B と F が「不具合」の両側に位置しているにもかかわらず、B > F と推測できますか？

理論：「二つの脳」モデル

著者たちは、ニューラルネットワークの学習を簡略化した数学的モデルを用いて、AI の「脳」内で何が起きているかを解明しました。その結果、AI は実質的に、二人組のチームのように、同時に二つの異なる戦略を使用していることがわかりました。

「順位付け」脳（規則追従者）： この部分は、すべてのアイテム（1 から 9）に数字を割り当てて、滑らかな順位表を作成しようとします。秩序を愛します。A を 9、B を 8、といったようにしたいと考えます。
「検索」脳（例外記憶者）： この部分は付箋紙のようです。順位表には関心なく、特定のペアだけを記憶します。「ああ、D が G に勝つのか？それを付箋に書き留めておこう」と。

魔法のバランス：
論文は、AI が成功するためには、この二つの脳の特定の混合が必要であることを示しています。

「検索」脳が弱すぎると、AI は例外を忘れます（順位表が G の方が強いと言っているため、D が G に負けてしまいます）。
「順位付け」脳が弱すぎると、AI は例外に混乱し、順位表全体を壊してしまい、A が F に勝つと推測できなくなります。

驚きの転換：正則化は両刃の剣

機械学習において、私たちはしばしば正則化（これを「規律コーチ」と考えてください）というツールを使用して、AI が訓練データを完璧に記憶しすぎるのを防ぎ、より良い一般化を期待します。

しかし、この論文は驚くべき結果を見つけました：この特定のゲームにおいて、「規律」を持つことは、実際には AI に害を及ぼします。

コーチなし： AI は例外（D が G に勝つ）を完璧に記憶しつつ、順位表もほぼそのまま保つことができます。
コーチあり（強い正則化）： コーチは AI に「特定のペアを記憶するのをやめろ！」と言います。AI は従いますが、その結果、「順位付け」脳は例外に合わせて順位表を曲げざるを得なくなります。これにより順位表が歪みます。突然、AI は新しい質問（例えば B が F に負けると思うなど）に対して体系的な誤りを犯し始めます。なぜなら、順位表が壊れてしまったからです。

比喩： 直線（規則）を描こうとしているが、真ん中に小さな盛り上がり（例外）を描かなければならない状況を想像してください。

盛り上がり自由に描くことが許されれば、残りの直線はまっすぐのままです。
線が「滑らか」に保たれるよう強制（正則化）されると、盛り上がりを含めるために線全体を傾けてしまい、線の両端が間違った方向を向いてしまうかもしれません。

実際の AI（言語モデル）でのテスト

著者たちは、この理論を実際の最新の AI モデル（チャットボットを動かしているものなど）でテストしました。彼らは、スポーツチームやポーカーのハンドの例を用いて、これらのモデルを微調整しました。

結果：

成功： AI モデルは一般的な順位表（A > B > C）の学習に優れていました。
不具合： 理論が予測した通り、例外に対処しようとした際、いくつかのモデルは混乱しました。
予測： 理論は、「規律（正則化）」を強めすぎると、AI が交差する質問（例えば B 対 F など）において、具体的で予測可能な誤りを犯し始めることを正確に予測しました。実際の AI モデルは、まさにこれを行いました。

結論

この論文は、学習システムが規則と例外のバランスを取ることが可能であることを証明していますが、それは綱渡りです。

規則への焦点が強すぎると： 例外を見逃します。
例外への焦点が強すぎると： 規則を壊します。
「規律」（正則化）が強すぎると： 例外を無視しようとして、誤って規則を壊してしまう可能性があります。

著者たちは結論として、より良い AI を構築し、人間がどのように学習するかを理解するためには、単にモデルがシンプルな規則に従えるかどうかをテストするのではなく、このバランスを具体的にテストする課題を設計する必要があると述べています。私たちは AI に、現実生活における「Gift が Poison を意味する」といった瞬間に対処する方法を教える必要があります。

技術的概要：関係的汎化と記憶のバランスに関する数学的理論

問題定義

人間、動物、機械学習モデルを含む学習システムは、関係的汎化を可能にする一般的なルールを同時に学習しつつ、それらのルールに対する特定の例外を記憶しなければならない。構成的一般化と記憶に焦点を当てた個別の文献は豊富にあるが、両方が必要となる際にシステムがこれらの対立する要求をどのようにバランスさせるかを理解するためのタスクパラダイムや理論的枠組みは欠如している。具体的には、ほぼ推移的であるが推移的でない例外を含む順序関係（例： $A > B > C$ だが、例外として $C > A$ ）を学習システムがどのように処理するかは依然として不明である。既存のパラダイムである推移的推論（TI）は純粋な汎化をテストし、横断的パターン化（TP）は推移的でないループの純粋な記憶をテストするが、どちらもルールと例外が共存する現実世界の複雑さを捉えていない。

手法

著者は、このバランスを分析するための新たなタスクパラダイムと理論的枠組みを導入する。

タスクパラダイム：例外付き推移的推論（TIwE）
- このタスクは、基礎となる推移的ランキングを持つアイテムの集合 $I_1, \dots, I_n$ を含む。
- 「例外」が導入される： $p > q$ かつ $|p-q| > 1$ である推移的でないペア $I_p > I_q$ （グローバルな順序に違反する）。
- これにより、推移的でないセクション（ $L$ ）によって分離された 2 つの推移的セクション（ $O^{(1)}$ および $O^{(2)}$ ）が生成される。
- 評価は 4 つの指標に焦点を当てる：推移的ペアの記憶、推移的でないペアの記憶、セクション内汎化、およびセクション間汎化（例：中間の例外にもかかわらず $I_1 > I_n$ を推論すること）。
理論モデル：カーネルリッジ回帰
- 著者は、無限幅極限においてカーネルリッジ回帰に収束するランダム特徴モデル $\phi(x) = \sigma(Wx)$ を分析する。
- 交換可能な表現を仮定する。ここでカーネル $K(x, x')$ は、アイテム間の重なり（同一、重複、または異なるペア）のみに依存し、パラメータ $\kappa_s, \kappa_o, \kappa_d$ によって形式化される。
- モデルは 2 つの主要なパラメータによって特徴付けられる：
  - 結合性因子（ $\alpha$ ）： 表現におけるアイテム間の非線形的な絡み合いの程度を測定する（ $\alpha=0$ は完全な構成性/加法性； $\alpha=1$ は完全な結合性）。
  - 実効的正則化（ $\tilde{c}$ ）： $L_2$ 正則化の強度をスケーリングする。
解析的導出
- 著者は、リッジ回帰の双対問題を解析的に解き、モデルの予測を導出する。
- 解は、現れるランキングシステム（ $r_j$ ）と、訓練データでのみ活性化される結合応答（ $t_{j,k}$ ）に分解される。
- ランキングシステムは、例外の存在によって修正された、標準的な TI ランキングシステムの摂動であることが示される。

主要な貢献と結果

1. バランスの理論的特徴付け

本論文は、カーネルモデルがランキングシステムと結合読み出しの間のトレードオフを通じて、汎化と記憶を自然にバランスさせることを示す閉形式解（定理 1）を導出する。

汎化： モデルは、推移的セクション内で単調減少するランキングシステム $r_j$ を学習する。しかし、例外の存在は、推移的でないループ周辺でランキングシステムに非単調性を導入する。
記憶： モデルは、訓練セット上の誤りを修正し、特に例外を記憶するために、結合項 $t_{j,k}$ を使用する。
トレードオフ： 成功した汎化（特にセクション間汎化）と成功した記憶は緊張関係にある。
- 表現幾何学（ $\alpha$ ）： より構成的な表現（低い $\alpha$ ）は汎化を優先するが、例外の記憶に苦戦する。より結合的な表現（高い $\alpha$ ）は例外を容易に記憶するが、ランキングシステムの非単調性により、セクション間での汎化に失敗する可能性がある。
- 正則化（ $\tilde{c}$ ）： より強い正則化（より小さい $\tilde{c}$ ）は、モデルが重みノルムを最小化するためにランキングシステムに依存することを強制し、汎化における体系的な誤り（ $I_{q-1} < I_{p+1}$ の誤った予測など）と例外の記憶の減少をもたらす。逆に、弱い正則化はより良い記憶を可能にするが、過学習のリスクがある。

2. 失敗モードの機械的説明

著者は、現れるランキングシステムの非単調性が体系的な誤りの根本原因であると説明する。

重みノルム（正則化）を最小化するために、モデルは「平坦な」ランキングシステム（汎化に有利）と「修正された」ランキングシステム（例外に適合するために必要）の間で妥協しなければならない。
この妥協は、例外の近くで歪んだランキングシステムをもたらし、セクション間汎化タスクに誤りを伝播させる。
重要なことに、本論文は、通常分布内汎化に有益とされるL2 正則化が、この特定のタスクでは分布外汎化に対して逆効果となり、標準的な TI では発生しない体系的な誤りを誘発し得ると指摘している。

3. 事前学習済み言語モデル（PLM）における実証的検証

理論的洞察は、スポーツチームの階層とポーカーハンドのランキングを用いた TIwE タスクに対する PLM（Llama3.2、Qwen3.5）の微調整によって検証された。

汎化： モデルはセクション内では成功して汎化したものの、セクション間汎化では一貫性のないパフォーマンスを示し、理論が予測する体系的な誤り（確率以下への精度低下）を頻繁に犯した。
記憶： モデルは例外を記憶できたが、パフォーマンスは正則化に敏感であった。より強い正則化は例外ペアの精度を低下させた。
タスクパラメータ： 推移的セクションの長さを増加させるとセクション間汎化が著しく困難になったのに対し、推移的でないループの長さを増加させた影響は弱く、これは理論的予測と一致した。
微調整戦略： フル微調整と線形プロービングは一般的に LoRA よりも優れており、線形プロービングの挙動は正則化の影響に関するカーネルモデルの予測と密接に一致した。

意義と主張

本論文は、学習システムが関係的汎化と例外の記憶をどのようにバランスさせるかを理解するための最初の解析的枠組みを提供すると主張する。その意義は以下の点にある。

新たな失敗モードの特定： ルールと例外のバランスを必要とするタスクは、純粋なルール学習タスクよりも本質的に困難であることを示す。これは、表現幾何学と正則化の間のトレードオフを導入し、体系的で非ランダムな誤りをもたらす可能性があるためである。
正則化の再評価： 例外を伴う構成タスクにおいて、標準的な正則化手法（L2 など）は、通常の役割とは逆に分布外汎化を妨げ得ることを強調する。
ベンチマークの提案： 生物学的および人工的システムの両方における構成的一般化の限界を探るために、「例外付き推移的推論」を必要な新たなパラダイムとして提案する。
理論的基盤： 単純なカーネルモデルがこれらのタスクにおける大規模言語モデルの微妙な振る舞いを捉え得ることを示すことで、PLM の例外処理における限界は、単なるアーキテクチャの複雑さではなく、学習ダイナミクスにおける根本的な幾何学的制約に起因する可能性を示唆する。

著者は、例外の影響を明示的にモデル化することが、堅牢な現実世界の推論を可能にする学習システムを開発するために不可欠であり、今後の研究はこの複雑さを捉えるタスクパラダイムに焦点を当てるべきであると結論付けている。