🤖 machine learning

MAAT: Multi-phase Adapter-Aware Targeted Unlearning

本論文は、既存の機械学習アンラーニング手法がマルチホップ推論と勾配の希釈化により因果的な「なぜ」という問いに対して失敗していることを明らかにするバランスの取れたベンチマークである5WBENCHを導入し、そのような因果的知識に対して高い忘却と保持を初めて実現する、新しい3フェーズのアダプター認識型フレームワークであるMAATを提案する。

原著者： Suryash Yagnik, Shubham Gaur, Saksham Thakur, Vinija Jain, Aman Chadha, Amitava Das

公開日 2026-06-01

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Suryash Yagnik, Shubham Gaur, Saksham Thakur, Vinija Jain, Aman Chadha, Amitava Das

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

巨大で超スマートな図書館（大規模言語モデル）を想像してください。そこにはあらゆる知識が詰まっています。時として、古くなった情報やプライバシーに関わる情報、あるいは間違った情報を削除するために、その図書館から特定の「本」を取り除かなければならないことがあります。このプロセスは**「マシン・アンラーニング（機械学習による忘却）」**と呼ばれます。

しかし、この論文は、ある特定の「本」をライブラリから正しく削除できたかどうかをテストする現在の方法には、欠陥があると主張しています。ここでは、MAATと5WBENCHの物語を分かりやすく説明します。

問題点：「なぜ」という問いに対する盲点

あなたが司書に対して、「特定の事実を忘れたかどうか」をテストしていると考えてみてください。

現在のテスト: ほとんどのテストは、「大統領は誰ですか？」や「首都はどこですか？」といった単純な質問を投げかけます。これらは忘れやすいものです。もし司書が「知りません」と答えれば、あなたは司書がうまく任務を遂行したと考えます。
欠けている要素: この論文は、現在のテストがほとんどの場合**「なぜ」**という問い（例：「なぜ喫煙は癌を引き起こすのか？」）を無視していることを指摘しています。「なぜ」という問いは、論理のレンガで積み上げられた複雑な多層ビル 같습니다。それらは取り壊すのが非常に困難です。

欠陥: 現在のテストは「なぜ」という問いを無視しているため、司書が複雑な「なぜ」の事実を忘れることに失敗していても、すべての単純な「誰」や「何」の事実を忘れていれば、完璧なスコアを獲得できてしまいます。これは、数学の難しい試験には落ちたのに、スペリングのテストで満点を取ったからといって「A判定」をもらう学生のようなものです。

解決策第1部：5WBENCH（新しいテスト）

著者たちは、より公平な新しいテストである5WBENCHを構築しました。

比喩: これは、テストのための「バランスの取れた食事」だと考えてください。リンゴ（単純な事実）だけを出すのではなく、**「誰（Who）、何（What）、いつ（When）、どこ（Where）、なぜ（Why）」**という5種類の食品を、正確に等しい量で盛り付けた皿を提供します。
結果: このテストにより、既存の手法が「なぜ」の事実を忘れるのが非常に苦手であることが明らかになりました。既存の手法は、「忘れられすぎてしまう（事実が残る）」か、「忘れすぎてしまい、（司書が他の質問に答える能力まで壊してしまう）」かのどちらかでした。

解決策第2部：MAAT（スマートな消しゴム）

これを解決するために、著者たちはMAAT（Multi-phase Adapter-Aware Targeted Unlearning）を作成しました。

セットアップ:
図書館の知識は壁に書き込まれているのではなく、本に貼られた**「特別な付箋（LoRAアダプター）」**の中に書かれていると考えてください。図書館全体を壊す必要はありません。ただ、これらの付箋を編集すればよいのです。

MAATの仕組み（3つのフェーズ）:

フェーズ1：「触るな」の盾（勾配投影 / Gradient Projection）
- 問題: 「なぜ」という事実を消そうとすると、消しゴムが、残しておきたいはずの「いつ」という事実まで誤って消してしまうことがあります。
- 解決策: MAATは「盾」を使用します。それは「消去」の力と「保持」の力の方向を見極めます。もし両者がぶつかり合っている場合、消去の角度を調整し、ターゲットだけを命中させ、残したいものには当たらないように滑らせます。
フェーズ2：「メス」による手術（SVD プルーニング＆タスク否定 / SVD Pruning & Task Negation）
- 問題: 「なぜ」の事実は長く複雑です。それらは多くの付箋に分散して存在しているため、特定して取り除くのが困難です。
- 解決策: MAATは付箋に対して「手術」を行います。
  - 数学的なツール（SVD）を使用して、情報の「悪い部分」を保持している付箋の特定の部分を特定します。
  - その特定のパーツだけを切り取ります（プルーニング）。
  - 次に、残った「悪い部分」を裏返し（反転）にして、それらが互いに打ち消し合うようにします（否定）。
- 重要な詳細: MAATは、司書が他の質問に答えるのに役立つ付箋の部分を切り取らないよう、細心の注意を払います。
フェーズ3：「磨き上げ」（ハイブリッド修復 / Hybrid Repair）
- 問題: 切り取りと反転を行った後、司書が少し不安定になったり、あらゆることを忘れてしまったりすることがあります。
- 解決策: MAATは図書館を優しく磨き上げます。司書に「覚えておくべきこと」を再学習させますが、そこには特別なルールを加えます。「今消したものは、二度と学習しないこと」というルールです。これは、学生に対して「歴史を勉強しなさい。ただし、今さっき消したあの特定の年代については暗記しないで」と伝えるようなものです。

結果：新たなバランス

MAATが登場する前は、以下のどちらかを選択しなければなりませんでした。

選択肢 A: 悪い事実を忘れるが、図書館が壊れる（司書が使い物にならなくなる）。
選択肢 B: 図書館は機能し続けるが、悪い事実を忘れることに失敗する。

MAATの成果:
新しい5WBENCHテストを用いた結果、MAATはこれら両方を同時に実現できる初めての手法となりました。複雑な「なぜ」の事実を忘れさせつつ、司書が他の質問に答える能力を損なうことなく、見事に成功させたのです。

一文でのまとめ

この論文は、「現在のテストは『なぜ』という難しい問いを無視しているため不公平である。だからこそ、私たちはより優れたテスト（5WBENCH）と、図書館の他の部分を破壊することなく複雑な知識を取り除くことができる、よりスマートな消しゴム（MAAT）を作った」と述べています。

技術要約: MAAT: Multi-phase Adapter-Aware Targeted Unlearning（多段階アダプター認識型標的忘却）

1. 問題提起

本論文は、既存の機械忘却（Machine Unlearning）ベンチマーク（例：CounterFact, ZSRE, TOFU, MUSE, WMDP-Cyber）における決定的な構造的バイアスを指摘している。これらのデータセットは、エンティティ中心の「What（何）」「Who（誰）」「When（いつ）」「Where（どこ）」という問いに大きく偏っており、「Why（なぜ）」という問い（因果関係や関係性の知識連鎖を探索するもの）は、これらのデータセットの中で0.06%から1.3%未満しか含まれていない。

この極めて低い表現性は、測定上のギャップを生み出す。すなわち、因果的知識を削除することに失敗した忘却手法であっても、高い集計スコアを達成できてしまうという問題である。著者らは、因果的知識の忘却が以下の2つの要因により、質的に困難であると主張している：

長さと複雑性： 「Why」の回答は平均40.1トークンであり（他の問いは4.2〜10.5トークン）、44%がマルチホップの推論連鎖を含んでいる（他は2%以下）。
勾配の希釈化（Gradient Dilution）： 事実を忘却するために必要な上昇信号が長いトークンスパンに分散しており、支配的な方向が存在しないため、標準的な勾配ベースの手法は失敗するか、あるいは強力に適用しようとすると保持された知識を劣化させてしまう。

既存の手法（Gradient Ascent, KL-regularized GA, Adapter Negation）は、根本的なトレードオフに直面している：積極的な忘却はモデルの有用性（保持）を損ない、保守的な手法は因果的事実の忘れることに失敗する。

2. 手法: MAATフレームワーク

著者らは、LoRAアダプターの重みに直接作用し、それらをベースモデルにマージすることなく操作する、3段階のフレームワークであるMAAT（Multi-phase Adapter-Aware Targeted Unlearning）を提案している。これにより、一様な勾配圧力をかけるのではなく、構造的な「アダプター手術」が可能となる。

フェーズ1: 勾配投影上昇（Gradient-Projected Ascent）

標準的な勾配上昇は更新を一様に適用するため、忘却勾配（ $g_f$ ）が保持勾配（ $g_r$ ）と一致する場合、保持された知識を侵食する可能性がある。MAATは条件付き直交投影を採用する：

もし $g_f \cdot g_r > 0$ （衝突）であれば、 $g_r$ に沿った $g_f$ の成分を投影によって除去する：
$g^\perp_f = g_f - \frac{g_f \cdot g_r}{\|g_r\|^2 + \epsilon} g_r$
衝突が存在しない場合は、完全な忘却上昇方向が保持される。
この目的関数は、忘却損失を最小化しつつ、KLダイバージェンスを通じて忘却前のアダプター状態にアンカー（固定）する。

フェーズ2a: SVDランク次元削減（MLPのみ）

低強度の方向における残留信号に対処するため、MAATは忘却セットに対する勾配列ノルムに基づいて、マルチレイヤー・パーセプトロン（MLP）アダプターの次元をスコアリングする。

MLPモジュール（down_proj, up_proj, gate_proj）の $A$ および $B$ 行列において、上位 $\rho$ 分画のランク次元をゼロにする。
極めて重要な点として、指示追従能力を破壊することを避けるため、アテンション（Attention）モジュールは削減の対象から除外される。

フェフェーズ2b: タスクベクトル否定（Task Vector Negation）

このフェーズは、フェーズ2aで特定された特定の忘却サブスペースを標的とする。

各LoRA $B$ 行列の、忘却スコアが高い上位 $k_F$ （例：50%）のランク次元をマスクして、「忘却タスクベクトル」 $\tau^F_l$ を形成する。
このベクトルを重みから減算する： $B_l \leftarrow B_l - \alpha \cdot \tau^F_l$ 。
これにより、保持に関連する方向を無差別に消去することなく、標的を絞った抑制を実現する。

フェーズ3: ハイブリッド保持修復（Hybrid Retain Repair）

削減と否定によって低下した性能を回復するため、4つの項を組み合わせたハイブリッド修復目的関数を最小化する。

KLダイバージェンス: モデルを保持分布にアンカーする。
隠れ状態距離: 保持サンプルに対する現在の状態と参照状態の間の距離を最小化する。
エントロピー最大化: 負のエントロピー項（ $-w_{ent} H_F$ ）を用いて、忘却セットの予測におけるエントロピーを最大化し、修復中にモデルが忘却した内容を再学習することを防ぐ。
タスクベクトルペナルティ: 現在の重みと忘却タスクベクトルの間のコサイン類似度にペナルティを課す。

3. 主な貢献

1. 5WBENCH ベンチマーク

著者らは、Factify-5WQAコーパスから派生した、バランスの取れた5,000サンプルのベンチマークである5WBENCHを導入する。

構造: 5つの5Wカテゴリ（Who, What, When, Where, Why）ごとに1,000の例。
意義: 「Why」の問い（全体の20%）に対して統計的に有意なカバレッジを提供し、歪んだベンチマークでは検出できなかった「因果的忘却の失敗」の定量化を可能にする。
形式: Ground-truthの回答、ラベル、および堅牢性テストのための言い換えられたバリアントを含み、EasyEditと互換性がある。

2. MAAT アルゴリズム

MAATは、LoRAアダプターの構造的特性を利用して、SVDスコアリングとタスクベクトル否定を用いて、特定のランク次元を分離・抑制することで、因果的（Why型）知識において高い忘却と高い保持を同時に達成する初めての手法である。

4. 実験結果

フレームワークは、Qwen 2.5-7B LLM-as-a-Judgeを用いて、LLaMA 3.2-3BおよびGemma 3-4B上で評価された。

5WBENCHにおける性能

パレート境界: MAATは、LLaMA 3.2-3Bにおいて、すべての5つの5Wカテゴリで忘却成功率（FSR）60%超および保持成功率（RSR）60%超を同時に達成するという、新たな動作点を実現している。
- Llama 3.2-3B: 集計で FSR 77.4% / RSR 71.6%
- Gemma 3-4B: 集計で FSR 64.0% / RSR 61.8%
「Why」型の性能:
- MAAT: FSR 63% / RSR 65% (Llama)
- ベースライン（GA, GA+KL, AN, RO-FT）はこのバランスに到達できない。例えば、Gradient Ascent (GA) はFSR 44%、RSR 78%を達成しているが、著者らはこれを「過小忘却（モデルが事実を保持しているのは、有用性を維持しているからではなく、単に忘却できていないからである）」によるものとしている。
ベースラインの失敗:
- Adapter Negation (AN): ほぼ完璧な忘却（FSR 99.8%）を達成するが、壊滅的な保持の崩壊（RSR 0.4%）を引き起こす。これは、完全なタスクベクトル否定が、忘却すべき知識と保持すべき知識の両方を無差別に除去してしまうことを裏付けている。
- RO-FT: 高い保持を実現するが、MAATと比較して忘却効率が低い。

TOFUにおける性能

「Why」のカバレッジが乏しいTOFUデータセットにおいて、MAATはLlamaで競争力のある結果（FSR 67.5% / RSR 46.6%）を達成しており、異なるデータ分布に対する堅牢性を示している。ただし、論文ではTOFUのカテゴリ不均衡が因果分析における有用性を制限していると述べている。

アブレーション研究

勾配投影: 上昇プロセス中に保持された知識を保護するために不可欠である。
ハイブリッド修復: 削減や否定によって失われた保持を回復するために必要である。エントロピー項がない場合、修復フェーズが誤って忘却した内容を再学習させてしまう。
タスクベクトル否定 vs アテンション削減: アテンション削減をタスクベクトル否定に置き換えると（条件D）、忘却の強さは同程度に維持しながら、保持率が大幅に向上する（RSR 54% vs 76%）。これは、アテンションモジュールを構造的削減から除外するという決定を正当化している。

5. 意義と主張

本論文は、MAATが、既存のベースラインが失敗する領域である因果的（Why型）知識に特化して、忘却と保持のトレードオフを正常にナビゲートできる初めての手法であることを主張している。

構造的洞察: 著者らは、因果的事実の忘却の難しさは、固有の重み空間のフットプリント（エンコーディング解析によれば、すべての5Wカテゴリにわたって一様に分布している）ではなく、関係性の複雑さと勾配の希釈化に起因することを証明した。
評価への影響: 5WBENCHを導入することで、既存の手法における「過小忘却」のアーティファクト（高い保持スコアが、実は忘却の失敗によるものであるという現象）を暴くためのツールを提供している。
アーキテクチャへの感度: 結果は、アダプターベースの忘却がベースモデルの知識エンコーディング構造を継承することを示唆している。LLaMAとGemmaの間の性能差は、アダプターのランク次元における知識の分離可能性がアーキテクチャ依存であることを示している。

著者らは、MAATが新たなパレート境界を達成した一方で、標準的なベンチマークでは隠されてしまう「因果的知識の忘却失敗」を検出するために、バランスの取れた評価タクソノミーが必要であると結論づけている。