💻 computer science

Consistency-Aware Editing for Entity-level Unlearning in Language Models

本論文は、モデルの能力を維持しつつ包括的な知識の削除を確実にするために、多様なエンティティ関連プロンプトにわたる低ランク更新を共同で最適化することにより、効率的かつ堅牢なエンティティレベルのアンラーニングを実現する、モデル編集技術を適応させた新しいフレームワークであるConsistency-Aware Editing (CAE) を導入する。

原著者： Xiaoqi Han, Víctor Gutiérrez-Basulto, Ru Li, Xiaoli Li, Jiye Liang, Jeff Z. Pan

公開日 2026-01-15

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Xiaoqi Han, Víctor Gutiérrez-Basulto, Ru Li, Xiaoli Li, Jiye Liang, Jeff Z. Pan

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

論文の解説：「Consistency-Aware Editing for Entity-level Unlearning in Language Models（言語モデルにおけるエンティティレベルの忘却のための一貫性を考慮した編集）」を、平易な言葉と独創的な比喩を用いて解説します。

大きな問題：「デジタル健忘症」のジレンマ

大規模言語モデル（LLM）を、インターネット上のほぼすべての情報を読み込んだ**「超百科事典」**だと想像してください。時として、この百科事典は、有名人の自宅住所や著作権で保護された本の章、あるいは有害なステレオタイプなど、本来覚えておくべきではないことを誤って記憶してしまうことがあります。

私たちは、この百科事典にそれらの特定の事項を**「忘れさせる」**方法を教えたいと考えています。しかし、そこには落とし穴があります。

図書館全体を焼き払いたくはない： 「ジャッキー・チェン」に関する特定のページだけを削除したいのであって、「武術」や「映画」全般に関するページまで消してしまいたくはありません。
一文を消すだけでは不十分である： もし「ジャッキー・チェンの出身地は？」と聞かれたら、モデルは「知りません」と答えるべきです。しかし、もし「『ラッシュアワー』の俳優は誰ですか？」と聞かれたとしても、モデルは同様に「知りません」と答えなければなりません。

課題： 既存の手法は、リストから名前を消そうとして、特定の行をただ線で消すようなものです。もし質問が少し異なる言い回し（パラフレーズ）で行われた場合、モデルは特定の文章については忘れていても、その「概念」自体は覚えているため、答えを思い出せてしまう可能性があります。

解決策： CAE (Consistency-Aware Editing)

著者らは、CAEと呼ばれる新しい手法を提案しています。これは、従来のものとは異なる動きをする**「マスター・イレイサー（達人の消しゴム）」**だと考えてください。

1. 古いやり方：「ランダムな消しゴム」

ホワイトボードに、「ジャッキー・チェン」について尋ねる100通りの異なる質問がある（例：「彼はどこで生まれましたか？」「彼の誕生日は？」「ラッシュアワーのあの人は誰？」など）と想像してください。

古い手法： あなたは質問ごとに別々の消しゴムを使います。質問1の答えを消し、次に質問2を消し、次に質問3を消していきます。
問題点： 計画なしに一つずつ消していくため、質問2を直そうとして質問1の答えを誤って消してしまうかもしれません。あるいは、消しゴムが滑って質問5が手つかずのまま残ってしまうかもしれません。その結果、ぐちゃぐちゃになります。モデルはあることは忘れますが、あることは覚えていたり、混乱して幻覚（ハルシネーション）を起こしたりします。

2. 新しいやり方 (CAE)：「シンクロナイズド・チーム」

CAEは戦略を変えます。一つずつ消していくのではなく、100の質問を**「一つのチーム」**として扱います。

戦略： ジャッキー・チェンについて尋ねるあらゆる異なる表現を集めます。
「一貫性（Consistency）」のルール： すべての消しゴムが全く同じ方向に動くように強制します。それはまるで、シンクロナイズドスイミングのチームのようです。すべてのスイマーが、全く同じ角度とスピードで腕を動かします。
結果： 100回の小さくて乱雑なひっかき傷を作る代わりに、チームは一度の大きくクリーンで統一された一拭きを行い、質問がどのように表現されていようとも、モデルの脳から「ジャッキー・チェン」という概念全体を完全に除去します。

その仕組み（内部メカニズム）

この論文は、モデルがどこに消しゴムを適用するのが最適かを見つけるために、モデルがどのように「考えているか」を掘り下げています。

記憶の特定： 研究者たちは、モデルが特定の人物（ジャッキー・チェンのような）に関する事実を、MLPレイヤー（モデルの「ファイルキャビネット」と考えてください）と呼ばれる特定の部位に保存していることを発見しました。
「キー」の選択： 彼らは単にランダムな質問を掴むのではありません。数学的ツール（SVD）を使用して、ジャッキー・チェンの概念を最もよく代表する最も重要な70の質問を選び出します。これは、あらゆる角度からその人を識別できるように、その人の最も代表的な写真を70枚選ぶようなものです。
「低ランク（Low-Rank）」更新： 百科事典全体を書き換える（これには膨大な時間とコストがかかります）代わりに、ファイルキャビネットに対して非常に精密で小さな調整を行います。これは、倉庫全体を建て直すのではなく、棚のラベルを一つだけ書き換えるようなものです。

得られた結果

チームは、2つの主要なベンチマーク（RWKUおよびToFU）でテストを行い、他の手法と比較しました。

優れた忘却性能： CAEは、名前が直接言及されていないトリッキーな質問に対しても、モデルに「知りません」と言わせる能力において非常に優れています。
副次的被害の抑制： 消しゴムが同期して動くため、関連するトピックの知識を誤って消してしまうことがありません。例えば、モデルは依然として映画や俳優について話すことはできますが、ジャッキー・チェンについては具体的に分からなくなっています。
効率性： 驚くほど高速です。他の手法（モデル全体を再学習させる必要がある、例えるなら新しい学位のために勉強し直すようなもの）とは異なり、CAEは迅速かつ的を絞った編集を行います。わずか数十個の例だけでこれを実行できます。
安定性： 論文は、質問の順番を入れ替えたり異なるモデルを使用したりしても、CAEが一貫して機能することを示しています。非常に堅牢です。

まとめ

この論文は、AIから特定の人物やエンティティを真に「アンラーン（忘却）」させるためには、単に個別の穴を塞ぐだけでは不十分であると主張しています。AIがその情報をどのように保存しているかを理解した上で、協調的で一貫したアプローチが必要です。

CAEは、モデルのメモリ内にある「ジャッキー・チェン」というフォルダ全体を正確に狙い撃ちし、クリーンに削除する精密レーザーのようなものです。これにより、質問の仕方が変わったときにモデルが答えを覚えてしまうという、従来の手法の最大の弱点を解決しました。

技術要約：言語モデルにおけるエンティティレベルのアンラーニングのための整合性を考慮した編集（Consistency-Aware Editing）

1. 問題提起

大規模言語モデル（LLM）は、意図せずして機密情報、著作権保護された情報、または有害な情報を記憶してしまい、プライバシーやセキュリティのリスクをもたらす。知識のアンラーニング（知識の忘却）は、特定の不要な知識を削除することを目的としているが、既存の手法はエンティティレベルのアンラーニングに適用する場合、重大な限界に直面する。

現在のアプローチは、主に特定の事実や表現を削除することを目指すインスタンスレベルのアンラーニングに焦点を当てている。しかし、エンティティレベルのアンラーニングには、特定のエンティティ（例：「成龍（Jackie Chan）」）に関連するすべての情報を、フレーズや文脈に関わらず包括的に排除することが求められる。既存の技術は、以下の理由からこの領域において苦戦することが多い：

表面的な形態への過学習： 学習プロンプトの特定の表面的な形態（surface form）に過学習する傾向があり、同一エンティティの多様な言語的実現（パラフレーズ）に対する汎化性能に欠ける。
編集における不整合： 特定の事実に対してパラメータを修正するロケーションベースのモデル編集手法は、通常、各入力を独立して扱う。同じエンティティに関連する複数のプロンプトに適用した場合、これらの独立した最適化は不整合な編集方向をもたらす。異なる事実に対する更新が互いに衝突したり、ターゲットとなる知識を部分的にしか消去できなかったりするため、「漏洩（leakage）」が発生し、モデルがパラフレーズされたクエリに対して依然として正解を答えてしまう。
副次的被害（Collateral Damage）： カバー範囲を広げるために忘却セット（forget set）を拡張すると、無関係な事実や密接に関連する他のエンティティに対するモデルの性能が大幅に低下することがある。

2. 手法：整合性を考慮した編集（Consistency-Aware Editing: CAE）

著者らは、効果的なエンティティレベルのアンラーニングのためにモデル編集技術を適応させたフレームワークである**Consistency-Aware Editing (CAE)を提案する。核心となる洞察は、エンティティレベルの知識はTransformerのMLP（多層パーセプトロン）**モジュール、特に出力重み（ $W_{out}$ ）に格納されているという点である。CAEは、ターゲットとなるエンティティに関連する多様なプロンプトに対して更新を共同で最適化することにより、不整合の問題に対処する。

主要構成要素：

データの集約と選択：
- 本手法は、Wikidataからターゲットとなるエンティティに関する多様な事実を取得し、それらを自然言語のプロンプト（ $T_e$ ）に変換する。
- これらのプロンプトは、テキスト生成モデルを用いたパラフレーズによってさらに拡張され、拡張セット（ $T_g$ ）が作成される。
- SVDに基づく選択： 重複や競合する更新を避けるため、これらのプロンプトから導出されたキーベクトル（ $K_f$ ）は、特異値分解（SVD）によって処理される。本手法は、最も重要な投影エネルギーを捉える上位 $r$ 個のキーベクトルを選択し、編集のためのコンパクトかつ情報量の多いサブセットを確保する。
整合性を考慮した最適化：
- 各プロンプトを独立して編集する代わりに、CAEは**整合性制約（consistency constraint）**を導入する。
- 各プロンプト $x_j$ に対して、エンティティの事実的関連性を抑制するための残差ベクトル $\delta_j$ が最適化される。
- 目的関数に**整合性損失（ $L_{Cons}$ ）**が追加される。これは、プロンプトセット全体における更新された隠れ状態（ $h_j^L + \delta_j$ ）の分散を最小化するものである。これにより、すべての残差が共通の方向に整列するように強制され、パラメータの更新がエンティティのあらゆるパラフレーズに対して一貫性を持つようになる。
- 最終的な目的関数は、負の対数尤度損失（「わかりません」などの不確実性を誘発するため）と、整合性正則化項を組み合わせたものである。
多層伝播：
- 最適化された残差は、抑制効果がネットワーク全体に伝播するように後続の層へと分配される。
- MLP層の $W_{out}$ 行列に対して低ランク更新（ランク1の修正）が適用され、モデル全体を再学習することなく、エンティティの知識を効果的に削除する。

3. 主な貢献

限界の特定： 本論文は、既存のロケーションベースの編集手法が、同一エンティティに関連する複数のプロンプトを独立して編集することによって生じる不整合のために、エンティティレベルのアンラーニングにおいて失敗することを明らかにしている。また、エンティティレベルの知識が主にMLPモジュールに格納されていることも特定している。
新しいフレームワーク (CAE)： 整合性制約の下で価値のある事実を共同で最適化する、整合性考慮型の編集フレームワークを導入する。これにより、エンティティ全体のコヒーレントかつ包括的なアンラーニングが可能になる。
SVDに基づく事実選択： SVDを用いてエンティティにとって最も価値のある事実を選択する戦略を提案し、必要なプロンプト数を削減しながらアンラーニングの有効性を最大化する。
実証的検証： 本手法を、難易度の高い2つのベンチマークであるRWKU（100エンティティ）およびToFU（20エンティティ）で厳格に評価し、既存のアンラーニングおよび編集のベースラインに対して優れた性能を示す。

4. 実験結果

著者らは、LLaMA3-Instruct (8B) および LLaMA3.1-Instruct (8B) においてCAEを評価し、勾配ベースの手法（GA, DPO, NPO）、プロンプトベースの手法（ICU, RepE）、および編集ベースの手法（MEMIT, EMMET, AlphaEdit）と比較した。

忘却性能： CAEは、Fill-in-the-Blank (FB)、Question-Answer (QA)、およびAdversarial Attack (AA) プローブにおいて、忘却セットに対する最低スコア（知識の除去が成功していることを示す）を達成した。例えば、LLaMA3を用いたRWKUにおいて、CAEは「All」忘却スコア 15.9 を達成し、次に優れた編集手法（EMMETの29.0）や学習ベースの手法を上回った。
堅牢性と汎化性能： CAEは、Neighbor Sets（無関係だが意味的に近い事実）およびUtility Sets（MMLUやTruthfulQAのような一般的な能力）において高い性能を維持した。CAEは最高の Mean FN（忘却と隣接情報の保持のバランスをとる指標）を達成しており、ターゲット知識の消去と有用な文脈の保持との間で優れたトレードオフを実現している。
効率性： CAEは、フルファインチューニングのアプローチと比較して、はるかに少ない事例数（わずか100個、多くの場合それ以下）と、少ない計算リソース（単一の40GB GPU）を必要とする。
逐次アンラーニング： 本手法は、複数のエンティティを逐次的に削除する場合でも、以前にアンラーニングされたエンティティの忘却性能を低下させることなく、安定性を示した。
アブレーション研究：
- トークン選択： Last Subject Token (LST) を編集することは、Last Token (LT) を編集することよりも効果的かつ安定していることが証明された。
- 整合性重み： 本手法は、整合性制約の異なる重みに対しても堅牢であった。
- データソース： 本手法は、Wikidataの代わりにLLM生成の合成データを使用した場合でも、良好に汎化できることが示された。

5. 意義と主張

本論文は、Consistency-Aware Editingが、インスタンスレベルの編集と、より複雑な要求であるエンティティレベルのアンラーニングとの間の溝を埋めることにより、知識のアンラーニング分野における重要な進歩を象徴すると主張している。

スケーラビリティ： CAEは、注意深く選択された数十のプロンプトのみを使用してエンティティを削除するスケーラブルなソリューションを提供し、フルリトレーニングの計算コストを回避する。
精密さ： 整合性制約を通じて編集方向を一致させることで、CAEは、独立した編集アプローチで一般的な「部分的な忘却」や知識の漏洩を防ぐ。
洞察： 本研究は、エンティティレベルの知識がLLM内部でどのように表現されているか（主にMLPに格納されていること）、およびそれをどのように体系的に削除できるかについての洞察を提供する。

著者らは、CAEが忘却と保持の間でより有利かつ安定したトレードオフを提供し、特定のエンティティを包括的にアンラーニングする必要がある、安全で責任あるLLMの展開において有望な方向性であることを結論づけている。