技術的サマリー：プロキシからの完全な忘却は、近似忘却に対する近接保証をもたらす

問題定義

機械的忘却（Machine Unlearning）は、モデルを最初から再学習することなく、特定の訓練データ（「忘却セット」、$D_f$）の影響力を、訓練済み分類器から除去することを目的とする。完全な忘却はゴールドスタンダードであるが、大規模な深層ネットワークでは計算コストが prohibitive となることが多い。現在の近似手法は、主に第一階微分に基づく勾配更新（例えば、忘却セットに対する勾配上昇）に依存しており、いくつかの限界を有する：

1. 解釈性の欠如: これらは、データ分布の観点から結果的な予測シフトを閉形式で特徴づけることができない最適化経路に依存している。
2. 不安定性: 反復的な更新は明確な停止基準を欠くことが多く、過剰な忘却や壊滅的な忘却（catastrophic forgetting）を引き起こす。
3. 評価のギャップ: 性能は頻繁にメンバーシップ推論攻撃（MIA）や精度指標によって測定されるが、これらは理想の再学習モデルとの統計的距離を正確に反映しない可能性がある。
4. 最適性の欠如: 既存の理論的 bound は、基礎となるデータ分布モデルの質ではなく、ニューラルネットワークの性質（例えば、ヘッシアン近似）に依存することが多い。

手法

本論文はパラダイムシフトを提案する：ネットワーク重みを勾配で直接更新するのではなく、著者らはデータ分布の明示的な数学的モデルから導出されたロジット空間におけるシフトとして、完全な忘却信号をモデル化する。

1. ロジットシフトとしての忘却信号

核心的なアイデアは、最適化経路ではなく、忘却セットと元のデータセットの事後分布の差によって忘却ターゲットを定義することである。

• $P$ を元のデータの真の分布、$P_r$ を忘却セットの真の分布とする。
• 著者らは、クラス条件付き分布 $P(X|Y)$ と $P_r(X|Y)$ をモデル化するためのパラメトリックなプロキシ（$\bar{P}$ および $\bar{P}_r$）を導入する。
• これらのプロキシは、事後分布および関連するロジットベクトル $M(x)$ と $M_r(x)$ を誘発する。
• 忘却信号は、シフト $\Delta M(x) = M_r(x) - M(x)$ として定義される。
• 忘却されたモデルのロジットは、線形結合として構築される：$\tilde{f}_\eta(x) = f_\theta(x) + \eta \Delta M(x)$。ここで、$\eta$ はスケーリング因子である。

2. 理論的枠組みと保証

本論文は、忘却モデルと理想の再学習モデル（$P_r$）間のカルバック・ライブラー（KL）ダイバージェンスに関する理論的 bound を確立する。

• 許容性基準: プロキシのペアは、初期プロキシ $\bar{P}$ が真の分布 $P$ の近似として、忘却プロキシ $\bar{P}_r$ が $P_r$ の近似よりも優れている場合、「許容可能」である。これは検証可能な条件である。
• 安全領域（$\eta_{max}$）: 著者らは、任意の $\eta \in [0, \eta_{max}]$ に対して、許容性基準が成り立てば、忘却プロセスが理想モデルへの KL ダイバージェンスを厳密に減少させるような、最大スケーリング因子 $\eta_{max}$ の存在を証明する。
• Bound: 命題 1 は、KL ダイバージェンスに関する tight な bound を提供し、誤差が初期ダイバージェンスと「モデル化シフト」（プロキシがそれぞれのターゲットをどの程度よくモデル化しているかの差）に依存することを示す。命題 2 は、誤差をクラス条件付きモデル化の質に関連付ける直感的な bound を提供する。

3. プロキシの構築

本論文は、データ構造を近似するためのいくつかのプロキシファミリーを探求する：

• 単純モデル: 各クラスを単一の分布として扱う標準的な LDA（線形判別分析）および QDA（二次判別分析）。
• 混合モデル（LDA-Mix, QDA-Mix）: 元の分布を、各クラス内の忘却および忘却サブ集団の混合としてモデル化する。
• ラベル倍増（LDA-2C, DIR-2C）: ラベル空間を $(y, s)$ に倍増させる新規アプローチであり、ここで $s \in \{retain, forget\}$ である。これにより、モデルは忘却セットと忘却セットの分布間の重なりを本質的に捉え、サンプルが忘却セットに属する確率を推定できる。
  • DIR-2C: 倍増されたラベル空間上の経験的ディラック分布を使用する。直接的な適用は攻撃的であるが、蒸留ステップのための強力な「教師」として機能する。

4. 蒸留による実装

構築されたロジットシフト $\eta_{max} \Delta M(x)$ は、知識蒸留を介してニューラルネットワークに実装される。元のネットワーク $f_\theta$ は学生として機能し、その出力と目標ロジット $\tilde{f}_{\eta_{max}}$ の間の KL ダイバージェンスを最小化するように訓練される。このステップは、閉形式の分布補正をネットワークパラメータに変換する。

主要な貢献

1. プロキシによる完全な忘却信号: 本論文は、勾配経路ではなく、データ分布の明示的な数学的モデルから導出された、閉形式で解釈可能な忘却信号を導入する。
2. 理論的保証: 検証可能な許容性基準と、理想の再学習モデルへの KL ダイバージェンスに関する tight な理論的 bound を提供し、忘却性能をデータプロキシの質に直接関連付ける。
3. 微細なプロキシ: データ構造からメンバーシップ依存関係を学習する特定のモデル化手法（混合モデルとラベル倍増）を提案する。特に、LDA-2CとDIR-2Cは、クラス内構造を捉えるための効果的な手法として浮上する。
4. 評価のためのシュタイン bound: 本論文は、攻撃者が忘却モデルと再学習モデルを区別するために必要なクエリ数に対する「シュタイン bound」を導出するために KL ダイバージェンスを使用することを提案し、経験的メンバーシップ推論攻撃よりも安定性が高く解釈可能な代替案を提供する。

実験結果

本手法は、3 つの忘却シナリオにわたって CIFAR-10 および CIFAR-100 上で評価された：

• ランダム: ランダムなサンプルの忘却。
• クラス: 全体のクラスの忘却。
• サブクラス: クラスのサブセットの忘却（例：「車両」内の「飛行機」）。これは、勾配上昇のベースラインが頻繁に失敗する、最も困難で現実的なシナリオとして指摘されている。

知見:

• 理想への近接性: 提案手法（特にLDA-2CとDIR-2C）は、KL ダイバージェンス（$KL_t$ および $KL_f$）の観点から、常に理想の再学習モデル（$p_{\theta_r}$）に最も近い忘却モデルを生み出し、SCRUB、SalUn、GA+FT などの最先端のベースラインを上回った。
• 安定性: 不安定な経路を示したり壊滅的な忘却（例：SalUn が忘却精度をほぼゼロに低下させる）を引き起こしたりする反復的ベースラインとは異なり、提案手法は迅速かつ安定して収束した。
• 効率性: これらの手法は、完全な再学習に必要な時間の約 5% というランタイム効率（RTE）でこれらの結果を達成した。
• プロキシの有効性: 「ラベル倍増」プロキシ（LDA-2C、DIR-2C）は、特にサブクラスシナリオにおいて、忘却セットと忘却セット間の分布的重なりをよりよく捉えることで、標準的な混合モデルよりも一般的に優れていた。

意義と主張

本論文は、そのフレームワークが、ニューラルネットワークのパラメータ更新ではなく、データ分布の構造に機械的忘却を根ざすことで、パラダイムシフトを提供すると主張する。

• 妥当性: 理論的 bound は、プロキシが十分に正確であれば（許容性基準を通じて検証可能）、忘却プロセスがモデルを理想の再学習状態に近づけることが保証されることを示している。
• 解釈性: この手法は、忘却誤差の閉形式分解を提供し、反復的な勾配更新の「ブラックボックス」性質から脱却する。
• 実用性: 蒸留を使用することで、この手法はロジットを出力するブラックボックスネットワークにも適用可能であり、汎用性が高い。
• 限界: 著者らは控えめに限界を認めている。これには、プロキシ $P_r$ を適合させるために忘却セット $D_r$ が利用可能であるという仮定、高次元特徴空間における潜在的な不良条件（次元削減によって軽減される）、および許容性基準が真の分布ではなく初期モデル上で経験的にチェックされるという事実が含まれる。

要約すると、本論文は、データ分布を明示的にモデル化することで、ネットワークに蒸留されたときに、再学習から得られたモデルと統計的に区別不可能なモデルを生み出す完全な忘却信号を導出できると論じている。これには証明可能な保証と優れた経験的性能が伴う。