テクニカルサマリー：LoTUS – 不確実性を加味した大規模機械アンラーニング

1. 問題提起

機械アンラーニング（Machine Unlearning: MU）は、事前学習済みモデルから、特定の学習サンプル（「忘却セット」）の影響を取り除くことを目的としています。これは、再学習なしで実行される必要があります。これは、プライバシー保護、著作権遵守、およびバイアス緩和において極めて重要です。しかし、既存の手法は主に3つの課題に直面しています。

1. 効率性： ゼロからの再学習（「ゴールドスタンダード」）は、ImageNet1kのような大規模なデータセットに対しては計算コストが膨大であり、実行不可能です。
2. データのアクセシビリティ： 現実世界のシナリオでは、プライバシーポリシーやストレージの制限により、元の学習データへのフルアクセスが制限されていることが多く、再学習が不可能な場合があります。
3. 有効性と保持のバランス： 手法は、忘却サンプルへの影響を効果的に排除すると同時に、残りのデータに対するモデルの有用性を維持しなければなりません。既存のアプローチは、これら相反する目的のバランスを取ることに苦慮したり、ゴールドスタンダードの性能を正確に近似できなかったりすることがよくあります。

現在のアンラーニング技術は、一般的に厳密なアンラーニング（再学習と統計的に区別がつかないが、多くの場合実行不可能）または近似的なアンラーニング（ゴールドスタンダードへの近接性を測るための様々な指標を使用）のいずれかに分類されます。大規模なモデルに対して、現実的なデータ制約の下で効率的に動作し、かつ再学習されたゴールドスタンダードモデルを必要としない堅牢な評価指標を提供する手法には、大きなギャップが存在します。

2. 手法：LoTUS

著者らは、情報理論的フレームワークを用いて、モデルの出力空間で直接動作する新しいアプローチであるLoTUS（Logits Tempering Unlearning Strategy）を提案しています。

コア概念：エントロピーと不確実性

LoTUSは、ディープニューラルネットワーク（DNN）がサンプル固有の特徴を記憶し、学習データに対して過剰に自信を持った予測を行う傾向に対処します。この過剰な自信は、メンバーシップ推論攻撃（MIA）に悪用される脆弱性となります。LoTUSは、忘却サンプルの予測確率を平滑化してエントロピーを高めることで、モデルの当該サンプルに対する応答を、未学習のデータに対する応答に近づけることを目指します。

理論的枠組み

この手法は、グローバルな情報（クラス間で共有される一般的な特徴、例：一般的な猫の形）と、サブセット固有の情報（特定のサンプルのユニークな特徴、例：特有の毛並みのパターン）の分離に基づいています。

• 目的： サブセット固有の情報（$I(f_{orig}(X_f); X_f | X)$）を排除しつつ、グローバルな情報（$I(f_{orig}(X_f); X)$）を保持すること。
• 近似： 相互情報量を直接推定することは計算負荷が高いため、LoTUSは、忘却セット（$D_f$）におけるアンラーンされたモデルの精度を、元の事前学習済みモデルの未学習セット（$D_u$）に対する精度と等置することで、アンラーニングの目的を近似します。
  $$Acc(f_{un}, D_f) = Acc(f_{orig}, D_u)$$
  ここで、$D_u$は検証セットまたは合成データであり、これによりアンラーンされたモデルが$D_f$に対して保持していた「記憶された」自信を失わないようにします。

実装：動的温度調整とGumbelノイズ

LoTUSは、生徒モデル（$f_{un}$）が教師モデル（$f_{orig}$）から学習する知識蒸留フレームワークを採用しています。

1. Gumbel-Softmax摂動： 教師のロジットは、Gumbel-Softmax関数を介して、Gumbelノイズ（$g \sim \text{Gumbel}(0,1)$）と温度パラメータ（$\tau$）を用いて摂動されます。これにより、確率的な変動が導入され、微分可能なサンプリングが可能になります。
2. 動的温度調整： 温度 $\tau_d$ は、忘却セットにおける生徒の精度と、未学習セットにおける教師の精度の差に基づいて、各エポックで動的に調整されます。
   $$\tau_d = \exp(\alpha \cdot (Acc(f_{un}, D_f) - Acc(f_{orig}, D_u)))$$
   • 生徒が$D_f$に対して高精度すぎる場合（記憶を示唆）、$\tau_d > 1$ となり、確率を平滑化してエントロピーを高めます。
   • 生徒が低精度すぎる場合（過剰なアンラーニング）、$\tau_d < 1$ となり、確率を鋭鋭化させて有用性を回復させます。
3. 損失関数： 損失関数は、「忘却」項（動的な $\tau_d$ を用いた摂動された教師の出力を使用）と、「保持」項（有用性を維持するために $\tau \to 0$ を用いて予測を鋭利化させた教師の出力を使用）を組み合わせたものです。

3. 主な貢献

1. LoTUSアルゴリズム： 情報理論的な境界を用いて、出力空間で直接動作する初のアンラーニング手法です。これは、無差別なエントロピー最大化を避け、動的な温度パラメータを通じて不確実性を制御します。
2. RF-JSD指標： **再学習不要のイェンセン・シャノンダイバージェンス（RF-JSD）**の導入。この指標は、忘却セットにおけるアンラーンされたモデルの出力と、未学習セットにおける元のモデルの出力を比較することで、アンラーニングの有効性を評価します。これにより、ゴールドスタンダードモデルの再学習の必要性が排除され、現実世界の、大規模なシナリオに適したものとなります。RF-JSDは、確立されたJSDスコアと強いピアソン相関（$0.92 \pm 0.04$）を示しています。
3. 大規模実験セットアップ： 再学習が不可能な状況をシミュレートするため、データアクセスが制限されたImageNet1k（1.2Mサンプル）のデータセットを利用した、新しい評価フレームワーク。

4. 実験結果

著者らは、Vision Transformer (ViT) および ResNet18 アーキテクチャを用い、5つのデータセット（CIFAR-10, CIFAR-100, MUFAC, TinyImageNet, ImageNet1k）についてLoTUSを評価しました。

• 有効性： LoTUSは、Avg Gap（忘却と保持のバランス）および JSD（分布の類似性とストレージ効果への耐性の測定）の観点から、8つの最先端のベースライン（Finetuning, NegGrad+, SalUn, SCRUBを含む）を一貫して上回りました。
• 効率性： LoTUSは優れた計算効率を示し、多くの場合、ベースラインよりも短い時間を要しました。これは、保持サンプルのわずかな割合（30%）のみを使用できること、および補助的な計算における線形な複雑さに起因します。
• 大規模性能： 再学習が不可能であったImageNet1kにおいて、LoTUSは最も低いRF-JSDスコア（1.11 vs 元のモデルの1.22、およびベースラインのより高い値）を達成し、効果的なアンラーニングを示しました。また、リテイン精度（保持精度）を維持しながら、メンバーシップ推論攻撃（MIA）の精度を大幅に減少させることに成功しました。
• 堅牢性： 未学習セットが合成AI生成データ（CIFAKE）であっても手法は有効であり、分布の類似性に関する仮定の緩和を検証しました。

5. 意義と主張

本論文は、LoTUSが以下の点で機械アンラーニングにおける重要な進歩であると主張しています。

• ギャップの解消： 再学習が実用的ではない大規模モデルに対して、効果的かつ効率的な手法を提供します。
• 現実世界への適用可能性： RF-JSD指標の導入により、ゴールドスタンダードが利用できないシナリオ（プライバシーに敏感な業界で一般的）においても、厳格な評価が可能になります。
• 理論的厳密性： ヒューリスティックなアプローチを超え、情報理論に根ざし、特にグローバルな有用性を維持しながらサブセット固有の情報を除去することを目指しています。
• 優位性： 特定のデータを忘れることとモデルの性能を維持することの間のトレードオフにおいて、既存の最先端手法を凌駕し、同時にストレージ効果（アンラーニングによって逆にデータが特定されやすくなる現象）を軽減できることを示しています。

著者らは、フレームワークはクラス単位のアンラーニングにも拡張可能であるが、主要な実験的検証はインスタンス単位のアンラーニングに焦点を当てていることを注記しています。本研究は、制約のある環境におけるスケーラブルでプライバシー保護に優れた機械学習への一歩として提示されています。