技術要約：潜在的アトリビューション正則化 (Latent Attribution Regularization: LAR)

問題提起

ファインチューニングされたTransformerモデルにおける勾配ベースの特徴量アトリビューション（特徴量の寄与度）は、入力が意味を保持したまま微小な摂動（例：類義語への置換）を受けた際、しばしば高い不安定性を示す。もし、モデルの予測と入力の意味が一定であるにもかかわらず、説明（エクスプラネーション）が劇的に変化してしまうならば、その説明は信頼できないものとなる。

本論文は、この領域においてこれまで見落とされていた重要な測定上のアーティファクト（偽像）を特定している。それが**トークナイゼーション・ドリフト（tokenization drift）**である。標準的なサブワード・トークナイゼーション（WordPiece）では、単一の単語を置換することでサブワード・トークンの数が変化し、それ以降のすべてのトークンの位置がずれてしまう。先行研究（Yin et al., 2022など）で行われているように、生の位置インデックスを用いてアトリビューションの安定性を比較すると、深刻な不整合が生じる。著者は、この単純なアプローチによって、本来 $\approx 0.90$ であるはずの安定性の相関が $\approx 0.03$ まで崩壊し、実際のモデルの挙動とは無関係に、あたかも完全な不安定性であるかのような誤った印象を与えてしまうことを実証している。

手法

1. 修正された評価プロトコル

この測定上のアーティファクトに対処するため、著者は厳密なトークン整列（exact token-alignment）手順を導入する：

• 整列: トークンを位置によって比較するのではなく、元のシーケンスと摂動を加えたシーケンス内のトークンを、その正確な文字列の同一性に基づいて一致させ、順序を保持する。
• 範囲: 指標は、「背景」トークン（置換によって変化していないトークン）のみに対してスピアマンの順位相関係数を計算する。置換された単語は、設計上、相関計算から除外される。
• 要件: 少なくとも3つのトークンが正常に一致した場合にのみ、サンプルが統計に寄与するものとする。

2. 潜在的アトリビューション正則化 (Latent-Attribution Regularization: LAR)

修正された評価に基づき、著者はNLPにおける学習時の正則化戦略を適応させる：

• 目的関数: 学習損失は、標準的なクロスエントロピー（$L_{CE}$）と、元の入力（$x$）と摂動を加えた入力（$\tilde{x}$）の特徴量アトリビューション間のコサイン類似度ペナルティを組み合わせたものである。
  $$L_{LAR} = L_{CE}(f(x), y) + \lambda \left(1 - \cos(a(x), a(\tilde{x}))\right)$$
• アトリビューション手法: 本研究では、ダブルバックプロパゲーション（二重の勾配計算）のループ内での計算の簡便さを考慮し、Integrated Gradients (IG) ではなく、入力勾配の $\ell_2$ ノルム（$\nabla_{e_i} \log_y(f(e))$）を使用する。
• 摂動: 形容詞や副詞をWordNetの類義語で置換することによって入力を摂動させる。一部の先行する対照的生成手法とは異なり、このプロセスではモデルの確信度の維持に関するフィルタリングは行わない。
• 学習と評価の非対称性: 評価では厳密なトークン同一性による一致を用いるが、学習損失ではアトリブションを位置ベースで比較する（短い方のシーケンスに合わせて切り詰める）。これは、同一性に基づく一致が、二重の勾配計算（勾配の勾配の計算）に必要な微分可能なダブルバックプロパゲーションの計算と互換性がない離散的な操作であるためである。

3. 実験設定

• モデル: DistilBERT (66M パラメータ)。真の学習が行われることを保証するため、タスク未学習のチェックポイント（分類ヘッドはランダム初期化）から初期化されている。
• タスク: SST-2における二値感情分類。
• スケール: 実験は以下の2つのスケールで実施された：
  • Small: 1,500例、1エポック。
  • Large: 20,000例、2エポック（検証精度 $\approx 82\%$ に到達）。
• コントロール群: 同一のシード、データ、オプティマイザ設定を用いた、一致したクロスエントロピーのみのコントロール群（$\lambda=0$）。
• 摂動の強度: 置換率が Light (15%)、Medium (35%)、Heavy (60%) の各段階で評価された。

主な結果

1. トークン整列のアーティファクト

正則化を行わない予備実験において、単純な位置ベースの整列では、安定性の相関は $\bar{\rho} \approx 0.035$ であった。これに対し、同じデータとモデルに厳密なトークン整列による補正を適用したところ、ベースラインの安定性は $\bar{\rho} \approx 0.90$ まで上昇した。これにより、先行文献における見かけ上の不安定性の大部分が、測定上のアーティファクトであったことが確認された。

2. LARによる安定性の向上

両方の学習スケールおよび10個の独立したシードにわたって、LAR ($\lambda=0.5$) はコントロール群と比較して、アトリビューションの安定性に統計的に有意な改善を示した：

• Small Scale: すべての摂動強度において有意な改善が見られた（対応のあるt検定 $p \le 0.012$）。
• Large Scale: すべての摂動強度において有意な改善が見られた（対応のあるt検定 $p = 0.002\text{--}0.004$、ウィルコクソンの符号付順位検定 $p = 0.004\text{--}0.006$）。
• 大きさ: 安定性の向上幅は、摂動の激しさとともに増大した（例：Large Scale設定において、Lightな摂動で $+0.026$、Heavyな摂動で $+0.036$）。
• 一貫性: 10個のシードのうち9個が、すべての摂動強度において改善の方向性について一致した。

3. 精度のトレードオフ

極めて重要なことに、安定性の向上は測定可能な精度の低下を伴わずに実現された：

• Small Scale: コントロール (73.2%) vs. LAR (73.3%)。
• Large Scale: コントロール (81.6%) vs. LAR (82.3%, $p=0.42$)。

意義と主張

本論文は、その貢献を、アトリビューションの頑健性（以前は敵対的攻撃の下でのコンピュータビジョンにおいて研究されていた）とNLPの安定性評価の交差点に位置づけている。

1. 測定アーティファクトの修正: 主要な主張は、従来のNLPにおけるアトリビューション安定性の評価は、トークナイゼーション・ドリフトのために根本的に欠陥があったという点である。著者は、信頼できる比較を可能にするために、必要な修正（厳密なトークン整列）を提供している。
2. NLPにおける一貫性正則化の初の適用: 著者は、ビジョンベースのアトリビューション正則化（Wang and Kong, 2022など）とNLPとの間の溝を埋めている。彼らは、コサイン類似度による目的関数を、敵対的なノイズではなく、意味を保持する摂動の下でのTransformerのファインチューニングに適応させている。
3. 直接的な学習目的: 安定性指標を事後的な評価にのみ使用していた先行研究とは異に対し、本論文では、安定性指標（具体的にはYin et al., 2022が導入した類義語置換による安定性）を直接的な学習目的として使用している。
4. 実用的な示唆: エクスプラネーション（説明）がエンドユーザーに可視化されるファインチューンドTransformerをデプロイする実務家にとって、LARは標準的なファインチューニングに対する低リスクな追加要素となる。これは、分類性能を損なうことなく、特に重大な意味的摂動の下で、統計的に堅牢な安定性の向上を提供する。

限界と範囲

著者は以下の制約を明示的に述べている：

• 単一のタスクとアーキテクチャ: 結果はSST-2およびDistilBERTに特有のものである。
• アトリビューション手法: 本研究では、Integrated Gradients (IG) ではなく、入力勾配のノルムを使用している。
• 学習と評価の非対称性: 学習時の損失関数は位置ベースの整列を使用し、評価では同一性ベースの整列を使用している。このギャップを埋めることは今後の課題である。
• 摂動の生成: 類義語置換は、モデルの確信度保持をフィルタリングしておらず、これは安定性指標のオリジナルのプロトコルとは異なっている。
• 収束: Large Scaleの実験は $\approx 82\%$ の精度に達したが、これは完全に収束したSST-2のファインチューニング（$\approx 90\%+$）を下回っており、完全な収束時における異なる挙動の可能性を残している。