The Attribution Contract: Feature Attribution for Generative Language Models

技術的サマリー：アトリビューション契約

問題定義
モデルの出力を駆動する入力特徴を特定するように設計された特徴アトリビューション手法は、生成言語モデル（LM）に適用される際、根本的な概念的曖昧性に直面する。古典的な分類設定では、入力 - 出力スキーマは静的（$x \to f(x)$）であり、特徴は入力構成要素として明確に定義される。しかし、生成 LM は、以前の出力が後続の予測の入力となる（自己回帰モデルにおいて）、または生成が反復的なノイズ除去を通じて進行する（拡散モデルにおいて）という動的なプロセスを通じて動作する。

この構造的な違いにより、「アトリビューションの曖昧性」が生じる。すなわち、何が「特徴」を構成するか、あるいはどのような特定の「出力」が説明されているかが不明確であることが多い。例えば、自己回帰モデルにおいて、以前に生成されたトークンは、モデルの出力であると同時に、次の予測の入力でもある。その結果、同じアトリビューションアルゴリズムであっても、目標が局所的な次のトークンの予測を説明することなのか、それとも元のプロンプトが生成された一連のシーケンス全体に及ぼす影響を説明することなのかによって、異なる結果をもたらす可能性がある。本論文は、生成モデルにおける特徴アトリビューションに関する文献で認識されている多くの不一致は、アルゴリズム間の対立ではなく、むしろ明示されていない、あるいは不一致な説明契約に起因する対立であると主張する。

手法：アトリビューション契約
この曖昧性を解消するため、著者は、いかなる特徴アトリビューション主張の説明範囲を定義する形式仕様タプル $A = (S, C, O, P, E)$ であるアトリビューション契約を導入する。その構成要素は以下の通りである：

• $S$（スコア）： アトリビューションされる特定モデル量（例：logit、確率、損失、または対数尤度）。
• $C$（条件付け）： アトリビューション計算中に固定される変数（例、生成されたプレフィックスを固定し、プロンプトのみに対してアトリビューションを行う場合など）。
• $O$（出力）： 説明される特定ターゲット（例、単一の次のトークン、中間の拡散状態、または完全な生成スパン）。
• $P$（プロセス）： 想定される生成プロセス（例、自己回帰チェーン $x \to y_1 \to \dots \to y_t$ または拡散チェーン $z_T \to \dots \to z_0 \to y$）。
• $E$（対象特徴）： アトリビューションを受け得る特徴の集合（例、プロンプトトークンのみ、プロンプトおよび生成されたプレフィックス、またはノイズ除去段階）。

本論文は、「アトリビューション契約」フレームワークにより、異なる設定の正確な具体化が可能であることを実証する。既存および潜在する設定を以下のように分類する：

1. 自己回帰設定：
   • 局所的な次のトークン： トークン $y_t$ の予測を、プロンプトおよび生成されたプレフィックスの両方のトークンに対してアトリビューションする。
   • プロンプト条件付きトークン： 生成されたプレフィックスを固定し、$y_t$ をプロンプトトークンのみに対してアトリビューションする。
   • スパンレベルのプロンプト： 完全な生成スパン $y_{1:T}$ の確率を、スパンを固定した状態でプロンプトトークンに対してアトリビューションする。
2. 拡散設定：
   • 状態レベル： 中間状態 $z_t$ をプロンプトおよび先行状態に対してアトリビューションする。
   • ノイズ除去段階： 最終出力の特性を、ノイズ除去プロセスの特定の段階に対してアトリビューションする。
   • プロンプトから出力へ： 最終出力 $y$ をプロンプトトークンに対してアトリビューションし、ノイズ除去チェーンをプロセスとして扱う。

主要な貢献
本論文は、以下の 4 つの主要な貢献を行う：

1. 契約の曖昧性の特定： 指定された説明設定の欠如が誤解を招く原因となる、生成特徴アトリビューションにおける「契約の曖昧性」を、固有の失敗モードとして特定する。
2. アトリビューション契約フレームワーク： 任意の主張について、ターゲット、対象特徴、生成プロセス、条件付けレジーム、およびアトリビューションされるスコアを明示的に定義する $(S, C, O, P, E)$ タプルを提案する。
3. 自己アトリビューションの誤謬： 生成されたプレフィックストークンへのアトリビューション（局所的な次のトークン契約の下では有効）を、プロンプトレベルの質問（例、「ソース文書はこの幻覚の原因となったか？」）への回答として誤って解釈する、特定の解釈的誤りを定義する。本論文は、後者を回答するにはプレフィックスを固定するプロンプト条件付き契約が必要であることを示す。
4. 手法 - 契約評価： 生成 LM における特徴アトリビューション手法は、文脈に依存しないアルゴリズムとしてではなく、手法 - 契約ペアとして評価されるべきであると主張する。手法は孤立して「良い」または「悪い」と判断することはできず、その妥当性はテストされる特定の契約との整合性に依存する。

結果と分析
本論文は、新しい実証的ベンチマークや新規アルゴリズムを提示するものではなく、アトリビューション契約のレンズを通じて既存文献の理論的分析と再評価を提供する。

• 文献の統合： 著者は、しばしば競合すると認識される手法（例、ContextCite 対 Inseq）は、実際には異なる契約によって定義された異なる質問に回答していることを示す。ContextCite はプロンプトから出力への契約の下で動作し、一方 Inseq は通常、局所的な次のトークン契約の下で動作する。
• 評価への示唆： 本論文は、評価指標が契約に基づいて変更されなければならないことを詳述する。例えば、「スパンレベルのプロンプトアトリビューション」を評価するには、プロンプトを攪乱し、元の 固定生成の対数確率の変化を測定する必要がある。新しいシーケンスを再生成することは、異なる契約（例、プロンプトから出力へ）をテストすることになる。
• 拡散固有の事項： 分析は、拡散モデルが自己回帰モデルには直接の対応物を持たない中間状態とノイズ除去段階を考慮する契約を必要とすることを強調する。

意義と主張
本論文は、生成モデリングにおける特徴アトリビューションに厳密性をもたらすためにアトリビューション契約が必要であると主張する。説明設定を明示的にすることで、このフレームワークは以下の点を実現する：

• 同じアトリビューション手法でも具体化によって異なるマップを生成する理由を明確にする。
• 「自己アトリビューションの誤謬」を防止し、実務者が、実際にはモデル自身の先行トークンによって駆動されたアトリビューションであったにもかかわらず、生成の原因をプロンプトに誤って帰属することを防ぐ。
• 生成モデルに対して単一の「良い」アトリビューションマップは存在せず、評価は契約固有でなければならないことを確立する。

著者は、この作業を既存のアトリビューションアルゴリズムの代替としてではなく、これらの手法の主張を比較可能かつ解釈可能にするための必要な仕様層として位置づける。その意義は、アルゴリズムの議論から、それらのアルゴリズムが回答することを意図する正確な説明的質問を定義することへと、議論の焦点を移行させる点にある。