論文サマリー：LLM はラベル定義に従うか？外部ラベル定義への受容性の検証

1. 問題設定 (Problem)

大規模言語モデル（LLM）は、タスク実行時に外部から提供された「ラベル定義（例：分類タスクにおける各クラスの明確な説明）」を真に組み込んで意思決定を行うのか、それとも事前学習で獲得した内部的な知識（パラメトリック知識）に依存して定義を無視するのか、という根本的な問いが未解決でした。

特に、外部定義がモデルの内部知識と矛盾する場合（Knowledge Conflict）、モデルはどちらの情報を優先するか、また定義の質（正確な定義、わずかに誤った定義、完全に誤った定義）や提示方法（固定定義、文脈に応じた動的定義など）がモデルの性能と説明可能性にどのように影響するかは、体系的に解明されていませんでした。

2. 手法と実験設計 (Methodology)

著者らは、LLM の定義受容性を評価するために、以下の制御実験を行いました。

対象モデルとデータセット

• モデル: GPT-4, LLaMA-3, Phi-3, Mistral-7B（パラメータ数やアーキテクチャが異なる 4 種類のモデル）。
• データセット:
  • e-SNLI: 一般的な自然言語推論（NLI）タスク。
  • WELLXPLAIN: メンタルヘルス分野の分類タスク。
  • HATEXPLAIN: ヘイトスピーチ検出タスク。
  • WICE: ファクトチェックタスク（根拠文の抽出）。

評価戦略

1. 知識の衝突 (Knowledge Conflict):
   • 定義の正確性: 「正しい定義」「わずかに誤った定義」「完全に誤った定義」の 3 段階で定義を変化させ、モデルの反応を測定。
   • 定義の置換 (Permutation): ラベルと定義のペアをランダムにシャッフルし、正しい対応関係（Aligned）と誤った対応関係（Misaligned）での性能差を評価。
2. 定義の統合 (Definition Integration):
   • Vanilla (ゼロショット): 定義なし。
   • Fixed Definition: 専門家による固定定義をプロンプトに含める。
   • Adjusted Definition: 入力サンプルごとに K-NN で類似事例を抽出し、LLM 自身に文脈に合わせた動的定義を生成させる。
   • Fixed + Few-shot: 固定定義に具体例（Few-shot）を追加。

評価指標

• 分類性能: マシューズ相関係数 (MCC)、F1 スコア。
• 説明の質: ROUGE スコア（WICE のみ F1）。

3. 主要な貢献 (Key Contributions)

1. 評価フレームワークの確立: 外部知識注入の軽量かつ解釈可能な形式としてラベル定義を用い、LLM の性能と説明可能性を評価する戦略を開発。
2. プロービング手法の提案: 定義の質と整合性を評価するための「定義置換（Permutation）」と「定義摂動（Perturbation）」の 2 つの戦略を設計。
3. 多領域での包括的実験: 4 つの異なるベンチマーク（一般 NLI、メンタルヘルス、ヘイトスピーチ、ファクトチェック）を用いて、モデルの定義受容性を網羅的に検証。
4. 新たな知見の発見: 説明の質と分類精度の乖離、およびモデルサイズやタスク領域による定義依存度の違いを明らかにした。

4. 結果と分析 (Results & Analysis)

4.1 知識の衝突と定義の受容性

• 定義への依存: 多くのモデルは、外部定義が提供されると内部知識よりもそれを優先する傾向がある。特に、定義をシャッフル（誤った対応）した場合、性能が大幅に低下した。
• タスク領域による違い:
  • 一般タスク (e-SNLI): 定義を提示すると、むしろ性能が低下するケースがあった（内部知識との干渉）。
  • 専門領域タスク (WELLXPLAIN, HATEXPLAIN): 定義の提供により性能が劇的に向上。特に Mistral-7B などは、専門領域において外部定義への依存度が極めて高かった。
• モデルサイズの逆説: 一般的に「大きいモデルの方が賢い」と思われがちだが、専門領域においては小規模モデル（Phi-3, Mistral-7B）の方が定義への感度が高く、外部定義に強く依存する傾向が見られた。これは、小規模モデルが専門知識の内部表現が弱く、明示的なガイダンスに頼るためと考えられる。
• GPT-4 の特異な挙動: 定義に矛盾がある場合、予測を拒否（Abstention）する「メタ認知」的な反応を示した。他のモデルは矛盾を無視して予測を続けたが、GPT-4 は安全性調整（RLHF）の影響で矛盾を検知し、出力を控えた。

4.2 定義統合戦略の影響

• 一般タスク vs 専門タスク:
  • 一般 NLI タスクでは、定義なし（Vanilla）の方が性能が良い場合があり、定義や Few-shot 例の追加が混乱を招くことが示された。
  • 専門タスクでは、定義（特に動的に調整された定義や Few-shot を含んだもの）が性能と説明の質を大幅に向上させた。
• 説明と分類の乖離 (Explanation-Classification Disconnect):
  • 定義の提供により、モデルが生成する「説明（Explanation）」の質（ROUGE スコア）は劇的に向上したが、必ずしも「分類精度（Accuracy/MCC）」が向上したわけではない。
  • これは、LLM が概念間の関係を説明する能力（Competence）と、それに基づいて即座に分類を行う決定プロセス（Performance）が、部分的に異なるサブシステムによって処理されている可能性を示唆している。

4.3 定義の質の影響

• 誤った定義への反応: 完全に誤った定義を与えても、モデルが内部知識に基づいて正しい予測を行うケース（e-SNLI の LLaMA-3 など）や、誤った定義に完全に従って誤った予測を行うケースが混在した。
• 動的定義の優位性: 入力に応じた K-NN による動的定義（Adjusted Definition）は、固定された専門家定義よりも、特に専門領域タスクで高い性能と説明の質をもたらした。

5. 意義と結論 (Significance & Conclusion)

学術的意義

• LLM が外部定義を「真に理解・統合」しているのか、単に「表面的に追従」しているのかを解明する新たな視点を提供。
• 「説明の質」と「分類精度」が必ずしも相関しないという、LLM の認知構造に関する重要な発見。
• モデルのサイズとタスクの専門性によって、外部知識への依存度が逆転する現象を初めて体系的に示した。

実用的示唆

• プロンプトエンジニアリング: 専門領域（メンタルヘルス、ヘイトスピーチ等）では、明確で文脈に即した定義を提示することが不可欠。特に小規模モデルでは、定義の設計が性能に直結する。
• デプロイ戦略:
  • エッジデバイス: 小規模モデルは、適切に設計された定義と Few-shot 例を組み合わせることで、軽量かつ高精度な動作が可能。
  • クラウド/高リスク領域: 大規模モデル（GPT-4 など）は内部知識に強く依存し、矛盾を検知して出力を拒否する傾向があるため、安全性が重要な場面で有用。
• 信頼性の向上: 分類精度が向上しなくても、定義の提供は「説明の質」を高めるため、ユーザーの信頼性や規制遵守（コンプライアンス）の観点で重要である。

今後の課題

• 複雑な推論タスクや、専門家の間で解釈が分かれる「議論のある定義（Disputed Definitions）」に対するモデルの挙動の調査。
• 注意機構（Attention）などの内部メカニズムを用いた、定義がどのように処理されるかのメカニズム的解釈可能性（Interpretability）の深掘り。

---

この論文は、LLM の振る舞いを単なる「定義の追従」ではなく、内部知識との相互作用として捉え直す必要性を強く示唆しており、AI システムの設計と評価において重要な指針となっています。